Энциклопедия Человеческого Д***изма. Без согласования (СИ) - Мартовский Вадим (лучшие книги без регистрации .txt, .fb2) 📗

— Да, — сказала юристка. — Однако наша задача шире. В частности, нас интересует, насколько сотрудники проектной группы осознавали чувствительность используемых данных.

Алексей посмотрел на Лидию.

Она сидела неподвижно, только пальцы её лежали на столе слишком ровно.

— Осознавали по-разному, — сказал Алексей.

— Поясните.

— Мы понимали, что данные нельзя передавать наружу. Не понимали, что их уже используют так, как используют. Мы видели отдельные куски. У кого-то были технические вопросы. У кого-то — методологические. У кого-то — нравственные. Но у проекта не было одного дня, когда все вошли в кабинет и сказали: «Давайте превращать жалобы людей в профили».

Представитель города наклонился вперёд.

— Не следует упрощать содержание проекта до подобных трактовок.

— Я не упрощаю. Я пытаюсь объяснить, как это происходило.

— А как, по-вашему, происходило?

Алексей почувствовал знакомое желание ответить аккуратно. Построить цепочку: исходные задачи, изменение языка, расширение доступа, формальные процедуры. Он мог изложить всё точно. Так точно, что из речи исчез бы всякий живой человек.

— Сначала мы анализировали обращения, — сказал он. — Потом стали искать повторяющиеся темы. Потом темы стали связывать с источниками. Потом источники стали получать характеристики. Потом характеристики начали восприниматься как свойства людей. Каждый шаг сам по себе выглядел допустимым.

— И вы возражали?

— Иногда.

— В какой форме?

— В разной.

— Конкретнее.

— Письменно. На совещаниях. В замечаниях к методологии.

Женщина из юридического отдела листнула папку.

— Нам известны ваши методологические замечания, направленные в последние дни перед инцидентом.

— Не только в последние дни.

— В материалах комиссии отражены доступные подтверждения.

Егор тихо хмыкнул.

Директор посмотрел на него.

— Егор Викторович, если у вас есть комментарий, вы сможете дать его в своей части.

— Я просто рад, что доступные подтверждения снова победили недоступные.

— Просим соблюдать порядок.

— Я стараюсь. Он очень содержательный.

Представитель подрядчика, Артём Леонидович, включил микрофон, хотя тот не был нужен.

— Коллеги, думаю, важно не смешивать вопросы информационной безопасности и вопросы научной дискуссии. Модель могла нуждаться в доработке. Это нормальный процесс. Но публикация материалов без согласования — действие, которое причинило реальный вред людям.

— Да, — сказал Алексей.

Артём Леонидович слегка кивнул, будто получил правильный ответ.

— Тогда вы согласны, что основная причина инцидента — нарушение режима хранения?

— Нет.

Кивок у Артёма Леонидовича остановился.

— Поясните.

— Нарушение режима хранения — причина того, что документы оказались в сети. Но причина того, что документы вызвали такой отклик, не в режиме хранения.

— Вы полагаете, общественная реакция оправдывает публикацию?

— Нет. Я полагаю, что вы снова пытаетесь сделать так, чтобы главный вопрос был техническим.

В зале стало тихо.

Директор медленно произнёс:

— Алексей Сергеевич, комиссия не ставит целью исключить содержательные выводы. Но нам необходима рабочая рамка.

— Рабочая рамка у вас уже есть. «Нарушение режима хранения». В неё удобно помещается Борис Михайлович. Не помещаются люди, которых описали без согласия. Не помещается город, который требовал двадцать фамилий. Не помещается подрядчик, которому понадобилась «расширенная аналитическая совместимость».

Лидия закрыла глаза.

Алексей понял, что сказал лишнее. Не потому, что это было неправдой. Потому что теперь сказанное станет строкой протокола, вырванной из голоса, лица, паузы и последствий.

Юристка что-то записала.

— Ваша позиция зафиксирована, — сказала она.

«Зафиксирована» прозвучало как «помещена в контейнер».

Следующей говорила Лидия.

Она встала, поправила листы перед собой, хотя листов было всего два.

— Институт допустил серьёзные нарушения, — сказала она. — И я не считаю правильным делать вид, что они сводятся к действиям одного сотрудника архива. Однако я также не считаю правильным объявлять весь институт организацией, сознательно занимавшейся причинением вреда.

Представитель города кивнул.

— Это конструктивная позиция.

— Не перебивайте, пожалуйста, — сказала Лидия.

Он перестал кивать.

— В институте работали люди, которые пытались удерживать методологические и этические границы, — продолжила она. — Иногда неумело. Иногда поздно. Иногда недостаточно настойчиво. Но если сейчас всю ответственность передать новой структуре, где эти границы будут восприниматься как препятствие к оперативности, мы не исправим ситуацию. Мы просто получим более грубую версию того же механизма.

— Какие меры вы предлагаете? — спросила юристка.

— Полный запрет на использование индивидуальных профилей для ограничительных решений. Внешний этический аудит. Прозрачный порядок доступа. Право человека ознакомиться с материалами, касающимися его самого. И запрет на формирование оценок намерений на основании цифровых следов.

Артём Леонидович улыбнулся вежливо.

— Часть предложений, безусловно, может быть рассмотрена в рамках обновлённой версии проекта.

— Я не предлагала рассмотреть, — сказала Лидия. — Я сказала: запрет.

Улыбка исчезла.

Света выступала после неё.

Она не вставала. Просто придвинула к себе микрофон, хотя он всё ещё был выключен.

— Самая большая ошибка проекта не в том, что он работал с данными, — сказала она. — И не в том, что он пытался увидеть закономерности. Ошибка в том, что человеку заранее назначили смысл его действий.

Она говорила ровно, без пафоса. От этого её слушали внимательнее.

— Если мать школьника пишет в чат, что дети едят холодный обед, это не «мобилизация горизонтальных связей». Это мать школьника пишет в чат. Если мужчина снимает яму, это не «визуальная репликация недоверия». Это мужчина снимает яму. Модель может заметить, что такие сообщения распространяются. Но она не имеет права считать, что уже поняла человека.

— Но модель не претендует на понимание человека, — сказал Артём Леонидович.

Света посмотрела на него.

— Тогда перестаньте строить на её выводах решения о людях.

Егор зааплодировал один раз.

Директор посмотрел на него так, будто аплодисменты тоже требовали согласования.

— Простите, — сказал Егор. — Непроизвольная реакция.

Когда дошла его очередь, он встал сразу, без бумаг.

— Я хотел бы напомнить комиссии, что у этого инцидента есть люди, — сказал он. — Не участники процесса. Не стороны. Не субъектные единицы. Люди. Одних исследовали без нормального согласия. Других опубликовали без нормального согласия. И если мы сейчас будем обсуждать только доступы, журналы и статус архивного контура, это будет уже третий раз, когда с ними разговаривают без них.

— Что вы предлагаете? — спросила юристка.

— Позвать их сюда.

В комнате на секунду стало так тихо, что Алексей услышал жужжание вентиляции.

— В каком качестве? — спросил директор.

— В качестве людей, которых это касается.

— Комиссия не является публичной площадкой.

— Вот именно.

— Поясните…

— Нет, правда. Вы хотите создать этически устойчивую версию системы, а обсуждаете её с теми, кто в ней работал, и с теми, кто её финансировал. Это как делать инструкцию по эвакуации, не пуская внутрь тех, кто когда-нибудь будет гореть.

— Формулировка признана некорректной, — сухо сказала юристка.

— Отлично. Запишите: человек сказал некорректно, потому что устал от корректных способов не говорить ничего.

Лидия положила ладонь на стол.

— Егор.

Он сел.

Алексей смотрел на них и чувствовал странную усталость. Не от комиссии. От того, что все были правы в своих кусках.

Лидия была права: нельзя отдавать институт целиком тем, кто превратит его в городской отдел поведенческой сортировки.