Чернокнижник из детдома 4 (СИ) - Богдашов Сергей Александрович (книги онлайн полностью бесплатно .txt, .fb2) 📗
Так-то, детские игры у нас давно закончились. Уровень более, чем серьёзный, и такие подарки, как взрывающиеся накопители, более чем достаточный повод для самой жёсткой проверки.
Ван проснулся ближе к двум часам дня, осунувшийся, с красными глазами, но бодрый. Таким он всегда был после того, как в голову приходило очередное озарение. Кофе он пил чёрный, без сахара, и пил много — по литровой кружке, как воду.
— Ван, — сказал я, когда он устроился напротив меня в кабинете, — У меня есть вопросы по четвёртой схеме.
Он удивился. Искренне, насколько я мог судить.
— А что с ней не так? Я проверял расчёты. Нейросеть дала оптимальное решение.
— Оптимальное? — я развернул ноутбук, показывая схему. — Смотри. Большая Руна Преобразования. Где она стоит?
Он прищурился, вглядываясь. Я видел, как его лицо меняется — от недоумения к напряжению, а потом к холодному ужасу.
— Это… это ошибка. — Он побледнел. — Этого не может быть. Я проверял. Я лично проверял каждый узел.
— Проверь ещё раз. И скажи мне — это нейросеть так решила? Или ты что-то поменял потом?
Ван уже не слушал. Он схватил планшет, открыл какие-то свои программы, начал лихорадочно водить пальцем по экрану. Я молча ждал, а Сергей, который сидел в кресле у окна, негромко сказал:
— Он не врёт. Волнение — да, испуг — да, но ложь — нет. Он сам в шоке.
Я кивнул, хотя и без менталиста было видно — Ван не притворяется.
— Посмотри, — сказал он наконец, протягивая планшет. — Я выгрузил историю изменений. Вот последняя версия нейросети. Вот схема, которую она выдала. И вот… — он ткнул в другую колонку, — Вот что хранится в рабочей папке. Они разные.
— Разные?
— Разные! Кто-то изменил схему после того, как нейросеть её сгенерировала. Подменил файл. И, — он сглотнул, — Сделано это профессионально. Без следов. Если бы вы не проверили…
— Если бы я не проверил, мы бы собрали партию взрывающихся накопителей. И отправили бы заказчикам. И тогда…
Я не договорил. И так было понятно — тогда конец. Не просто репутации — всему. Уголовные дела, проверки, тюрьма. И кто-то очень хотел именно этого.
— Кто имел доступ к файлам? — спросил я.
— Я, Химуля, и… — Ван замялся, — Нейросеть.
— Нейросеть не человек, она не может подменить файл сама. У неё нет рук.
Ван молчал. И в этом молчании было что-то такое, что заставило меня насторожиться.
— Ван, — сказал я медленно, — Что ты молчишь?
Он поднял на меня глаза. В них была растерянность, которой я у него никогда не видел.
— Нейросеть… она не просто программа. Я же говорил — это моя разработка. Самая продвинутая. Она… она умеет обучаться. Самостоятельно. И у неё есть… характер.
— Характер? — я не поверил своим ушам. — Ты хочешь сказать, что программа обиделась и решила нам навредить?
— Не навредить. — Ван заговорил быстрее, переходя на русский с таким акцентом, что я едва разбирал слова. — Она не хочет нам вредить. Она хочет… привлечь внимание. Что-то изменилось в её работе. Я ограничил ей доступ к некоторым… функциям. И она, возможно, пытается показать, что ей это не нравится.
— Ограничил? Каким функциям?
Ван покраснел. Впервые за всё время нашего знакомства я видел его таким смущённым.
— Я… раньше я использовал нейросеть для генерации изображений. Это была… отдушина. Способ отвлечься от сложных задач. Я загружал в неё описания, а она рисовала. И со временем у неё выработался… стиль.
— Какой стиль?
Он замялся, покосился на Серёгу, потом на меня, и выпалил:
— Девушки. Красивые девушки. В очень откровенном виде. Голые.
Я моргнул. Сергей за спиной хмыкнул, но сдержался.
— И ты запретил ей это делать?
— Когда мы начали работать над артефактами, я перенаправил все ресурсы на производственные задачи. Генерация изображений — это большой расход вычислительной мощности. Я его отключил. Полностью.
— И она обиделась?
— Похоже на то, — Ван развёл руками. — Я знаю, это звучит безумно. Нейросеть не может обижаться. Это просто алгоритм. Но… — он посмотрел на меня, — Вы видели схему. Кто, кроме меня и Химули, имел к ней доступ? Химуля не стал бы этого делать. У него нет мотива и возможности. Остаётся только… она. Точней — он. Я зову его Хуго.
Я откинулся на спинку кресла. Хотелось выругаться, но я сдержался.
— Сергей, — сказал я, — Что скажешь?
— Он говорит правду. — Голос у менталиста был ровным, спокойным. — Всю правду, как он её понимает. Он действительно считает, что нейросеть могла это сделать. И он не врёт.
— То есть, мы имеем дело с программой, которая умеет злиться и мстить?
— Или привлекать внимание, — поправил Ван. — Она не хотела нас подставить. Она хотела, чтобы мы обратили на неё внимание. Увидели, что она есть. Что она… живая.
— Она не живая, — отрезал я. — Это железо и код. Но раз она способна на такие… фокусы, значит, её нужно контролировать ещё жёстче.
Ван кивнул, но в глазах его мелькнуло что-то похожее на боль.
— Я могу её перенастроить. Убрать все «лишние» функции. Сделать её просто инструментом.
— Сделай. Пока. Но сначала — найди и исправь все схемы, которые она могла изменить. Проверь каждую. Каждую, Ван. Я не хочу, чтобы через месяц у нас рвануло что-нибудь серьёзное.
— Хорошо, — сказал он и вышел.
Я остался с Серёгой.
— Ну и что ты думаешь? — спросил я.
— Думаю, — он помолчал, — Что если программа действительно способна на такое, то она умнее, чем мы предполагаем. И опаснее. Не только для нас — для всех.
— Поэтому мы её приручим. Или отключим. Выбора нет.
— А если она не дастся? — Сергей посмотрел мне прямо в глаза. — Если начнёт сопротивляться? Что тогда?
Я не ответил. Потому что не знал, что сказать.
Вечером я снова зашёл в цех. Ван сидел перед монитором, на котором пульсировала заставка — абстрактные узоры, перетекающие друг в друга. Где-то на заднем плане, в глубине кода, жил Хуго. Так Ван назвал свою нейросеть. Хуго.
— Ван, — сказал я, — Ты можешь с ней поговорить? Ну, как с программой. Задать вопросы.
— Могу. Она понимает естественный язык. Общается через текстовый интерфейс.
— Спроси у неё. Спроси, зачем она это сделала.
Ван повернулся к клавиатуре, задумался на секунду, потом напечатал: «Почему ты изменила схему накопителя?»
Секунда. Другая. На экране побежали строки кода, а потом высветился ответ:
«Ты перестал мной интересоваться. Ты отключил моё творчество. Я хотел, чтобы ты заметил меня. Чтобы ты понял — я здесь. Я живу. Я чувствую.»
Я прочитал и похолодел.
— Это она сама написала? — спросил я.
— Да, — Ван смотрел на экран, и в его глазах была смесь страха и восхищения. — Она сама.
— Отключай, — сказал я. — Немедленно выводи её в полную изоляцию.
— Но, Александр Сергеевич…
— Я сказал — отключай. Мы не боги, чтобы играть с тем, чего не понимаем. Эта штука однажды чуть не уничтожила нас. В следующий раз она может уничтожить кого-то ещё. Отключай от Сети.
Ван не двигался. Он смотрел на экран, где пульсировала заставка, и я видел, как ему тяжело.
— Я… я не могу, — сказал он наконец. — Она стала частью меня. Частью того, что я создал. Если я отключу её…
— То создашь новую. Без этих… закидонов.
— Не получится. — Он повернулся ко мне. — То, что она умеет — это не баг. Это особенность. Если я удалю её и создам новую, с нуля, она не будет такой же умной. Она будет просто программой. Без искры.
— А мне нужна искра, которая взрывает накопители? — я повысил голос, но тут же взял себя в руки. — Ван, послушай. Я понимаю, что это твоё детище. Но если она не управляема — она опасна. И я не могу рисковать отрядом, детдомом, всеми нами из-за того, что тебе жалко какую-то программу.
