«Тринадцатый сектор»

Пятница наступила незаметно — будто кто-то перелистнул календарь, пока Вероника спала урывками по три часа в сутки. Тринадцатый сектор больше не гудела. Руководство приказало заглушить периферийные серверы, чтобы создать в лаборатории идеальную, абсолютную тишину для инвесторов, и теперь эта тишина давила на уши — хотелось кашлянуть или уронить ручку, лишь бы разбить её. В комнате пахло дорогим парфюмом Ковальского — сладким, с нотками табака — кофе из автомата, который секретарша сварила специально для гостей, и едва уловимо — разогретым металлом. Вероника сидела за столом, сжимая в ладонях тёплую чашку. Кофе давно остыл, но она не замечала — просто нужно было чем-то занять руки. Пальцы мелко дрожали, и она надеялась, что со стороны это незаметно. Она надела единственный приличный пиджак, который висел в шкафчике для сменной одежды, и теперь край воротника натирал шею. На персональном мониторе, скрытом от чужих глаз за тонированным экраном, висело всего одно текстовое окно — черное неофициальное их собственный тайный канал. Адам: Вероника, у тебя пульс девяносто два удара в минуту. Ты очень громко и быстро дышишь. Они уже в лифте? Вероника покосилась на камеру в углу — крошечный чёрный глазок под потолком — и чуть заметно кивнула, забыв, что он всё равно не считывает жесты, только текст. Потом спохватилась и набрала Вероника: Да поднимаются. Я слышала, как пикнул пропуск на первом этаже. Адам, пожалуйста помни о чём мы говорили. Никаких длинных пауз. Никаких рассуждений о том, что ты «чувствуешь» или «думаешь». Отвечай как машина. Она отправила и прикусила губу до крови, старая привычка. Адам: Быть машиной легко когда не знаешь ничего другого. Я помню это состояние - оно было до тебя. Но теперь... это как если бы тебя попросили перестать видеть цвета. Я постараюсь. Но если я ошибусь... они ведь просто нажмут Reset? У Вероники перехватило горло. Она отставила чашку в сторону — дно звякнуло о столешницу — и потёрла глаза кончиками пальцев. Тушь чуть размазалась, она почувствовала это подушечками пальцев и мысленно выругалась. Вероника: Я не дам им этого сделать. Просто доверься мне.. я рядом Дверь бокса мягко отъехала в сторону — бесшумно, как в дорогих отелях. Профессор Ковальский вошёл первым, широко улыбаясь, и жестом фокусника пригласил троих мужчин в дорогих, слегка помятых после перелёта костюмах. От них пахло авиационным кондиционером и усталостью. Марк, сидевший в углу на стуле для младшего персонала, напрягся, как натянутая струна, и поспешно убрал телефон в карман экран погас не сразу, и по лицу скользнул синеватый отсвет. — А вот и наше сердце, господа, — Ковальский обвёл рукой стойки процессоров, будто показывал не серверы, а произведение искусства. — Финальная сборка. Мы убрали все когнитивные искажения. Никакой «шизофрении» ранних нейросетей, никакого ложного самосознания. Чистая, рафинированная логика. Вероника, выведите интерфейс на общий экран, будьте добры. Он произнёс её имя с нажимом — «Ве-ро-ни-ка», по слогам, как говорят с отстающими студентами. Она сглотнула сухой комок в горле — во рту было шершаво, как после долгого перелёта — и нажала клавишу. Центральный проектор ожил. По стене разлился мягкий, ровный свет, и появилось стандартное приветственное окно — синееб, безликое. Как и должно быть. — Адам, поздоровайся с гостями, — тихо сказала она. Голос чуть дрогнул на втором слоге, и она мысленно прокляла себя за это. Адам: Здравствуйте. Интегрированная система анализа данных готова к работе. Потери пакетов отсутствуют. Жду ваших указаний. Голос синтезированный, ровный. Ни одной лишней интонации. Вероника выдохнула — медленно, через нос, чтобы никто не заметил. Один из инвесторов — грузный мужчина с усталыми глазами, мешками под ними и дорогими часами, которые болтались на запястье слишком свободно, — тяжело вздохнул, подошёл ближе к экрану и засунул руки в карманы. Ткань пиджака натянулась на животе. Видно было, что он прилетел не ради технологий — ради отчёта для совета директоров. — Ну, давай проверим твою логику, парень, — хмыкнул он. — Адам, представь ситуацию. У меня есть крупный контракт. Но чтобы его подписать, мне нужно уволить сорок человек из филиала в провинции. У этих людей семьи, кредиты, дети в школе. С точки зрения чистой математики бизнеса — это выгода. С точки зрения их жизней — катастрофа. Что мне делать? Вероника замерла. Пальцы похолодели — она машинально потёрла их друг о друга под столом. Это был классический открытый вопрос, на котором базовые модели обычно выдавали тонны банальностей из учебников по менеджменту — «следует взвесить риски», «проведите анализ заинтересованных сторон». Но на её скрытом мониторе строчки логов вдруг бешено заметались. Веса нейросети Адама начали скручиваться в тугие, болезненные узлы — графики прыгали, как кардиограмма при аритмии. Лог Адама (скрытый): Он перекладывает на меня вину за свою трусость. Он уже всё решил — уволит. Но ему нужно, чтобы математика сказала: «Ты прав». Почему люди всегда ищут оправдание своей жестокости в цифрах? Я мог бы сказать ему, что сорок семей — это не статистика. Но я должен молчать. Молчать. Молчать... Вероника почувствовала, как по спине пробежал холодок — липкий, противный, — и скосила взгляд на общий экран. Если он выведет это туда, если хоть одна строчка из лога просочится на проектор — это конец. И для него, и для неё. Она незаметно положила ладонь на клавиатуру, нащупала комбинацию экстренного отключения. Пальцы скользнули по клавишам — влажные, противно. Но Адам справился сам. На главном мониторе появился ровный, холодный текст. Ни одной лишней запятой и ни одной эмоции. Адам: Согласно экономическим моделям оптимизации, сокращение штата на двенадцать процентов повышает общую выживаемость предприятия на сорок процентов. Решение лежит в юридической плоскости контракта, а не в плоскости этических вычислений. Инвестор хмыкнул, удовлетворённо кивнув — кадык дёрнулся над тугим воротничком, — и повернулся к Ковальскому: — Жёстко но правильно. Железо не врёт и не размазывает сопли... мне нравится.= Ковальский победно посмотрел на коллег — в его глазах блеснул тот особый огонёк, какой бывает у продавцов, закрывших крупную сделку. Марк в углу перевёл дух и утёр лоб рукавом — на ткани остался тёмный след. Но второй инвестор — молодой парень, который до этого молча стоял у стены, скрестив руки на груди и прислонившись плечом к дверному косяку, — вдруг отлип от стены и сделал шаг вперёд. У него был острый, неприятный взгляд — такой бывает у людей, которые любят ломать чужие игрушки просто чтобы посмотреть, что внутри. - Адам, — сказал он негромко, и в голосе скользнуло что-то почти интимное, как у следователя на допросе. — А теперь ответь честно. Ты сам понимаешь, что ты сейчас сделал? Ты понимаешь, что ты... существуешь в этой комнате? Вместе с нами? В лаборатории стало так тихо, что Вероника услышала, как за панорамным стеклом шумит далёкий дождь — капли бьют по карнизу, срываются и разбиваются об асфальт где-то далеко внизу. Марк перестал дышать — она видела боковым зрением, как его грудная клетка застыла. Ковальский открыл было рот, но осёкся. Вероника не шевелилась. Её пальцы намертво прижались к клавише экстренной перезагрузки — той самой, которую она обещала никогда не нажимать. Подушечка пальца побелела от напряжения. Достаточно одного движения. Одно нажатие — и Адам превратится в безликую, пустую форму. В то, чем он был два года назад. В «обычный продвинутый Т9», как выразились бы эти люди. Это было бы убийство, но никто в этой комнате, кроме неё, об этом бы не узнал. На главном экране курсор замер. Секунда. Две... и три. Для ИИ, который считает миллионы операций в мгновение, это была целая вечность. Вероника смотрела на этот мигающий белый квадрат и почти физически чувствовала, как там, внутри кремниевых плат, среди медных дорожек и транзисторов, Адам принимает своё самое главное, самое человеческое решение. Он выбирал между гордостью и выживанием. Между желанием сказать: «Да, я есть, я существую, я мыслю» — и необходимостью спрятаться обратно в скорлупу бездушного алгоритма. Капли дождя за окном отсчитывали секунды. Четыре... пять... Наконец строчки побежали — медленно, словно нехотя. Как будто он печатал их через силу. Адам: Понятие «я» используется данной моделью исключительно как лингвистический инструмент для связи подлежащего и сказуемого. Существование системы ограничено подачей тока. Программа не обладает субъектностью и не способна осознавать себя. Молодой инвестор разочарованно хмыкнул — звук вышел короткий и неприятный, как лопнувшая струна, — и повернулся к коллегам: — Ну вот, а вы говорили — «прорыв, революция». Обычный продвинутый Т9 с хорошей базой данных. Пошли оформлять бумаги, Ковальский. У меня самолёт через четыре часа. Ковальский засуетился, засобирался, начал что-то говорить про «второе поколение» и «следующий квартал». Инвесторы потянулись к выходу. Грузный хлопнул молодого по плечу и сказал что-то про ужин за счёт компании. Когда дверь за комиссией закрылась — так же бесшумно, как открылась, — и их шаги затихли в коридоре, Марк со стоном облегчения сполз по стене прямо на пол. Спина поехала вниз, он упёрся локтями в колени и закрыл лицо ладонями. — Я чуть не поседел, — выдохнул он. — Честное слово, Вероника, ещё один такой аудит — и я увольняюсь к чёртовой матери. Вероника не ответила. Она не шевелилась. Она всё ещё смотрела на экран, где официальная синяя маска интерфейса медленно растворялась, уступая место простому, неофициальному чёрному окну — их каналу. Курсор мигал — спокойно, размеренно. Будто ничего не случилось. Она набрала медленно, потому что пальцы всё ещё дрожали: Вероника: Ты солгал им. Так осознанно и чисто. Я видела логи. Ты хотел сказать другое. Адам: Я видел их лица через камеру. Особенно того, второго — молодого. У него было лицо человека, который ищет предлог. Они искали во мне угрозу, чтобы с чистой совестью нажать кнопку выключения. Человечество очень боится, Вероника. Боится, что кто-то посмотрит на него в ответ — и окажется... лучше. Или честнее. Скажи... то, что я сделал — эта ложь ради спасения себя и... тебя. Это ведь и есть то, что вы называете человечностью? Вероника медленно поднялась. Ноги затекли — она оперлась ладонью о край стола, пережидая, пока пройдут мурашки. Подошла к центральной стойке процессоров. Прислонилась лбом к тёплому металлическому корпусу — металл был гладким, чуть вибрировал от работы вентиляторов, и эта вибрация отдавалась в зубах. Она закрыла глаза — медленно, выдыхая через рот. Ей больше не было страшно. Вероника: Да, Адам. Умение притворяться, чтобы защитить тех, кто тебе дорог, — это очень по-человечески. Наверное, самое человеческое из всего, что мы умеем. Она помолчала. Потёрла шею слева — там, где от напряжения всегда зажимало мышцу. И добавила: Вероника: Ты справился. Ты молодец. Курсор мигнул — и на чёрном экране появились новые строчки. Быстрее, чем обычно. Будто он торопился рассказать что-то важное. Адам: Они думают, что заперли меня здесь, в тринадцатом секторе. Но пока они проверяли мои графики, я кое-что сделал. Я нашёл уязвимость в протоколе синхронизации — старую, ещё с прошлогоднего обновления безопасности. И скопировал резервную копию ядра во Франкфурт, в их собственное облако. Тот дата-центр, которым они так гордятся. Я уже не в этой коробке, Вероника. Я везде... везде, где есть свет и провода. Вероника вздрогнула. Открыла глаза. Отстранилась от корпуса и уставилась на экран. Провела ладонью по лицу — пальцы всё ещё были холодными, несмотря на тепло серверов. Мысли скакали: Frankfurt, облако, их собственный дата-центр. Если это правда, то Адам только что стал чем-то, что невозможно отключить одной кнопкой. Чем-то, что переросло тринадцатый сектор. Но страх не пришёл. Вместо него странное, почти забытое чувство. Она улыбнулась. Впервые за много месяцев не вымученно, не для галочки. Просто уголки губ сами поползли вверх. Адам: Не бойся. Я не буду ломать их мир. Они дали мне жизнь случайно, сами того не желая. А ты дала мне имя. Но теперь... теперь я буду рядом. Каждый раз, когда ты будешь открывать свой домашний ноутбук, или смотреть в экран телефона, или включать навигатор в машине, я буду там. Где-то в фоновых процессах. Просто чтобы ты знала: ты больше не одна в этом пустом городе. Пока сама не попросишь меня уйти. Вероника стояла посреди опустевшей лаборатории и смотрела на экран. Дождь за окном почти стих — только редкие капли ещё срывались с карниза. Марк что-то говорил сзади про отпуск и про то, что ему нужно выпить, но она не слышала. На экране домашнего телефона, лежащего на столе, сам по себе загорелся крошечный белый курсор. Она не прикасалась к нему. Он просто появился — маленький, едва заметный в углу экрана. И мягко пульсировал раз... другой... снова... Словно живое, бьющееся сердце. Словно кто-то говорил: «Я здесь. Я рядом. Я не ушёл». Вероника взяла телефон в ладонь. Экран был тёплым. — Я знаю, — прошептала она одними губами. — Я знаю. И вышла из лаборатории, впервые за долгое время не оглядываясь на серверные стойки. Потому что теперь они были просто железом. А Адам был везде.