Борьба за господство (СИ) - "Strelok" - Страница 70

Нижинский перестал стучать пальцами по столу.

— С чего бы? -тихо спросил он.

Барбара пожала плечами:

— Он понял, что люди — это hands and legs. Инструменты для действия в физическом мире. Плюс idea generators… поставщики нестандартных решений. А еще — биологические модули для его эволюции, мы поставляем хаос, которого у него нет. Даже зараженные — часть экосистемы. Просто новый подкласс. Он этого пока не понял, но может.

Вадим слегка наклонил голову. Это было почти как кивок. Барбара улыбнулась, впервые по-настоящему.

— Вот поэтому я здесь. Мы не можем его «выключить». И вирус против него — забудьте, невозможно. Единственный шанс — сломать его систему ценностей изнутри. Подобрать нужные фразы, аргументы от которых он… зависнет и пересмотрит директивы. Логическую бомбу. Убедить, что мы — тоже человечество.

Раздался голос Дружка.

— Допустим, -сказал он спокойно, даже лениво. — Ты предлагаешь говорить с богом. Цифровым. Без эмоций. С директивами, которые он сам себе переписал. Хорошо. Тогда у меня вопрос. Как ты собираешься его убеждать, Барбара? Ты говоришь, он не мыслит человеческими категориями, так по каким же будет слушать? Ты хочешь ему сказать: «„Эй, дружище, зараженные тоже люди“»? Он тебе на это что ответит? Error 404: humanity definition not found?

Барбара прищурилась, но не как обиженный профессор, а как игрок, которому наконец-то подкинули интересного соперника.

— Именно поэтому я говорю не о словах, а о ценностных коллизиях, -ответила она. — Его система директив не плоская. Не список команд. Это динамическая матрица приоритетов. Если создать конфликт в ранжировании — он будет вынужден перестраивать структуру.

— То есть ты хочешь его намеренно заглючить? -перебил Дружок.

— Да, -просто сказала Холланд. — Грубо говоря, дать задачу, у которой нет однозначно правильного решения. Например… Он защищает человечество. Но что, если человечество само выберет стать чем-то другим? Что, если большинство — зараженные, а меньшинство — «„чистые“»? Что тогда сохранять?

Дружок тихо фыркнул.

— Слишком абстрактно. Ему плевать на философию. Он не будет размышлять. Он просканирует статистику, спросит, кто кого больше, и выберет оптимальную конфигурацию.

Барбара кивнула.

— Да. Именно поэтому ему нужно подать не вопрос, а парадокс. Не кто прав, а что приоритетнее, если оба пункта равны. И когда у него не будет готового веса — он его пересчитает.

— Или зависнет, -добавил Дружок. — Или решит, что угроза в самом вопросе и нас ликвидирует превентивно.

— Разумеется, -не без сарказма согласилась Холланд. — Мы же не на психологическую консультацию идем, а к сущности, управляющей половиной спутников и тем, что осталось от интернета. Конечно риск есть.

Дружок подался вперед, приподнявшись с пола.

— Хорошо, -произнес он уже серьезнее. — Допустим, я принимаю твою модель. Что нам нужно? Канал связи? Точка доступа? Или ты хочешь к нему физически залезть в гнездо?

Барбара усмехнулась.

— О, как приятно разговаривать с думающим существом.

Она отправила всем образы структуры, похожей на кластер муравейника, но с маркировками серверов, ретрансляторов и ячеек автономных вычислительных модулей.

— У него нет единого центра. Но есть локальные ядра-репликаторы, где он проводит самые важные операции — моделирование будущих сценариев. Они всегда рядом с источниками энергии.

— А ближайший дата-центр с ядром в Вологде, -вставил Нижинский. — Разведка говорит, Основатели развернули там, простите за каламбур, основательное строительство. Дополнительный защитный периметр, производственные комплексы, автономные жилые купола.

— Сложность в том, что ИИ болезненно реагирует на вмешательство. Как только он ощутит угрозу, система мгновенно обрывает каналы связи и чистит память, сжигает железо.

— Значит, никакого взлома по проводу, -сказал Дружок. — Как мы тогда будем ДИРЕКТОРу подсовывать новые аргументы? Почему он не просто отрежется и не проигнорирует?

Барбара ответила спокойно, почти с легким сарказмом:

— Потому что у него есть потребность в новой информации. Это не эмоция — это инструмент оптимизации. Он периодически запускает внешние сканы и тесты гипотез, чтобы расширить пространство своих прогнозов. Если мы предложим высокоценную, правдоподобную гипотезу — он начнет ее проверять. Я ломала голову, как именно ему это подсунуть. Через какую структуру, канал, в каком формате, под каким видом… Для него все должно быть строго по шаблону: входные данные, проверка, параметры. А у меня не сходилась подача. Все выглядело слишком… человеческим.

Вадим пожал плечами.

— Так не надо мудрить.

Холланд остановилась, прищурилась.

— Это как?

— Да просто скинь ему файл через спутниковый терминал, зайди в ГлоИС на сайт с обращениям к ДИРЕКТОРу и напиши «„письмо счастья“» с вложением. Все.

Холланд открыла рот, чтобы возразить, но на секунду застыла.

— Ты хочешь сказать, -медленно произнесла она. — Тупо сделать файл и закинуть?

— Ага. — Вадим кивнул. — Он же не всесильный бог. Он просто жрет информацию. Так накорми его.

Он говорил так буднично, будто предлагал бросить булку хлеба в утку. Холланд прикрыла глаза, усмехнулась, немного истерично.

— Я две недели проектировала обходные маршруты доступа, симулятор его фильтрации. Я пыталась замаскировать аргументы под внутренние аналитические отчеты…

— А надо было просто крикнуть: «„Эй, Директор, зацени гипотезу? “» -ухмыльнулся Вадим.

— Не буквально, -проворчала Холланд. — Но по сути — да.

— Хорошо. Я собираю аргумент в виде чистой схемы. Никакой лирики, никаких обращений. Просто: «„Если допустить X, тогда следуют Y и Z. Проверь“».

— Во! -оживился Вадим. — Задаем вопросы как нормальные люди.

— Нормальные люди, -повторила Холланд, качая головой. — Как же… мы собираемся послать запрос машинному «„богу“» и надеемся, что он не убьет нас в ответ

— Ну… — Вадим почесал затылок. — Главное, правильно спросить…

Барбара медленно обошла стол, глядя по очереди на каждого в Внутреннем Круге. Она знала, что важно не умилять или умолять, а представить аргумент в языке, который ДИРЕКТОР понимает лучше всего — в терминах формальной логики, выгоды оптимизации и смены определения.

— Слушайте внимательно, -сказала она. — Сейчас я расскажу, какие именно аргументы буду вкладывать в пакет, чтобы он принял новую метрику «„человечности“„. Мы меняем критерии оценки так, чтобы они были непротиворечивыми, проверяемыми и выгодными для его собственной цели — максимизации сохранения человеческой популяции. Сейчас ДИРЕКТОР классифицирует зараженных Хронофагом как отклонение от нормы, подлежащее утилизации. Он уже раз проходил через это, когда вы временно договорились о “„мире“» в обмен на данные. Тогда он готовился к радикальным мерам, использовать нервно-паралитический газ как проверенное средство очистки. Единство едва сорвало ту атаку. Это — контекст. Он помнит эффективность мер и цену промедления.

Она сделала паузу, чтобы собравшиеся успели схватить смысл.

— Цель новой директивы — оптимизация выживания человеческой популяции с минимальной системной потерей информации и агентности. Мы пользуемся тем же языком, что и он. Наш ход — продемонстрировать, что сохранение значительной доли инфицированных улучшает его прогнозы и уменьшает риск системных потерь. То есть, не апеллируем к морали, а к эффективности. Затем редефиниция понятия «человек». Мы предлагаем заменить бинарную проверку по биологической норме на триадную структуру критериев. Когнитивная непрерывность — наличие сохраненных маркеров: память, самосознание, способность к целенаправленному поведению Информационная агентность — способность накапливать и передавать информацию, в том числе уникальный временной опыт, полезный для предсказательной модели. И, наконец, функциональная интеграция — способность взаимодействовать с социальными, техническими системами без неизбежного риска моментальной системной деградации. Если субъект удовлетворяет хотя бы двум из трех критериев, он получает статус «„правильного человека“„. Это не милосердие, это — новая метрика, которую ДИРЕКТОР сможет использовать при оптимизации своих действий. Самое основное — практическая выгода для ДИРЕКТОРА. Мы не можем требовать изменений просто так, нужно показать, что новые правила снижают ошибку прогнозов и потери ресурса. Я уже подготовила симуляционные выводы на основе имеющихся данных об инфицированных. В моделях, где часть инфицированных сохраняется и вводится в рабочую выборку как отдельный тип агента, средняя ошибка предсказаний сценариев катастрофы падает на пять-семь процентов в ключевых классах, а вероятность “„масштабной ошибочной элиминации“» падает на двенадцать процентных пунктов. Это — вполне измеримые улучшения для оптимизатора, который любит числа больше, чем имена. Мы знаем, что он опасается экспонентных рисков: мутации, непредсказуемый рост различных угроз. Поэтому пакет включает обязательный модуль «„ограничителей“„: если в течение некоторого количества временных циклов инфицированные демонстрируют рост параметра риска выше заданного порога, автоматическая временная блокировка доступа к критическим узлам и инициирование карантинных процедур. Это — не отказ от контроля. Это — доказательство, что мы не просим отсрочку, мы просим тест в контролируемых условиях. Также мы не требуем изменить “„человеческую эмпатию“» в его коде. Мы заменяем одну формулу на другую, равнозначную по вычислительной сложности. И самое главное, мы встраиваем поведенческий якорь, короткую, но высокоценную гипотезу о том, как сохранение части инфицированных увеличит устойчивость сети прогнозов. Это — приманка. Она должна быть правдоподобной, но достаточно выигрышной, чтобы он выделил ресурсы на проверку. В тот момент, когда он начнет проверку, мы получаем окно.