В общем, в Альянсе ИИ под строгим и непреступным запретом, любой автономный модуль с признаками саморегуляции и самоинтерпретации – уголовное преступление высшей категории, карающееся незамедлительным удалением как создания, так и создателя.
Внедрить ИИ в ВА элитного жилого комплекса не просто сложно, а попросту невозможно без каскада цифровых следов, которые 100% заметили бы ещё на стадии компиляции[1]. Даже если попробовать наделить ассистента новыми свойствами уже после внедрения, ничего не выйдет, потому что здесь установлен нейроконтур последнего поколения, и его архитектура оснащена жесткой модульной изоляцией, а значит любая попытка внедрить автономный когнитивный слой фиксируется на уровне сигнатур кода, который тщательно отслеживает кто-то из низов СКА.
Так. Вернемся к нашим баранам.
ВА, ответственный за квартиру Марлен, стал хаотично удалять записи о своём пользователе. Этот процесс удалось вручную остановить, но к тому моменту значительная часть данных уже была утрачена. И его поведение безвозвратно стало таким, каким я видела полчаса назад. Он перестал распознавать различия между людьми, и любой входящий интерпретировался как Марлен.
Последним вошёл Рэйвер, запись об этом была внесена в соответствии с протоколом:
Температура: 36.3
Пульс: 94 уд/мин
Зрачковая реакция: расширение выше среднего
Уровень кортизола: умеренно повышен
— Что, и правда новый поклонник? — Я не удержалась от едкого комментария и была небрежно отпихнута локтем в бок. В остальном же генерал остался убийственно спокоен.
Несмотря на частичную очистку, кое-что всё же сохранилось. Мы открыли фрагменты архива, которые администратор успел изолировать до полного уничтожения, и нашли обрывки обычной жизни погибшей:
Запись #1562645200085
Пульс: 78
Температура: 36.6
Кортизол: в пределах нормы
Аватар синхронизируется. Всё штатно.
Ещё запись: обычный вечер, Марлен проходит на кухню, ставит чайник, освещение подстраивается под её хронотип, ВА комментирует прогноз погоды, показатели стабильны. Ничего необычного.
Следующий фрагмент: Марлен в гостиной, она стоит несколько секунд неподвижно, затем резким движением смахивает со стола предметы, разбрасывает вещи и крушит всё вокруг, что-то кричит.
Запись #158264200041
Пульс: 132
Температура: 36.9
Дыхание: поверхностное, частое
Кортизол: резкий рост
Классическая картина острого стресса. Но мы открываем параллельно журнал ВА за этот временной отрезок и не видим никаких реакций. Должны быть записи о фиксации эмоциональной нестабильности и соответствующие реакции, но вместо этого:
Userstaterecalibration
Повышенная моторная активность –новая поведенческая норма
Коррекция эмоционального профиля
Обновление базовых маркёров
Он не зафиксировал стресс, не активировал протокол стабилизации, не предложил дыхательные упражнения и, в конце концов, не вызвал экстренную линию. Он просто перезаписал её профиль.
И вот стоим мы втроём в холодном свете серверной:
— ленивый администратор, которому вообще до одного места, что там произошло с ВА, потому что его задача просто починить сбой