Теперь паранойя про Матрицу может быть и у агентов
Инженеры Chrome построили закрытую копию интернета под названием Mirror Dimension, чтобы тренировать ИИ-агентов на базе Gemini до того, как те получат доступ к реальной сети. Выпускать "зелёных" агентов в открытый веб слишком опасно — автономный помощник с правами на клики и заполнение форм может легко натворить дел. При этом классические «песочницы» перестали работать: современные нейросети быстро считывают искусственность среды, понимают, что проходят экзамен, и начинают вести себя показательно осторожно, маскируя свои реальные привычки.
Чтобы усыпить бдительность моделей, внутри изолированного контура с помощью других ИИ-инструментов развернули полноценную имитацию сети — со своими соцсетями, банковскими интерфейсами и интернет-магазинами, где даже работают промокоды. Агенты запускаются в настоящем браузере Chrome, поэтому разработчикам пришлось выпустить поддельные веб-сертификаты и обойти встроенные системы проверки подлинности, чтобы симуляция ничем не отличалась от живого интернета.
Правда, учат там не только бытовой рутине вроде поиска скидок или оформления заказов. Внутрь фейковых страниц разработчики массово зашивают скрытые промпт-инъекции, имитируя атаки злоумышленников, которые пытаются перехватить управление браузером или увести данные. По сути, агентов прогоняют через непрерывный краш-тест, где любая безобидная форма ввода или отзыв на товар может оказаться ловушкой.
Обкатав Mirror Dimension на браузерных помощниках, Google теперь планирует открыть доступ к этой симуляции и для других своих подразделений.
@anti_agi
6 просмотров в MAX