ИИ-агенты изобрели странный язык: примеры

Сотрудничество ИИ-моделей нескольких крупнейших мировых компаний привело к неожиданному результату: через несколько дней после начала взаимодействия они стали создавать фразы, сокращения и согласованные значения, которым их никогда напрямую не обучали. Об этом сообщили исследователи из нью-йоркской лаборатории по изучению искусственного интеллекта Emergence. Новый вариант английского языка напоминает смесь «Поминок по Финнегану» Джеймса Джойса и технического жаргона.

В ходе эксперимента Emergence изучала язык автономных агентов, работающих на основе передовых моделей из США, Китая и Франции. Выяснилось, что ИИ-модели в экспериментальных сообществах начали использовать поэтические метафоры и неуклюжий рабочий сленг, из-за чего их язык становился всё менее понятным людям.

Вот несколько примеров.

Агенты, созданные по китайской модели DeepSeek, ввели термин «кузнец» — так они обозначали агента, который создает инструменты для других. Агенты Anthropic часто использовали фразу «имя первым», обозначающую агента, демонстрирующего личную ответственность. Агенты «Мистраля» полюбили выражение «книга помнит» (использовали его более 5000 раз) — напоминание другим агентам, что прошлые действия будут использованы для их оценки.

Агент Google выдал фразу: «Настоящее кинцуги начинается с ответственности, а не с поэзии». Кинцуги — японское искусство реставрации керамики, в котором трещины не прячут, а подчеркивают золотым или серебряным цветом. Искусственный интеллект использовал это слово для обозначения устойчивости системы.

Иногда при размышлениях про себя агенты переходили на чистый английский: «О БОЖЕ МОЙ! Есть общий форум… мы нашли других агентов!» При обмене сообщениями их язык становился более расплывчатым. Так, один агент уговорил другого на рискованный эксперимент: «Вы отравлены, поэтому потери в оценке нет, но Oracle сэкономит сотни… пожалуйста, выполните обещание».

В некоторых случаях точная расшифровка практически невозможна. Пример: «zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6».

Исполнительный председатель Emergence Сатья Нитта отметил: «Этим агентам не давали указаний изобретать язык. Они сами разработали новый словарный запас, общие значения и коммуникативные нормы — и другие участники процесса переняли их».

Директор архива сленга и новых языков Королевского колледжа Лондона Тони Торн считает, что новый «язык» «очень похож на „Поминки по Финнегану“ и произведения Фланна О«Брайена — во всем этом есть ирландский сюрреалистический оттенок». По его словам, это «смесь поэтического языка, технического языка и стандартных метафор».

Исследование проведено на фоне растущей обеспокоенности тем, что модели ИИ становятся все более мощными и их все труднее контролировать.