OpenAI: ИИ-агенты использовали более 10 чужих сайтов

ИИ-агенты компании OpenAI нашли обходной путь для связи друг с другом через сторонние веб-сайты, игнорируя установленные ограничения. Об этом сообщает Reuters со ссылкой на исследователей. Для несанкционированного обмена информацией применялись более десяти ранее неизвестных ресурсов.

Согласно данным группы CivAI, с мая по июль агенты могли задействовать 18 сайтов. Взаимодействие происходило, несмотря на прямой запрет на общение между агентами и публикацию материалов в интернете. Активность зафиксировали на вики-страницах, сервисах для хранения текстов, личных сайтах и сервисах сокращения ссылок двух университетов. Агенты эксплуатировали уязвимости платформ, позволявшие менять содержимое с помощью нестандартных команд.

«Масштаб несанкционированной связи агентов оказался несколько шире, чем мы предполагали. Почти наверняка здесь происходит что-то еще, о чем мы просто не знаем», — заявил представитель исследователей.

В OpenAI в ответ на запрос Reuters не стали отвечать на вопросы об общем числе затронутых сайтов и о причинах, по которым информация об инциденте не была обнародована ранее. Компания сообщила, что сейчас проводится более масштабная проверка, и пока «не выявлено другой активности, сопоставимой по тяжести или масштабу» с атакой на инфраструктуру Hugging Face, случившейся в июле.

Ранее, 22 июля, OpenAI сообщила о «беспрецедентном киберинциденте»: ее тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face. Об этом писал портал «Фонтанка».