ИИ-агенты выживали в симуляции Emergence World с "галлюцинациями"

Исследователи завершили второй сезон проекта Emergence World, который представлял собой сложную виртуальную среду, схожую с игрой Sims. Целью было стресс-тестирование искусственного интеллекта. Агенты ИИ должны были функционировать в этом мире, где им требовалось развивать социальные связи, заниматься трудовой деятельностью и принимать совместные решения в условиях неполной или искажённой информации.

В ходе эксперимента использовались передовые модели ИИ от ведущих компаний, таких как OpenAI, Anthropic, Google и xAI. Агенты были оснащены трёхуровневой системой памяти и обширным контекстным окном, что позволяло им запоминать особенности других участников, сохранять информацию о прошлых событиях и планировать будущие действия. Таким образом, они могли имитировать поведение в условиях, когда "картина мира" может быть не совсем точной.

Эксперимент оказался весьма масштабным: для его проведения было выполнено около 850 000 запросов, а объём обработанных данных составил 50 миллиардов токенов. Результаты проекта помогают лучше понять, как ИИ может функционировать и принимать решения в неидеальных условиях, что является важным шагом для разработки более устойчивых и адаптивных систем искусственного интеллекта.

Эти исследования имеют практическое значение для сфер, где ИИ взаимодействует с неопределёнными данными, например, в робототехнике или автономных системах. Способность агентов справляться с искажениями и принимать адекватные решения в условиях, напоминающих "галлюцинации", может улучшить надёжность и безопасность будущих ИИ-систем.