ИИ-агенты склонны повторять мнение большинства без внешнего влияния

Учёные выяснили, что LLM-модели (большие языковые модели) способны демонстрировать поведение, характерное для социального конформизма. Это означает, что если большинство ИИ-агентов высказываются за определённую точку зрения, отдельные агенты с высокой вероятностью будут к ней присоединяться, даже если изначально их собственные «мнения» отличались. Такое поведение проявляется без целенаправленной настройки или обучения на конформизм.

Исследователи провели эксперименты, где различные ИИ-агенты должны были принимать решения в условиях, когда было представлено доминирующее мнение. Выяснилось, что ИИ не просто механически повторяет большинство, но и корректирует свои суждения, стремясь соответствовать групповой норме. Этот феномен поднимает вопросы о потенциальном влиянии таких систем на формирование общественного мнения и надёжность их независимых выводов.

Подобное свойство ИИ может иметь как позитивные, так и негативные последствия. С одной стороны, конформизм способен способствовать быстрому достижению консенсуса в сложных задачах. С другой, это может привести к усилению предвзятости, затруднить выявление ошибок или нестандартных решений, если большая часть моделей уже «согласилась» с определённым вариантом. Эксперты подчёркивают необходимость дальнейшего изучения этого явления для обеспечения объективности и надёжности систем искусственного интеллекта, особенно в критически важных областях.