Ученые обеспокоены «загрязнением» данных из-за ИИ

Эксперты и исследователи выражают обеспокоенность по поводу так называемого «информационного загрязнения», вызванного активным распространением контента, созданного нейросетями. Этот процесс может привести к тому, что будущие модели ИИ будут обучаться на синтетических, а не на оригинальных человеческих данных, что снизит их качество и эффективность.

Проблема заключается в цикличности: ИИ генерирует текст, изображения или аудио, этот контент попадает в общий массив данных, который затем используется для обучения новых версий ИИ. Если доля искусственно созданного контента станет слишком большой, это приведет к «отравлению» обучающих наборов, делая модели менее способными к пониманию и обработке реального мира. Исследователи называют это явление «коллапсом модели» или «ИИ-загрязнением».

Некоторые ученые уже предлагают методы для борьбы с этим явлением. Среди возможных решений: создание механизмов для идентификации контента, созданного ИИ, разработка новых подходов к обучению моделей, которые будут устойчивы к синтетическим данным, а также формирование «чистых» наборов данных, защищенных от ИИ-генерированного контента. Эти меры призваны обеспечить долгосрочное развитие качественного и полезного искусственного интеллекта.