Исследование: люди приписывают ИИ определенную расовую идентичность

Специалисты из PsyPost провели исследование, которое показало: пользователи подсознательно ассоциируют ИИ с конкретными расовыми характеристиками. Эти ассоциации формируются на основе взаимодействия с технологией и культурных представлений, а не на реальных признаках, поскольку ИИ не имеет собственной биологической расовой принадлежности.

Выявленное явление может иметь значительные последствия для разработки и внедрения ИИ-систем. Расовая предвзятость, проецируемая на ИИ, способна влиять на восприятие его надежности, справедливости и эффективности в различных сферах: от клиентского обслуживания до принятия решений в критически важных областях. Понимание этих механизмов важно для создания беспристрастных и инклюзивных ИИ-продуктов.

Результаты исследования подчеркивают необходимость учитывать социальные и психологические аспекты при создании искусственного интеллекта. Разработчикам следует обращать внимание на то, как их продукты могут восприниматься различными группами пользователей, и стремиться к устранению потенциальных предубеждений, возникающих из-за таких проекций.