Суд США наказал адвокатов за использование «невидимых» ИИ-подсказок

Использование нейросетей для подготовки юридических документов привело к разбирательству в американском суде. Двум юристам предъявлены обвинения в подаче документов с ложными данными. Оказалось, что они использовали ИИ-инструмент, который сгенерировал ссылки на вымышленные судебные решения.

Проблема заключалась в так называемых «невидимых» подсказках (invisible prompts), которые могут быть встроены в текст или запросы к ИИ, невидимые для пользователя. Эти подсказки могли привести к генерации фиктивных прецедентов, вводящих в заблуждение суд. Санкции подразумевают денежный штраф и потенциальное дисциплинарное взыскание, что подчёркивает важность тщательной проверки материалов, созданных ИИ, особенно в таких ответственных сферах, как юриспруденция.