Суд США наказал адвокатов за использование «невидимых» ИИ-подсказок

Использование нейросетей для подготовки юридических документов привело к разбирательству в американском суде. Двум юристам предъявлены обвинения в подаче документов с ложными данными. Оказалось, что они использовали ИИ-инструмент, который сгенерировал ссылки на вымышленные судебные решения.

Проблема заключалась в так называемых «невидимых» подсказках (invisible prompts), которые могут быть встроены в текст или запросы к ИИ, невидимые для пользователя. Эти подсказки могли привести к генерации фиктивных прецедентов, вводящих в заблуждение суд. Санкции подразумевают денежный штраф и потенциальное дисциплинарное взыскание, что подчёркивает важность тщательной проверки материалов, созданных ИИ, особенно в таких ответственных сферах, как юриспруденция.

Этот инцидент стал очередным напоминанием о том, что даже самые продвинутые инструменты искусственного интеллекта требуют человеческого контроля и верификации, особенно когда речь идёт о точности фактических данных и соблюдении правовых норм. Юридическим фирмам необходимо разработать чёткие протоколы для работы с генеративными ИИ-системами, чтобы избежать подобных ошибок и репутационных потерь.