Суд в США обнаружил сгенерированные ИИ фейковые судебные дела

Обнаружение фейковых дел произошло в ходе рассмотрения апелляции, поданной адвокатами по делу, связанному со школьным округом Сан-Антонио. Суд обратил внимание на неточности и отсутствие данных о некоторых прецедентах, указанных в документах.

Подобные случаи не единичны: использование ИИ-инструментов юристами, особенно генеративных моделей, иногда приводит к появлению «галлюцинаций» — выдуманных фактов или ссылок, которые выглядят убедительно, но не имеют под собой реальной основы.

Этот инцидент подчеркивает растущие проблемы и риски, связанные с интеграцией технологий искусственного интеллекта в юридическую практику, особенно в тех областях, где точность и достоверность имеют критическое значение.

Судебная система теперь вынуждена разрабатывать новые подходы для проверки подлинности информации, представленной с помощью ИИ, чтобы избежать ошибок и неправомерных решений, основанных на фейковых данных.