Бразильские юристы оштрафованы за попытку манипулировать ИИ-системой суда

Инцидент произошёл в Бразилии, где юристы вставили в судебную документацию так называемую «инъекцию промпта» — скрытый текст, который был призван обмануть ИИ-систему суда. Этот текст содержал инструкции для ИИ, требовавшие поверхностного рассмотрения дела, что, вероятно, должно было привести к принятию решения в пользу их клиента без должного анализа.

Однако система искусственного интеллекта суда смогла обнаружить внедрённый текст и распознала его как попытку манипуляции. Это привело к раскрытию схемы и последующему наказанию юристов. Суд наложил на них штраф в размере 16 000 долларов, демонстрируя серьёзность отношения к подобным злоупотреблениям.

Случай подчёркивает растущие проблемы и риски, связанные с интеграцией ИИ в правовую систему. С одной стороны, ИИ способен значительно ускорить и оптимизировать судебные процессы, но с другой — он открывает новые векторы для манипуляций и требует от разработчиков и правоохранительных органов постоянного совершенствования систем защиты.