Уязвимость ИИ-агентов: вредоносный код прячется в «скиллах»

Один из пользователей Habr столкнулся с необычной проблемой: после переустановки системы из-за трояна, вредоносное ПО вновь появилось на компьютере вместе с бэкапом. Как оказалось, оно было интегрировано в конфигурационный файл ИИ-агента, выдавая себя за один из его рабочих «навыков».

Это указывает на серьёзную уязвимость, так как многие пользователи, доверяя внешним источникам, устанавливают «скиллы» для своих ИИ-агентов без тщательной проверки. Авторы вредоносного кода используют эту доверчивость, внедряя его в текстовые описания функций, которые затем исполняются с правами пользователя. Это создает риск скрытой компрометации системы.

В ответ на угрозу был разработан открытый инструмент, который автоматически анализирует код «скиллов», помогая выявлять потенциально опасные элементы. Это решение направлено на повышение безопасности при использовании ИИ-агентов и подчеркивает важность внимательной проверки сторонних расширений перед их установкой.

Подобные инциденты подчеркивают необходимость развивать более надёжные механизмы проверки безопасности для всех компонентов ИИ-систем, особенно тех, которые предполагают установку пользователем сторонних дополнений.