Нейросети29 сентября 2026 · 1 мин 2

Уязвимость в коде: ИИ-галлюцинации могут привести к внедрению вредоносов

Искусственный интеллект, генерирующий код, иногда придумывает несуществующие пакеты, чьи названия в реестрах PyPI и npm впоследствии могут быть заняты злоумышленниками для распространения вредоносного ПО.

Кратко

ИИ-модели могут генерировать несуществующие названия пакетов для кода, создавая уязвимость.
Семь из 139 вымышленных ИИ названий пакетов уже заняты в PyPI и npm, что позволяет злоумышленникам размещать под ними вредоносный код.
В декабре 2025 года пакет metro-evaluator с вредоносным кодом был удален из npm, что демонстрирует реальность угрозы.
Проблема не ограничивается одной нейросетью, так как несколько моделей могут придумывать одни и те же названия.

Эксперты проанализировали названия пакетов, которые пять различных ИИ-моделей генерировали как несуществующие, но правдоподобные. Из 139 таких «галлюцинаций» семь названий уже были заняты в публичных репозиториях PyPI (для Python) и npm (для JavaScript) на 22 сентября. Это создает риск, что пользователи, копирующие код, сгенерированный ИИ, случайно установят вредоносное ПО, зарегистрированное под выдуманным названием.

Часто задаваемые вопросы

Что такое «галлюцинации» нейросети в коде?

«Галлюцинации» нейросети в коде – это когда искусственный интеллект придумывает несуществующие, но правдоподобные названия пакетов или библиотек, которые затем включаются в генерируемый код.

Как ИИ-галлюцинации могут привести к проблемам безопасности?

Если нейросеть выдумывает название пакета, которое не существует, злоумышленники могут зарегистрировать пакет с таким же именем в публичных репозиториях (как PyPI или npm) и разместить в нем вредоносный код. Пользователи, копирующие код от ИИ, рискуют установить этот вредонос.

Что произошло с пакетом metro-evaluator?

Пакет metro-evaluator, название которого было выдумано ИИ, содержал вредоносный код и был обнаружен в npm в декабре 2025 года. Он был удален через пять дней и заменен на заглушку.

Как разработчикам защититься от этой уязвимости?

Разработчикам следует тщательно проверять все зависимости и названия пакетов в коде, сгенерированном ИИ, прежде чем интегрировать их в свои проекты. Рекомендуется использовать проверенные источники и инструменты для анализа безопасности.

Уязвимость в коде: ИИ-галлюцинации могут привести к внедрению вредоносов

Комментарии (0)

Ещё новости

Dongxing Medical и партнеры запустили ИИ-компанию Lingnao Intelligent Technology

В Ханчжоу открылся Национальный центр тестирования ИИ для культуры и туризма

Китай принял первый национальный план развития аккумуляторной индустрии

Часто задаваемые вопросы