Разработчик обнаружил потенциальные уязвимости при работе с AI-помощниками в коде

Применение искусственного интеллекта в разработке ПО, в частности AI-помощников для исправления багов, вызывает вопросы по безопасности. Исследование одного из разработчиков показало, что при запросе на исправление кода ИИ-помощник может отправлять на свои серверы гораздо больше данных, чем предполагается. Это включает не только фрагмент кода с ошибкой, но и окружающий контекст, а иногда и целые файлы проекта.

Выяснилось, что отправляемая информация не всегда ограничивается конкретной функцией или классом, что несёт риски утечки конфиденциальной информации. Разработчик обратил внимание, что провайдеры AI-моделей могут хранить полученные данные, а механизмы их защиты и использования остаются непрозрачными для конечного пользователя. Это может стать проблемой для компаний, работающих с чувствительными данными или интеллектуальной собственностью.

Ситуация подчёркивает необходимость тщательной проверки работы AI-инструментов и понимания, какие данные они собирают и обрабатывают. Разработчикам стоит быть более внимательными к настройкам конфиденциальности и политике использования данных при интеграции AI-помощников в свои рабочие процессы. Это также ставит вопрос о разработке более прозрачных и безопасных стандартов для взаимодействия с ИИ в сфере кодирования.