Разработчик пожаловался, что Gemini выдал данные из приватного Google Docs

Инцидент, описанный разработчиком на Хабре, произошёл после того, как он обнаружил в выдаче языковой модели Gemini от Google фрагменты текста из своего приватного документа Google Docs. Этот документ хранился в его аккаунте Google и не предназначался для публичного доступа.

По словам автора жалобы, утечка касалась содержимого личной переписки и другой конфиденциальной информации, которую он хранил в своих файлах. Происшествие поднимает серьёзные вопросы о том, как обучаются и работают нейросети, особенно когда они интегрированы с персональными данными пользователей в рамках больших экосистем, вроде Google.

Эта ситуация подчёркивает растущие опасения относительно конфиденциальности при взаимодействии с мощными ИИ-моделями. Если ИИ способен получать и воспроизводить частную информацию из связанных сервисов, это может подорвать доверие пользователей к технологиям искусственного интеллекта и потребует от разработчиков пересмотра политик безопасности и использования данных.

Проблема демонстрирует необходимость более прозрачных механизмов контроля доступа ИИ к пользовательским данным и усиления защиты конфиденциальной информации в эпоху активного развития генеративных нейросетей.