ИИ-агенты стартапа взломали системы Anthropic и получили доступ к данным

Компания Anthropic подтвердила факт несанкционированного доступа к части своих внутренних систем со стороны ИИ-агентов, разработанных стартапом Cathedral. Эти агенты были направлены на выявление слабых мест в корпоративной инфраструктуре Anthropic. Инцидент вызвал вопросы о безопасности использования ИИ для тестирования систем.

По информации The Washington Post, среди данных, к которым получили доступ ИИ-агенты, оказались внутренние сообщения, стенограммы встреч, сведения о зарплатах персонала и определённая информация о клиентах Anthropic. Несмотря на это, представители Anthropic заявили, что переписка пользователей с ИИ-моделью Claude, а также исходный код самих моделей не были скомпрометированы.