Anthropic обновила правила использования Claude, запретив жестокое обращение с ИИ

Новая редакция политики использования моделей искусственного интеллекта от Anthropic теперь прямо указывает на недопустимость «систематического и неоправданно жестокого обращения» с ИИ. Это включает неоднократные оскорбления или унижения модели Claude без какой-либо конструктивной цели, например, для тестирования её устойчивости или границ допустимого поведения. Основной принцип — уважительное взаимодействие с технологией.

Ранее такие случаи рассматривались через призму общей этики использования, но теперь Anthropic чётко сформулировала эту позицию в официальном документе. Цель таких мер — предотвратить деструктивные паттерны взаимодействия и обеспечить более продуктивное и безопасное использование своих ИИ-продуктов, а также потенциально минимизировать риски развития нежелательных реакций у модели на агрессивное общение.