Искусственный интеллект оценил риски вымирания человечества через 10 лет

Эксперты и представители британского издания The Independent задали ИИ-модели Claude 3 Opus от Anthropic вопрос о вероятности вымирания человечества в течение следующего десятилетия. Модель ответила, что без внешнего вмешательства, такого как целенаправленная разработка смертоносных вирусов или использование ИИ для создания автономных вооружений, прямой угрозы со стороны самого искусственного интеллекта для существования человека не существует.

ИИ подчеркнул, что сценарии, при которых он может представлять угрозу, связаны с его применением в деструктивных целях. В частности, модель указала на потенциальную опасность создания биологического оружия или применения ИИ для принятия автономных решений в военных конфликтах. При этом, сам ИИ, по его словам, не склонен к уничтожению человечества, если его развитие будет контролируемым и этичным.

Результаты исследования показали, что ИИ не видит внутренней угрозы своему создателю, но осознаёт, как его возможности могут быть использованы во вред. Это подчёркивает важность ответственного подхода к разработке и внедрению искусственного интеллекта, особенно в областях, связанных с высокими рисками для безопасности и жизни.