Глава Anthropic призывает замедлить развитие мощных ИИ-моделей

В своём обращении Амодей подчеркнул потенциальные риски, связанные с бесконтрольным развитием передовых ИИ-систем, таких как Claude. Он отметил, что хотя ИИ несёт огромные возможности для прогресса, отсутствие адекватного регулирования и контроля может привести к непредсказуемым и опасным последствиям для общества и экономики.

Глава Anthropic акцентировал внимание на необходимости создания механизмов безопасности, тщательной проверки новых моделей перед их широким внедрением и международного сотрудничества в области этики и стандартов разработки ИИ. По его мнению, текущие темпы развития могут не позволить человечеству своевременно адаптироваться к изменениям и минимизировать риски.

Это заявление прозвучало на фоне продолжающихся дебатов о будущем ИИ и усиления давления на технологические компании с целью обеспечения большей прозрачности и безопасности в разработке искусственного интеллекта. Призыв к замедлению темпов отражает растущую обеспокоенность среди лидеров отрасли относительно возможных негативных эффектов бездумной гонки за мощностью.