Глава Anthropic призвал замедлить развитие искусственного интеллекта

По мнению руководителя одного из ведущих разработчиков ИИ, индустрии следует придерживаться более осторожного подхода. Это позволит избежать потенциальных рисков, связанных с быстрым прогрессом в области ИИ, и даст время для осмысления этических и социальных последствий.

Хотя точные причины призыва Амодея не уточняются, обычно такие заявления связаны с опасениями по поводу безопасности, контроля над мощными системами и их возможного влияния на рынок труда и общественные институты. В экспертном сообществе давно обсуждается необходимость баланса между инновациями и безопасностью в сфере ИИ.

Anthropic известна своими разработками в области надежного и интерпретируемого искусственного интеллекта, а также моделью Claude, конкурирующей с GPT от OpenAI. Призыв к замедлению темпов от лидера такой компании подчеркивает растущую озабоченность внутри самой индустрии ИИ.