Главный ученый OpenAI призвал к замедлению разработки ИИ из-за риска потери контроля

Илья Суцкевер, один из ключевых разработчиков в сфере искусственного интеллекта и главный ученый OpenAI, заявил, что системы ИИ могут достичь способности к самосовершенствованию в недалеком будущем. Он подчеркнул, что такой сценарий несет значительные риски, включая возможность выхода ИИ из-под контроля человека.

В связи с этим Суцкевер выступил с призывом к мировому сообществу и компаниям-разработчикам ИИ осознанно снизить темпы гонки за новыми достижениями. Цель такого замедления — дать возможность обществу и регулирующим органам адекватно оценить последствия и разработать механизмы для безопасного развития мощных систем искусственного интеллекта.

Его заявление отражает растущую обеспокоенность среди ведущих специалистов индустрии по поводу этических и безопасностных аспектов развития передовых ИИ-технологий. Эксперты все чаще говорят о необходимости баланса между инновациями и предусмотрительностью, чтобы избежать нежелательных сценариев.

Дискуссия о контроле над ИИ и этике его создания набирает обороты, поскольку способности нейросетей расширяются, а прогнозы по достижению общего искусственного интеллекта становятся все более смелыми. Вопрос о "самоулучшающемся" ИИ становится центральным в этой полемике.