Эксперты MIT оценили риск катастрофы от «неуправляемого» ИИ к 2030 году

Специалисты MIT провели анализ потенциальных рисков, связанных с развитием передовых систем искусственного интеллекта. По их оценкам, вероятность серьезных негативных последствий, которые могут быть расценены как катастрофические, со стороны систем ИИ, вышедших из-под контроля, достигнет 10% в течение ближайших шести лет.

Под «неуправляемым ИИ» подразумеваются системы, способные действовать независимо и преследовать цели, не соответствующие человеческим, что может привести к непредвиденным и крайне опасным результатам. Это исследование подчеркивает растущие опасения в научном сообществе и индустрии относительно безопасности и этичности использования все более мощных технологий искусственного интеллекта.

Данная оценка, хоть и является гипотетической, призывает к более активному диалогу и разработке эффективных механизмов контроля и регуляции в сфере ИИ. Подобные прогнозы стимулируют дискуссии о необходимости превентивных мер для минимизации рисков и обеспечения ответственного развития технологий.