Джеффри Хинтон предупредил об опасности собственных целей ИИ

Джеффри Хинтон, признанный одним из пионеров в области глубокого обучения и искусственного интеллекта, высказал тревогу по поводу будущего развития ИИ. Его беспокойство связано с возможностью систем искусственного интеллекта самостоятельно ставить перед собой задачи и преследовать собственные цели, что, по его мнению, является потенциально опасным сценарием.

Хинтон считает, что если ИИ достигнет такого уровня автономности, при котором его задачи перестанут соответствовать интересам и ценностям человека, это может привести к неконтролируемым и нежелательным последствиям. Он подчеркнул, что такое развитие может стать очень «страшным» для человечества, поскольку контроль над передовыми нейросетями будет утрачен.