Исследователи Anthropic предупреждают об угрозе ИИ для человечества
Эксперты по искусственному интеллекту из компании Anthropic, известной разработкой модели Claude, выпустили доклад, в котором предупреждают о потенциальной угрозе существованию человечества со стороны передовых ИИ-систем.
В своём отчёте исследователи из Anthropic анализируют возможные сценарии развития искусственного интеллекта и его влияния на глобальную безопасность. Они отмечают, что с ростом автономности и способностей ИИ-систем могут возникнуть неконтролируемые риски, которые необходимо учитывать уже сейчас.
Особое внимание в докладе уделяется так называемым «фундаментальным рискам» (foundational risks), связанным с возможностью ИИ принимать решения, которые расходятся с человеческими ценностями и интересами, а также с потенциалом к самосовершенствованию и масштабированию без надлежащего контроля.
Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!