В чем заключается новое изменение рисков ИИ?

По словам Ао Ли из CAICT, риски ИИ эволюционируют от генерации некорректной информации («сказать не то») к совершению ошибочных действий, которые могут привести к реальным экономическим потерям («сделать не то»).

Почему меняется характер рисков искусственного интеллекта?

Изменение характера рисков связано с возрастающей автономностью систем ИИ и их интеграцией в операционные процессы, где они начинают не только анализировать, но и непосредственно действовать.

Нейросети21 октября 2026 · 1 мин 3

ИИ-риски эволюционируют от "ошибок в речи" к "неправильным действиям", заявил Ао Ли

Q: Кто сделал это заявление о рисках ИИ?

Заявление сделал Ао Ли, заместитель директора Китайской академии информационных и коммуникационных технологий (CAICT).

Заместитель директора Китайской академии информационных и коммуникационных технологий (CAICT) Ао Ли заявил, что риски, связанные с искусственным интеллектом, смещаются от генерации неточной информации к реальным действиям, способным причинить экономический ущерб.

Кратко

Замдиректора CAICT Ао Ли заявил, что риски ИИ смещаются от информационных ошибок к реальным действиям с экономическим ущербом.
Ранее опасения вызывала некорректная информация от ИИ, теперь – его способность принимать решения и выполнять действия.
Эта эволюция рисков связана с возрастающей автономностью ИИ и его применением в критически важных сферах.
Необходимо усиление контроля и разработка стандартов безопасности для предотвращения потенциального вреда от ИИ-систем.

По словам Ао Ли, ранее основные опасения вызывали некорректные или вводящие в заблуждение высказывания ИИ-систем. Теперь же фокус внимания переходит на способность алгоритмов принимать решения и совершать действия, которые могут привести к ощутимым негативным последствиям, в том числе и к финансовым потерям.

ИИ-риски эволюционируют от "ошибок в речи" к "неправильным действиям", заявил Ао Ли

Комментарии (0)

Ещё новости

Финансисты активно внедряют генеративный ИИ, но пока без полной автономии

Интеграция ИИ в конституции: новый этап государственного регулирования

Искусственный интеллект в Пекине стал драйвером роста экономики

Часто задаваемые вопросы