Калифорния вводит независимый контроль и «выключатель» для ИИ

Новый указ направлен на ускорение разработки и внедрения протоколов, которые позволят штату реагировать на потенциальные угрозы, связанные с неконтролируемым развитием систем искусственного интеллекта. Особое внимание уделяется независимой оценке рисков и механизмов контроля, чтобы обеспечить безопасность граждан.

В рамках инициативы планируется изучить способы создания универсального «выключателя» для ИИ, способного экстренно деактивировать потенциально опасные системы. Это должно предотвратить нежелательные сценарии, связанные с автономными и самоуправляемыми алгоритмами.