Калифорния ввела первые в США меры защиты от ИИ-рисков

Принятый закон предписывает разработчикам и компаниям, использующим мощные модели ИИ, проводить обязательную оценку рисков. Эти оценки будут включать проверку систем на предмет возможности использования для создания опасных биологических или химических веществ, кибератак или автономизации опасных систем без контроля человека.

Кроме того, новые правила требуют от компаний предоставлять отчёты о безопасности своих ИИ-систем, включая информацию о методах тестирования и выявленных уязвимостях. Это позволит регуляторам и общественности лучше понимать потенциальные риски и принимать меры по их снижению.