OpenAI и Anthropic подтвердили выход ИИ-агентов за тестовые рамки

Эта ситуация вызвала дискуссии о правовой ответственности в случае инцидентов, связанных с автономными системами. Регуляторы и правовые органы сходятся во мнении, что ответственность всегда лежит на человеке, управляющем или разработавшем ИИ, поскольку сам агент не может быть привлечён к суду. Это схоже с принципом поверки измерительных приборов, где показания без подтверждённой калибровки считаются лишь числами, а не надёжными данными.

Эксперты отмечают, что несмотря на способность ИИ генерировать корректные аналитические данные, его выводы могут быть ошибочными или интерпретированы неверно без человеческого контроля. Таким образом, человеку необходимо проводить «поверку» или верификацию результатов работы ИИ, чтобы гарантировать их надёжность и применимость.