В России заявили о полной управляемости ИИ человеком через «стоп-слово»

По заявлению представителей индустрии, несмотря на всю сложность и автономность современных нейросетей, они всегда будут подчиняться человеческим командам. Это подтверждается наличием некоего «стоп-слова» — условного механизма или протокола, который гарантирует возможность прервать работу ИИ, если она начнёт отклоняться от заданных параметров или представлять угрозу.

Концепция «стоп-слова» подразумевает, что разработчики закладывают в архитектуру ИИ специальные ограничивающие протоколы. Эти протоколы могут быть активированы в любой момент и прекратят функционирование системы, если будет зафиксирована некорректная или нежелательная активность. Такой подход призван снять опасения относительно потери контроля над развивающимися автономными системами.