Профессор Стюарт Рассел усомнился в возможности полного выравнивания ИИ с целями человека

Стюарт Рассел, один из ведущих экспертов в области искусственного интеллекта и автор книги «Человечество совместимое с ИИ», считает, что полное согласование систем искусственного интеллекта с сложными и часто противоречивыми человеческими целями может оказаться фундаментально недостижимым. Эта позиция вызывает широкую дискуссию в научном сообществе, особенно на фоне быстрого развития больших языковых моделей, таких как GPT-6.

По его мнению, основной вызов заключается в сложности и динамичности человеческих ценностей, которые не могут быть просто «загружены» в алгоритм. Это поднимает вопросы безопасности и контроля над мощными системами ИИ, способными принимать решения, которые могут идти вразрез с интересами общества, если их цели не будут идеально согласованы с человеческими.