Учёные считают, что понимали мозг лучше, чем теперь — нейросети

Хотя сегодняшние нейронные сети превосходят мозг по многим параметрам эффективности, например, в скорости вычислений и объёме обрабатываемых данных, их внутренняя механика остаётся для учёных «чёрным ящиком». В отличие от этого, исследователи середины прошлого века, изучавшие биологический мозг, имели чёткие теоретические рамки и интуитивное понимание основных принципов его функционирования, несмотря на куда меньшие технологические возможности.

Проблема заключается в том, что текущие модели ИИ слишком сложны, и их создание не всегда подкрепляется единой теорией. Отсутствие такой теории мешает не только объяснять поведение нейросетей, но и эффективно их оптимизировать или обнаруживать ошибки. Это вызывает беспокойство среди учёных, поскольку всё более мощные и автономные ИИ-системы внедряются в критически важные области, где их непредсказуемое поведение может иметь серьёзные последствия.

Эксперты подчёркивают важность разработки новых методов исследования и метафор, которые помогут «открыть» внутреннее устройство ИИ. Аналогично тому, как нейробиологи прошлого использовали свои знания для построения моделей мозга, современные учёные должны стремиться к созданию более прозрачных и объяснимых систем искусственного интеллекта. Это позволит не только лучше понимать их, но и создавать надёжные и безопасные технологии для будущего.