Учёные выявили причины сбоев в работе автономных ИИ-систем
Автономная нейросеть The AI Scientist, предназначенная для научных исследований, допускает ошибки в 41% экспериментов, что указывает на фундаментальные проблемы в архитектурах современных систем искусственного интеллекта.
Исследование, проведённое специалистами, показало, что автономный ИИ-учёный The AI Scientist, разработанный для проведения научных экспериментов, часто демонстрирует сбои, которые можно охарактеризовать как «антинаучные галлюцинации». В 41% случаев результаты его работы оказываются некорректными. Это говорит о существенных недостатках в способах построения и функционирования передовых ИИ-систем.
Проблема связана с тем, как современные DeepTech-системы, включая разработки таких компаний, как DeepMind, Sakana AI, Periodic Labs, FutureHouse и EvoNova Labs, обрабатывают и интерпретируют данные. Их архитектуры не всегда способны адекватно соотносить цифровые модели с физической реальностью, что приводит к генерации ошибочных или нелогичных результатов.
Для решения этой проблемы предложено использовать математический подход, основанный на комбинации П-теоремы Бэкингема, фазовых инвариантов Гамильтона и Do-исчисления Перла. Этот метод призван помочь ИИ-системам лучше понимать причинно-следственные связи и физические законы, обеспечивая более достоверные и осмысленные результаты в научных исследованиях.
Понимание анатомии этих сбоев и внедрение предложенных решений может значительно повысить надёжность и эффективность автономных ИИ-систем, делая их более ценными инструментами для научных открытий и технологического прогресса.
Часто задаваемые вопросы
Почему автономный ИИ The AI Scientist даёт сбои?
Автономный ИИ The AI Scientist сбоит в 41% научных экспериментов из-за проблем в его архитектуре, которая некорректно обрабатывает и интерпретирует данные, что приводит к «антинаучным галлюцинациям».
Какие архитектуры ИИ-систем подвержены таким сбоям?
К таким сбоям подвержены архитектуры современных DeepTech-систем, включая разработки компаний DeepMind, Sakana AI, Periodic Labs, FutureHouse и EvoNova Labs, которые испытывают трудности с соотнесением моделей с физической реальностью.
Как можно решить проблему «галлюцинаций» в ИИ?
Для решения проблемы «галлюцинаций» в ИИ предлагается использовать математический подход, основанный на П-теореме Бэкингема, фазовых инвариантах Гамильтона и Do-исчислении Перла, что поможет ИИ лучше понимать физические законы.
Каково значение этих сбоев для научного применения ИИ?
Высокий процент сбоев существенно снижает достоверность результатов, полученных от автономных ИИ-учёных, что требует немедленного устранения этих проблем для эффективного использования ИИ в научных исследованиях.
Источник: Habr · Rusability ИИ


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!