Разработчики предлагают чат-ботам честно признавать незнание

Создатели клиентского чат-бота для сайта столкнулись с проблемой «галлюцинаций» искусственного интеллекта. Они отметили, что уверенный, но неверный ответ приносит больше вреда, чем отсутствие ответа вообще. В итоге разработчики решили обучить модель открыто сообщать о неспособности дать точный ответ, если у неё нет достоверных данных.

Интеграция такой функции позволяет ассистенту избежать распространения дезинформации. Если бот не может ответить, он прямо заявляет об этом и предлагает пользователю связаться с оператором, который предоставит необходимую информацию. Этот подход направлен на повышение доверия к ИИ-системам.

Основное отличие от стандартных методов состоит в том, что ассистент теперь может не только указывать источник информации, но и передавать контроль коду, который в свою очередь определяет возможность предоставления достоверного ответа. Это снижает риск выдачи некорректных данных и делает взаимодействие с чат-ботом более продуктивным для пользователя.