ВТБ и МГУ разработали систему для выявления галлюцинаций ИИ-помощников

Новая разработка предназначена для контроля качества работы систем искусственного интеллекта, используемых в банковской сфере. Она помогает проверять, насколько правдивы и точны данные, которые ИИ-помощники предоставляют клиентам или сотрудникам. Это важный шаг для повышения доверия к автоматизированным сервисам и снижения рисков, связанных с некорректной информацией.

Технология анализирует ответы ИИ, сопоставляя их с базой знаний банка и внешней информацией, чтобы выявить любые несоответствия или выдумки. Такая система контроля особенно актуальна для финансовых организаций, где точность данных имеет критическое значение.

Внедрение подобной системы позволит ВТБ более эффективно использовать потенциал искусственного интеллекта, минимизируя при этом возможные негативные последствия, связанные с неточностью генерируемых ответов. Это также способствует развитию безопасных и надёжных ИИ-решений для массового использования в финансовом секторе.

Подобные инструменты контроля становятся всё более востребованными по мере того, как всё больше компаний интегрируют генеративные ИИ в свои операционные процессы, особенно в сферах, где цена ошибки высока, как в банковском деле.