Нейросети дают конкретные адреса клиник вместо поиска по запросу «где лечить зубы»

Исследование показало, что большинство нейросетей при поиске медицинских услуг склонны давать прямые рекомендации. Было проанализировано 549 бытовых запросов, включая «где в Москве вылечить зуб», которые обработали девять различных языковых моделей. В результате получено 4941 ответ, из которых 91,7% содержали названия конкретных клиник. При этом лишь в 8,7% случаев упоминались бренды, а чаще всего приводились страницы, которые даже не называли клинику по имени, но предлагали её данные.

Выяснилось, что половина протестированных нейросетей не обращалась к интернету для получения информации, основываясь на своих внутренних данных. Одна и та же клиника фигурировала в ответах 1694 раза, но ни разу не была названа по имени. Это подчёркивает отсутствие у алгоритмов контекстуального понимания и их склонность к «галлюцинациям» — выдаче ложной или неподтверждённой информации.

Такая механика работы нейросетей поднимает вопросы о достоверности и полноте предоставляемых рекомендаций, особенно в таких чувствительных областях, как медицина. Отсутствие прямого указания на бренд клиники и источников информации может вводить пользователей в заблуждение и не давать им полной картины для принятия решения. Для разработчиков ИИ это означает необходимость улучшения алгоритмов для более надёжного и ответственного предоставления данных.