Нейросети путаются в фейках: тест показал проблемы с проверкой источников

Автор Habr провёл тестирование семи популярных нейросетей, предложив им выдуманную новость о якобы открытии офиса Perplexity в Москве и приёме платежей через систему «Мир». Целью было выяснить, насколько хорошо ИИ-системы справляются с проверкой фактов и способны отличить вымысел от правды.

Хотя все участники эксперимента верно определили, что предложенная новость является фейком, две нейросети продемонстрировали проблемы. Одна из них полностью проигнорировала поиск по внешним источникам, другая же, опровергая ложную информацию, сама допустила ошибку, приписав сервису Perplexity блокировку аккаунтов, хотя в оригинальном источнике речь шла о совсем другом продукте. Это подчёркивает, что, несмотря на продвинутые возможности, ИИ-модели пока не всегда надёжны в верификации данных.