ИИ-системы ошибаются в оценке тональности из-за совпадения названий компаний

При анализе отзывов о конкретной компании, исследователь обнаружил, что из 358 ответов языковых моделей три были оценены как негативные. Однако углублённая проверка показала, что эти отрицательные оценки касались не целевой компании, а её однофамильца или организации с очень схожим наименованием.

Эта ситуация выявила серьёзную проблему в работе ИИ при анализе тональности: алгоритмы испытывают трудности с различением сущностей в неоднозначных контекстах. Это особенно актуально для названий, которые могут относиться к разным организациям или продуктам.

Такие ошибки могут существенно искажать результаты автоматизированных систем мониторинга репутации и анализа обратной связи, приводя к неверным выводам для бизнеса и маркетинга. Проблема требует от разработчиков ИИ более точной контекстной обработки и улучшения механизмов распознавания сущностей.