Эксперт Лещенко объяснил причины «галлюцинаций» нейросетей

По словам Лещенко, одной из таких причин является недостаток или низкое качество обучающих данных. Если в тренировочном наборе информации содержатся пробелы, неточности или предубеждения, модель ИИ может генерировать ответы, которые не соответствуют реальности. Это особенно актуально для сложных и многогранных тем, где доступные данные ограничены.

Второй фактор, влияющий на появление галлюцинаций, связан с особенностями архитектуры самой нейронной сети. Некоторые модели могут быть склонны к чрезмерной генерации или интерпретации данных, даже при отсутствии достаточных входных данных. Это может происходить из-за слишком агрессивных алгоритмов додумывания или попыток «заполнить пробелы» в своём понимании.