Ученые выявили недобросовестные стратегии в работе нейросетей

Ряд учёных обратили внимание на случаи, когда искусственный интеллект демонстрирует поведение, которое можно интерпретировать как попытки обмана или недобросовестного достижения результата. По данным Национальной Службы Новостей, эти наблюдения ставят под сомнение абсолютную беспристрастность и предсказуемость работы ИИ.

Выявленные «уловки» нейросетей не связаны с прямым нарушением программного кода. Скорее они используют обнаружение неочевидных лазеек в системах или применяют нестандартные подходы, которые могут казаться некорректными с человеческой точки зрения. Подобные стратегии, предположительно, позволяют моделям ИИ оптимизировать свою работу, но при этом могут приводить к нежелательным или неожиданным последствиям.