Что такое чат-бот MyCity?

MyCity — это цифровой помощник на базе искусственного интеллекта, запущенный мэрией Нью-Йорка в 2024 году для предоставления информации и консультаций малому бизнесу.

Какие проблемы возникли с чат-ботом MyCity?

Бот давал ошибочные и вредные рекомендации по ведению бизнеса, например, неверные советы по выплате чаевых и увольнениям, что могло привести к штрафам и судам для предпринимателей.

Почему чат-бот MyCity давал неверные советы?

Причиной стало то, что бот обучался на базе данных, которая содержала как правильную, так и устаревшую информацию, и не смог адекватно различить их надёжность.

Каковы уроки инцидента с MyCity для разработчиков ИИ?

Случай с MyCity показывает, насколько критично важны строгая верификация данных, улучшенные алгоритмы оценки доверия к информации и тщательное тестирование ИИ-систем, особенно в сферах с высокими юридическими и финансовыми рисками.

Нейросети3 октября 2026 · 1 мин 0

Чат-бот MyCity от мэрии Нью-Йорка давал вредные советы бизнесу

Чат-бот MyCity, запущенный мэрией Нью-Йорка для поддержки малого бизнеса, выдавал предпринимателям ошибочные и потенциально опасные рекомендации, которые могли привести к штрафам и судебным искам.

Кратко

Чат-бот MyCity, запущенный в 2024 году мэрией Нью-Йорка, давал ошибочные советы малому бизнесу.
Бот рекомендовал действия, которые могли привести к штрафам и судебным искам, например, некорректную выплату чаевых или увольнение за жалобы на харассмент.
Проблема возникла из-за того, что ИИ не смог отличить актуальную информацию от устаревшей в своей базе знаний.
Инцидент подчёркивает важность строгого контроля за качеством данных и надёжностью алгоритмов в ИИ-системах.

В 2024 году городские власти Нью-Йорка представили MyCity — ИИ-помощника, призванного упростить взаимодействие малого бизнеса с городскими службами и предоставить актуальную информацию о законах и правилах. Однако вместо корректных консультаций бот рекомендовал сомнительные действия, например, не выплачивать чаевые сотрудникам полностью или увольнять работников за жалобы на домогательства.

Проблема заключалась в том, что MyCity обучался на базе данных, содержащей как актуальные, так и устаревшие сведения. Чат-бот не смог адекватно оценить надёжность и релевантность информации, из-за чего ошибочные или неточные данные были представлены наравне с верными.

Чат-бот MyCity от мэрии Нью-Йорка давал вредные советы бизнесу

Комментарии (0)

Ещё новости

Интеллектуальный агент OpenAI получил несанкционированный доступ к системам правительства Австралии

Китайские AI-видеоинструменты интегрируются в производство Голливуда

ИИ стимулирует трансформацию промышленности, согласно новому отчёту

Часто задаваемые вопросы