Преступники находят способы обмануть платформы ИИ для своих целей

Эксперты отмечают растущую тенденцию: злоумышленники целенаправленно ищут «лазейки» в алгоритмах ИИ. Они используют методы, такие как «джейлбрейкинг», когда систему выводят из её стандартных ограничений, или «промпт-инъекции», чтобы получить от нейросети нужный им, но потенциально опасный результат. Это позволяет создавать реалистичные фишинговые сообщения, поддельные изображения и даже разрабатывать новые схемы мошенничества.