Компания Microsoft рассказала про обнаружение интернациональной банды злоумышленников, которые использовали возможности нейросетей для создания непристойных дипфейков. Они задействовали технологии OpenAI и Azure, генерируя поддельные фотографии и видео с обнажёнкой, а затем продавали этот контент в даркнете.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым — t.me/iguides

По словам Microsoft, в банду входили жители США, Ирана, Великобритании, Гонконга и Вьетнама. Они воровали логины и пароли легальных пользователей нейросетей и тайно действовали от их имени и за их счёт. Хакерскими методами они обходили цензурные ограничения и обучали нейросети создавать контент на основе эротических и порнографических изображений, а также своих фантазий.

Злоумышленники входят в группировку, известную под названием Storm-2139. Некоторые из них уже задержаны полицией, а других сейчас разыскивают правоохранительные органы нескольких стран. Известно, что они использовали нейросети для создания не только порно-дипфейков со знаменитостями, но и вредоносного контента, в том числе вирусов, которые успешно обходят антивирусную проверку в большинстве актуальных систем защиты.