
Компания Microsoft рассказала про обнаружение интернациональной банды злоумышленников, которые использовали возможности нейросетей для создания непристойных дипфейков. Они задействовали технологии OpenAI и Azure, генерируя поддельные фотографии и видео с обнажёнкой, а затем продавали этот контент в даркнете.
По словам Microsoft, в банду входили жители США, Ирана, Великобритании, Гонконга и Вьетнама. Они воровали логины и пароли легальных пользователей нейросетей и тайно действовали от их имени и за их счёт. Хакерскими методами они обходили цензурные ограничения и обучали нейросети создавать контент на основе эротических и порнографических изображений, а также своих фантазий.