Deepfake порно бот в Telegram „премахва“ дрехите от снимки на хиляди жени

Deepfake бот, действащ в приложението за текстови съобщения Telegram, фабрикува голи изображения на хиляди хора, някои от които изглеждат на възраст под 18 години.

Снимки на над 104 хил. жени са „съблечени“ от бота, който ежедневно изпраща галерия от нови голи изображения до асоцииран канал в Telegram, с почти 25 хил. абонати. Някои снимки са прегледани повече от 3 хил. пъти, а друг канал в Telegram, който промотира бота, има повече от 50 хил. абоната.

Смята се, че ботът на Telegram се захранва от версия на софтуера DeepNude. Изображенията се създават автоматично, след като хората качат облечени снимки на жени (явно технологията е настроена да модифицира само женски изображения) в бота на Telegram от телефона или компютъра си.

Предполага се, че голяма част от жертвите дори не подозират за случващото се, но компанията, разкрила инцидента (Sensity) e уведомила правоохранителните органи. Експертите се опасяват, че този тип изображения ще бъдат използвани за унижаване и изнудване на жените. Към момента не е известно Telegram да е коментирал случая.

Deepfake технологията представлява манипулирана чрез machine learning форма на медия – видео, аудио или снимка (терминът всъщност идва от „deep learning“– методът на машинно самообучение на изкуствен интелект с помощта на изкуствени невронни мрежи). Повече за ботовете, тяхното разпространение и начините да ги разпознаете, може да прочетете тук.