Migliaia di immagini manipolate e deepfake sono scambiate sulle chat di revenge porn di Telegram. Accade con foto non solo di star ma anche di persone comuni
Quasi 700mila donne sono diventate le vittime inconsapevoli di una tecnologia deepfake adottata attraverso la piattaforma Telegram. Un gruppo di ricercatori ha individuato quello che è stato ribattezzato come “ecosistema deepfake” in grado di generare nudi falsi su richiesta tramite dei bot.
Agli utenti basta inviare una foto nella chat del bot e questo, dopo pochi secondi, la riconsegna con il soggetto denudato. I contenuti deepfake così ottenuti vengono successivamente scambiati all’interno dei vari canali di Telegram alimentando la preoccupante presenza di forme di revenge porn e violenza online sulla piattaforma.
L’indagine è frutto del lavoro della società di sicurezza Sensity e si concentra su ciò che chiama visual threat intelligence. I ricercatori di Sensity hanno scoperto che più di 100mila immagini sono state generate e condivise nei canali pubblici di Telegram fino a luglio. Secondo quando poi riportato anche da Repubblica questo dato è aumentato sfiorando le 680mila immagini deepfake create e scambiate.
Nel 30% dei casi le donne spogliate dal bot sono star, mentre nella maggior parte di casi si tratta di persone comuni. L’Italia è tra i quattro paesi in cui il fenomeno risulta più diffuso, con Russia, Argentina e Stati Uniti.
Il bot più popolare usato su Telegram è un derivato dell’applicazione DeepNude che nell’estate del 2019 è stata eliminata dal creatore perché ritenuta troppo pericolosa. Tuttavia il web si è subito popolato di versioni pirata e alcuni utenti hanno sfruttato questa tecnologia per creare dei bot in grado di spogliare le fotografie.
Sebbene la maggior parte dei bot gratuiti generino finti nudi con filigrane o nudità parziali, è sufficiente pagare la ridicola cifra di 1,28 euro per accedere a 100 immagini completamente senza veli e difficilmente distinguibili da una foto reale. È proprio la facilità d’utilizzo che allarma gli esperti e rende queste tecnologie molto pericolose.
Leggi anche
Potrebbe interessarti anche
