Generavano con IA immagini a sfondo sessuale utilizzando foto di coetanei e le diffondevano su Telegram

Una vicenda di forte gravità che pone punti interrogativi sulla preoccupante fenomeno di abuso digitali, denominato deepfake. Sono almeno cinque i ragazzi minorenni che avrebbero generato, con l’utilizzo di software di intelligenza artificiale, almeno 1.200 immagini utilizzando i volti di 200 coetanei. La gravità dei fatti è data dal fatto che molte delle immagini realizzate siano a sfondo sessuale e sarebbero – successivamente – state diffuse tramite Telegram, in canali appositamente creati per lo scambio di immagini. Teatro della vicenda è il comune di Acri, nel cosentino. A segnalare la situazione, uno dei genitori dei ragazzi coinvolti, cha avrebbe avuto sottomano una delle immagini, ritraente il volto della figlia. La denuncia dell’accaduto ha scatenato una reazione a catena da parte dei genitori dei ragazzi coinvolti, smascherando un vero e proprio “stupro digitale”.

Fenomeno ‘deepfake’

Questa vicenda pone non pochi interrogativi su quanto l’abuso di determinate piattaforme possa creare danni contingenti a persone innocenti, del tutto ignare che le proprie foto – se capitate in mano sbagliate – possano essere oggetto di trasformazione in materiale pornografico o (addirittura) sfociare nella pedo-pornografia (nel caso di minori). Il fenomeno del deepfake consiste nel generare, partendo da un’immagine reale, tramite algoritmi di intelligenza artificiale, contenuti le cui caratteristiche dell’immagine primaria vengono sovrapposte a movimenti o espressioni facciali estremamente realistiche. Spesso, questa tecnica viene utilizzata per realizzazione di contenuto sessualmente espliciti, danneggiando gravemente l’immagine del soggetto coinvolto. 

La parte oscura di Telegram

Parallelamente coesiste il fenomeno dei canali Telegram che, grazie ad un accurato sistema di crittografia, permette la circolazione di materiale pornografico, spesso illegale, senza nessun genere di controlli. Una combo letale che, come in questi casi, arreca alle vittime innocenti danni anche dal punto di vista psicologico. Un vero e proprio reato ai danni della persona, ancora poco conosciuto e trattato, che necessita una maggiore considerazione, soprattutto nel mondo dei giovani. Un fenomeno in alrga crescita, si stima che il 98% dei video deepfake presenti online abbia contenuti pornografici e che il 99% delle vittime siano donne. Coinvolte soprattutto donne dello spettacolo, i quali volti sono stati oggetti di manipolazione sessuale per la creazione di video e immagini pornografiche. 

Una vicenda che pone i riflettori sulla parte oscura del mondo digitale, aprendoci gli occhi su quanto sia sempre più pericoloso l'abuso di determinati software o determinate piattaforme, il cui utilizzo scorretto può danneggiare gravemente terze persone. Probabilmente un fenomeno che, ancora ad oggi, non viene adeguatamente preso in considerazione, rischiando di incorrere in situazioni sempre più gravi e pericolose.