I #deepfake stanno aggiungendo un aspetto insidioso agli schemi di #sextorsion, avverte il #FederalBureauofInvestigation (#FBI). C'è stato un tempo in cui gli schemi di sextorsion coinvolgevano principalmente materiale digitale ottenuto con coercizione o rubato alle vittime. Ma il FBI sta ora lanciando l'allarme sul fatto che i deepfake stanno cambiando la natura di questo crimine.

Alcuni estorsori stanno ricorrendo alla tecnologia per creare immagini o video sessualmente espliciti partendo da contenuti apparentemente innocui pubblicati online, secondo un nuovo avviso del centro di reclami per i crimini informatici del bureau (#IC3).

L'obiettivo è generalmente lo stesso di un classico schema di sextorsion: il criminale vuole un pagamento per mantenere il materiale compromettente offline, o talvolta utilizza i file come leva per spingere la vittima a inviare nuovi contenuti espliciti. La differenza con i deepfake è che una persona potrebbe apparire in un'immagine o in un video credibile senza mai averlo intenzionalmente voluto, avverte il FBI.

"L'FBI continua a ricevere segnalazioni da vittime, compresi minori e adulti non consenzienti, le cui foto o video sono stati alterati in contenuti espliciti", ha dichiarato il bureau. "Le foto o i video vengono poi diffusi pubblicamente sui social media o su siti pornografici, con lo scopo di perseguitare le vittime o per schemi di sextorsion".

I warning sui deepfake, noti anche come "media sintetici" generati con strumenti di apprendimento automatico o intelligenza artificiale, circolano da anni, poiché tecnologi, esperti di sicurezza informatica ed enti governativi cercano di combatterne l'uso in truffe, operazioni di influenza o spionaggio.

Le materie prime per i deepfake sono aumentate negli ultimi anni, con il FBI che segnala un aumento delle segnalazioni da parte di vittime che sono apparse in contenuti espliciti basati su materiale "pubblicato sui loro siti di social media o su post sul web, fornito all'attore malintenzionato su richiesta o registrato durante videochat".

Questa nuova forma di sextorsion, alimentata dalla tecnologia dei deepfake, mette in evidenza sia i vantaggi che gli svantaggi dell' #intelligenzaartificiale. Mentre l'IA ha portato numerosi progressi e opportunità positive in vari settori, inclusi l'elaborazione delle immagini e la generazione di contenuti creativi, è anche diventata una minaccia per la sicurezza online.

I deepfake offrono la possibilità di creare immagini e video incredibilmente realistici, ma questa stessa capacità è stata sfruttata da individui malintenzionati per scopi illegali e dannosi. La facilità con cui si possono manipolare e alterare i contenuti digitali rappresenta una grave minaccia per la privacy, l'integrità e la sicurezza delle persone.

L'FBI e altre agenzie di sicurezza stanno cercando di contrastare l'abuso dei deepfake attraverso avvisi pubblici, collaborazioni internazionali e lo sviluppo di tecnologie di rilevamento. Tuttavia, il fenomeno dei deepfake rappresenta una sfida in continua evoluzione, in quanto le tecniche di creazione e manipolazione migliorano costantemente.

È fondamentale che le persone mantengano un atteggiamento di cautela quando si tratta di condividere contenuti online e interagire con estranei. La consapevolezza dei rischi legati ai deepfake e l'adozione di buone pratiche di sicurezza digitale sono essenziali per proteggersi da questo tipo di truffe.

Tweet