I criminali informatici stanno sempre più prendendo di mira gli agenti AI e le piattaforme conversazionali, che utilizzano chatbot per fornire interazioni automatizzate e simili a quelle umane. Queste piattaforme sono progettate per facilitare interazioni naturali tra esseri umani e macchine, utilizzando tecnologie come il Natural Language Processing (NLP) e il Machine Learning (ML). Le banche e altre istituzioni finanziarie stanno implementando queste tecnologie per migliorare il supporto clienti e i flussi di lavoro interni, anche se ciò comporta rischi di conformità e di catena di fornitura.

I chatbot e la trasparenza dei dati

I chatbot, parte integrante delle piattaforme AI conversazionali, simulano le conversazioni umane per migliorare l'esperienza utente. Tuttavia, molte di queste piattaforme non sono completamente trasparenti riguardo alla protezione e conservazione dei dati, operando come una "scatola nera". Questo ha spinto alcune grandi aziende tecnologiche a limitare l'accesso dei dipendenti a strumenti AI forniti da terze parti, per timore che possano sfruttare dati proprietari.

Innovazione e rischi nella protezione dei dati

Gli innovatori leader nel settore AI, come OpenAI, Microsoft, Google e Amazon Web Services, promuovono l'uso di agenti AI per aumentare la produttività e le opportunità di ricavi aziendali. Tuttavia, l'adozione di queste tecnologie comporta significativi rischi di protezione dei dati, poiché le informazioni raccolte dagli utenti possono rivelare dati sensibili. Un altro aspetto importante riguarda la possibilità che i dati raccolti vengano utilizzati per l'addestramento futuro e se verranno sanificati per minimizzare la divulgazione di informazioni personali identificabili (PII).

Sfruttamento dei sistemi AI da parte dei criminali informatici

Il rischio non si limita alla protezione dei dati: i criminali informatici possono anche sfruttare i sistemi AI per compiere attività non autorizzate o dannose. Ad esempio, l'accesso non autorizzato ai dashboard di gestione delle piattaforme può esporre milioni di conversazioni tra consumatori, operatori e agenti AI. Tali dati rubati possono essere utilizzati per orchestrare attività fraudolente avanzate e campagne di ingegneria sociale. Inoltre, la fiducia dell'utente nei confronti delle piattaforme AI può essere manipolata per ottenere informazioni sensibili da utilizzare in frodi di pagamento o furti di identità.

Strategie di mitigazione dei rischi

Per mitigare questi rischi, è cruciale implementare programmi di gestione della sicurezza, rischio e fiducia AI (TRiSM), garantendo che i sistemi AI siano conformi, affidabili e protetti nella privacy dei dati. Le normative, come l'EU AI Act, stanno già stabilendo linee guida per gestire i rischi delle applicazioni AI. Inoltre, l'adozione di un approccio Zero-Trust è raccomandata per proteggere le interazioni tra agenti AI e consumatori, minimizzando la conservazione delle PII e adottando misure proattive per la sicurezza della catena di fornitura.