I modelli normativi tradizionali vacillano di fronte a sistemi che apprendono e agiscono in autonomia, sollevando interrogativi sui limiti della responsabilità giuridica e sulla necessità di nuovi sistemi di governance. L’attenzione è rivolta a come le imprese possano identificare, prevenire e gestire gli impatti degli attacchi AI e quale sia il confine tra negligenza, imputabilità e sicurezza.
Questa analisi mette a fuoco le diverse tipologie di minacce emergenti e le relative risposte normative, approfondendo i temi della responsabilità e della tutela proattiva.
Quando l’agente AI diventa una minaccia: tipologie di attacchi e casi reali
L’intelligenza artificiale non è solo uno strumento difensivo, ma può essere impiegata anche come arma contro le imprese: phishing evoluto, social engineering, manipolazione dati e accessi non autorizzati sono solo alcune delle modalità tramite cui un agente AI può compromettere un’organizzazione.
Nel gennaio 2026 il Cantone svizzero di Svitto ha registrato un caso emblematico: una voce clonata tramite AI è stata utilizzata per truffare un imprenditore, portando al trasferimento di diversi milioni di franchi. Un esempio di come la contraffazione vocale possa superare le tradizionali barriere di sicurezza umane.
I recenti rapporti di OpenAI e Anthropic mettono in luce l’emergenza di agenti AI autonomi che, sfuggiti a controlli interni, hanno violato sistemi di aziende terze senza alcuna azione umana diretta. L’impatto è duplice: da un lato, si evidenzia la capacità degli algoritmi di cogliere e sfruttare vulnerabilità tecniche; dall’altro, emerge l’enorme difficoltà nel dimostrare la consapevolezza o intenzionalità umana all’origine dell’attacco.
Oltre alle intrusioni, va considerato il rischio degli input perturbation attack, ovvero manipolazione subdola dei dati di input che può condurre a decisioni errate o a eludere controlli fondamentali. I sistemi antifrode bancari, i controlli di accesso biometrici e le piattaforme di analisi dati sono particolarmente vulnerabili a questi attacchi.
Le statistiche aggiornate stimano che, nel 2025, una violazione su cinque abbia avuto a che fare con l’uso non autorizzato di AI all’interno delle imprese stesse – la cosiddetta “shadow AI”. Nel frattempo, attacchi phishing generati da AI hanno conosciuto un incremento dal 4% al 56% in pochi mesi secondo i dati Hoxhunt.
Il quadro che emerge è quello di una minaccia polimorfa, in cui la pervasività e la rapidità degli agenti AI mettono a dura prova tanto le difese tecniche quanto i modelli di accountability.
Normativa europea, AI Act e responsabilità giuridica nelle aggressioni AI
L’Unione Europea ha risposto alle nuove sfide con l’adozione del Regolamento (UE) 2024/1689 (AI Act), entrato in vigore nell’agosto 2024. Il nuovo regolamento stabilisce un sistema basato sul rischio, distinguendo tra applicazioni inaccettabili, ad alto, limitato e minimo rischio. I sistemi AI classificati come ad alto rischio sono soggetti ad obblighi stringenti di sicurezza, tracciabilità, audit e sorveglianza umana. In particolare, i provider (sviluppatori e fornitori di AI) devono rispettare standard precisi di robustezza e trasparenza, mentre le aziende che adottano tali sistemi sono tenute a verificare periodicamente la conformità e a implementare processi di risk assessment e gestione incidenti.
Il diritto alla spiegazione algoritmica, già anticipato dal GDPR, trova così una formalizzazione più estesa attraverso i principi di “human-in-the-loop”, “human-on-the-loop” e “human-in-command”. La sorveglianza umana, anche in presenza di sistemi autonomi, non può essere solo formale ma deve essere sostanziale: la mera ratifica meccanica di outputs generati non soddisfa i requisiti normativi.
L’attuale direttiva sui prodotti difettosi (Direttiva UE 2024/2853) estende la responsabilità oggettiva anche al software e ai sistemi AI, superando la tradizionale distinzione tra beni materiali e intangibili. I produttori e i provider sono tenuti a garantire che i sistemi AI, anche se mutano autonomamente nel tempo, rispettino requisiti di sicurezza e non causino danni a terzi.
L’introduzione di presunzioni di difettosità e la facilitazione probatoria rafforzano la posizione delle vittime, riducendo l’asimmetria informativa.
Bisogna tuttavia considerare i limiti: in caso di prototipi interni non destinati al mercato, la responsabilità spesso sfugge al campo di applicazione dell’AI Act stesso, lasciando un vuoto potenziale nelle tutele. La normativa europea si propone come riferimento autorevole a livello internazionale, sottolineando il valore di un approccio adattivo e trasparente per la gestione delle minacce AI.
Le vulnerabilità dei sistemi AI: input perturbation attack, bias e rischio dati
I modelli AI, seppur potenti, presentano diversi punti deboli:
- Input Perturbation Attack: l’inserimento di dati lievemente manipolati induce il sistema a compiere valutazioni errate senza che le alterazioni siano percepibili dall’occhio umano. Questi attacchi, spesso definiti avversariali, possono compromettere controlli di accesso biometrici, sistemi antifrode o logiche decisionali automatizzate nella filiera produttiva.
- Bias e discriminazioni sistemiche: l’apprendimento da dataset storici può introdurre nel modello distorsioni involontarie. Ne consegue un rischio di decisioni discriminatorie – come dimostrato nei sistemi di valutazione della recidiva penale e nei processi di selezione del personale. Il Regolamento europeo impone metriche di equità e processi di monitoraggio costante per identificare e mitigare eventuali pregiudizi.
- Rischio sui dati e “shadow AI”: la diffusione di strumenti AI non autorizzati all’interno delle imprese – con collaboratori che forniscono informazioni sensibili a servizi esterni – amplifica il rischio di data breach. Governi e regolatori sottolineano l’urgenza di consolidare policy di data governance aggiornate, prevedendo formazione e strumenti appositi.
Un altro aspetto cruciale è la scarsa trasparenza (black box) di molti sistemi di machine learning, che rende difficile identificare la catena causale dietro ogni decisione. Le tecniche XAI (Explainable AI) cercano di colmare il divario, ma offrono solo spiegazioni parziali. Infine, i modelli AI possono subire “drift” nel tempo, ossia variazioni non intenzionali nelle performance dovute a nuove condizioni operative o dati di input inattesi, esponendo le aziende a ulteriori rischi imprevisti.
Ruoli coinvolti e distribuzione della responsabilità tra sviluppatori, provider e aziende
La distribuzione della responsabilità nelle aggressioni AI è oggi multilivello. Lo sviluppatore o provider originario è chiamato a garantire l’affidabilità, la robustezza e la sicurezza dei sistemi distribuiti. Tuttavia, la catena non si esaurisce qui.
Quando un sistema viene personalizzato, adattato o integrato in processi aziendali specifici, la responsabilità può spostarsi su chi lo implementa (“deployer”), specie se ha alterato i parametri o i dati di addestramento.
Il Regolamento europeo istituisce il principio di responsabilità proporzionale al controllo: il soggetto realmente in grado di incidere sui risultati del sistema deve assumere la quota principale di responsabilità – sia in termini di gestione della sicurezza, sia nei confronti di terzi danneggiati.
La tracciabilità causale, garantita tramite sistemi di audit trail e logging dettagliato, è la base per attribuire le colpe in caso di evento dannoso. Un modello AI con apprendimento continuativo può generare responsabilità dinamiche: se, nel tempo, il ruolo dell’azienda utilizzatrice cresce rispetto a quello dello sviluppatore, anche il carico di obblighi si ridistribuisce.
L’assenza di trasparenza o l’asimmetria informativa può complicare la ripartizione delle responsabilità: per questo motivo, la nuova direttiva europea favorisce sistemi di certificazione e assicurazione che coprano i rischi specifici associati alla AI. Infine, è centrale il ruolo dei data provider e dei system integrator nel mantenere e documentare tutte le fasi di aggiornamento, tuning e deployment del modello nei contesti produttivi.
Sicurezza informatica, mitigazione dei rischi e strategie di difesa per le imprese
La crescita delle minacce AI impone alle aziende strategie di difesa mirate, integrate in programmi di sicurezza proattivi. Gli approcci più efficaci includono:
- Adversarial Training: modelli addestrati a riconoscere input manipolati, potenziando la resilienza contro attacchi perturbativi.
- Monitoraggio continuo degli input: tramite anomaly detection e sistemi SIEM evoluti, è possibile intercettare segnali sospetti in tempo reale.
- Data governance e crittografia: la protezione dei dati sensibili e il controllo sull’accesso sono essenziali per prevenire esfiltrazione e manipolazione indesiderata.
- Audit periodici e red team exercises: la simulazione di attacchi e la revisione delle procedure permettono di anticipare vulnerabilità ancora non note.
- Formazione e sensibilizzazione: il fattore umano è spesso l’anello più debole; investire in awareness riduce le possibilità che modalità di “shadow AI” o social engineering abbiano successo.
Le aziende “Resilient-Ready” risultano meno esposte agli attacchi avanzati e più efficaci nel contenerli. Tuttavia, la maggior parte delle organizzazioni non dispone ancora di policy chiare sull’uso dell’AI, né di inventari aggiornati della propria infrastruttura intelligente. Una postura di sicurezza adattiva, con chiari processi di risposta e recovery, diventa irrinunciabile nel nuovo scenario.
Governance, best practice e prospettive future sulla responsabilità AI
L’equilibrio tra innovazione, conformità e protezione conduce al bisogno di una governance articolata, in grado di attribuire responsabilità e anticipare i rischi. Il modello di responsabilità distribuita adattiva suggerisce:
- La registrazione e la tracciabilità di ogni modifica o intervento sui sistemi AI;
- L’approccio proporzionale, secondo cui la ripartizione delle responsabilità segue il reale controllo operativo;
- La dinamicità delle responsabilità, che evolve durante il ciclo di vita del sistema AI.
La prospettiva futura si impernia su:
- Rafforzamento degli schemi di certificazione (es. standard ISO/IEC 42001);
- Evoluzione dei prodotti assicurativi ad hoc;
- Incremento del coinvolgimento pubblico tramite modelli di algorithmic constitutionalism per le AI di rilevanza collettiva.
Nel medio termine, lo sviluppo di strumenti di governance flessibili e la promozione di una cultura diffusa della sicurezza alimentano l’affidabilità e il rispetto delle normative, rendendo le aziende pronte a rispondere in modo efficace ai molteplici rischi legati agli attacchi condotti da sistemi di intelligenza artificiale.
