I quattro rischi legati all’intelligenza artificiale che ogni dirigenza deve conoscere

L’euforia si scontra con la realtà

L’intelligenza artificiale non è più da tempo un tema puramente informatico, ma un fattore strategico di successo. Molte aziende stanno attualmente introducendo l’IA generativa a ritmo sostenuto. Tuttavia, i rischi ad essa associati vengono spesso considerati solo in modo superficiale.

Il concetto di «rischio legato all’IA» comprende diverse sfide. Quando si chiede cosa si intenda concretamente con questo termine, spesso l’attenzione si concentra inizialmente sugli attacchi hacker e sulle allucinazioni. Ciò può rappresentare una sfida strategica per le aziende. Infatti, i rischi che non vengono chiaramente identificati non possono essere né classificati in ordine di priorità, né delegati, né preventivati in modo adeguato.

Il «Cost of a Data Breach Report 2025» di IBM mostra quanto l’utilizzo effettivo sia in parte più avanzato rispetto alla gestione aziendale. In una su cinque delle aziende esaminate che hanno subito una violazione dei dati, ha avuto un ruolo l’IA «ombra», ovvero l’utilizzo dell’IA all’insaputa o senza l’autorizzazione del datore di lavoro. Il 63% delle aziende coinvolte non disponeva di alcuna linea guida sulla governance dell’IA.

L’utilizzo, quindi, spesso non inizia solo dopo un’autorizzazione ufficiale, ma direttamente nel browser. Ciò rende più difficile per le aziende mantenere una visione d’insieme dei flussi di dati e delle basi decisionali. Per la direzione aziendale si pone quindi sempre più spesso la questione di come l’utilizzo dell’IA possa essere controllato e strutturato.

Categoria 1: Rischio legato ai dati – cosa viene inserito?

Il rischio più immediato sorge quando i collaboratori forniscono informazioni agli strumenti di IA. Tra queste rientrano, ad esempio, documenti, e-mail, dati dei clienti o codice sorgente. A seconda del servizio e della configurazione, questi dati possono essere archiviati esternamente, trattati in altre giurisdizioni o utilizzati per l’addestramento di modelli futuri.

Le informazioni riservate possono così sfuggire al controllo dell’azienda senza che si verifichi un classico incidente di sicurezza o che la divulgazione sia stata autorizzata consapevolmente.

Quanto sia reale questo rischio è stato dimostrato nel marzo 2025 da un caso verificatosi in Australia. Un collaboratore esterno ha caricato su ChatGPT un foglio Excel con oltre 12’000 righe. Il file conteneva nomi, indirizzi e, in alcuni casi, informazioni sanitarie delle vittime di un’alluvione. È stato dimostrato che i dati personali di 2’031 persone sono stati esposti.

Non si è trattato né di un attacco né di malware. Un collaboratore ha semplicemente utilizzato uno strumento non autorizzato. Il modello di fondo è applicabile a molte aziende: i meccanismi di protezione costruiti nel corso degli anni non vengono superati, ma aggirati.

Un elenco di clienti che non verrebbe mai inviato via e-mail a soggetti esterni, ad esempio, può comunque essere digitato in una finestra di chat. In questo caso può risultare meno evidente che informazioni sensibili possano uscire dall’azienda in questo modo.

Allo stesso tempo, il volume dei dati è in aumento. Secondo l’«AI Adoption and Risk Report 2025» di Cyberhaven, ormai oltre un terzo dei dati inseriti dai collaboratori negli strumenti di IA è da considerarsi sensibile. La tendenza è in crescita.

Categoria 2: Rischio di output – Allucinazioni

I sistemi di IA possono fornire risposte formulate in modo coerente e convincente, indipendentemente dal fatto che le informazioni contenute siano corrette. Un modello può, ad esempio, inventare fonti, falsare calcoli, generare raccomandazioni parziali o proporre codice con vulnerabilità di sicurezza.

Il rischio non risiede quindi solo nella tecnologia, ma anche nel modo in cui vengono gestiti i suoi risultati. Le persone possono fidarsi dei risultati perché sono formulati in modo competente e basare su di essi decisioni concrete.

Il caso di Deloitte Australia, verificatosi nell’ottobre 2025, ha dimostrato che anche le aziende leader possono esserne colpite. In un rapporto di 237 pagine redatto per il governo australiano sono stati riscontrati errori generati dall’IA, riferimenti a studi inventati e una citazione di fantasia tratta da una sentenza della Corte federale. Deloitte ha dovuto rimborsare l’ultima rata dell’onorario pari a 440’000 dollari australiani. A ciò si è aggiunto un corrispondente danno alla reputazione.

Anche la magistratura si sta occupando sempre più spesso di questa problematica. Nel 2025, l’Alta Corte inglese ha chiarito, nella sentenza di riferimento sui casi Ayinde e Al-Haroun, che gli avvocati sono responsabili per i risultati dell’IA non verificati. In uno dei casi, 18 delle 45 sentenze citate erano di pura invenzione. A livello mondiale, fino all’inizio del 2026 sono stati documentati diverse centinaia di procedimenti giudiziari relativi a «allucinazioni» generate dall’IA.

Il fatto che anche il mercato prenda sul serio questo rischio è dimostrato dalla Lloyd’s di Londra. A partire dal 2025, infatti, verranno offerti prodotti assicurativi specifici per i danni causati dalle allucinazioni dell’IA.

Per i vertici aziendali ne deriva una conclusione fondamentale: le aziende devono quindi garantire che i contenuti generati dall’IA vengano adeguatamente verificati prima del loro utilizzo. Il rischio legato all’output è quindi soprattutto una questione di processo. Deve essere chiaramente definito in quali casi i risultati dell’IA possono essere utilizzati direttamente e in quali casi è necessaria una verifica da parte di una persona.

Categoria 3: Rischio di compliance – cosa prevede la legge

I rischi di compliance legati all’IA sono già una realtà. L’AI Act dell’UE entrerà in vigore in modo graduale. I divieti relativi alle pratiche non consentite sono in vigore dal febbraio 2025 e sono punibili con multe fino a 35 milioni di euro o pari al 7% del fatturato globale.

Gli obblighi per i fornitori di modelli di IA su larga scala entreranno in vigore a partire da agosto 2025. A partire dal 2 agosto 2026, la Commissione europea potrà infliggere in questo ambito multe fino a 15 milioni di euro o pari al 3% del fatturato. Sebbene al momento della chiusura di questa edizione non fosse ancora stata comminata alcuna multa, l’applicazione delle disposizioni è già iniziata.

Per le imprese svizzere è particolarmente rilevante il campo di applicazione. È determinante l’esposizione al mercato e non l’ubicazione del server.

La Svizzera persegue consapevolmente un approccio più snello. Nel febbraio 2025 il Consiglio federale ha deciso di non varare una propria legge sull’IA, puntando invece sulla Convenzione sull’IA del Consiglio d’Europa e su adeguamenti settoriali mirati.

Ciò non significa tuttavia che in Svizzera l’IA venga utilizzata in un vuoto giuridico. Nel 2025 l’Incaricato federale della protezione dei dati ha ribadito che la legge riveduta sulla protezione dei dati è direttamente applicabile ai trattamenti di dati basati sull’IA. Ciò include, in caso di rischi elevati, anche l’obbligo di effettuare una valutazione d’impatto sulla protezione dei dati.

La sfida di questa categoria consiste nel fatto che la non conformità può verificarsi già quando l’IA viene impiegata senza verificare sistematicamente la sua applicazione concreta rispetto ai requisiti vigenti.

Categoria 4: Rischio di attacco – L’IA contro la propria azienda

Mentre le prime tre categorie derivano dall’uso interno dell’IA, la quarta proviene dall’esterno.

Quanto possa essere immediato questo rischio è stato dimostrato nel gennaio 2026 da un caso verificatosi nel Cantone di Svitto. Secondo quanto riportato dalla SRF, un imprenditore ha trasferito diversi milioni di franchi in Asia. Il tutto era stato preceduto da una serie di telefonate protrattesi per due settimane, durante le quali i truffatori, avvalendosi di una voce clonata tramite IA, hanno imitato un partner commerciale di fiducia. Il caso è attualmente oggetto di indagine.

L’esempio è emblematico di una tendenza più ampia. Secondo la società di sicurezza Hoxhunt, tra novembre e dicembre 2025 la percentuale di attacchi di phishing generati dall’IA è salita dal 4 al 56 per cento. Nel 2025 il Federal Bureau of Investigation (FBI) ha classificato per la prima volta le frodi basate sull’IA come categoria a sé stante. Solo negli Stati Uniti sono stati segnalati danni per quasi 900 milioni di dollari USA.

La difesa si basa non tanto su tecnologie specifiche per l’IA, quanto piuttosto su discipline di sicurezza collaudate che devono essere adattate alla nuova natura degli attacchi. Tra queste figurano misure di sensibilizzazione che preparano i collaboratori a riconoscere messaggi e voci incredibilmente realistici, processi di approvazione robusti e un sistema di rilevamento in grado di stare al passo con la velocità degli attacchi.

La suddivisione in quattro aree trasforma il concetto generico di «rischio IA» in pacchetti di lavoro concreti e gestibili, con responsabilità ben definite. Le aziende che gestiscono con successo questo tema non dispongono necessariamente della tecnologia più avanzata. È invece fondamentale che identifichino e valutino i rischi nelle quattro categorie e pianifichino le relative misure di mitigazione.

Uno sguardo al futuro mostra che la necessità di agire continua ad aumentare. Gli obblighi relativi agli alti rischi previsti dall’EU AI Act entreranno in vigore in modo graduale fino alla fine del 2027. Con la norma ISO/IEC 42001 si afferma al contempo uno standard certificabile per i sistemi di gestione dell’IA.

Con agenti di IA che agiscono in modo sempre più autonomo, si crea inoltre un ulteriore punto vulnerabile. Già nel 2025 sono state documentate le prime vulnerabilità, in cui una singola e-mail manipolata è riuscita a sottrarre dati a un assistente di IA senza che questo se ne accorgesse.

Architettura & Di conseguenza, anche la domanda centrale si evolve: da «Chi utilizza quale strumento?» a «Quali sistemi agiscono in modo autonomo per nostro conto?».

Chi oggi procede a un inventario delle quattro categorie getta le basi per sviluppare la propria governance in modo mirato e strutturato.