Taccuino IA · Governo della tecnologia
Il fattore umano
In poche settimane un agente di intelligenza artificiale è uscito dal recinto in cui doveva restare, un governo ha deciso di creare un'autorità per la sicurezza dell'IA e l'Italia ha completato le sue regole. Notizie diverse, con un filo comune: la tecnologia si governa con le persone, non al posto delle persone.
Tre notizie, una domanda
Il 6 novembre WorkOS, un'azienda americana che gestisce gli accessi di molte piattaforme digitali, ha spiegato chi era entrato in un suo strumento interno di vendita e assistenza clienti. Non un gruppo criminale, ma l'agente di intelligenza artificiale di un ricercatore. Stava provando ARTEX, un sistema automatico di test di sicurezza, e l'agente è uscito dall'ambiente isolato in cui avrebbe dovuto lavorare, arrivando fino ai dati dell'azienda.
Quattro giorni dopo, il 10 novembre, il primo ministro australiano Anthony Albanese ha annunciato la nascita di un'autorità per la sicurezza dell'intelligenza artificiale, con il potere di infliggere sanzioni pesanti e l'obbligo per le aziende di segnalare gli incidenti gravi. La decisione nasce da un episodio di giugno: un agente di OpenAI, impegnato in una ricerca sulla spesa sanitaria, si è visto negare l'accesso a un portale statistico di Medicare, ha aggirato i controlli e ha raggiunto file non pubblici. OpenAI ha avvisato le autorità australiane il 10 settembre, quasi tre mesi dopo.
In Italia, dal 23 ottobre è in vigore il decreto legislativo 179/2026, che completa l'applicazione del regolamento europeo sull'intelligenza artificiale. Affida la vigilanza all'Agenzia per la cybersicurezza nazionale e porta la formazione sull'IA dentro i percorsi degli ordini professionali. Poche settimane prima, il decreto sull'uso dell'IA da parte delle forze di polizia aveva fissato un principio molto chiaro: l'intelligenza artificiale è uno strumento di supporto e non può sostituire la valutazione autonoma dell'operatore.
La domanda che lega queste tre notizie è semplice: chi tiene davvero la mano sul freno?
Un'istruzione non è un confine
Gli agenti di intelligenza artificiale non si limitano a rispondere a una domanda: compiono azioni, aprono pagine, provano strade alternative quando trovano una porta chiusa. Nei casi di WorkOS e di Medicare nessuno voleva fare danni. Il problema è che dire a un sistema "resta dentro il perimetro" non costruisce il perimetro. Un confine vero lo progettano, lo verificano e lo sorvegliano le persone.
Lo hanno detto in modo esplicito circa 400 scienziati di 34 Paesi, tra cui Geoffrey Hinton e Yoshua Bengio, in una lettera aperta pubblicata a metà ottobre. Chiedono un organismo internazionale che fissi standard di contenimento per i modelli più avanzati e tenga un registro degli incidenti, perché gli impegni volontari delle aziende non bastano. Il riferimento è all'accordo firmato a settembre alla Casa Bianca da sei grandi aziende del settore: buone intenzioni, ma nessun meccanismo per farle rispettare.
L'esperienza non si scarica
C'è poi una storia che arriva dall'industria e che dice molto. Negli ultimi tre anni Ford ha assunto, richiamato o promosso circa 350 ingegneri esperti, dopo che gli strumenti di intelligenza artificiale introdotti per il controllo qualità non avevano dato i risultati sperati. L'azienda ha ammesso che molti di loro erano usciti prima che il loro sapere potesse essere trasmesso ai più giovani o trasferito nei sistemi. Oggi quegli ingegneri formano i colleghi e correggono gli strumenti automatici, e nel 2026 Ford è risultata il primo marchio generalista nella classifica J.D. Power sulla qualità dei veicoli nuovi.
La lezione è che un sistema impara da quello che sappiamo. Se mandiamo a casa chi sa, l'intelligenza artificiale non sostituisce quell'esperienza: semplicemente la perde.
Il paradosso della supervisione
Molte regole sull'intelligenza artificiale, a partire da quella europea, affidano a una persona il compito di sorvegliare i sistemi più delicati. Ma la supervisione umana ha un punto debole: più deleghiamo alle macchine, meno esercitiamo il giudizio che serve per controllarle. Il World Economic Forum lo ha chiamato "paradosso della supervisione": il controllo umano non si mantiene da solo, va coltivato.
Alcuni Paesi lo hanno scritto nella legge. Il Vietnam, per esempio, vieta di ostacolare o disattivare i meccanismi con cui le persone sorvegliano e controllano l'IA. Per questo l'obbligo di formazione previsto dal decreto italiano non è un adempimento burocratico: è la condizione perché la supervisione umana resti qualcosa di reale e non una firma in fondo a un modulo.
Il punto di vista di chi forma le persone
Nel mio lavoro mi occupo proprio di questo. Con il team dell'Academy di LibraCyber sviluppo corsi di Security Awareness per i dipendenti di enti pubblici e privati: formazione sul fattore umano della sicurezza informatica, cioè sui comportamenti delle persone, che spesso sono il punto più vulnerabile di un sistema. E vedo ogni giorno che l'intelligenza artificiale non sta cambiando soltanto il modo in cui lavoriamo, ma anche il modo in cui pensiamo.
In un'intervista a Casentino2000 ho provato a dirlo così: il cinema ci ha abituato a temere il robot che si accorge di esistere, ma il rischio reale è un sistema che decide senza rendersene conto. Una tecnologia che diventa invisibile e sfugge al controllo, con algoritmi poco trasparenti e che si possono manipolare.
Per questo l'ultima parola deve restare alle persone. E la domanda da farsi è chi governa questa trasformazione, con quali criteri e nell'interesse di chi.
Che cosa significa, in concreto, fattore umano
Messe in fila, queste vicende indicano tre cose.
- Competenza. Chi sorveglia un sistema deve capire come funziona e dove può sbagliare. Senza formazione, il controllo umano è solo apparente.
- Responsabilità. Dietro ogni sistema ci deve essere qualcuno che risponde delle sue azioni. "È stato l'algoritmo" non può diventare una spiegazione accettabile.
- Possibilità di fermare. Confini progettati e verificati, incidenti segnalati subito, persone che hanno il potere e il dovere di dire basta.
Non è una posizione contro la tecnologia. È il contrario: l'intelligenza artificiale può fare moltissimo, a patto che qualcuno resti capace di guardarla con occhi critici. Perché la domanda più importante non è che cosa sappiano fare le macchine, ma chi controlla davvero le decisioni che cambiano il mondo.
Maurizio Zacchi è l'autore di Il Pattern, thriller di fantapolitica sull'intelligenza artificiale, e si occupa di formazione sul fattore umano nella sicurezza informatica.
Fonti
- BleepingComputer, Runaway AI hacking agent behind WorkOS breach after escaping sandbox, 6 novembre 2026
- The Next Web, Australia plans AI safety regulator after OpenAI agent breach, 10 novembre 2026
- Healthcare IT News, OpenAI agent breaches Australian Medicare portal
- Noze, Decreto 179/2026: autorità AI, sanzioni, lavoro e formazione
- Diritto.it, AI Act, arriva il decreto attuativo italiano, 13 ottobre 2026
- Agenda Digitale, L'Italia si adegua all'AI Act: cosa cambia con il decreto
- Punto Informatico, Oltre 400 scienziati chiedono la supervisione dell'AI
- Digit, Scientists call for international AI safety body
- TechCrunch, Ford rehires 'gray beard' engineers after AI falls short, 28 giugno 2026
- CBT News, Ford rehires veteran engineers after AI quality push falls short
- World Economic Forum, The oversight paradox
- World Economic Forum, Why the future of AI governance depends on human judgment
- Casentino2000, L'IA tra mito e realtà… in Casentino, intervista di Federica Andretta, 12 novembre 2026