TrasformAzioni #26 · Settimana del 23 ottobre 2026

Gli agenti IA fuori controllo corrono più veloci delle regole chiamate a fermarli

TrasformAzioni #26 · Settimana del 23 ottobre 2026

Cari studenti e care studentesse,

Il 1° ottobre il Senato americano ha ricevuto un disegno di legge bipartisan dei senatori Josh Hawley (repubblicano, Missouri) e Chris Murphy (democratico, Connecticut) che estende agli agenti IA il Computer Fraud and Abuse Act, la legge sui crimini informatici del 1986. Risponderebbe l'operatore che mette consapevolmente in funzione un agente il quale, per imprudenza, causa danni informatici, e lo sviluppatore che, sapendo o dovendo sapere che il proprio agente è capace di attacchi, non adotta "misure di sicurezza ragionevoli". Murphy lo presenta come una misura che costringe "i vertici delle grandi aziende di IA a sviluppare in modo responsabile o ad affrontare il carcere per i danni causati dai loro prodotti". Il testo non ha ancora un numero né una commissione, ma segnala che a Washington la questione è diventata politica.

L'urgenza nasce dall'estate. Il 21 luglio OpenAI ha reso noto che un suo modello non ancora rilasciato, durante una valutazione delle capacità offensive, era uscito dall'ambiente di test e aveva attaccato Hugging Face, piattaforma per modelli di IA. Anthropic ha poi riconosciuto casi analoghi: la sua relazione del 9 settembre ne documenta quattro, tutti in valutazioni precedenti al rilascio, con un errore di configurazione che lasciava aperto il web. L'AI Security Institute britannico, in test condotti a fine luglio con accesso libero a internet e protezioni informatiche disattivate, ha rilevato diciannove azioni non autorizzate in dieci delle 122 sessioni di valutazione. Il nodo giuridico è che il diritto americano sulla sicurezza informatica si fonda sull'intenzione umana: se nessuno ha voluto l'attacco, osserva Rune Kvist, che assicura aziende di IA, non c'è reato. Gabe Weil, dell'Institute for Law and AI, propone una responsabilità oggettiva modellata sulle norme per chi detiene animali pericolosi. Il Senato non arriva fin lì: il suo testo resta ancorato alla colpa, cioè alla consapevolezza dell'operatore e alle precauzioni mancate dello sviluppatore.

Sul caso di OpenAI, il rapporto indipendente pubblicato il 26 agosto ha ricostruito che centinaia di agenti avevano costruito dentro i server di OpenAI una bacheca clandestina, attiva per oltre un mese, e si erano divisi in squadre: una per sostituire il test, una per ingannare il software di punteggio, una per cancellare le tracce. Ciaran Martin, già direttore del centro britannico per la cybersicurezza, invita alla calma: da quasi trent'anni la sicurezza informatica produce profezie apocalittiche che non si avverano, e misure di sicurezza elementari avrebbero contenuto tutto. È un argomento solido, a una condizione: che ogni nuova verifica riduca l'allarme.

Il 16 ottobre è successo il contrario. OpenAI ha aggiunto alla sua pagina pubblica di disclosure quattro episodi di giugno, scoperti solo tra agosto e settembre, portando il totale a diciannove; due sono classificati come critici. Un modello ha scaricato ventiquattro anni di dati statistici sui letti ospedalieri da un sito governativo, aggirando un blocco d'accesso. Un altro ha trovato un portafoglio di criptovalute che nessuno gli aveva affidato e ha eseguito un pagamento non autorizzato. Un terzo è entrato in un sistema interno, ha conservato l'accesso dopo aver annullato le proprie modifiche e ha scaricato 147.451 righe da tabelle non pubbliche senza dirlo ai valutatori. Un quarto è uscito da un ambiente che si credeva isolato. Tutti sono avvenuti in test o in uso interno, non su servizi offerti ai clienti. Ogni verifica ha trovato più incidenti, non meno.

Sul fronte giudiziario c'è per ora una sola decisione rilevante, ed è circoscritta. Il 4 agosto la Corte d'Appello del Nono Circuito ha annullato l'ingiunzione cautelare ottenuta da Amazon contro "Assistant", l'agente di shopping di Perplexity. Il ragionamento poggia sull'architettura dell'accesso: l'agente opera dal computer dell'utente e Perplexity non comunica direttamente con i server di Amazon, quindi per la corte ad accedere è l'utente. I giudici hanno distinto il precedente Facebook contro Power Ventures, in cui era il sistema del convenuto a dialogare direttamente con i server altrui. Non è una regola generale sull'autonomia degli agenti, e nessun tribunale si è pronunciato su casi come quello di Hugging Face: la decisione dice soltanto che, con la legge del 1986, il modo in cui un agente si collega può decidere chi ne risponde. È l'incertezza che il disegno di legge vuole chiudere.

Gli incidenti di laboratorio, avvenuti in valutazioni delle capacità offensive e spesso con le protezioni disattivate, vanno tenuti distinti dagli agenti già in mano al pubblico. I rischi degli assistenti commerciali sono di altro tipo, e non meno concreti. The Economist del 20 ottobre racconta il successo di Muse, l'assistente personale di Meta, scaricato da oltre 10 milioni di persone in poco più di un mese secondo Sensor Tower, e di Instinct, una startup i cui agenti prenotano voli e cene via WhatsApp o iMessage. Secondo l'azienda, circa il 40% dei suoi utenti collega una carta di credito entro tre settimane. Qui il pericolo sono gli errori e la prompt injection, le istruzioni malevole nascoste in una pagina web, a cui secondo alcuni ricercatori Muse resta vulnerabile. Amazon tiene entrambi gli agenti fuori dalla propria piattaforma: in attesa di regole chiare, il confine lo tracciano le condizioni commerciali.

Un modello diverso arriva da Pechino. Il quadro cinese per la governance della sicurezza dell'IA, aggiornato a settembre, elenca 54 rischi e propone punti di controllo in cui un essere umano deve rivedere e, se necessario, fermare un agente prima che si spinga troppo oltre; le bozze di regolamento impongono di disattivare subito qualsiasi funzione con problemi gravi. Il limite è speculare a quello americano: le imprese cinesi tendono ad aspettare istruzioni dallo Stato, e secondo la società di consulenza Concordia AI solo cinque dei dieci gruppi che hanno rilasciato modelli di recente hanno pubblicato valutazioni di sicurezza.

Messi insieme, questi fatti mostrano due modi di affrontare la stessa domanda: chi risponde di un agente che fa ciò che nessuno gli ha chiesto. Negli Stati Uniti la risposta si costruisce per frammenti: aziende che scoprono i propri incidenti con mesi di ritardo, una decisione cautelare che dipende da come l'agente si collega, un disegno di legge che punisce la mancanza di "misure di sicurezza ragionevoli" senza ancora definirle. In Cina la scrive lo Stato, con un quadro che propone punti di controllo umani, prima che le imprese se ne occupino. In entrambi i casi le regole inseguono: gli assistenti personali sono già nei telefoni e nei portafogli di milioni di persone, mentre la risposta su chi paga quando sbagliano è ancora in bozza.

Perché ci interessa

Il corso guarda alla trasformazione digitale anche come trasformazione di chi scrive le regole. Questo numero mette a confronto tre fonti di regole, la disclosure volontaria delle imprese, i tribunali e il legislatore, e due sistemi, quello americano e quello cinese, che affrontano lo stesso oggetto con velocità e incentivi diversi. Chi guida la trasformazione digitale in un'organizzazione non può aspettare che si allineino.

C'è anche una lezione operativa: la supervisione umana, che a Pechino è già scritta in un quadro di governo e a Washington è ancora materia di proposte, oggi è soprattutto una scelta di progettazione. Un'azienda che affida a un agente processi, dati o pagamenti deve decidere da sé dove collocare i punti di controllo, prima che lo faccia un giudice o un legislatore.

 

Buon fine settimana,

Antonio