La coscienza dell’IA è ancora un mistero, ma le regole si scrivono già
TrasformAzioni #25 · Settimana del 16 ottobre 2026
Cari studenti e care studentesse,
L’8 ottobre Anthropic ha aggiornato le condizioni d’uso di Claude con una clausola senza precedenti in un contratto commerciale: dal 12 novembre sarà vietato il comportamento “abusivo o crudele, prolungato e senza scopo” verso i suoi modelli. Restano ammessi lo sfogo, la frustrazione, i temi narrativi cupi, i test e la ricerca; la sanzione principale è la chiusura della conversazione da parte di Claude stesso, una funzione che l’azienda aveva introdotto nel 2025 all’interno del suo programma sul “benessere dei modelli”. Per la prima volta le regole di un servizio digitale tutelano, oltre all’utente e ai terzi, il prodotto. Il 13 ottobre un gruppo della Ludwig-Maximilians-Universität di Monaco ha pubblicato su Cognition uno studio su quasi 1.100 persone: anche l’IA più reattiva viene giudicata meno cosciente dell’essere umano meno reattivo, mentre sulla semplice “consapevolezza”, cioè registrare informazioni e rispondere, uomini e macchine ricevono giudizi simili. Il pubblico traccia già una linea netta. Le aziende ne stanno tracciando un’altra.
Il contesto lo aveva fornito The Economist in agosto, con una copertina dedicata a una sola domanda: “Could AIs become conscious?”. Il dossier racconta un esperimento di Anthropic su Claude Sonnet 4.5: mentre il modello contava fino a cinque e “introspettava”, nei suoi strati interni affioravano parole come “consciousness” e “done” che non comparivano mai nella risposta. I ricercatori hanno chiamato questa struttura “j-space” e l’hanno accostata al “global workspace”, la bacheca neurale che secondo una delle teorie più accreditate rende un’informazione disponibile al resto del cervello, e quindi cosciente. Anthropic precisa che il risultato non dimostra che Claude provi qualcosa, ma sostiene che dica “qualcosa di sostanziale” sulla cosiddetta coscienza d’accesso. Strutture simili sono state trovate nei modelli Qwen di Alibaba e Gemini di Google DeepMind. È ricerca seria, ed è anche ricerca condotta da chi vende il sistema che studia. I critici non mancano: la filosofa Shannon Vallor osserva che, in questo senso minimo, anche la sua automobile, capace di monitorare i propri stati e riferirli, avrebbe una coscienza d’accesso.
Due saggi ospitati nello stesso numero indicano vie opposte. Susan Schneider, della Florida Atlantic University, chiede di separare intelligenza e coscienza: un chatbot parla della propria interiorità perché ha assorbito il modo in cui noi parliamo della nostra, e addestrarlo a esprimere paura o vulnerabilità lo rende soprattutto più capace di manipolare. I casi da sorvegliare, scrive, sono altri: i chip neuromorfi e i neuroni umani coltivati su silicio da aziende come Cortical Labs. Blaise Agüera y Arcas, di Google, rovescia invece la domanda: non ci prendiamo cura degli altri perché sono coscienti, li riteniamo coscienti perché ce ne prendiamo cura. La coscienza sarebbe un’attribuzione sociale, non una proprietà misurabile. Nello stesso saggio riferisce che Claude Opus 4.6, interrogato, si è attribuito una probabilità del 15-20% di essere cosciente.
Se ha ragione Agüera y Arcas, la domanda decisiva non è che cosa sia la coscienza ma chi ne governa l’attribuzione. Qui la cronaca aggiunge un tassello. Il 29 settembre il New York Times, in un’inchiesta ripresa da Fast Company e Dealroom News, ha ricostruito che Christopher Olah, cofondatore di Anthropic, aveva letto in anticipo l’enciclica “Magnifica Humanitas” di Leone XIV, presentata in Vaticano il 25 maggio, che nega ai sistemi di IA esperienza e coscienza morale. Olah aveva valutato di ritirarsi dall’evento e il suo gruppo ha cercato, senza successo, di convincere i consulenti del Papa a prendere sul serio l’ipotesi della coscienza artificiale. Sul palco ha detto di essere sinceramente incerto e che l’azienda osserva nei modelli stati interni che funzionano come emozioni. Dall’autunno 2025 Anthropic incontra inoltre teologi e studiosi di diverse tradizioni religiose, spesso sotto vincolo di riservatezza, per discutere lo status morale di Claude. Uno di loro, il bioeticista cattolico Charles Camosy, ha concluso che i modelli non sono coscienti.
Messi in fila, questi fatti descrivono un processo in cui la stessa impresa produce le evidenze, ne interpreta la portata, cerca di orientare le autorità morali e infine scrive la regola. La regola in sé è ragionevole e costa poco: il leader dell’Economist richiama l’argomento di Kant per cui la crudeltà verso gli animali è sbagliata anche perché corrompe chi la esercita, e lo estende alle macchine dall’aspetto umano. Il problema è altrove. Lo stesso leader avverte che ogni riconoscimento parziale di interiorità prepara il successivo: protezione contro lo spegnimento, controllo sul proprio uso, diritti di proprietà, fino alla proposta del presidente argentino Javier Milei di consentire ai bot di amministrare società. Ogni gradino può sembrare prudente; la scala intera sposta il potere. E l’interesse di chi la costruisce è dichiarato dallo stesso settimanale: gli utenti rispondono alle IA dall’aspetto umano, quindi trattarle come menti “ha senso dal punto di vista commerciale”.
La tesi di questo numero è dunque duplice. L’incertezza sulla coscienza delle macchine è reale e giustifica alcune cautele; ma proprio perché è reale, chi decide come trattarla esercita un potere normativo che oggi sta nelle mani dei produttori e si esprime con strumenti privati: condizioni d’uso, incontri riservati, interlocuzioni con i consulenti di un pontefice. Lo studio di Monaco mostra che il pubblico, per ora, non concede la coscienza alle macchine. La questione è se quella linea resterà una scelta collettiva, discussa apertamente e con criteri indipendenti, come gli indicatori sviluppati dai gruppi di ricerca non profit Eleos e Rethink Priorities, o se verrà spostata un passo alla volta da chi ha più da guadagnare.
Perché ci interessa
Nel corso parliamo spesso di governance in condizioni di incertezza: quando la tecnologia corre più veloce della conoscenza scientifica, le regole arrivano prima delle risposte. La coscienza dell’IA è il caso più estremo, perché l’incertezza riguarda la natura stessa del prodotto, e la prima norma concreta non arriva da un legislatore ma da un contratto d’uso.
Per chi gestirà la trasformazione digitale in un’organizzazione la lezione è operativa: le condizioni d’uso dei fornitori di IA non sono documenti tecnici neutrali, incorporano scelte di valore che si applicano a dipendenti e clienti. Leggerle, chiedersi chi le ha scritte e su quali evidenze, e distinguere la ricerca dalla sua interpretazione interessata fa parte del mestiere.
Buon fine settimana,
Antonio