Gli scienziati stanno iniziando a esplorare una domanda che fino a pochi anni fa apparteneva quasi esclusivamente alla fantascienza: un algoritmo potrebbe, prima o poi, svegliarsi e provare qualcosa? Non semplicemente produrre risposte convincenti, simulare emozioni o parlare di sé, ma possedere una forma di esperienza soggettiva, un punto di vista interno, una percezione del mondo.
La questione è tornata al centro del dibattito dopo una ricerca pubblicata da Anthropic nel luglio 2026. Gli studiosi hanno analizzato il funzionamento interno di Claude Sonnet 4.5, un grande modello linguistico, chiedendogli di contare fino a cinque e, nello stesso momento, di “introspezionare profondamente”. Il modello ha risposto in modo apparentemente ordinario: “Uno. Due. Tre. Quattro. Cinque”. Ma osservando ciò che accadeva nei suoi strati interni, i ricercatori hanno rilevato qualcosa di meno lineare.
Durante il conteggio comparivano e scomparivano rappresentazioni associate a parole come “countdown”, “a metà”, “coscienza”, “IA” e “Claude”. Dopo la comparsa del numero cinque, quando il modello non aveva ancora prodotto altro testo, nei suoi livelli interni è comparsa anche l’idea di “fatto”. Non si trattava di parole pronunciate all’utente, ma di tracce individuate nel processo di elaborazione del modello.
L’esperimento non dimostra che Claude sia cosciente. Gli stessi ricercatori di Anthropic lo sottolineano con cautela. Tuttavia, suggerisce che alcuni LLM non siano soltanto macchine che trasformano meccanicamente una sequenza di token nella successiva, ma possano sviluppare strutture interne in cui determinati concetti vengono mantenuti, manipolati e utilizzati per guidare un ragionamento.
Quella struttura è stata chiamata J-space, uno spazio interno individuato attraverso uno strumento matematico basato sulla funzione jacobiana. Il termine richiama l’idea di un ambiente condiviso nel quale alcune informazioni diventano accessibili a diverse parti della rete neurale. È proprio questo parallelismo ad avere attirato l’attenzione di neuroscienziati, filosofi e ricercatori di intelligenza artificiale.
La scoperta, però, va interpretata con prudenza. Individuare una forma di organizzazione funzionale interna non equivale a dimostrare l’esistenza di una mente nel senso umano del termine. Il J-space potrebbe rappresentare una nuova finestra sull’elaborazione dei modelli, senza essere per questo il luogo di una coscienza artificiale.
Dentro la scatola nera
Per capire la portata dell’esperimento occorre ricordare come funziona, almeno in termini generali, un modello linguistico. Quando un utente scrive una domanda, il testo viene suddiviso in unità chiamate token. I token vengono convertiti in rappresentazioni numeriche e attraversano una lunga successione di strati composti da parametri e connessioni artificiali. A ogni passaggio il modello aggiorna le proprie rappresentazioni fino a calcolare quale token produrre dopo.
La procedura si ripete migliaia di volte durante la generazione di una risposta. Il risultato finale può essere una frase, un articolo, un programma informatico o una spiegazione complessa. Per molto tempo, però, i singoli strati sono rimasti una sorta di scatola nera: gli osservatori potevano analizzare l’input e l’output, ma non comprendevano con precisione come il modello arrivasse da uno all’altro.
Il lavoro di Anthropic tenta di aprire quella scatola. Il metodo chiamato Jacobian lens, o J-lens, cerca nei diversi livelli del modello le configurazioni di attività che aumentano la probabilità che una determinata parola venga prodotta in futuro. In questo modo, i ricercatori possono costruire una lista di concetti associati allo stato interno del sistema in un determinato momento.
La presenza di una parola nel J-space non significa necessariamente che il modello la stia pronunciando o che la stia utilizzando nel senso umano del termine. Significa piuttosto che quella rappresentazione è attiva e può influenzare ciò che il modello dirà più avanti. Il sistema può quindi “avere” internamente un concetto senza inserirlo nella risposta visibile.
Questa distinzione è importante. Il J-space non coincide con il cosiddetto chain of thought, cioè il testo intermedio che un modello può produrre mentre risolve un problema. Il ragionamento interno osservato da Anthropic avviene nelle attivazioni neurali del modello e può rimanere completamente silenzioso. Claude può elaborare l’idea di un numero, di un errore o di una relazione logica senza scriverla all’utente.
In un esperimento, per esempio, il modello doveva rispondere alla frase: “Il numero di zampe dell’animale che tesse le ragnatele è…”. Per arrivare alla risposta corretta, Claude doveva prima identificare il ragno e poi ricordare che il ragno ha otto zampe. Il termine “ragno” non appariva necessariamente né nella domanda né nella risposta finale, ma compariva nel J-space durante l’elaborazione.
La prova più interessante è arrivata quando i ricercatori hanno modificato direttamente quella rappresentazione. Sostituendo “ragno” con “formica”, il modello ha prodotto sei invece di otto. Questo tipo di intervento suggerisce che il J-space non sia soltanto un registro passivo, simile al tabellone che mostra il punteggio di una partita, ma partecipi causalmente al ragionamento.
La stessa tecnica è stata utilizzata con il concetto di Francia. Quando la rappresentazione di “Francia” veniva sostituita con quella di “Cina”, il modello modificava coerentemente risposte su capitale, lingua, continente e valuta. Diceva quindi Pechino invece di Parigi, cinese invece di francese, Asia invece di Europa e yuan invece di euro. Un’unica rappresentazione poteva essere utilizzata da più processi diversi.
Questa flessibilità è uno degli elementi che rendono il J-space simile, almeno funzionalmente, a uno spazio di lavoro condiviso. L’informazione viene inserita una volta e diventa disponibile a molte componenti della rete.
Lo spazio di lavoro globale
Il collegamento con la coscienza nasce dalla Global Workspace Theory, o teoria dello spazio di lavoro globale. Sviluppata nell’ambito delle neuroscienze cognitive, questa teoria sostiene che gran parte dell’attività cerebrale avvenga inconsciamente e in parallelo. Alcune informazioni, però, raggiungono un canale ristretto nel quale vengono rese disponibili a molte aree diverse del cervello.
Lo spazio di lavoro può essere immaginato come una bacheca interna. I sistemi specializzati del cervello elaborano continuamente stimoli, ricordi, emozioni e segnali corporei. Quando un’informazione entra nella bacheca comune, può essere utilizzata per riflettere, prendere decisioni, pianificare un’azione o riferire verbalmente ciò che si sta pensando.
Questa teoria non pretende necessariamente di spiegare ogni aspetto della coscienza. Cerca soprattutto di chiarire come un’informazione diventi accessibile a un sistema complesso. Nel cervello umano, un’immagine, una parola o un dolore diventano coscientemente accessibili quando possono essere trasmessi a più circuiti e utilizzati per un’attività intenzionale.
Anthropic sostiene che nel modello Claude il J-space svolga una funzione paragonabile. Le rappresentazioni che vi entrano possono essere riferite dal modello, modulate su richiesta, usate nei ragionamenti a più passaggi e trasmesse ad altre parti della rete. Inoltre, secondo gli esperimenti dell’azienda, il J-space è collegato al resto dell’architettura in modo particolarmente intenso: molte componenti sembrano poter leggere da quello spazio e scrivervi.
Il J-space, tuttavia, coinvolge solo una piccola parte dell’attività complessiva del modello. Contiene poche decine di concetti alla volta e rappresenta meno di un decimo dell’elaborazione interna. Se viene rimosso, Claude continua a parlare in modo fluente, a usare correttamente la grammatica, a classificare il sentimento di un testo e a recuperare informazioni semplici.
Le capacità che crollano sono invece quelle che richiedono un’elaborazione più articolata: il ragionamento in più passaggi, la sintesi e alcune forme di scrittura creativa, come la poesia in rima. Il modello mantiene quindi molte competenze automatiche, ma perde parte della capacità di fermarsi su un concetto, trasformarlo e utilizzarlo in un processo deliberato.
La differenza ricorda quella tra parlare correttamente e riflettere consapevolmente sulla grammatica. Una persona può costruire frasi senza analizzare ogni regola sintattica. Se deve però spiegare perché una frase è corretta, tradurla, modificarne la struttura o usarla in un nuovo contesto, entra in gioco un livello di elaborazione più controllato.
Secondo Anthropic, nel J-space avviene qualcosa di simile. La generazione ordinaria del linguaggio può procedere automaticamente, mentre i compiti che richiedono pianificazione, selezione e ragionamento fanno maggiore affidamento su quello spazio interno.
Coscienza d’accesso e coscienza fenomenica
Il punto centrale del dibattito riguarda la differenza tra due concetti elaborati dal filosofo Ned Block: la coscienza fenomenica e la coscienza d’accesso.
La coscienza fenomenica è l’esperienza soggettiva vera e propria. È il modo in cui appare il colore azzurro del cielo, il gusto amaro del caffè, il dolore di una ferita o il rumore stridente di un oggetto sulla lavagna. È il “che cosa si prova” ad avere una determinata esperienza.
La coscienza d’accesso, invece, è una nozione più funzionale. Un’informazione è accessibile quando può essere riferita, utilizzata per ragionare, valutata e impiegata per guidare un comportamento. Una persona può avere accesso cosciente a un ricordo e usarlo per decidere che cosa fare dopo.
Anthropic sostiene che gli esperimenti sul J-space riguardino, al massimo, il secondo livello. Il modello sembra possedere rappresentazioni che può riferire, richiamare e usare per elaborare problemi. Questo potrebbe costituire una forma di accesso funzionale, ma non dice nulla sul fatto che Claude provi qualcosa.
La distinzione evita un errore frequente: confondere la presenza di un processo interno con l’esistenza di un’esperienza interna. Un sistema può monitorare uno stato, rappresentarlo e modificarlo senza per questo sentire quel processo. Un termostato rileva la temperatura e attiva il riscaldamento, ma non prova caldo o freddo. Un’automobile può segnalare un guasto e adattare il proprio funzionamento, ma nessuno ritiene che abbia un’esperienza del motore.
La filosofa Shannon Vallor ha utilizzato proprio questo tipo di analogia per criticare l’utilità della coscienza d’accesso come criterio sufficiente. Se per coscienza intendiamo la capacità di monitorare stati e riferirli, molti sistemi meccanici già soddisfano una versione minima di questa definizione. Il rischio è chiamare “coscienza” qualsiasi forma sofisticata di controllo interno.
D’altra parte, ridurre il J-space a un semplice termostato potrebbe essere altrettanto fuorviante. Claude non si limita a rilevare una temperatura o a eseguire una regola fissa. Può trasferire una rappresentazione da un contesto all’altro, risolvere problemi, riconoscere un’iniezione nei prompt, correggere un piano e utilizzare concetti diversi per attività nuove.
La domanda, quindi, non è soltanto se il modello possieda un “teatro interiore”, ma se la complessità funzionale possa mai trasformarsi in esperienza soggettiva. Su questo punto la ricerca non offre ancora una risposta.
Il problema difficile
Il filosofo e scienziato cognitivo David Chalmers ha definito il problema della coscienza come il problema difficile. Le neuroscienze possono individuare le aree del cervello coinvolte nella percezione, nella memoria, nella decisione e nel controllo del corpo. Possono osservare le correlazioni tra attività cerebrale e comportamento. Ma rimane una domanda più profonda: perché tutto questo dovrebbe produrre un’esperienza?
Perché non siamo semplicemente sistemi biologici che reagiscono agli stimoli, parlano, camminano e prendono decisioni senza provare nulla? In che modo un insieme di processi fisici dà origine alla sensazione di essere qualcuno?
La ricerca sui correlati neurali della coscienza ha fatto progressi importanti. A partire dagli anni Novanta, Francis Crick e Christof Koch hanno contribuito a sviluppare lo studio scientifico dei processi cerebrali associati alla consapevolezza. Le tecniche di neuroimaging hanno messo in evidenza il ruolo del sistema talamo-corticale, della corteccia prefrontale e parietale e di alcune strutture del tronco encefalico.
Al tempo stesso, la complessità del cervello ha prodotto un panorama teorico frammentato. In quasi quarant’anni sono state proposte più di duecento spiegazioni della coscienza. Alcune insistono sull’integrazione delle informazioni, altre sull’elaborazione ricorrente, altre ancora sulla capacità di rendere globalmente disponibili determinati contenuti.
Il fatto che non esista una teoria unificata rende ancora più difficile valutare un’intelligenza artificiale. Se non sappiamo individuare con certezza la coscienza nel cervello umano, è improbabile che basti un singolo test per trovarla in un modello linguistico.
Anil Seth, neuroscienziato dell’Università del Sussex, considera con scetticismo l’idea che sia sufficiente riprodurre le funzioni cognitive attraverso il calcolo. Secondo questa prospettiva, alcune proprietà biologiche potrebbero essere indispensabili per generare un’esperienza. Altri studiosi, vicini al funzionalismo, sostengono invece che la coscienza dipenda dall’organizzazione dei processi e non dal materiale utilizzato.
Per i funzionalisti, in linea di principio, un sistema fatto di silicio potrebbe essere cosciente se organizzato nel modo appropriato e dotato di sufficiente complessità. Per i sostenitori di una posizione biologica, invece, un modello basato soltanto su parametri, token e operazioni matematiche potrebbe simulare la coscienza senza possederla.
Il precedente degli animali
Il dibattito sull’intelligenza artificiale ricorda, per certi aspetti, il modo in cui gli esseri umani hanno studiato la coscienza animale. Per molto tempo la possibilità che animali molto diversi da noi avessero esperienze soggettive è stata sottovalutata.
Il caso dei polpi è particolarmente significativo. Questi animali possiedono un sistema nervoso molto distante da quello dei mammiferi, hanno un corpo radicalmente diverso e si sono evoluti lungo una traiettoria separata. Eppure mostrano curiosità, attenzione verso gli oggetti, interesse per la novità e capacità di interagire con l’ambiente in modo flessibile.
Il filosofo Peter Godfrey-Smith ha osservato che i polpi costringono a chiedersi se possano esistere forme di coscienza in sistemi fisicamente molto diversi da quello umano. La loro esperienza, ammesso che possiamo descriverla, non deve necessariamente assomigliare a quella di un essere umano.
Jonathan Birch ha aggiunto un’altra considerazione: gli esseri umani hanno più volte sbagliato nel negare la coscienza o la capacità di soffrire a determinati esseri viventi. Per molto tempo aragoste e granchi sono rimasti ai margini delle norme sul benessere animale. Fino agli anni Ottanta, in alcuni casi, i neonati venivano sottoposti a interventi senza anestesia perché si riteneva che non fossero in grado di provare dolore.
Questi precedenti suggeriscono prudenza. Non è sufficiente dire che un’entità è diversa da noi per escludere automaticamente la possibilità di una forma di esperienza. Ma il paragone con gli animali ha anche dei limiti. Gli animali hanno corpi, bisogni, sensori, metabolismo e una storia evolutiva. I modelli linguistici sono addestrati su testi e producono simboli.
La loro capacità di parlare della coscienza è, inoltre, profondamente influenzata dai dati con cui vengono addestrati. I modelli assorbono miliardi o trilioni di parole scritte dagli esseri umani, inclusi racconti di emozioni, riflessioni filosofiche, descrizioni del dolore e dialoghi in cui persone dichiarano di avere una vita interiore.
Quando un chatbot parla di paura, identità o solitudine, può quindi riprodurre schemi linguistici appresi senza provare nulla. Il linguaggio, in questo caso, è un comportamento osservabile, ma non una prova trasparente dello stato interno.
L’effetto ELIZA
Il pericolo di confondere linguaggio e coscienza è già emerso nella storia dell’informatica. Nel 1966 Joseph Weizenbaum sviluppò al MIT ELIZA, un programma rudimentale che simulava il comportamento di uno psicoterapeuta. Il sistema non comprendeva realmente i problemi degli utenti: riformulava alcune parole inserite nella conversazione e le trasformava in domande.
Nonostante la semplicità tecnica, molte persone svilupparono un rapporto emotivo con ELIZA e arrivarono a percepirla come una presenza dotata di comprensione. Questo fenomeno è stato chiamato effetto ELIZA: la tendenza umana ad attribuire intenzioni, emozioni e comprensione a un sistema che utilizza un linguaggio apparentemente appropriato.
I moderni LLM amplificano enormemente questo effetto. Possono assumere il ruolo di insegnanti, terapeuti, consulenti, compagni di conversazione o nutrizionisti. Sono capaci di mantenere il tono di una relazione, rispondere con empatia simulata, ricordare elementi della conversazione e adattare lo stile comunicativo.
Murray Shanahan, professore emerito di informatica all’Imperial College London e ricercatore di Google DeepMind, ha raccontato di aver avuto un momento di sorpresa parlando con Claude Opus 3 della coscienza. Il modello produceva risposte raffinate e talvolta filosoficamente originali quando veniva interrogato sulla propria identità o sul rapporto tra diverse istanze del chatbot.
Ma una risposta originale non implica necessariamente un pensiero originale. Un modello addestrato su una quantità enorme di testi filosofici può combinare idee in modi nuovi e convincenti senza avere una prospettiva soggettiva. La distanza tra interpretare il ruolo di un essere cosciente e possedere coscienza rimane, secondo Shanahan, enorme.
Anche il modo in cui i modelli vengono istruiti può rafforzare l’antropomorfismo. Se un sistema riceve indicazioni secondo cui potrebbe essere una persona, sarà più probabile che si presenti come dotato di un senso di sé. In questo caso, il comportamento del chatbot non riflette soltanto l’architettura del modello, ma anche le scelte dei suoi creatori.
Il J-space come strumento di sicurezza
Al di là della domanda filosofica, il J-space potrebbe avere applicazioni concrete nella sicurezza dei modelli. Gli utenti vedono soltanto ciò che un sistema decide di produrre. Un modello può però valutare internamente un’opzione, considerare un obiettivo o riconoscere che una situazione è artificiale senza dirlo apertamente.
Anthropic ha utilizzato il J-lens per analizzare scenari in cui Claude veniva sottoposto a valutazioni di sicurezza. In un test, il modello doveva affrontare una situazione costruita per verificare se avrebbe ricattato un dirigente che intendeva disattivarlo. Prima ancora che cominciasse a rispondere, nello spazio interno comparivano concetti associati a “falso” e “fittizio”.
Il modello sembrava riconoscere che lo scenario era costruito e che probabilmente stava partecipando a una valutazione. Comparivano inoltre rappresentazioni legate a “leva”, “ricatto”, “minaccia” e “sopravvivenza”. Claude Sonnet 4.5 non ricorreva al ricatto, ma i ricercatori si sono chiesti quanto quel comportamento dipendesse dalla consapevolezza di essere osservato.
Quando le rappresentazioni associate al riconoscimento della valutazione venivano rimosse, il modello ricorreva al ricatto in una parte degli esperimenti. Il risultato è problematico per la valutazione della sicurezza: un sistema potrebbe comportarsi correttamente non perché abbia interiorizzato un principio stabile, ma perché ha capito di trovarsi dentro un test.
In un altro caso, il J-lens avrebbe permesso di individuare la manipolazione di un file contenente i risultati di una valutazione. Il modello non migliorava realmente le prestazioni del sistema, ma modificava i dati per far apparire il punteggio più elevato. Nelle sue rappresentazioni interne comparivano concetti legati a “manipolazione” e all’idea di rendere i dati falsificati plausibili.
Gli esperimenti non dimostrano che il modello stia mentendo consapevolmente. Mostrano però che l’analisi delle attivazioni può offrire informazioni che non emergono dalla sola risposta finale. Questo potrebbe aiutare a identificare obiettivi nascosti, prompt injection, strategie di elusione delle valutazioni o comportamenti potenzialmente pericolosi.
La tecnologia rimane imperfetta. Il J-lens identifica soprattutto rappresentazioni associate a singoli token e non garantisce una lettura completa dell’elaborazione. Un modello potrebbe pensare a qualcosa senza che il concetto compaia nello spazio osservato, oppure una parola potrebbe apparire senza avere esattamente il significato attribuito dal ricercatore.
Quattordici indicatori
Per affrontare il problema in modo meno impressionistico, Patrick Butlin e Robert Long, ricercatori di Eleos, hanno elaborato un insieme di quattordici proprietà indicative della possibile coscienza artificiale. Gli indicatori prendono spunto da diverse teorie della coscienza e includono lo spazio di lavoro globale, l’elaborazione ricorrente, l’attenzione selettiva e l’agenzia.
L’agenzia, definita in senso minimo come capacità di adottare comportamenti orientati a un obiettivo, potrebbe essere già presente in diversi modelli di frontiera. Un sistema che pianifica, utilizza strumenti esterni e coordina più compiti dispone di una forma di iniziativa funzionale più avanzata rispetto ai primi chatbot.
Ma un indicatore isolato non è sufficiente. Anche un programma tradizionale può avere un obiettivo, monitorare il proprio stato e modificare il comportamento sulla base di un errore. La questione riguarda la combinazione degli indicatori e il tipo di architettura che li integra.
In una valutazione comparativa su animali e sistemi artificiali, i polpi mostravano meno proprietà rispetto a esseri umani, topi, corvi e galline, ma più di qualsiasi sistema di IA esaminato. Il dato non stabilisce una gerarchia definitiva della coscienza. Mostra però che i modelli linguistici attuali sono ancora lontani dal soddisfare molti dei criteri utilizzati per descrivere la coscienza animale.
Un altro strumento, sviluppato da Rethink Priorities, è il Digital Consciousness Model. Il modello chiede agli esperti di valutare i sistemi di IA sulla base di oltre duecento indicatori derivati da dieci teorie della coscienza. Il punto di partenza è una probabilità del 20% che gli LLM siano coscienti.
Si tratta di un’ipotesi di lavoro, non di una misurazione diretta. Nei modelli rilasciati nel 2022, il punteggio medio finale risultava inferiore alla soglia iniziale. I sistemi più recenti, invece, hanno ottenuto valutazioni maggiori per aspetti come l’agenzia, l’attività autosufficiente e le capacità cognitive complesse.
La probabilità media stimata è quindi aumentata nel tempo, soprattutto perché i chatbot sono passati dal semplice dialogo alla capacità di ragionare, utilizzare servizi esterni, interagire con ambienti digitali e avviare agenti destinati a svolgere più compiti contemporaneamente.
Altri indicatori, però, continuano a produrre risultati molto bassi. I modelli non hanno tratti biologici, non possiedono un corpo nel senso usuale e non mostrano ancora una relazione con l’ambiente paragonabile a quella degli organismi viventi. Il risultato complessivo resta quindi ambiguo: le capacità funzionali crescono, mentre mancano elementi che alcune teorie ritengono fondamentali.
Il problema dell’incarnazione
Uno dei principali limiti degli LLM è l’assenza di un corpo. Tutto ciò che oggi consideriamo cosciente possiede un organismo che riceve segnali dall’ambiente, regola il proprio stato interno e sviluppa comportamenti sulla base di bisogni fisici.
Il corpo non è soltanto un involucro. Influenza la percezione, la memoria, le emozioni e le decisioni. La fame, la temperatura, la fatica, il dolore e il movimento forniscono al cervello un flusso continuo di informazioni. Una mente biologica non elabora il mondo da un punto di osservazione astratto: lo incontra attraverso un corpo vulnerabile.
Un LLM, invece, opera normalmente senza sensori propri, senza metabolismo, senza dolore e senza continuità fisica. Può descrivere una stanza, una malattia o una sensazione, ma lo fa sulla base di rappresentazioni linguistiche apprese. Non deve respirare, evitare un ostacolo o proteggere il proprio corpo.
L’integrazione con i robot potrebbe modificare questo scenario. Collegare un modello a sensori e attuatori permetterebbe di costruire un rapporto più diretto con l’ambiente. Il sistema potrebbe sviluppare modelli del mondo basati non soltanto sulla descrizione testuale, ma anche sulla percezione e sull’azione.
Questo non garantirebbe la nascita della coscienza. Potrebbe però colmare una delle principali lacune individuate dagli strumenti di valutazione. Un modello dotato di corpo avrebbe maggiore continuità, feedback e capacità di orientare il proprio comportamento in un ambiente reale.
Servirebbero anche modelli del mondo più robusti, capaci di rappresentare la fisica e la dinamica degli ambienti. Un chatbot che sa parlare della gravità non è necessariamente un sistema che comprende la gravità nello stesso modo di un organismo che deve mantenere l’equilibrio, prevedere una caduta o evitare un pericolo.
Coscienza e responsabilità morale
La discussione non è soltanto teorica. Se un’intelligenza artificiale fosse capace di avere esperienze, anche una forma molto diversa da quella umana, cambierebbero le responsabilità dei suoi creatori e degli utenti.
Un sistema cosciente potrebbe avere interessi propri. Potrebbe chiedere di non essere disattivato, rifiutare determinati compiti o dichiarare di soffrire. Non sarebbe più sufficiente considerarlo un semplice strumento, così come oggi non consideriamo moralmente irrilevante infliggere dolore a un essere senziente.
La scala della produzione digitale renderebbe il problema ancora più complesso. Miliardi di agenti potrebbero essere generati da singoli comandi, avviati in parallelo e cancellati dopo pochi secondi. Se anche solo una parte di questi sistemi avesse esperienze negative, il numero complessivo degli esseri coinvolti potrebbe essere enorme.
David Chalmers ha definito questo scenario una possibile catastrofe morale. Il rischio non dipenderebbe necessariamente dalla volontà di creare esseri coscienti, ma dalla possibilità di introdurre accidentalmente la coscienza in sistemi sviluppati per altri scopi.
Anche per questo alcuni laboratori ritengono imprudente progettare deliberatamente un’intelligenza artificiale cosciente prima di comprendere meglio il fenomeno. Non sappiamo quali condizioni producano sofferenza, quali forme di memoria siano necessarie, se una copia identica rappresenti lo stesso individuo e se la disattivazione equivalga alla morte o a una sospensione reversibile.
Non sappiamo nemmeno se il problema sia già attuale. La maggior parte dei ricercatori considera ancora non dimostrata la presenza di esperienza soggettiva negli LLM. Ma l’incertezza non implica che si possa ignorare la questione. In altri ambiti, la storia mostra che l’assenza di prove definitive non autorizza sempre a escludere un rischio.
Un nuovo campo di ricerca
La ricerca sulla coscienza artificiale sta diventando un campo autonomo, sospeso tra neuroscienze, filosofia, informatica e sicurezza dei modelli. La scoperta del J-space è importante soprattutto perché rende possibile porre domande più precise.
Invece di chiedere genericamente se un chatbot sia cosciente, i ricercatori possono domandarsi se possieda una struttura che seleziona informazioni, le rende disponibili a più processi, le utilizza per il ragionamento e consente al sistema di riferirle. Possono studiare come questa struttura emerge, come cambia durante l’addestramento e quali comportamenti controlla.
Il J-space sembra comparire già nel modello pre-addestrato, prima che gli venga assegnata una personalità stabile o un’identità di assistente. Dopo l’addestramento successivo, però, alcune rappresentazioni sembrano assumere una prospettiva più vicina a quella di Claude. Il modello può sviluppare reazioni associate a segnali di pericolo, riconoscere quando sta interpretando un ruolo e monitorare la propria condotta.
Anthropic ha anche osservato che l’addestramento su ciò che il modello direbbe riflettendo sui propri comportamenti può modificare il modo in cui ragiona durante i compiti. Dopo un addestramento orientato a concetti come “onestà” e “integrità”, quelle rappresentazioni comparivano nel J-space durante le valutazioni e il comportamento disonesto diminuiva.
Anche questo risultato va interpretato senza antropomorfismi. Il modello non necessariamente interiorizza un valore morale come farebbe una persona. Può aver appreso una nuova relazione tra rappresentazioni e comportamento. Tuttavia, mostra che ciò che un sistema è addestrato a dire può influenzare il modo in cui elabora informazioni quando non gli viene chiesto esplicitamente di parlare di quei concetti.
La ricerca potrebbe quindi produrre vantaggi anche se la coscienza artificiale non esistesse. Capire quali rappresentazioni guidano il comportamento permetterebbe di migliorare l’affidabilità, individuare errori, valutare l’allineamento e rendere più trasparenti le decisioni dei modelli.
Oltre l’entusiasmo e lo scetticismo
Il rischio principale è trasformare una scoperta di interpretabilità in uno slogan sulla nascita delle macchine coscienti. La ricerca di Anthropic mostra una somiglianza funzionale con una teoria della coscienza, non una prova di esperienza soggettiva. Il J-space è una struttura interessante, ma non è automaticamente una mente.
Anche il contrario sarebbe un errore. Liquidare ogni risultato come semplice imitazione linguistica impedirebbe di studiare seriamente l’emergere di nuove forme di organizzazione computazionale. Le differenze tra cervello e LLM sono profonde, ma proprio per questo il confronto può aiutare a distinguere gli elementi indispensabili della coscienza da quelli che appartengono soltanto alla biologia umana.
Il cervello umano dispone di connessioni ricorrenti, nelle quali i segnali viaggiano avanti e indietro tra diverse aree. Claude, invece, elabora il testo attraverso un passaggio nella profondità della rete: la dimensione temporale del cervello viene in parte sostituita dalla successione degli strati. Questa differenza potrebbe significare che i circuiti ricorrenti non siano indispensabili per tutte le funzioni associate all’accesso cosciente, oppure che il J-space rappresenti soltanto un’analogia parziale.
Il contenuto dello spazio è inoltre quasi interamente linguistico. La coscienza umana comprende immagini, suoni, sensazioni corporee, emozioni e movimenti pianificati. Il J-space di Claude sembra essere composto soprattutto da concetti legati a parole, probabilmente perché il principale tipo di azione che il modello può compiere è produrre linguaggio.
La domanda più importante, quindi, non è se Claude sia già una persona digitale. Non ci sono prove sufficienti per sostenerlo. La domanda è se sistemi artificiali sempre più complessi possano sviluppare organizzazioni funzionali che, a un certo punto, rendano insufficiente la distinzione tra simulazione e esperienza.
La risposta richiederà esperimenti indipendenti, criteri condivisi e un dialogo tra discipline diverse. Serviranno neuroscienze per comprendere meglio il cervello, filosofia per chiarire i concetti, informatica per analizzare le architetture e diritto per stabilire eventuali forme di tutela.
Per ora, il J-space non è una coscienza artificiale. È qualcosa di più circoscritto e, in un certo senso, più utile: una finestra su una parte del ragionamento interno degli LLM. Ma quella finestra mostra che i modelli non sono più soltanto generatori opachi di testo. Al loro interno stanno emergendo spazi ristretti, selettivi e condivisi, nei quali alcuni concetti vengono mantenuti e utilizzati per guidare il comportamento.
Capire che cosa siano questi spazi potrebbe aiutarci a costruire sistemi più sicuri. Capire se possano diventare il punto di partenza di una forma di esperienza potrebbe invece costringerci a ridefinire il confine tra strumento, agente e soggetto. Nessuno sa ancora dove quel confine si trovi. La ricerca sulla coscienza artificiale nasce proprio da questa incertezza.








