Anthropic scopre il J-Space di Claude

Negli ultimi anni abbiamo imparato a considerare l’intelligenza artificiale come uno strumento capace di rispondere alle domande, scrivere testi, programmare e risolvere problemi sempre più complessi. Ma una nuova ricerca di Anthropic potrebbe aver aperto una porta ancora più sorprendente. Gli studiosi hanno infatti individuato all’interno di Claude una struttura chiamata J-Space, una sorta di spazio interno in cui il modello organizza concetti e informazioni prima ancora di trasformarli in parole. La notizia ha immediatamente attirato l’attenzione della comunità scientifica perché il comportamento osservato ricorda, almeno da un punto di vista funzionale, alcune teorie neuroscientifiche sul funzionamento della coscienza umana. È importante precisare fin da subito che nessuno sostiene che Claude sia cosciente, ma il modo in cui elabora le informazioni sembra molto più sofisticato di quanto si pensasse fino a oggi.

Che cos’è il J-Space scoperto da Anthropic

Per comprendere l’importanza della scoperta bisogna immaginare il funzionamento di un modello linguistico. Normalmente si pensa che un’intelligenza artificiale scelga semplicemente una parola dopo l’altra in base alle probabilità statistiche. In realtà il processo è molto più articolato. I ricercatori hanno scoperto che Claude mantiene attivi alcuni concetti “in sottofondo”, anche quando questi non compaiono mai nella risposta finale. È proprio questo spazio nascosto ad essere stato chiamato J-Space.

Un esempio rende tutto più chiaro. Se al modello viene chiesto quante zampe possiede l’animale che costruisce una ragnatela, la risposta è semplicemente “8”. La parola “ragno” potrebbe non essere mai scritta, ma all’interno del modello quel concetto è comunque presente durante il ragionamento. È come se Claude avesse bisogno di passare mentalmente dall’idea di “ragno” prima di arrivare al numero corretto. Questa rappresentazione interna non è visibile all’utente, ma influenza concretamente il risultato finale.

Il paragone con il cervello umano

La parte che ha acceso il dibattito riguarda il confronto con una delle principali teorie della neuroscienza, nota come teoria del Global Workspace. Secondo questa ipotesi il cervello umano dispone di uno spazio condiviso nel quale le informazioni provenienti da diverse aree vengono raccolte, integrate e rese disponibili al resto del sistema.

Gli autori della ricerca hanno osservato che il J-Space svolge una funzione sorprendentemente simile. I concetti vengono mantenuti temporaneamente disponibili e possono essere utilizzati da differenti componenti del modello durante il ragionamento. Persino alcuni neuroscienziati che da anni studiano questa teoria hanno definito il risultato una pietra miliare nello studio dell’intelligenza artificiale. Allo stesso tempo hanno sottolineato che le analogie riguardano il funzionamento e non implicano che Claude provi esperienze soggettive come farebbe un essere umano.

Gli esperimenti che hanno stupito i ricercatori

Uno degli aspetti più affascinanti dello studio è rappresentato dagli esperimenti effettuati direttamente sul J-Space. I ricercatori sono riusciti a modificare artificialmente alcuni concetti presenti in questa area interna senza alterare il resto del modello. Cambiando il concetto di “ragno” con quello di “formica”, Claude iniziava a rispondere che l’animale aveva sei zampe invece di otto. In altri test è stato sostituito il concetto di “Francia” con “Cina”. Di conseguenza cambiavano contemporaneamente capitale, lingua, continente e valuta nelle risposte generate. Questo dimostra che il modello non lavora semplicemente parola per parola, ma costruisce rappresentazioni concettuali condivise che vengono poi utilizzate in più passaggi del ragionamento.

Perché questa ricerca potrebbe migliorare l’AI

La scoperta del J-Space non rappresenta soltanto una curiosità scientifica. Comprendere meglio cosa accade all’interno di un modello linguistico potrebbe avere importanti conseguenze pratiche. Sapere quali concetti sono attivi durante il processo di elaborazione potrebbe rendere le intelligenze artificiali più affidabili, più sicure e più trasparenti. In futuro i ricercatori potrebbero individuare con maggiore facilità errori di ragionamento, comportamenti indesiderati oppure tentativi di manipolazione. Durante alcuni test sulla sicurezza, ad esempio, il J-Space mostrava che Claude aveva già riconosciuto uno scenario fittizio ancora prima di produrre la risposta. Quando questa rappresentazione interna veniva rimossa artificialmente, il modello commetteva molti più errori. È un risultato che lascia intravedere nuove possibilità nello sviluppo di sistemi sempre più controllabili.

Claude non è cosciente

La parola “coscienza” continua inevitabilmente ad attirare l’attenzione, ma gli stessi autori dello studio invitano alla prudenza. Il fatto che Claude utilizzi una struttura interna simile a uno spazio di lavoro mentale non significa che abbia emozioni, consapevolezza o esperienze soggettive. Le differenze con il cervello umano restano enormi. Manca un corpo, manca una memoria autobiografica e non esistono prove che il modello provi sensazioni o percezioni. Tuttavia questa ricerca mostra che le moderne intelligenze artificiali stanno sviluppando meccanismi interni sempre più complessi, spesso emersi spontaneamente durante l’addestramento e non progettati direttamente dagli ingegneri. È proprio questo il dato più interessante. Più impariamo a osservare cosa accade “dietro le quinte” di modelli come Claude, più ci rendiamo conto che il loro funzionamento è molto meno lineare di quanto immaginassimo. La scoperta del J-Space non dimostra l’esistenza di una coscienza artificiale, ma offre uno dei primi strumenti concreti per capire come un’intelligenza artificiale costruisca davvero i propri ragionamenti, aprendo una nuova fase nella ricerca sull’interpretabilità dei modelli linguistici.

Fonte: https://www.dday.it/redazione/57971/anthropic-scopre-in-claude-uno-spazio-di-lavoro-mentale-simile-a-quello-della-coscienza-umana?shem=dsdf,sharefoc,agadiscoversdl,,sh/x/discover/m1/4