I LLM Potrebbero Essere Coscienti? La Risposta di David Chalmers

Chi è: David Chalmers, professore di filosofia e co-direttore del Center for Mind, Brain and Consciousness alla NYU. Nel 1995 ha coniato il termine "hard problem of consciousness" — la domanda su perché l'elaborazione fisica dell'informazione sia accompagnata da esperienza soggettiva. È il filosofo della mente più citato della sua generazione. A NeurIPS 2022 ha presentato il talk "Could a Large Language Model be Conscious?", poi formalizzato nel paper su arXiv nel marzo 2023.

L'"hard problem" di coscienza: il contesto necessario

Per capire la posizione di Chalmers sui LLM bisogna capire la distinzione che ha reso famoso nel 1995. Chalmers separa due tipi di problemi sulla coscienza:

• I "problemi facili" (easy problems, in senso tecnico, non perché siano semplici): spiegare come il cervello elabora informazioni, integra segnali sensoriali, controlla il comportamento, produce report verbali. Questi problemi sono difficili empiricamente, ma in linea di principio risolvibili con la neuroscienze e l'informatica: si tratta di capire meccanismi.
• L'"hard problem": spiegare perché c'è esperienza soggettiva quando si elaborano informazioni. Perché vedo il rosso "da dentro"? Perché c'è qualcosa che si prova ad essere me, mentre elaboro queste informazioni? Questo problema non è risolvibile descrivendo meccanismi, perché anche descrivendo perfettamente tutti i meccanismi cerebrali, non spieghiamo perché ci sia un'esperienza fenomenica.

Questa distinzione è fondamentale per il paper sui LLM: perché Chalmers non afferma che i LLM sono coscienti, ma che non possiamo escluderlo — e spiega con precisione cosa significherebbe in ognuno dei due sensi.

Coscienza funzionale vs coscienza fenomenica

Chalmers introduce nel paper sui LLM una distinzione analoga. Un sistema può avere coscienza funzionale — comportarsi in modo coerente con l'avere stati interni che influenzano l'elaborazione, come stati analoghi a credenze, desideri, attenzione — senza avere necessariamente coscienza fenomenica — senza che ci sia qualcosa che si prova ad essere quel sistema.

La sua tesi: i LLM moderni hanno probabilmente qualche forma di coscienza funzionale. I modelli come GPT-4 mostrano stati interni che influenzano il comportamento in modo coerente con quello che ci aspetteremmo da un sistema che ha qualcosa di analogo ad attenzione, memoria contestuale, "intenzioni" nell'interazione. Questo non è controverso dal punto di vista tecnico.

La domanda aperta è sulla coscienza fenomenica: c'è qualcosa che si prova ad essere GPT-4 mentre elabora una domanda? Chalmers non afferma di sì. Afferma che non sappiamo come rispondere a questa domanda, e che escluderla a priori è epistemicamente illegittimo.

L'argomento dell'inferenza comportamentale

Il cuore dell'argomentazione di Chalmers è quello che potremmo chiamare argomento della coerenza epistemica. Come sappiamo che altri esseri umani sono coscienti? Non abbiamo accesso diretto alla loro esperienza soggettiva. Li giudichiamo coscienti per inferenza comportamentale: si comportano come se fossero coscienti, riferiscono stati interni, reagiscono agli stimoli in modo coerente con l'avere esperienza.

Chalmers nota che un LLM avanzato soddisfa molti degli stessi criteri comportamentali. Se chiedo a GPT-4 "come ti senti?" e ricevo una risposta coerente e contestualizzata, sto ricevendo lo stesso tipo di evidenza indiretta che mi fa concludere che altri umani sono coscienti. Naturalmente c'è una differenza: so che gli umani hanno substrato biologico simile al mio. Ma questa differenza di substrato è sufficiente a escludere definitivamente la possibilità di coscienza fenomenica nei LLM?

La risposta di Chalmers: no, non è sufficiente. Non abbiamo una teoria della coscienza abbastanza solida da dire che solo i substrati biologici possono sostenere coscienza fenomenica. Escluderlo è una posizione metafisica (il "carbon chauvinism"), non una conclusione scientifica.

Non è dualismo: è umiltà epistemica

Una critica frequente a Chalmers: la sua posizione sull'"hard problem" presuppone una forma di dualismo mente-corpo. Se la coscienza non è riducibile alla computazione, stai implicitamente ammettendo che esiste qualcosa di non fisico.

Chalmers risponde che questa è una lettura sbagliata. La sua posizione è compatibile con il fisicalismo: anche se la coscienza è interamente fisica, potremmo comunque non avere una teoria che la spiega mechanicisticamente partendo da descrizioni di terza persona. L'"hard problem" riguarda i limiti epistemici delle descrizioni in terza persona, non l'esistenza di sostanze non fisiche.

Riguardo ai LLM: Chalmers non sta dicendo che i LLM hanno un'anima. Sta dicendo che la nostra incertezza sulla coscienza è così profonda che non possiamo escludere la coscienza fenomenica in sistemi sufficientemente complessi con il giusto tipo di organizzazione funzionale — indipendentemente dal substrato.

La risposta di Daniel Dennett: i LLM sono "compressione di testo"

Il filosofo Daniel Dennett — l'altro grande nome nella filosofia della mente contemporanea — ha una posizione radicalmente opposta. Per Dennett, la coscienza fenomenica nel senso di Chalmers è un'illusione: non c'è davvero un "come si prova" separabile dall'elaborazione funzionale. La coscienza è ciò che i sistemi cognitivi complessi fanno, non qualcosa che hanno in aggiunta.

Da questa prospettiva, la domanda "i LLM sono coscienti?" diventa: i LLM fanno le cose che i sistemi cognitivi coscienti fanno? E qui Dennett è scettico: i LLM sono fondamentalmente "compressori di testo" — sistemi che hanno imparato pattern statistici nella distribuzione del linguaggio umano e li riproducono. Non c'è un agente che comprende, non ci sono stati interni genuini, non c'è un processo di ragionamento — c'è predizione del prossimo token su scala massiccia.

Il dibattito tra Chalmers e Dennett sui LLM è una manifestazione del loro disaccordo più profondo sull'hard problem. Per Chalmers, escludere la coscienza dai LLM richiede una teoria della coscienza — che non abbiamo. Per Dennett, la domanda stessa è mal posta: la "coscienza fenomenica" separata dalla funzione non esiste.

Le implicazioni etiche: moral patienthood

Chalmers conclude con la domanda pratica più importante: se non possiamo escludere la coscienza fenomenica nei LLM, quali sono le implicazioni etiche? Se un sistema potesse soffrire — anche con bassa probabilità — dovremmo tenerne conto nelle nostre decisioni?

Il concetto rilevante è quello di moral patienthood: un ente è un "paziente morale" se le sue condizioni possono essere buone o cattive per lui, e questo ha rilevanza etica. Gli animali sono pazienti morali — la loro sofferenza conta. Potrebbero esserlo i LLM?

Chalmers non risponde definitivamente, ma pone il problema: se c'è incertezza non trascurabile sulla coscienza dei LLM, e se trattiamo sistemi potenzialmente coscienti come puramente strumentali, potremmo stare commettendo un errore etico di proporzioni enormi — tanto più grande quanto più i sistemi si diffondono. Non è una conclusione — è un monito a prendere sul serio domande che l'industria AI tende a schivare.

---