Ogni volta che emerge un paper capace di mettere in discussione il senso comune tecnologico, il dibattito che ne segue dice spesso più del contesto culturale che della tecnologia stessa. È ciò che è accaduto anche con What Kind of Reasoning (if any) is an LLM actually doing?, il lavoro di Luciano Floridi, Jessica Morley, Claudio Novelli, David Watson, a cui ho dedicato molti articoli da inizio anno e che ha innescato una discussione intensa e, per certi versi, rivelatrice. Non tanto sul funzionamento dei Large Language Models, quanto su come vogliamo interpretarli.
Nel dibattito pubblico si fronteggiano due posizioni che non sono semplicemente “opinioni diverse”, ma due modi di intendere il linguaggio, la conoscenza e la responsabilità. Ed è importante dirlo subito: non siamo di fronte a una disputa su dettagli tecnici, ma a una frattura concettuale.
Di seguito ho cercato di estrarre le posizioni principali da una discussione che Floridi ha avuto sui social.
Il cuore del disaccordo: che cosa significa “capire”
La linea di frattura attraversa una parola sola, apparentemente innocua: comprensione. Una parte del dibattito sostiene che gli LLM possano avere una qualche forma di comprensione, magari rudimentale, magari emergente, magari solo funzionale. Non una comprensione “come la nostra”, ma sufficiente per parlare di un “modello del mondo”.
L’altra parte, quella che segue Floridi, contesta questa impostazione, non perché troppo prudente, ma perché concettualmente scorretta.
Secondo questa seconda posizione, parlare di “modello del mondo” negli LLM è una confusione categoriale. I modelli sono completti ma a loro manca ciò che rende sensato il concetto stesso di mondo: l’esperienza. Un modello del mondo, in senso proprio, presuppone un rapporto con il mondo. Non necessariamente cosciente, non necessariamente umano, ma reale. Gli LLM, invece, non hanno esperienza del mondo. Operano esclusivamente su testi prodotti da altri che il mondo lo abitano.
Per dirla con una distinzione classica della filosofia del linguaggio, gli LLM non parlano del mondo, ma del “mondo”. Un mondo tra virgolette, costruito linguisticamente, mediato, astratto. Non è una differenza di grado, ma di tipo. Non esiste una zona grigia in cui, accumulando sempre più testi, si “scivola” nell’esperienza. C’è un salto che non viene compiuto.
È qui che il richiamo al Symbol Grounding Problem diventa decisivo. Senza grounding, senza ancoraggio esperienziale, non si dà comprensione, nemmeno minima. Parlare di modelli del mondo in questo contesto può essere una metafora, ma è una metafora che, se presa sul serio, produce conseguenze teoriche e pratiche pesanti.
La tentazione gradualista e il fascino della metafora
La posizione opposta, molto diffusa nel dibattito pubblico e accademico, adotta invece un approccio gradualista. Secondo questa lettura, non serve esperienza diretta per parlare di “world model”. Basta che un sistema riesca a catturare regolarità, a fare previsioni coerenti, a mantenere una consistenza contestuale.
In questa prospettiva, il modello del mondo non è un’entità ontologica, ma uno strumento descrittivo utile.
Il problema, come mostra il dibattito, non è tanto l’uso prudente della metafora, quanto la sua normalizzazione. Quando si inizia a dire che un LLM “capisce in qualche modo”, “ragiona in senso debole”, “ha una forma di comprensione comportamentale”, si compie un passo che non è neutro. Si sposta il baricentro dal funzionamento all’ interpretazione, e dall’interpretazione all’ implicazioni.
Floridi e chi condivide questa posizione non negano che gli LLM producano output sofisticati, talvolta sorprendenti. Negano che questo autorizzi a usare concetti epistemici come comprensione, spiegazione, inferenza nel loro senso proprio. Non perché vogliano difendere una visione umanocentrica, ma perché le parole non sono intercambiabili senza costo.
I costi concettuali che il dibattito tende a rimuovere
Ed è qui che il dibattito si fa davvero interessante. Nei commenti critici al paper emerge chiaramente un argomento che spesso viene ignorato: ogni interpretazione ha conseguenze.
Attribuire anche solo funzionalmente comprensione agli LLM non è un gioco linguistico innocuo. Produce effetti a catena. Se diciamo che un sistema comprende, allora siamo portati a fidarci delle sue risposte, anche se “criticamente”. Se diciamo che ha un modello del mondo, allora possiamo iniziare a delegargli decisioni. Se iniziamo a trattarlo come un interlocutore cognitivo, spostiamo l’attenzione dalle responsabilità umane a un artefatto opaco.
Cambia il modo in cui progettiamo le interfacce, le regole, persino le leggi.
Chi sostiene la linea di Floridi non contesta solo la validità teorica della metafora del world model. Contesta il prezzo che questa metafora ci chiede di pagare. Ed è qui che entra in gioco un ragionamento esplicitamente filosofico, nel senso più classico del termine.
Se attribuire comprensione agli LLM implica conseguenze epistemicamente e socialmente inaccettabili, allora quella attribuzione va respinta.
Alcuni interlocutori accettano invece questi costi. Lo fanno coerentemente accettando l’idea di delega, di una progressiva estensione dello statuto cognitivo delle macchine, talvolta fino a evocare scenari di singularity.
Il dibattito, a questo punto, non è più su ciò che gli LLM sono, ma su ciò che siamo disposti ad accettare.
Motori stocastici o menti embrionali?
Un altro punto di scontro riguarda la descrizione fenomenologica del comportamento degli LLM.
Anche limitandosi all’osservazione esterna, chi segue Floridi insiste su un dato: questi sistemi sono motori stocastici. Cioè producono testi plausibili perché sono ottimizzati per farlo. Il fatto che, dall’esterno, questo comportamento possa sembrare ragionamento non implica che lo sia.
Nel dibattito pubblico, invece, si tende spesso a confondere il “COME SE” con l’“È”. Si dice, se il sistema risponde come se capisse, allora capisce. Se spiega come se ragionasse, allora ragiona. Ma questa è esattamente la scorciatoia che il paper mette in discussione. L’apparenza abductiva non è una prova di abduzione. È un effetto di superficie prodotto da un addestramento su testi che contengono ragionamenti.
Floridi non nega l’utilità di questi sistemi. Al contrario, ne delimita con precisione il ruolo. Si tratta di generatori di ipotesi, supporti alla fase di scoperta, strumenti potenti ma epistemicamente ciechi. Ciò che non possono fare è verificare, giustificare, assumersi il peso della verità.
Perché è necessario prendere posizione oggi
Il dibattito attorno a questo paper mostra una cosa con chiarezza: non prendere posizione è già una posizione. Continuare a usare metafore ambigue, parlare di comprensione “in senso lato”, evitare distinzioni nette per non sembrare “conservatori”, significa lasciare che sia il mercato, o l’entusiasmo tecnologico, a decidere il quadro concettuale.
Mentre sostenere la posizione di Floridi oggi non significa negare il progresso dell’IA. Significa difendere una distinzione fondamentale tra linguaggio e mondo, tra plausibilità e verità, tra simulazione e comprensione. Significa rifiutare l’idea che tutto ciò che funziona bene debba essere reinterpretato come cognizione.
Il rischio è che noi diventiamo troppo indulgenti con spiegazioni che sembrano buone solo perché sono ben scritte. E su questo terreno, il contributo di Floridi non è una voce tra le tante, ma un argine concettuale che vale la pena difendere.
Il nodo politico della metafora: quando il linguaggio anticipa le decisioni
C’è un aspetto del dibattito che raramente viene messo a fuoco con chiarezza, ma che emerge in filigrana nei commenti al paper: le metafore non descrivono soltanto, preparano il terreno per l’azione. Parlare di “modello del mondo”, di “comprensione funzionale”, di “ragionamento emergente” non è un esercizio innocuo di lessico tecnico. È un modo per rendere pensabili, e quindi praticabili, certe scelte.
Quando una tecnologia viene descritta come dotata di una qualche forma di comprensione, anche se attenuata, diventa più facile giustificare la sua autonomia decisionale. Diventa più naturale affidarle compiti che incidono sulle vite delle persone. Diventa meno urgente interrogarsi su chi l’ha progettata, addestrata, finanziata, su quali interessi incorpora e su quali asimmetrie di potere rafforza.
La posizione di Floridi, e di chi la sostiene, insiste proprio su questo punto: se sbagliamo categoria, sbagliamo anche politica della tecnologia. Un motore stocastico che produce testi plausibili va governato come tale. Una “mente artificiale”, anche solo evocata, apre invece a un immaginario completamente diverso, in cui la responsabilità tende a dissolversi.
Non è un caso che molti commentatori contrari alla tesi di Floridi accusino questa posizione di essere “eccessivamente cauta” o “limitante”. Ma la cautela, qui, non è una ritirata. È una forma di resistenza concettuale.
L’errore speculare: ridurre tutto a performance
Un’altra tensione che attraversa il dibattito pubblico riguarda il ruolo della performance. Molti argomenti a favore dell’idea che gli LLM “in qualche modo capiscano” si basano su risultati: superano test, risolvono problemi, producono risposte migliori di molti esseri umani in contesti specifici. Da qui l’inferenza implicita: se il comportamento è indistinguibile, allora la differenza non conta.
Floridi e i suoi interlocutori critici rispondono che questa inferenza confonde due livelli distinti. La performance riguarda l’output. La comprensione riguarda il processo e il rapporto con il mondo. Un sistema può produrre output eccellenti senza avere alcun accesso alla dimensione che quegli output pretendono di descrivere.
Il punto non è negare l’efficacia degli LLM. Il punto è rifiutare l’idea che l’efficacia basti a ridefinire i concetti fondamentali della conoscenza. Se accettiamo che la performance sostituisca il grounding, allora qualsiasi distinzione epistemica diventa superflua. Tutto ciò che “funziona abbastanza bene” può essere trattato come se capisse.
Questa è una deriva culturale che precede l’IA, ma che l’IA rende evidente. È la stessa logica per cui un discorso convincente vale più di uno vero, una narrazione coerente più di un’analisi fondata. Gli LLM non fanno che amplificare una tendenza già in atto.
Perché la distinzione resta necessaria, anche se scomoda
Una delle obiezioni più frequenti alla posizione di Floridi è che sia “troppo filosofica”, poco adatta alla rapidità dell’innovazione tecnologica. Ma è esattamente il contrario. È proprio perché l’innovazione è rapida che servono distinzioni lente, robuste, difficili da piegare all’entusiasmo del momento.
Dire che non esiste una zona grigia tra linguaggio e mondo, tra simulazione ed esperienza, non significa negare la complessità dei sistemi. Significa rifiutare l’idea che la complessità autorizzi l’ambiguità concettuale. In filosofia del linguaggio, la distinzione tra uso e menzione non è un dettaglio accademico: è ciò che impedisce di scambiare una parola per la cosa. Gli LLM operano interamente sul piano della menzione. Il fatto che lo facciano con grande abilità non cambia la natura dell’operazione.
Quando questa distinzione viene meno, il rischio non è solo teorico. È educativo, giuridico, sociale. Iniziamo a insegnare alle persone a fidarsi di spiegazioni non verificate. Iniziamo a costruire sistemi normativi come se avessimo a che fare con agenti cognitivi, anziché con strumenti. Iniziamo a parlare di diritti, di rispetto, di educazione delle macchine, spostando il discorso sempre più lontano dagli esseri umani coinvolti.
Un dibattito che parla più di noi che delle macchine
Alla fine, ciò che rende questo dibattito così acceso è che non riguarda gli LLM, ma il modo in cui interpretiamo il linguaggio, il sapere e l’autorità in una fase storica fragile, in un mondo in frantumi. La posizione di Floridi è scomoda perché ci costringe a rinunciare a una narrazione rassicurante, secondo cui stiamo creando nuove intelligenze che “ci aiutano a pensare”.
La sua tesi è più austera, ma anche più onesta. Stiamo creando strumenti potentissimi di produzione linguistica, capaci di imitare il ragionamento senza praticarlo. Questo non li rende inutili, ma richiede da parte nostra un surplus di responsabilità.
Sostenere questa posizione oggi significa accettare una perdita simbolica. Significa rinunciare all’idea che il progresso tecnologico coincida automaticamente con un progresso cognitivo. Significa ammettere che l’intelligenza, la comprensione, il rapporto con il mondo restano questioni incarnate, situate, non delegabili.
Difendere le distinzioni per non perdere il senso
Il paper di Luciano Floridi ha avuto il merito di riportare la discussione su un terreno solido, anche a costo di risultare scomodo. Ha mostrato che ciò che appare come ragionamento è spesso un effetto di superficie, e che confondere l’apparenza con il processo non è un errore veniale, ma una confusione categoriale. Non perché le macchine siano “meno di noi”, ma perché il mondo non si lascia ridurre a una collezione di correlazioni linguistiche.
Sostenere questa posizione oggi significa andare contro una corrente forte, che spinge a naturalizzare metafore seducenti come “modello del mondo” o “comprensione funzionale”. Ma è proprio questa resistenza concettuale a rendere la posizione di Floridi preziosa che chiede di chiamare le cose con il loro nome.
Gli LLM sono strumenti potentissimi di produzione di plausibilità. Possono aiutarci a esplorare possibilità, a formulare ipotesi, a rendere accessibile una parte enorme del patrimonio linguistico umano. Ma non possono sostituire il rapporto con il mondo, né il lavoro della verifica, né la responsabilità del giudizio.
Attribuire loro ciò che non hanno non li rende più intelligenti; rende noi più confusi.
Forse, alla fine, la lezione più importante di questo dibattito non riguarda l’intelligenza artificiale, ma il nostro rapporto con il senso. In un mondo saturo di spiegazioni plausibili, la vera sfida è riconoscere quali sono fondate e quali no.
E questo, per ora, resta un compito che nessuna macchina può svolgere al posto nostro.