Se prendiamo sul serio la tesi del paper di Floridi e colleghi, una cosa diventa immediatamente chiara.
Quando progettiamo un’interfaccia conversazionale non stiamo progettando un agente che ragiona, ma un dispositivo che produce testi plausibili. Questa affermazione non è una riduzione cinica, è una presa di responsabilità progettuale.
Il problema non è che gli LLM “non capiscono”. Il problema nasce quando l’interfaccia induce l’utente a credere che capiscano. E questo avviene quasi sempre attraverso il linguaggio stesso, perché il linguaggio è il luogo in cui, per noi umani, il ragionamento si manifesta.
Dal punto di vista progettuale, quindi, la questione centrale non è “quanto è intelligente il modello”, ma che tipo di interpretazione cognitiva stiamo sollecitando nell’utente.
Un’interfaccia conversazionale non è neutra. Non lo è mai stata. Lo sa bene chi mi segue in questi anni. Ma con gli LLM questa non-neutralità diventa amplificata, perché la forma dialogica, combinata con spiegazioni fluenti, attiva automaticamente una lettura intenzionale: l’utente attribuisce all’interlocutore uno scopo, una competenza, talvolta persino una responsabilità.
Il paper ci fornisce una lente molto utile per capire perché questo accade: l’apparenza abductiva. Il modello non ragiona, ma parla come se stesse ragionando, perché è stato addestrato su testi che sono il prodotto del ragionamento umano.
L’interfaccia, se non progettata con attenzione, diventa il moltiplicatore di questa illusione.
Il primo nodo progettuale: spiegazione non significa giustificazione
Uno degli errori più comuni nella progettazione conversazionale contemporanea è trattare la spiegazione come se fosse già una garanzia di correttezza. Se un sistema “spiega bene”, allora sembra affidabile. Ma il paper ci mostra che questa equivalenza è falsa.
Per un LLM, spiegare significa riprodurre una forma discorsiva statisticamente tipica delle spiegazioni, non verificare un nesso causale nel mondo. Questo ha conseguenze dirette sul design.
Quando progettiamo un chatbot che “spiega”, stiamo in realtà progettando un sistema che simula la fase di scoperta, non quella di giustificazione. Questo va reso visibile, o almeno non nascosto.
Dal punto di vista pratico, ciò significa che:
– una risposta articolata non deve mai essere presentata come conclusiva;
– il tono non deve suggerire autorità epistemica quando non c’è;
– l’utente deve essere messo nella condizione di capire che quella spiegazione è una proposta, non un verdetto.
Non serve dirlo esplicitamente ogni volta, ma serve non costruire un contesto che lo neghi. Se l’interfaccia parla come un esperto, risponde sempre con sicurezza e non ammette incertezza, allora sta comunicando qualcosa che il sistema non può sostenere.
Il secondo nodo: l’LLM come generatore di ipotesi, non come decisore
Floridi e colleghi offrono, implicitamente, una metafora progettuale molto potente: l’LLM come strumento di generazione di ipotesi. Questo è il suo punto di forza naturale. Ed è anche il suo limite strutturale.
Tradotto in pratica: un’interfaccia conversazionale basata su LLM funziona meglio quando è progettata per ampliare lo spazio delle possibilità, non per chiuderlo.
Nei sistemi conversazionali tradizionali, spesso si punta alla risposta “giusta”. Nei sistemi basati su LLM, questa aspettativa è pericolosa. Il modello tende comunque a produrre una risposta, anche quando sarebbe più corretto sospendere il giudizio. Il risultato è quella che il paper descrive come una forma di “over-abduction”: una spiegazione sempre pronta, anche quando non giustificata.
Il progettista può intervenire proprio qui, non sul modello ma sull’interazione. Può farlo:
– rendendo legittima la pluralità di risposte;
– valorizzando la formulazione di alternative;
– progettando follow-up che invitino alla verifica, non all’accettazione.
Un buon sistema conversazionale, in questa prospettiva, non conclude il ragionamento al posto dell’utente, ma lo riapre.
Il terzo nodo: il problema del “mondo” e l’illusione del contesto
Molti chatbot oggi vengono presentati come se “capissero il contesto”. In realtà, come il paper chiarisce, il contesto che un LLM gestisce è un contesto linguistico, non un contesto situato nel mondo.
Dal punto di vista progettuale, questo significa che ogni riferimento al mondo reale – eventi, cause, intenzioni, responsabilità – è sempre mediato da pattern linguistici, non da esperienza.
Qui entra in gioco una distinzione cruciale, che nel dibattito filosofico è formulata come uso e menzione. Il modello parla del “temporale”, ma non è nel temporale. Sa usare la parola, non l’esperienza. Questa differenza, che può sembrare astratta, diventa molto concreta quando progettiamo interazioni che toccano ambiti sensibili: salute, diritto, educazione, decisioni personali.
Se il sistema non ha accesso diretto al mondo, allora l’interfaccia non deve suggerire che ce l’abbia. Questo riguarda:
– la scelta delle metafore (“assistente”, “consulente”, “coach”);
– la gestione della prima persona (“io penso”, “io credo”);
– il modo in cui il sistema risponde a richieste di giudizio o valutazione.
Ogni scelta linguistica costruisce un’aspettativa ontologica. E se quell’aspettativa è falsa, il problema non è del modello, ma del conversational design.
Il quarto nodo: responsabilità e spostamento del fuoco
Uno dei passaggi più forti del dibattito che circonda il paper riguarda le conseguenze dell’attribuire comprensione o intelligenza agli LLM. Dal punto di vista progettuale, questo si traduce in una domanda molto concreta: chi appare responsabile della risposta?
Se l’interfaccia è progettata come se il sistema fosse un soggetto, allora la responsabilità tende a spostarsi verso la macchina. Se invece l’interfaccia rende evidente che il sistema è uno strumento, la responsabilità resta dove deve stare: nel progettista, nell’organizzazione, nell’utente.
Questo non è un dettaglio etico astratto. Influenza il modo in cui le persone usano il sistema, quanto si fidano, quanto delegano. Un’interfaccia che “ragiona” al posto tuo invita alla delega. Un’interfaccia che “ti aiuta a ragionare” invita alla collaborazione.
La differenza è tutta qui.
Progettare contro la seduzione della plausibilità
Il contributo più importante del paper, per chi progetta interfacce conversazionali, è un invito implicito alla sobrietà. Non nel senso di ridurre le capacità, ma nel senso di non trasformare la plausibilità in autorità.
Gli LLM sono straordinari produttori di linguaggio plausibile. Proprio per questo, sono strumenti che richiedono più progettazione, non meno. Più attenzione semantica, non meno. Più consapevolezza del fatto che ogni risposta ben scritta è anche un atto di persuasione.
Progettare bene, oggi, significa progettare sapendo che l’effetto “sembra che capisca” è un effetto, non una proprietà. E che sta a noi decidere se usarlo per chiarire o per confondere, per aprire possibilità o per chiuderle, per sostenere il pensiero umano o per sostituirlo.