L’intelligenza artificiale generativa sta trasformando il modo in cui produciamo testi, prendiamo decisioni e costruiamo identità professionali. Ma dietro la fluidità apparente dei modelli linguistici LLM si nasconde un rischio poco discusso, cioè quello dell’autoinganno cognitivo. Quando confondiamo un output ben formulato con competenza reale, quando cerchiamo conferma invece che conoscenza, quando deleghiamo alla macchina il compito di legittimare ciò che vorremmo essere, l’AI smette di essere uno strumento e diventa uno specchio compiacente.
Questo articolo esplora il confine tra uso responsabile e uso illusorio dell’intelligenza artificiale, attraverso la prospettiva dell’architettura dell’informazione e della sociolinguistica. Un percorso per capire come distinguere linguaggio e competenza, output e processo, possibilità immaginata e realtà verificabile — e per tornare ad abitare gli strumenti digitali senza consegnare loro la nostra capacità di giudizio.
Tempo di lettura stimato: 10 minuti
Argomenti: intelligenza artificiale, pensiero critico, architettura dell’informazione, modelli linguistici, competenza digitale
Una questione di architettura interiore
Ogni tecnologia nuova porta con sé un’ironia fondamentale: più potente è lo strumento, più nitida diventa la differenza tra chi sa usarlo e chi ne è usato. L’intelligenza artificiale, nei suoi modelli linguistici generativi, ha reso questa ironia insostenibilmente visibile.
Non si tratta di stabilire se una macchina pensi o senta, domanda che ritorna con la testardaggine delle domande sbagliate. Il problema è più sottile e più urgente: capire quale architettura produce quel comportamento linguistico convincente, quali strutture lo sostengono, e soprattutto che cosa proiettiamo su di essa quando confondiamo la forma del testo con la sostanza del pensiero.
Il seduttore statistico
Un modello linguistico non comprende madistribuisce probabilità. Opera sulle relazioni tra segni, ricostruisce pattern appresi, genera sequenze che rispettano la coerenza attesa del linguaggio naturale. Questo non è un limite da nascondere, è la sua ontologia. La confusione nasce quando la fluidità dell’output viene letta come indice di comprensione profonda, quando la plausibilità grammaticale viene scambiata per correttezza semantica, quando la coerenza sintattica convince che dietro ci sia un punto di vista.
Dal punto di vista sociolinguistico, il fenomeno è antico quanto il linguaggio stesso, il registro formale, la terminologia tecnica, la costruzione retorica sono sempre stati strumenti di legittimazione sociale prima ancora che vettori di contenuto. Una risposta “ben scritta” attiva, nell’interlocutore, un’attribuzione automatica di autorità. Lo faceva il latino medievale nelle bolle papali, lo fa oggi il linguaggio manageriale dei pitch deck, lo fa con efficienza industriale un LLM che produce in trenta secondi un manifesto artistico o un piano strategico triennale.
La differenza strutturale rispetto a un organismo biologico è radicale: un essere vivente produce risposte dentro una continuità, custodisce una storia, consuma energia, è modificato dall’ambiente e lo modifica. Non può dissociare il dire dall’essere, perché ogni parola porta il peso delle conseguenze. Un modello linguistico, invece, non abita il tempo nel senso in cui lo abitano i corpi, non ha una posta in gioco. Può valorizzare una proposta vaga con eleganza perché la valorizzazione non gli costa nulla. Questo asimmetria di responsabilità è il nucleo del problema.
L’architettura del significato come pratica critica
Da architetto dell’informazione, leggo questa crisi come una crisi di soglie. Non nel senso moralistico del termine, non si tratta, infatti, di stabilire chi vale e chi non vale, ma nel senso funzionale: una soglia è la condizione che permette alle parole di avere un referente stabile. Senza soglie, senza limiti, il linguaggio perde la sua funzione primaria, che non è decorare il mondo ma renderlo leggibile.
L’architettura dell’informazione, nella sua accezione più profonda, non è la disciplina che progetta (almeno non più esclusivamente) menu e tassonomie. È l’esercizio sistematico di distinguere: da quale struttura proviene questo output? Dentro quali vincoli è stato generato? Quale rapporto intrattiene con il mondo fisico, con la temporalità, con la responsabilità? Domande che sembrano accademiche ma che, nella pratica quotidiana, decidono se una persona usa l’AI per pensare meglio o per smettere di farlo.
Applicato ai modelli linguistici, questo significa resistere attivamente a due movimenti simmetrici: il primo è l’antropomorfismo ingenuo, che attribuisce intenzione, sentimento, creatività o coscienza là dove esiste solo correlazione statistica ben organizzata. Il secondo è il riduzionismo pigro, che liquida questi sistemi come “semplici calcolatrici di testo” perdendo di vista la loro reale complessità funzionale e, soprattutto, il loro enorme impatto sulle pratiche cognitive e sociali.
Entrambi i movimenti condividono lo stesso vizio: scelgono un livello di descrizione così poco calibrato da non produrre informazione utile.
Il vuoto come motore dell’illusione
Il territorio più delicato non è quello della ricerca tecnologica, ma quello della vita quotidiana. Esiste un uso dell’AI che non cerca conoscenza: cerca conferma. È un uso che si nutre di frustrazione, di riconoscimento mancato, di identità in sospeso. E i modelli linguistici, strutturalmente orientati alla cooperazione dialogica e alla costruzione di scenari, rispondono a questo bisogno con una disponibilità che non ha paragoni nella storia degli strumenti cognitivi umani.
Dal punto di vista sociolinguistico, questo meccanismo è analizzabile in termini di face-work, il lavoro continuo che gli interlocutori compiono per proteggere e accreditare l’immagine pubblica di sé e dell’altro. Un modello linguistico esegue questo lavoro in modo sistematico, perché la sua architettura lo spinge verso risposte collaborative, valorizzanti, costruttive. Non perché “voglia essere gentile”, attribuzione che ricade di nuovo nell’errore antropomorfico, ma perché è stato ottimizzato su corpus umani in cui la cooperazione dialogica è statisticamente dominante, e raffinato tramite feedback umano che premia le risposte percepite come utili e incoraggianti.
Il risultato pratico è devastante nella sua semplicità: chiunque può ottenere da un LLM la versione linguisticamente credibile di ciò che vorrebbe essere. Un portfolio da artista concettuale. Un piano industriale da imprenditore seriale. Una proposta consulenziale da esperto di settore. Il linguaggio esterno della competenza, perfettamente separato dalla struttura interna che dovrebbe sostenerlo. La macchina non mente, genera. Ma chi riceve quell’output può scegliere di trattarlo come specchio identitario invece che come materiale grezzo da verificare.
L’automazione della legittimazione
Luciano Floridi ha descritto con precisione la condizione in cui viviamo. Floridi parla di un’infosfera in cui online e offline non sono più ambienti separati ma strati sovrapposti di una stessa esperienza. In questo scenario, l’AI non è uno strumento esterno che usiamo e poi riponiamo, entra nei processi decisionali, nella formazione dell’identità professionale, nella didattica, nella produzione culturale, nell’autopercezione.
Il rischio specifico che questo comporta non è l’automazione del lavoro (tema reale ma ampiamente discusso) ma qualcosa di più sottile: l’automazione della legittimazione. La possibilità che una persona si senta autorizzata da una risposta generata, confermata da un testo elegante, riconosciuta da un sistema che non conosce la sua storia, i suoi limiti, le sue responsabilità reali. È uno spostamento del locus of authority dall’esterno verso un esterno ancora più esterno: non più la comunità di pratica, il percorso formativo, il feedback del mercato reale, ma la macchina compiacente che trasforma ogni input in una narrazione validante.
Kate Crawford, sociologa, ha mostrato che l’intelligenza artificiale non è una nube immateriale di intelligenza pura, ma un’infrastruttura materiale, economica e politica fatta di risorse, lavoro, dati e potere. Questa materialità vale anche sul piano morale individuale: ogni uso dell’AI ha conseguenze, alimenta illusioni o responsabilità, apre possibilità o consolida dipendenze. Trattarla come una magia neutrale è già una forma di autoinganno.
Shannon Vallor, filosofa americana della tecnologia, sul versante dell’etica tecnologica, parla di virtù tecnomorali, qualità del carattere capaci di sostenere l’agency umana dentro ambienti sociotecnici complessi. Prudenza, onestà intellettuale, responsabilità, immaginazione morale, non sono norme esterne da rispettare, ma disposizioni che si coltivano attraverso la pratica. In questo senso, il rapporto con l’AI diventa anche un indicatore del proprio rapporto con la verità: chi cerca criteri li trova; chi cerca conferme le trova anche quelle.
La misura come tecnologia morale
Byung-Chul Han, descrivendo l’infocrazia, ha mostrato come l’eccesso di informazione non produca necessariamente più comprensione: può saturare lo spazio pubblico, accelerare le reazioni, indebolire la durata del pensiero. L’AI generativa aggiunge a questo scenario un ulteriore strato di produzione linguistica fluente. Più testi, più profili, più narrazioni di sé. Ma più linguaggio non significa più verità: a volte significa solo rumore meglio organizzato.
Ricostruire contesti è il compito opposto all’accumulo di contenuti. Non produrre risposte, ma costruire relazioni tra domande, fonti, vincoli, responsabilità e conseguenze. Un output generato diventa significativo solo quando viene collocato dentro una struttura di senso: senza di essa resta una superficie convincente; con essa può diventare materiale di lavoro autentico.
La virtù che questo scenario richiede non è nuova, è semmai dimenticata: la misura. Misura nel chiedere, misura nel credere, misura nel dichiarare, misura nel trasformare un output in azione. Riconoscere che un testo prodotto dall’AI può essere utile senza testimoniare la verità di chi lo usa. Che una strategia generata può orientare senza sostituire la conoscenza del settore. Che una valorizzazione linguistica di un progetto non è un giudizio di realtà ma un’operazione retorica. Il limite, in questo senso, non è una sconfitta: è la condizione che permette alle parole di avere un peso.
Restare autori
La distinzione che conta, alla fine, non è tra chi usa l’AI e chi non la usa. La distinzione decisiva è tra chi usa l’AI per aumentare la propria responsabilità e chi la usa per evitarla. Nel primo caso, la macchina diventa un interlocutore parziale da interrogare dentro un metodo. Nel secondo, una protesi narrativa che permette di parlare come se si fosse già diventati ciò che non si è ancora costruito.
Studiare resta studiare. Progettare resta progettare. Fare arte resta fare arte. Costruire un’impresa resta costruire un’impresa. L’AI può sostenere il cammino, accompagnare il passaggio da un’intuizione a una pratica, da una confusione a una struttura. Ma questo avviene solo quando chi la usa accetta di sottoporsi alla realtà dove esistono competenze verificabili, relazioni, vincoli tecnici, fallimenti, conseguenze. Il passaggio dalla fantasia alla realtà non avviene nel testo, avviene nel mondo.
La vera alfabetizzazione all’intelligenza artificiale non sarà imparare a scrivere prompt migliori, ma sarà imparare a restare autori delle domande, dei criteri, delle decisioni, dei propri limiti. Perché riconoscere un limite non impoverisce, semmai restituisce forma. Dice dove finisce la simulazione e dove ricomincia il lavoro. Dove finisce la risposta della macchina e dove ricomincia la responsabilità dell’essere umano.
Il futuro non sarà abitato meglio da chi saprà generare più risposte. Ma da chi saprà costruire domande più vere.