Dopo i chatbot, molte aziende hanno pensato che l’arrivo di ChatGPT e degli altri strumenti di intelligenza artificiale generativa abbia risolto il problema della conversazione digitale. Se una macchina può rispondere, scrivere, sintetizzare e simulare un dialogo naturale, perché dovremmo ancora preoccuparci di progettare le conversazioni?
La risposta è semplice: perché lo strumento non coincide con il progetto.
È facile vendere una piattaforma, un chatbot, un’automazione, si tratta di prodotti visibili, acquistabili, installabili, presentabili in una demo. Molto più difficile è vendere ciò che viene prima: l’analisi dei bisogni, la qualità delle risposte, il tono di voce, i limiti dell’automazione, il passaggio a una persona, la coerenza tra ciò che l’organizzazione promette e ciò che l’utente riceve davvero.
Eppure è proprio lì che si decide se una tecnologia funziona o fallisce.
Questo articolo nasce da una riflessione sul mio corso Progettare chatbot e interfacce conversazionali, ancora disponibile e sempre in aggiornamento. Perché l’intelligenza artificiale generativa non ha cancellato il bisogno di progettare, semmai, secondo me, lo ha reso più urgente. Il punto non è scegliere lo strumento più potente, ma capire come un’organizzazione può parlare con le persone in modo chiaro, responsabile e coerente nell’era dell’AI.
Perché ChatGPT non elimina il bisogno di progettare le conversazioni
C’è un modo in cui le cose falliscono silenziosamente. E non è quando smettono di funzionare, ma quando non hanno mai davvero cominciato a farlo, nel modo giusto. I chatbot, per molti versi, secondo la mia esperienza, appartengono a questa categoria.
Li abbiamo immaginati ovunque, nei siti web, nelle app, nei servizi di assistenza, nelle prenotazioni, nei percorsi di vendita, nelle organizzazioni culturali, nei servizi pubblici. In parte ci sono arrivati. Ma quello che spesso è arrivato era già rotto in partenza: flussi rigidi, vicoli ciechi, risposte che non rispondevano davvero, interfacce che simulavano una conversazione senza mai intraprenderla.
E quando ChatGPT è apparso, molti hanno tirato un sospiro di sollievo. Problema risolto, si è pensato; la macchina ora sa parlare, capisce quello che gli viene detto, non serve più progettare niente. Anche se non si è mai davvero progettato un chatbot. Ed è esattamente qui che si nasconde l’errore più pericoloso.
Lo strumento non ha mai sostituito il progetto
Vale la pena fermarsi su questa storia dei chatbot, perché contiene una lezione che stiamo per ripetere su scala molto più grande.
La maggior parte dei chatbot che ha fallito non era fallita per ragioni tecnologiche. Era fallita perché nessuno aveva risposto, prima di costruirla, a domande fondamentali di architettura dell’informazione.
Al posto della progettzione si è sempre partiti dallo strumento, dagli strumenti. Le piattaforme si sono vendute, le aziende hanno acquistato piani e tariffe, sono state assunte, in azienda, le persone che hanno costruito le piattaforme, si sono caricati un po’ di dati, si è aggiunto un pulsante in basso a destra sullo schermo, dentro il proprio sito. E poi si era chiamato tutto questo “innovazione digitale” senza mai che si fosse sfiorata l’idea che il problema non p mai stata la tecnologia, ma l’assenza di una architettura.
Un chatbot senza progettazione
Un chatbot senza progettazione non è uno strumento neutro che semplicemente non funziona benissimo. È qualcosa di più insidioso. Si tratta di un sistema che promette una relazione e non la mantiene, qualcosa che simula comprensione senza averla. E ogni volta che un utente ci sbatte contro, che trova un vicolo cieco, una risposta generica, una domanda ignorata, non pensa “questo chatbot è limitato”, ma pensa “questa azienda non mi ascolta.” e si vuole allontanare da me.
L’interfaccia conversazionale non è mai trasparente. Parla sempre, anche quando sbaglia, dell’organizzazione che l’ha resa possibile.
Questo è il nodo che molti hanno evitato di affrontare, rifugiandosi nella comodità dello strumento. Se il chatbot non funzionava, si cambiava piattaforma, si facevano aggiustamenti tecnici. Ma raramente ci si è fermati a ricominciare con una vera progettazione.
D’altronde perché rivolgersi al piccolo blogger che studia da anni questo tema, quando le aziende hanno assunto fior di tecnici e sperperato risorse consistenti?
Quando le macchine parlano bene, il rischio si sposta
Oggi i sistemi di intelligenza artificiale generativa hanno eliminato molti dei limiti tecnici che rendevano i chatbot evidentemente goffi. Capiscono il linguaggio naturale con una precisione prima impensabile. Riformulano, sintetizzano, adattano il tono. Producono risposte che sembrano scritte da una persona competente.
Ma questo non ha risolto il problema di fondo. Semmai lo ha spostato su un piano più difficile da vedere.
Fino a qualche anno fa, quando una macchina sbagliava, l’errore era riconoscibile. La risposta era fuori contesto, meccanica, incomprensibile. E le persone capivano di avere davanti un sistema limitato e si regolavano di conseguenza.
Oggi una macchina può sbagliare in modo convincente. Può dare una risposta formalmente elegante che è sostanzialmente sbagliata. Può sembrare empatica senza avere alcuna comprensione reale della situazione. Può trasformare un’informazione incerta in una certezza apparente, con la stessa naturalezza con cui ne comunica una verificata.
La fluidità del linguaggio, in altri termini, non garantisce la qualità del contenuto. Anzi, può nasconderla.
Prima progettavamo conversazioni perché le macchine non sapevano parlare. Oggi dobbiamo progettarle perché le macchine parlano troppo bene per affidarsi a loro senza una struttura.
Il prompt non è una strategia
In questo scenario, si è diffusa rapidamente un’altra illusione: quella del prompt come soluzione.
Se si sa chiedere bene, si ottiene una buona risposta. Prompt engineering, prompt library, prompt perfetti per ogni occasione. C’è qualcosa di vero in questo, naturalmente, non lo voglio negare. Un’istruzione ben costruita migliora l’output. Ma il prompt non risponde alle domande che contano davvero per un’organizzazione. Ed è una operazione troppo lunga per una persona che vuole parlare con qualcuno.
Il prompt non decide quali contenuti siano affidabili e quali no, non stabilisce quando una risposta debba essere validata da una persona, non risolve le ambiguità nei processi interni. Il prompt è un’istruzione per un singolo momento. La progettazione è l’architettura di un sistema nel tempo.
Confonderli è come credere che saper dare ordini precisi a un operaio sostituisca la necessità di avere un progetto architettonico. L’operaio può essere bravissimo. Ma senza progetto, costruisce comunque la cosa sbagliata.
La voce è responsabilità
C’è un concetto che nella conversazione sull’AI generativa viene quasi sempre trascurato: ogni organizzazione ha una voce, e quella voce non è un esercizio stilistico.
Non parlo soltanto di tono di voce, più caldo, più formale, più tecnico. Parlo di qualcosa di strutturalmente più profondo. La voce di un’organizzazione è il modo in cui essa interpreta il proprio ruolo nei confronti delle persone.
Quando introduciamo un sistema conversazionale, tradizionale o generativo, non stiamo aggiungendo un canale di comunicazione. Stiamo creando un nuovo punto di contatto tra l’organizzazione e le persone che la cercano. E ogni punto di contatto modifica la percezione di quell’organizzazione.
Delegare questa voce a un sistema senza averla prima definita con precisione non è un risparmio. È una cessione di identità e spesso non ce ne accorgiamo finché il danno è già fatto.
Dopo i chatbot viene la progettazione, non la delega
La stagione dei chatbot così come l’abbiamo conosciuta è probabilmente finita. Ma non è finita la necessità di progettare le conversazioni. È finita, semmai, la tolleranza per la progettazione fatta male.
Quando i sistemi erano evidentemente limitati, un’interfaccia conversazionale mediocre era riconoscibile come tale. Oggi, con sistemi che parlano con naturalezza e autorevolezza, una progettazione assente o superficiale è molto più difficile da vedere, e molto più pericolosa nei suoi effetti.
L’AI generativa può produrre risposte. Ma il senso di quelle risposte, il loro perimetro, la loro coerenza con l’identità e i valori di un’organizzazione: tutto questo va ancora costruito da esseri umani che si fanno carico di una responsabilità precisa.
Si tratta di capire che ogni strumento potente richiede una cultura del progetto altrettanto potente. Altrimenti non stiamo innovando, stiamo solo delegando.