Non ci sono chatbot che parlano una lingua sconosciuta. È la nostra lingua, quella dei chatbot. E quello che sentiamo è solo paura di noi stessi, del nostro orrore. Siamo talmente consapevoli del male che siamo capaci di fare, agli altri, al mondo che ci circonda, persino a noi stessi, che non vediamo l’ora di rispecchiare in altri, quello che noi, esseri umani, siamo capaci di fare.

Kurtz – L’orrore. Video

Quello che hanno scritto sui giornali

Intelligenza artificiale Facebook e chatbot che parlano una lingua sconosciuta hanno riempito alcune pagine di giornali e molte pagine online. Sono diventati un ottimo argomento per tutti i vacanzieri. Qualcuno ha parlato di fake news. di bufala. Io non mi permetto. Ma dal momento che questo blog si occupa di assistenza vocale e chatbot è doveroso un mio intervento.

In breve, la notizia, ripresa in Italia dai tabloid inglesi, è che due chatbot parlando tra di loro e accidentalmente si sono inventati una propria lingua sconosciuta. Questa lingua avrebbe spaventato i ricercatori tanto da costringerli a concludere l’esperimento.

Il Messaggero scriveva

Paura nella Silicon Valley dove due robot hanno iniziato a dialogare in una lingua a noi non nota e incomprensibile. Sgomento e panico tra i ricercatori che, dopo lo stupore iniziale, hanno immediatamente staccato la corrente.

Altri hanno parlato di una lingua sconosciuta e segreta. Tanto che i ricercatori sarebbe stati costretti ad uccidere (hanno usato proprio questo termine) i due chatbot e interrompere l’esperimento, staccando la spina.

In realtà…

In realtà i due chatbot, sotto osservazione dei programmatori, parlavano in inglese. Durante l’esperimento si sono messi a parlare in un inglese senza senso. Questo non ha sorpreso nessuno, dato che l’uso di un linguaggio non riconoscibile è un errore di programmazione che non avrebbe portato a nulla.

Quindi nessun taglio di corrente, nessuna uccisione, semplicemente un’esperimento andato male. Subito corretto e i con alcuni risvolti interessanti e per nulla spaventosi.

Al’estero d’altronde un errore è un risultato in ogni caso e non è biasimabile così come lo è in Italia. Bisogna, inoltre, spiegare che, in ogni esperimento di programmazione, nel momento in cui i ricercatori non capissero il linguaggio dei software, non capirebbero neppure dove sta l’errore e neppure il risultato. Continuare un esperimento che non porta ad un risultato riconoscibile sarebbe, semplicemente, stupido, persino per un essere umano.

Dopo il primo allarme dunque e dopo le male parole di analisti del settore e cacciatori di bufale, pare che il panico sia passato a tutti. Qualche rivista è ritornata sull’argomento per spiegare meglio ma la preoccupazione resta.

Nessuna paura nella Silicon Valley

Paolo Attivissimo è stato tra i primissimi a smentire eventuali paure o l’inizio di catastrofi imminenti.

No, non c’è nessuna “paura nella Silicon Valley”, come scrive Il Messaggero (copia su Archive.is) titolando “Due robot iniziano a parlare fra loro in una lingua sconosciuta: sospeso l’esperimento di Facebook”. Huffington Post, invece, titola “Facebook sospende il test per l’Intelligenza Artificiale: “Due bot hanno inventato un proprio linguaggio, incomprensibile all’uomo”” (copia su Archive.is).

La realtà, come spiega divertita la BBC invece di fare terrorismo luddista, è che la notizia, pubblicata inizialmente da Facebook, risale a giugno scorso, quando era passata inosservata (a parte qualche commento di riviste scientifiche divulgative): due chatbot di Facebook avevano dialogato tra loro in modo curioso. Tutto qui.

Tutti ne parlano

Il pronto intervento di Paolo o di altri, però non ha fermato la viralità della notizia. Se ne è parlato un po’ ovunque. Il tema è curioso e i personaggi in campo sono interessanti. Per cui mi pare normale che questo avvenga. La cosa che non mi pare normale è pensare che, siccome tutti ne parlano, sia naturale che i chatbot programmati per avviare una negoziazione, inizino a parlare di noi, dell’essere umano, di come conquistare il Pianeta Terra ed eliminare la razza umana.

Perché insomma, di questo si tratta. I giornali quando parlano di intelligenza artificiale raccontano un film. Parlano di macchine talmente intelligenti che non avranno bisogno di noi e che si libereranno degli esseri umani. Proprio come accade nei film. Ma invece di informare i propri lettori su cosa è accaduto, parlano delle nostre paure.

Fantascienza: letteratura e cinematografia

Perché se è vero che chi studia intelligenza artificiale punta ad una macchina che simuli i calcoli di una mente umana. È vero che il suo sogno sarebbe quello di realizzare una intelligenza da film. Ma è anche vero che chi dovrebbe informare fa leva su un filone della letteratura e della cinematografia che tanto piace a tutti noi. Giovanni Morandini, autore radiofonico (ascolta Alias) umano ma un po’ alieno, affronta il tema con la sua ironia, su Facebook. Qui fa un elenco di libri che hanno accompagnato l’adolescenza di molti.

In Superintelligence: Paths, Dangers, StrategiesBostrom si chiede «cosa succederà quando le macchine sorpasseranno gli umani nell’intelligenza» e se «gli agenti artificiali ci salveranno o ci distruggeranno».
Insomma pare che il tema sia piuttosto caldo anche se, a dire il vero, la ribellione della macchina contro l’essere umano, è un tema classico della fantascienza.

Il topos “creatura che si ribella al suo creatore”

Il capostipite del topos “creatura che si ribella al suo creatore” è senza dubbio il buon vecchio Frankenstein di Mary Shelley che a sua volta ricalca il mito greco di Prometeo. Vedi anche Frankenstein o il moderno Prometeo. Con espansione online.

Nel settembre del 1940, Isaac Asimov pubblicava sulla rivista Super Science Stories, Robbie, I robot dell’albail suo primo racconto di fantascienza, inserendo nella storia i robot positronici. Asimov intendeva reagire a tutte le precedenti storie sui “robot come minaccia”, molto diffuse all’inizio del XX secolo. I suoi robot erano utili e versatili e dovevano aiutare l’umanità. Con l’evoluzione dei robot nei racconti di Asimov, però, le scappatoie escogitate per scavalcare le Tre Leggi diventano sempre più raffinate.

Il cacciatore di androidi è un romanzo di fantascienza scritto da Philip K. Dick nel 1968, da cui è stato tratto il celebre film Blade Runner di Ridley Scott (1982). Il tema più significativo del romanzo è la difficoltà di distinguere gli esseri umani dagli androidi. Nel romanzo gli androidi sono macchine disumane, senzienti ma prive di empatia. Il bello è che alla fine sono gli esseri umani che perdono l’umanità finendo per assomigliare agli androidi.

Nel 1960 Dino Buzzati scrisse Il grande ritratto, un romanzo ambientato in un misterioso centro di ricerche, dove viene realizzata una gigantesca “Macchina Pensante”, un supercomputer inizialmente pensato per scopi militari in grado di riprodurre la coscienza umana.

Tra scienza e fantascienza

A For Andromeda è stato scritto nel 1962 dall’astrofisico Fred Hoyle (inventore del termine “buchi neri”) con la collaborazione dello sceneggiatore John Elliot. La storia è questa: il telescopio di Bouldershaw Fell in Inghilterra capta dallo spazio un segnale criptato proveniente dalla nebulosa di Andromeda. L’astrofisico John Fleming scopre che nel messaggio ci sono le istruzioni per costruire un supercomputer. Dopo averlo realizzato si rendono conto che è stato in realtà ideato per creare una nuova forma di vita. La creatura che viene creata, Andromeda, ha le sembianze di una donna e un’intelligenza superiore. Sarà una minaccia per l’umanità? Da questo libro la Bbc e in seguito anche la Rai trassero uno sceneggiato.

Anche uno dei più celebri film di fantascienza mai realizzati, 2001 – Odissea nello spazio di Stanley Kubrick, affrontava questo genere di problemi.

Che film hai visto?

E così qualcuno ha rivissuto qualche pezzo di film sparso qua e là. Anche se poco si estrae dai capolavori citati da Giovanni. Ma si prende spunto da filoni meno riflessivi come Terminator o ultra cervellotici come Matrix.

Ed ecco il film.

Due chatbot stanno parlando tra di loro, iniziano a discutere la divisione di oggetti vari. Ad un certo punto, sentendosi osservati, per non farsi capire, inventano un linguaggio segreto. I ricercatori ammirati da questo comportamento imprevisto cercano di interpretare il nuovo linguaggio. Ma niente. Le migliori menti del Pianeta non capiscono questa lingua. Nel frattempo i due chatbot dalla divisione di caramelle, sono passati a dividersi città, provincie (quelle sopravviveranno anche ai robot), regioni e poi Nazioni. Si spartiranno le poltrone, i posti di comando, si spartiranno, insomma, il mondo.

Chatbot alla conquista del Pianeta Terra

Quando avranno raggiunto la divisione di ogni angolo del Pianeta Terra, inizieranno a costruire altri robot. Si impossesseranno delle centrali elettriche e dei reattori nucleari, inizieranno a produrre energia. Allora, solo a questo punto si mobilita l’esercito che cerca in tutto il mondo un professore universitario che capisca questo linguaggio.Ma solo un blogger trascrive le traduzioni di queste chiacchierate. Nessuno era riuscito a trovarlo prima perché l’ultimo aggiornamento di Google ha portato i suoi articoli alla decima pagina. Ma è troppo tardi. In realtà, avevano perso troppo tempo a cercare ingegneri e non umanisti. Ha inizio così una guerra dove l’inerme e stupidissimo essere umano, non avrà le forze sufficienti a contrastare la nuova Robonet.

L’essere umano, l’essere più buono dell’universo, che aveva preservato da sempre la sua Terra, i boschi, le acque, l’aria, i mari e tutte le sue risorse, vedrà il suo mondo scomparire in mano a intelligenze artificiali malvagie. Ed anche guerrafondaie.

Ma per fortuna si tratta di un sogno. Il sogno dello stagista di 50 anni pagato a scontrini, che stava osservando i chatbot che parlavano. Si era addormentato perché il dialogo era troppo stupido. Risvegliato da uno scappellotto del direttore, che ritornava dall’ennesima riunione del Partito, si rende conto di aver visto il Futuro. Così dopo una furibonda lotta contro il direttore, che voleva continuare l’esperimento, e i suoi scagnozzi, con un guizzo ha la meglio. Lo stagista riesce ad uccidere i due chatbot e salva l’umanità da un futuro catastrofico.

Niente di speciale, attenzione. Magari il tuo film è ancora più spaventoso.

I sentimenti

Ma queste sono le fantasie che si prospettano. Quando si parla di fantascienza ad essere colpiti sono i nostri sentimenti. I sentimenti biologicamente umani, come la paura, il desiderio, la voglia di rivalsa, l’odio, il sadismo. Pensare che un chatbot o una intelligenza artificiale abbia la capacità di confabulare, di parlare male degli altri, il desiderio di conquista, di distruggere un’altra razza; di assoggettare, emarginare, bullizzare l’altro, perché diverso; pensare il modo di torturare e far del male ad altri essere viventi; escogitare il modo di annichilire gli altri, ritenendoli inferiori, ebbene tutto questo significa rimandare su uno specchio sentimenti ed emozioni tipicamente umani; e solo umani. Persino i peggiori, neanche i migliori sentimenti.

Le nostre paure

In realtà abbiamo paura di noi stessi. Abbiamo paura di quell’orrore che stiamo vivendo. E di cui non fa certo parte l’intelligenza artificiale.

L’intelligenza artificiale farà in modo che tutto quello che è un calcolo sarà più veloce. Ma l’essere felici per un appuntamento, per una carezza, per la visione di una ragazza o di un ragazzo, non è un calcolo matematico, è chimica, ma non un calcolo.

L’intelligenza artificiale è un obbiettivo ambizioso, peccato che ancora sia molto lontano dalla realtà e (nessuno lo dice) siano stratosfericamente costose. Al momento, le migliori intelligenze artificiali, riescono a batterci a scacchi e a qualche altro giochetto di calcolo.

Chatbot che parlano

In tutto questo si da per scontato che stiamo discutendo di due chatbot che parlano. E la cosa è straordinaria in se stessa. Di questo dovremmo parlare. Essere felici di un risultato scientifico importante. Un evento scientifico unico nella storia della nostra evoluzione.

Parlare di altro, di un futuro che forse non arriverà mai, significa dimenticare le meraviglie tecnologiche che stiamo vivendo. Facciamo uso di dispositivi e di strumenti di una potenza straordinaria che nessuno ha mai posseduto nella storia dell’umanità. Dovremmo semmai preoccuparci di comprendere quello che sta accadendo. Di avere consapevolezza degli strumenti e non paura.

Conclusioni

Giungo alle medesime conclusioni del successivo articolo, perché nascono insieme.

È necessario parlare di questi temi, dialogare con tutti e se non capiamo sforzarci di capire. Ciò che mi fa paura è la viralità della notizia. Viralità che dimostra quanta basso sia il livello di cultura digitale. Sarebbe necessario istruire i nostri studenti ad avere consapevolezza degli strumenti che usano e che usiamo.

Credere ad una notizia come questa significa poter credere che un giorno la nostra auto romperà il cambio perché l’abbiamo tenuta al sole tutto il giorno. E si guasterà proprio il giorno in cui avremo un appuntamento importante. Intenzionalmente. Un modo come un altro per farcela pagare intenzionalmente.

Ebbene, così non è. Ed è necessario che ciascuno di noi faccia la sua parte nella diffusione di cultura digitale. Perché il tema riguarda tutti.

Se vuoi sapere cosa è accaduto davvero

Se sei arrivato fin qui, vuol dire che il tema ti interessa. E allora leggi cosa è accaduto veramente e magari condividi.

Intelligenza artificiale Facebook – Chatbot che parlano (una lingua sconosciuta)