Intelligenza artificiale Facebook e chatbot che parlano una lingua sconosciuta hanno riempito alcune pagine di giornali e molte pagine online. E sono arrivato a scrivere questo articolo partendo proprio dalla notizia che due chatbot avessero creato un linguaggio proprio.

Questo blog si è occupato spesso di assistenza vocale e conversazione, anche spiegando perché adesso. E dunque ho ritenuto doveroso un mio intervento. Anzi due. Scrivendo, in maniera più informale, dei Chatbot che parlano (una lingua sconosciuta). E svelando che parlano la nostra stessa lingua.

In pochi, invece, hanno parlato di quello che è accaduto davvero. In pochi sono andati alla fonte della notizia  per un approfondimento. Per me è bastato leggere un documento di Facebook molto interessante che riporto in parte di seguito. L’articolo, segnalatomi da Slow News (newsletter a pagamento) e Alberto Puliafito, si trova sulle pagine di Facebook.

La lingua sconosciuta

La lingua sconosciuta è banalmente un errore di programmazione che ha aspetti interessanti. Aspetti che portano a migliorare la macchina. Non certo a mettere in discussione la tecnologia. L’attenzione era rivolta alla capacità delle macchine di interloquire tra di loro, osservare quello che succedeva e soprattutto se arrivavano ad un risultato.

A causa di questo errore i ricercatori hanno completato l’esperimento perché l’esperimento non avrebbe portato a nulla. Dimostrando che i chatbot si sono rivelati troppo stupidi.

Intelligenza artificiale Facebook e negoziazione

In quest’ultimo anno su Messenger sono stati sviluppati migliaia di chatbot. E quello che i ricercatori di Facebook stanno studiando è la possibilità di progettare chatbot che siano utili per la nostra quotidianità. I ricercatori, hanno facilmente rilevato che tra le attività più frequenti della nostra giornata c’è la negoziazione. Tutti contrattiamo qualcosa. Una scadenza, una visita ad un amica, un’ uscita al cinema, dieci minuti in più sul letto, qualche centimetro per un posteggio risicato.

Ci interfacciamo con le altre persone chiedendo qualcosa e cercando un compromesso che l’altro può accettare o rifiutare.

La negoziazione è una parte importante della nostra quotidianità. I chatbot potrebbero aiutarci in questo?

Ad oggi, i lavori esistenti su chatbots hanno portato a sistemi in grado di tenere brevi conversazioni e di eseguire compiti semplici come la prenotazione di un ristorante. Ma le macchine di costruzione che possono contenere conversazioni significative con le persone sono impegnative perché richiedono ad un bot di combinare la comprensione della propria conversazione con la sua conoscenza del mondo. E quindi produrre una nuova frase che lo aiuti a raggiungere i propri obiettivi.

La capacità di negoziare

I ricercatori di Facebook hanno messo in relazione due software chatbot. Ad entrambi è stato dato il compito di negoziare e di ottenere alcuni oggetti. Ciascun oggetto aveva un valore numerico diverso. Nello specifico due libri, un cappello e tre palle da tennis. L’obbiettivo di ciascun chatbot era quello di raggiungere il risultato numerico migliore per se stesso.

I chatbot non si sono inventati dal nulla questo tipo di negoziazione. Sono stati i ricercatori che hanno creato innumerevoli scenari di negoziazione seguendo un modello.

garantendo sempre che fosse impossibile per entrambi i chatbot ottenere il miglior affare in contemporanea all’altro. Inoltre, i due chatbot sono stati istruiti per fermarsi nella negoziazione dopo 10 round di dialogo.

Il risultato è stato zero, perché i due chatbot non sono arrivati a niente. Se, infatti, il chatbot gioca contro se stesso, il risultato finale è zero.

La negoziazione è un problema linguistico. Il dialog rollouts

La  negoziazione è contemporaneamente un problema linguistico e di ragionamento, in cui un intento deve essere formulato e poi realizzato verbalmente. Tali dialoghi contengono sia elementi cooperativi che contraddittori, che richiedono ai chatbot di capire e formulare piani a lungo termine e di generare affermazioni per raggiungere i loro obiettivi.

Una tecnologia innovativa, che è stata utilizzata, è il “dialog rollouts”. Ossia, viene data la possibilità ai chatbot di costruire modelli mentali in modo da immaginarsi tutte le conversazioni possibili. Sottolineo il fatto che le conversazioni non sono elaborate dai chatbot, ma sono set che i programmatori inseriscono tra i dati che il software utilizza. In questo modo, il chatbot avrà la possibilità, in base ai calcoli, di poter fare la scelta che porti al risultato migliore. In altre parole…

 con la massima remunerazione futura attesa.

La vera notizia: i modelli sono in grado di generalizzare quando è necessario

Un po’ come avviene nel gioco degli scacchi. La macchina o il software, muovendo i pezzi, gioca infinite partite per raggiungere l’obbiettivo di dare lo scacco al Re. Calcola, non pensa.

Fino ad ora, questo tipo di tecnologia non era stata applicata alla lingua perché la conversazione umana ha un livello di complessità molto elevato. Ed infatti, il linguaggio usato in questo esperimento è stato molto semplice e ristretto. Lo scopo era quello di creare un modello che simulasse i dialoghi. Ma nello stesso tempo giungesse ad un risultato.

Solo così è possibile capire se il bot raggiunge l’obbiettivo che gli è stato dato.

I risultati dell’esperimento

Quali sono stati i risultati dell’esperimento? Principalmente tre.

Negoziazione estrema: nella negoziazione gli essere umani, ad un certo punto si accordano o comunque trovano un punto di incontro. Oppure proseguono in altre attività senza accordo. La macchina non si ferma finché non raggiunge un esito positivo.

Insomma, senza un comando adeguato, i chatbot andrebbero avanti all’infinito.

Manovre intelligenti: in alcuni casi i chatbot hanno dato segno di intelligenza, concedendo o mostrando interesse verso un elemento di valore, ma solo come azione di “compromesso”. Una tattica di negoziazione efficace che la gente usa regolarmente. Questo comportamento non è stato programmato dai ricercatori ma è stato scoperto dal bot come un metodo per tentare di raggiungere i suoi obiettivi.

Hanno simulato una strategia.

Produzione di nuove frasi: anche se i modelli neurali sono soggetti a ripetere frasi da dati formativi, questo lavoro ha dimostrato che i modelli sono in grado di generalizzare quando è necessario.

Tra le innumerevoli variabili di linguaggio, i software sono riusciti ad ottimizzare il linguaggio che gli era stato dato.

Costruire e valutare un insieme di dati di negoziazione

Per formare, ammaestrare, istruire i due chatbot a negoziare, questi vengono mescolati ad essere umani che a loro volta negoziano tra di loro. E solo procedendo in questo allenamento, composto da migliaia di conversazioni e contrattazioni che i due chatbots arrivano a qualcosa. E a qualcosa di utile.

Così per impedire all’algoritmo di sviluppare la propria lingua, è stato istruito contemporaneamente a produrre una lingua umana.

Cosa che non era mai stata fatta prima, perché la complessità del linguaggio è molto vasta. E comunque pare che un chatbot se la sia cavata molto bene.

Apprendimento di rinforzo

Se dunque i chatbots parlano con l’uomo, il chatbot parlerà nella lingua del parlante umano. Se parla con un altro chatbot, i due chatbot tendono a divergere dal linguaggio base. Ma non è detto che questi poi si comprendano tra di loro o che arrivino ad un risultato. Questo non lo sapremo mai. Probabilmente alla fine il risultato potrebbe essere pure zero ma detto in un modo che non significa nulla. Ed è nulla.

Per ovviare a questo errore, che ripeto non porterebbe a nulla, si è pensato di dare delle ricompense numeriche per mantenere la conversazione nella lingua predefinita.

Cosa ci aspetta?

Questo lavoro rappresenta un passo importante per la comunità di ricerca e per gli sviluppatori di bot. Si tratta di un evento storico. Intanto perché si può continuare a sperare di avere un assistente digitale personalizzato. Ma anche perché la comunità interessata all’argomento può portare altre persone di talento a contribuire nello sviluppo di questa tecnologia ancora agli albori.

Lo scopo dell’intelligenza artificiale

In fondo sono d’accordo con Injenia quando dice che lo scopo dell’intelligenza artificiale è

utilizzare reti neurali a supporto delle decisioni umane e non in sostituzione, utilizzando così il meglio dei modelli computazionali – la velocità – con il meglio della mente umana – la “saggezza” -.

I dubbi

È vero che ci sono dei dubbi riguardo l’intelligenza artificiale. Da sempre ciò che è “nuovo”, ciò che viene prospettato come cambiamento o rivoluzione, fa paura e riceve l’osteggiamento della moltitudine. E non è che gli scienziati siano immuni dal cavalcare le paure delle persone. Anche se a criticare sono scienziati come l’astrofisico Stephen Hawking che usa parole molto critiche a riguardo. O imprenditori come Elon Musk che pubblicamente alimenta queste paure e nello stesso tempo, investe in start up che sviluppano, appunto, intelligenza artificiale.

Prima di arrivare ad una intelligenza artificiale chissà cosa accadrà, chissà quali vantaggi ne avremo prima. O quali catastrofi naturali e climatiche ci aspettano.

In fondo stiamo insegnando alle nostre macchine a far di conto. Così come facciamo con i nostri bambini. Ed al momento, le possibilità che nostro figlio conquisti il mondo sono molto più alte di quelle che un chatbot si impossessi del Pianeta Terra.

I miei dubbi

Certo. La questione è seria. E i dubbi sono da ascoltare e da valutare. Sempre che questi dubbi derivino da uno studio o da una conoscenza, non solo cinematografica, dell’argomento.

Anch’io ho i miei dubbi. Dubbi di carattere etico. E riguardano piuttosto il cosa accadrà nel frattempo. Molto prima che si giunga, chissà quando, ad una intelligenza artificiale compiuta.

Ne ho già parlato nel mio articolo Assistenza vocale ed Etica. Me ne sono occupato anche quando ho parlato di assistenza vocale e questione di genere. Questioni neppure risolte per gli umani. E ragiono spesso sui principi dell’Onlife Manifesto.

Conclusioni

L’intelligenza artificiale è ancora lontana da venire. Eppure sono convinto che è necessario parlarne. Avere un dialogo costruttivo sulle tecnologie che si stanno sviluppando e che saranno pervasive, sarà utile a tutti.

La viralità della notizia, condivisa quasi 8000 volte, ci indica quanto grande sia la paura. Ma è anche il termometro che indica quanto sia necessario divulgare cultura digitale ovunque. Che diventi materia di educazione e formazione nelle scuole.

Una grande massa di persone, in questi anni, rimarrà fuori dai giochi. Già oggi, solo in Italia, gli analfabeti, persone che non sanno né leggere né scrivere, e analfabeti di ritorno, persone con un diploma che non comprendono cosa leggono, si contano a milioni.

Una grande massa di persone sta perdendo il proprio posto di lavoro. Sostituito, oggi, da macchine senza alcuna intelligenza. In contemporanea non si sta costruendo un’ educazione e una formazione adeguata ai lavori che serviranno da qui al prossimo decennio.

Da qui a qualche anno, il nostro problema non sarà certo l’intelligenza artificiale o i chatbots. Il nostro vero problema sarà il notevole divario eccessivo tra una parte della società altamente evoluta e una stragrande maggioranza tagliata fuori da questa evoluzione.

Una maggioranza, che a sentire le temperature di questi giorni, non sarà solo italiana, ma anche africana, costretta ad emigrare in terre abitabili e vivibili. Altro che intelligenza artificiale di Facebook!

 

Intelligenza artificiale Facebook – Chatbot che parlano (una lingua sconosciuta) ultima modifica: 2017-08-07T07:05:40+00:00 da Toni Fontana

Pin It on Pinterest

Share This