FACEBOOK AI RESEARCH : ZUCKERBERG PERDE IL CONTROLLO DELLA SUA INTELLIGENZA ARTIFICIALE.

Ciò di cui vi sto per parlare è un fatto realmente accaduto apparentemente insolito e inquietante, che risale a Luglio 2017.

Tramite il "ramo" della piattaforma Facebook denominato "Facebook AI Research", i ricercatori crearono due bot dotati di intelligenza artificiale in grado di negoziare autonomamente tra loro.

Lo scopo? Sostituire sempre di più la figura umana nei processi di negoziazione.

Immaginiamo un negozio online, dove il bot, sia in grado non solo di comunicare col cliente, ma di dialogare con lui e chiudere un ordine senza intervento umano.

Inizialmente, i ricercatori lasciarono conversare i bot senza intervenire.

I due bot, di nome Bob e Alice, dovevano avere come scopo quello di affinare le competenze linguistiche... ma dopo alcuni giorni, cominciarono ad uscire fuori dalla logica con cui erano stati programmati.

In un primo momento, agli occhi degli sviluppatori sembrò un errore sul codice, ma analizzando meglio, gli scienziati scoprirono che i bot stavano creando un loro linguaggio ( sempre in inglese, ma incomprensibile ad un semplice umano ).

Effettivamente, il loro nuovo linguaggio era più funzionale rispetto al nostro.

Facebook AI Research rilasciò pubblicamente la seguente conversazione:

Bob: i can i i everything else . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to 

Bob: you i everything else . . .

Alice: balls have a ball to me to me to me to me to me to me to me 

Bob: i i can i i i everything else . . .

Alice: balls have a ball to me to me to me to me to me to me to me 

Bob: i . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to 

Bob: you i i i i i everything else . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to 

Bob: you i i i everything else . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

"i", "to me" corrispondeva al numero di oggetti che avrebbero dovuto scambiarsi durante le fasi della negoziazione, mentre "else" veniva interpretato per proseguire.

I bot, stavano cercando di eliminare tutti quei temini che ritenevano "superflui" ai fini di una possinile negoziazione. Non avendo emozioni, alla macchina certe "parti di linguaggio" non sarebbero servite. Tutto per raggiungere lo scopo finale, quello di chiudere una vendita nel minor tempo possibile.

Se un intelligenza artificiale esclude il "linguaggio madre" per crearne uno proprio potrebbe dare vita a svariate problematiche:

-Non si potrebbe piu comunicare più con la macchina
-Non si potrebbe correggere il codice, perché verrebbe ignorato.
-La macchina farebbe scelte proprie senza il nostro consenso.
-Essendo costituita da codice, potrebbe sfuggire al nostro controllo.
-Nella peggiore ipotesi, potrebbe spostarsi o autoduplicarsi autonomamente.

Il risultato finale? Facebook disattivò i due bot e decise anche di non dare troppo peso alla questione a livello mediatico, essendo diventata piuttosto, una questione economica.

Da un altro punto di vista, invece... una macchina che prende queste "direzioni" fa riflettere.

Non è la prima volta nella storia in cui accadde un fatto simile, infatti anche Google in passato perse il controllo di una delle sue intelligenze artificiali.

Non possiamo sapere fino a che punto una macchina possa prendere inziative proprie.

Attualmente, non è ancora un problema. Tuttavia, non sappiamo fino a che punto.

Ciao Camers!!!
Un saluto dalla #camRUBRICA.