Hanno chiuso per precauzione un’intelligenza artificiale che ha sviluppato un proprio linguaggio
Sarebbe stato creato da Facebook e poi disattivato per precauzione.
Proprio come si legge: due bot programmati da Facebook hanno creato un proprio linguaggio , e poi sono stati disattivati per precauzione, per evitare che la loro comunicazione continuasse ad evolversi in modo incontrollabile.
Tutto è iniziato con l’indagine Fiera, un progetto che ha cercato di migliorare un’intelligenza artificiale, una di quelle che possono, ad esempio, risponderci in una chat di aiuto.
A tal fine, due bot, chiamati “Alice e Bob” sono stati programmati per commerciare tra loro , parlando in inglese.
Tuttavia, anche se tutto andava secondo i piani e i bot comunicavano sempre meglio tra loro, qualcosa è improvvisamente cambiato.
I ricercatori sono rimasti sorpresi quando hanno notato che i robot stavano dicendo ciò che sembrava una sciocchezza. Prima di tutto, hanno immaginato un errore. Ma si sono subito resi conto di qualcosa di sorprendente: quando l’hanno analizzato, hanno concluso che Bob e Alice non stavano parlando in modo incoerente, ma che avevano creato un linguaggio incomprensibile per gli umani .
Apparentemente, entrambi avevano deciso di rimuovere alcuni “gingilli” dalla lingua, in modo che fosse più efficace e consentisse loro di negoziare meglio. Ben presto il linguaggio divenne, per gli umani, incomprensibile.
Come si è scoperto, da questo fatto che può essere visto come un modo in cui “l’intelligenza artificiale sfugge al controllo”, i ricercatori hanno deciso di spegnere il sistema per evitare che il linguaggio continui ad evolversi.
Il Digital Journal , quotidiano che ha riportato il caso, ha sottolineato che non è la prima volta che un’IA (Intelligenza Artificiale) crea un proprio linguaggio. All’interno della fondazione OpenAI, fondata da Elon Musk, era già stato verificato che le IA sviluppavano un proprio modo di comunicare.
Il team incaricato dell’esperimento ha riferito di aver deciso di spegnerlo, non perché ci fosse un pericolo (come i robot che “scappano” nel web), ma perché, se si verificava un errore e non potevano essere capiti, non potevano riparalo.
Foto: pixabay.com
Laura Vidal
Fonte: www.bioguia.com
