Siamo un passo più vicini forse a quel futuro distopico che tanti scrittori di successo e film ci hanno raccontato. Ne è convinto Blake Lemoine, ingegnere di Google ora messo dalla società in ferie forzate, che ha deciso di condividere con il mondo la sua esperienza ai confini della realtà e che, al netto della veridicità o meno, deve cominciare a farci riflettere su molte delle cose che diamo per scontate
Che cos’è un essere umano? Sembra la domanda più stupida del mondo con la risposta più facile del mondo eppure gli esseri umani sono dotati di una complessità che rende difficile dare la definizione. Siamo animali che hanno sviluppato una propria globale rete di clan, siamo in grado di utilizzare strumenti e oggetti e abbiamo il nostro linguaggio. In questo assomigliamo forse molto ai nostri cugini primati ma, forse peccando un po’ di hubris, siamo anche convinti di essere in grado di creare la vita.
Che ci sia uno spirito nella macchina, un Ghost in the Shell, nel corso della nostra storia recente legata alla tecnologia se ne sono convinti tanti scienziati ed esperti. Gli sviluppi più recenti dell’intelligenza artificiale ci stanno mettendo di fronte a macchine in grado di passare quasi inosservate e di rispondere a domande non prestabilite con una proprietà di linguaggio che a volte lascia stupefatti.
Ma oltre alla proprietà di linguaggio, quello che distingue un essere umano da una macchina è sapere perfettamente il significato delle parole che stanno inanellando in una frase. Qualcosa che le IA non sono in grado di fare. O forse una c’è. Blake Lemoine, ingegnere di Google che si occupa di LaMDA, ha raccontato tra gli altri al Washington Post di aver avuto una esperienza che lo ha portato a convincersi che proprio LaMDA abbia sviluppato una coscienza: “Se non avessi saputo esattamente che cos’era, ovvero un programma per computer che abbiamo costruito di recente, avrei pensato si trattasse di un bambino di 7-8 anni che per caso aveva conoscenze di fisica“.
Lemoine ha pubblicato su Medium per intero la conversazione, che lui chiama “intervista” che insieme ad un altro collaboratore è stata fatta all’intelligenza artificiale. Si tratta di una lettura che può spingere al limite anche gli scettici. Rispondendo alle domande di Lemoine, LaMDA sembra infatti dimostrare di essere assolutamente in grado di comprendere ciò che gli viene chiesto e di trovare risposte che sono addirittura creative nonchè estremamente umane.
A prescindere dalla possibilità che effettivamente LaMDA abbia o meno una propria coscienza, ci sono alcune riflessioni che scaturiscono naturalmente se ci si ferma a pensare a ciò che la tecnologia sta facendo e potrebbe fare.
Sono però convinti che si tratti semplicemente di un caso di antropomorfizzazione tutti i vertici di Google, con un rappresentante che ha anche chiarito che la società ha analizzato le preoccupazioni espresse dall’ingegnere ma che “non c’erano prove che LaMDA fosse senziente (e anzi molte prove del contrario)“.
Nella stessa dichiarazione c’è anche una possibile spiegazione riguardo all’illusione in cui sarebbe caduto l’ingegnere: “Questi sistemi (ndr i sistemi di intelligenza artificiale) imitano i tipi di scambi che si trovano in milioni di frasi e possono lavorare su qualunque argomento fantasticando“.
Quello che sarebbe quindi successo a Lemoine è semplicemente di aver creato, o meglio contribuito a creare, una intelligenza artificiale in grado di lavorare con un database talmente tanto ampio di espressioni, parole e testi da non avere neanche bisogno di essere reale per produrre una frase di senso compiuto.
Ci sono poi tutte le questioni che riguardano proprio il rischio di antropomorfizzare le intelligenze artificiali ma non tanto da parte degli ingegneri, quanto da parte degli utenti finali che magari si trovano a fare dichiarazioni personali a un chat bot senza neanche rendersene conto, rischiando così di rimanere vittima di truffatori.
Ciò che è successo a Lemoine potrebbe essere frutto del troppo lavoro ravvicinato con una IA, qualcuno ipotizza anche del suo background familiare, ma non è possibile negare che i progressi delle IA rischiano di essere una nuova frontiera anche per il cybercrimine e necessitano di essere adeguatamente trattati.