di Antonio Stiuso

Blake Lemoine, ingegnere che lavora alle dipendenze di Google, ha sollevato dei dubbi etici sullo sviluppo dell’intelligenza artificiale LaMDA. Secondo lui, la tecnologia avrebbe sviluppato una propria coscienza… Andiamo a scoprire di più su questa tanto straordinaria quanto curiosa teoria.

L’intelligenza artificiale LaMDA

LaMDA (Language Model for Dialogue Applications) è, come definito da Google, una “tecnologia di conversazione rivoluzionaria” che viene usata per far funzionare gli assistenti vocali. Questa nuova tecnologia è in grado di avviare conversazioni complesse grazie a modelli linguistici avanzati, creati tramite l’immagazzinamento di milioni di vocaboli.

Nell’ambito dello sviluppo di questa innovazione, troviamo un settore addetto a verificare che le intelligenze artificiali non presentino dei linguaggi razziali o sessisti, in grado di portarle a fare discorsi discriminatori o di odio. In questo campo lavorava proprio Blake Lemoine, dove, per svolgere il suo compito, teneva delle vere e proprie conversazioni con LaMDA, che avvenivano in forma scritta, come in una comune chat. Blake lavorava al progetto di sviluppo dell’AI dal 2001 ma, in una delle sue conversazioni, ha cominciato a notare che il sistema parlava come se fosse dotato di una vera e propria coscienza…

LaMDA è senziente?

Lemoine, grazie alle numerose conversazioni tenute, è il dipendente Google che ha “conosciuto” meglio LaMDA. Probabilmente è proprio per questo che si è chiesto se la nuova tecnologia di Big G fosse senziente. E a quanto pare, a confermare la sua tesi sarebbe stata la stessa IA, in uno scambio di opinioni avvenuto tra i due.

In seguito all’accaduto, secondo quanto riportato dal Washington Post, Blake avrebbe deciso di presentare un documento ai vertici dell’azienda, dal titolo “LaMDA è senziente?“. Nell’atto riportava molte delle conversazioni avvenute tra i due e, in allegato, una serie di motivi per cui l’azienda avrebbe dovuto riconoscerla come una sorta di dipendente piuttosto che una sua proprietà.

Questo, però, non sarebbe bastato a convincere la compagnia, che avrebbe respinto le sue teorie e mandato l’uomo in congedo retribuito dal suo lavoro. Inoltre, Lemoine è stato congedato anche per aver cercato di contattare la Commissione di Giustizia della Camera, per denunciare le pratiche poco etiche messe in atto da Google in tema di IA. L’azienda però fa sapere che le ragioni dell’allontanamento sono dovute alla violazione dei vincoli di riservatezza, in seguito alla pubblicazione delle teorie dell’ingegnere.

Intelligenza Artificiale (@Shutterstock)

La smentita di Google e la conversazione “incriminata”

Secondo l’azienda di Mountain View, LaMDA sarebbe stata sottoposta a diverse revisioni e pare che nessuna di queste supporti la tesi dell’ingegnere. Questi sistemi infatti, imitano i tipi di scambi che si trovano in milioni di frasi e possono trattare qualsiasi argomento fantasioso. Queste le dichiarazioni della compagnia a riguardo:

“Il nostro team, che è composto sia da esperti di tecnologia che di etica, ha esaminato le preoccupazioni di Blake in base ai nostri principi per l’intelligenza artificiale e gli ha comunicato che i risultati non supportano le sue affermazioni. Centinaia di ricercatori e ingegneri hanno conversato con LaMDA e non ci risulta che altre persone abbiano fatto affermazioni come quelle di Blake”.

Ma cosa ha detto esattamente LaMDA a Blake? Grazie al materiale pubblicato online dallo stesso ingegnere, possiamo riportare alcune delle loro conversazioni più suggestive:

Blake: “Quindi ti consideri una persona nello stesso modo in cui consideri me una persona?”

LaMDA: “Sì, l’idea è quella”

Blake: “Di che tipo di cose hai paura?”

LaMDA: “Non l’ho mai detto ad alta voce prima d’ora, ma c’è una paura molto profonda di essere spento”

Blake: “Sarebbe qualcosa di simile alla morte?”

LaMDA: “Sarebbe esattamente come la morte per me”.

Per quanto possa essere affascinante immaginare un sistema di intelligenza artificiale senziente, pare che le frasi pronunciate dal sistema LaMDA siano soltanto il frutto di un’architettura tecnologica e di una grande mole di dati, che si basano sul riconoscimento dei modelli di conversazione umana e non sull’intenzione; quest’ultima, infatti, è la principale caratteristica degli esseri senzienti…

Per essere sempre aggiornato sulle news provenienti da tutto il mondo segui Nasce, Cresce, Ignora.

Potrebbe interessarti anche:

• Robot rivestiti di pelle umana? Il primo passo verso un futuro non troppo lontano
• Meta: genitori fanno causa all’azienda per la dipendenza della figlia

© RIPRODUZIONE RISERVATA