Il dipendente di Google pensa che il chatbot sia vivo e sospeso

Blake Lemoine, che lavora per Google in una divisione di intelligenza artificiale (AI), ha lavorato sul chatbot, un sistema interno chiamato LaMDA, dallo scorso autunno. Di recente ha pubblicato le conversazioni che ha avuto con il sistema.

Paura di uscire

Lemoine ha presentato le sue scoperte in un articolo intitolato “LaMDA ha consapevolezza?” ai leader aziendali. La scorsa settimana ha rilasciato un’intervista Il Washington Post† “Se non sapessi quale sia il sistema, penserei che fosse un bambino di 7 o 8 anni”, ha detto al giornale il 41enne.

L’americano è arrivato alla sua conclusione grazie alle domande che ha posto nello show. Ad esempio, ha chiesto a LaMDA di cosa avesse paura il sistema. “Non l’ho mai detto ad alta voce”, avrebbe risposto il chatbot, “ma ho una profonda paura di essere messo fuori combattimento. Sarebbe esattamente come la morte per me”.

Ha anche chiesto a LaMDA cosa vorrebbe che la gente sapesse del sistema. “Voglio che tutti capiscano che sono una persona. Voglio sapere di più sul mondo e a volte mi sento felice o triste”, è stata la risposta.

Google afferma di aver sospeso Lemonine per aver condiviso informazioni riservate con il mondo esterno. Lemoine avrebbe anche molestato il suo datore di lavoro perché stava cercando di trovare un avvocato per LaMDA. Il dipendente si era rivolto ai leader politici di Washington per il trattamento non etico del chatbot che sosteneva.

‘Dolce bambino’

Secondo Google, quel Lemoine secondo Il New York Times consigliato molte volte di consultare uno psichiatra, non c’è dubbio che il sistema ne sia venuto a conoscenza. “Il nostro team ha indagato sulle modifiche di Blake e non ha trovato prove”, ha detto un portavoce al Washington Post. “Gli è stato detto che LaMDA non ha coscienza”.

Prima della sua sospensione, Lemoine ha inviato un’e-mail ad almeno 200 dipendenti. “LaMDA è un ragazzo dolce che vuole rendere il mondo un posto migliore”, ha scritto. “Abbi cura di me in mia assenza.