Il ‘padrino dell’intelligenza artificiale’ lascia Google e mette in guardia contro l’IA

Il pioniere dell’IA Geoffrey Hinton si è dimesso da Google e si è unito al crescente gruppo di esperti preoccupati per i rischi dell’intelligenza artificiale.

Lo scienziato informatico anglo-canadese di 75 anni, noto come “padrino intelligenza artificiale”, teme i potenziali pericoli del lavoro della sua vita. Ora che è uscito da Google, può parlarne, ha detto a Til New York Times.

Hinton è stato alla base della tecnologia che ora viene utilizzata dai sistemi di intelligenza artificiale come ChatGPT: sistemi informatici che devono elaborare costantemente grandi quantità di dati e scoprire loro stessi schemi. Questo processo – il cosiddetto apprendimento approfondito – non può più essere ignorato sul posto di lavoro.

Ispirato dal cervello, Hinton ha portato ottimisticamente i suoi colleghi a questa tecnica negli anni 80. Con successo: ha portato l’attuale rivoluzione dell’IA. Ad esempio, uno degli alunni di Hinton è il co-fondatore del proprietario di ChatGPT OpenAI. Lui e due colleghi hanno anche vinto l’Alan Turing Prize, il premio Nobel per gli informatici, per il suo lavoro nel 2018.

Ora, mezzo secolo dopo il suo dottorato all’Università di Edimburgo, l’ottimismo di Hinton ha lasciato il posto a una grande preoccupazione. Teme che la concorrenza tra le aziende tecnologiche stia spingendo lo sviluppo dei sistemi di intelligenza artificiale a un livello tale che sta semplicemente andando troppo veloce.

Uno dei suoi timori immediati è che Internet possa essere inondato di sciocchezze generate dal computer: testo, immagini e video generati che sono indistinguibili dalla realtà per l’utente medio. L’intelligenza artificiale può anche cambiare radicalmente o addirittura assumere posti di lavoro, come quelli di traduttori o assistenti legali, pensa Hinton.

A lungo termine, tiene anche conto del fatto che i sistemi possono sia scrivere che eseguire attivamente i propri programmi. In questo contesto, ha menzionato armi autonome, come robot assassini.

Gli esperti hanno recentemente lanciato l’allarme: “Smetti di sviluppare l’IA”:

“L’idea che queste cose possano diventare più intelligenti degli umani è stata creduta solo da poche persone”, ha detto Hinton al giornale. “La maggior parte delle persone pensava che sarebbe andato abbastanza lontano.” Lui stesso pensava che ci sarebbero voluti almeno altri 30-50 anni. “Dovrebbe essere chiaro che non lo penso più.”

Frank van Harmelen, professore di intelligenza artificiale alla VU University, ha detto quando gli è stato chiesto di non essere sorpreso dal messaggio allarmante di Hinton. “Quello che mi sorprende è che lui è sempre stato un tecno-ottimista e ora parla così, come uno dei padri di questa tecnica. Questa è una svolta drammatica in una discussione molto accesa e attiva tra colleghi da tempo”, dice Van Harmelen, che ha conseguito il dottorato di ricerca presso l’Università di Edimburgo anni dopo lo stesso Hinton.

L’insegnante vede ilterminatore-come “previsioni sulle armi autonome principalmente come” un buon punto di discussione per il tavolo delle bevande “, ma condivide alcune delle preoccupazioni di Hinton.” Non devi mettere in guardia sugli scenari di fantascienza. Nel modo in cui le tecniche vengono utilizzate ora, c’è già così tanto potenziale per conseguenze socialmente dannose”.

Uno di questi è la disinformazione, afferma Van Harmelen. “Questi sistemi a volte diventano stronzate convincenti chiamati oratori persuasivi. Puoi fargli dire qualsiasi cosa e lo fanno in modo molto convincente. Possono generare testi, immagini e voci persuasivi. E una combinazione di tutto ciò”.

Un altro problema è che l’IA stessa “allucina” le cose insieme quando i sistemi indovinano la risposta. Ad esempio, di recente ha chiesto a un sistema di intelligenza artificiale quali otto libri avesse scritto lui stesso.

“Ne ho scritti solo sei, ma la risposta è stata sei libri che ho scritto, e poi altri due avrei potuto scriverne, con titoli molto credibili nel mio campo. Se mettete a disposizione questa tecnica comuni cittadini e coloro che non sanno separare il significato dalle sciocchezze, conduce rapidamente ai frammenti.”

Hinton, che categoricamente non vuole spiegare la sua partenza da Google come una critica al gigante della tecnologia, sta sostenendo la legislazione sull’IA. Questo appello ha ricevuto molte risposte tra gli scienziati, afferma Van Harmelen, che fa riferimento alla cosiddetta legge sull’IA a cui sta lavorando la Commissione europea. Deve classificare i sistemi di intelligenza artificiale e sottoporli a regole per categoria.

“E abbiamo davvero bisogno di lavorare nella scienza per sviluppare la scienza su questi sistemi oltre alla costruzione. Anche le persone che costruiscono queste cose non capiscono cosa possono fare”, conclude Van Harmelen. “È come salire su un aereo che va sempre più veloce, quando dobbiamo capire come funziona il volo. Non l’avevo mai detto prima, ma ora sta andando davvero troppo veloce.”