Il pioniere dell’IA Geoffrey Hinton è molto preoccupato e sta lasciando Google

La sua ricerca sulle reti neurali ha costituito la base dell’attuale rivoluzione dell’intelligenza artificiale (AI), ma ora Geoffrey Hinton si chiede se abbia contribuito a creare un mostro. Il 75enne informatico anglo-canadese dunque si è dimesso da Googleha detto lunedì Il New York Times. Questo gli dà l’opportunità di parlare liberamente dei rischi dell’IA.

Secondo Hinton, è scoppiata una concorrenza così feroce tra il suo ex datore di lavoro e Microsoft, tra gli altri, nello sviluppo di servizi basati sull’intelligenza artificiale che le aziende rischiano di perdere di vista le questioni etiche e i pericoli che circondano l’IA. Teme che Internet sia invaso da foto false, video falsi e notizie false e che le persone “non siano in grado di sapere cosa sia reale”. Teme anche le conseguenze sul mercato del lavoro se la tecnologia dell’intelligenza artificiale si sviluppa ulteriormente: “Ora si occupa solo di compiti noiosi. Ma forse molto più presto.

Soprannominato il “padrino dell’intelligenza artificiale”, Hinton ha trascorso anni a fare ricerche sulle reti neurali presso l’Università di Toronto in un momento in cui pochi scienziati vedevano il valore di questo approccio all’intelligenza artificiale. Molti colleghi cercarono di insegnare la logica dei computer, ma Hinton fece analizzare ai suoi sistemi grandi quantità di dati per scoprire loro stessi i modelli – il cosiddetto apprendimento approfondito.

In precedenza aveva svolto ricerche presso la Carnegie Mellon University in Pennsylvania, ma si è trasferito in Canada negli anni ’80 perché non voleva dipendere dai finanziamenti del Pentagono, il più grande finanziatore nel suo campo all’epoca. Nel 2018 è stato premiato con il Premio Turingche è considerato il premio Nobel per gli informatici.

Hinton, insieme a due dei suoi studenti, è entrato a far parte di Google dieci anni fa, quando ha pagato loro 44 milioni di dollari. apprendimento approfonditoavviare DNNresearch incorporato. Ad esempio, Google ha utilizzato la tecnologia per rendere ricercabili le raccolte di foto.

Svolta con il grande pubblico

Da allora la tecnologia ha fatto molta strada. compreso il lancio di ChatGPT, un chatbot della società OpenAI – di cui l’alunno di Hinton Ilya Sutskever è co-fondatore e direttore scientifico – ha reso l’intelligenza artificiale una svolta presso il grande pubblico lo scorso anno. ChatGPT è un chatbot a cui gli utenti possono porre domande o dare comandi in linguaggio naturale. Le risposte si basano sull’analisi di una grande quantità di testi da Internet, con i quali il modello è stato addestrato.

Leggi anche Microsoft vuole costruire un impero AI con l’investimento di miliardi di dollari in ChatGPT

Microsoft, che a gennaio $ 10 miliardi in OpenAI accoltellato, ha dotato il suo motore di ricerca Bing di uno strumento basato su ChatGPT chatbot. Questo potrebbe rendere Bing, che finora ha svolto un ruolo marginale, una minaccia per il concorrente e leader di mercato Google. segnalato ad aprile Il New York Times che Samsung, il più grande produttore di smartphone al mondo dopo Apple, considererebbe Google sui suoi dispositivi come il motore di ricerca predefinito sostituendo Bing.

A marzo, Google ha lanciato il proprio chatbot AI, Bardoche ha avuto un inizio difficile: quando Bard in a video promozionale ha affermato erroneamente che il telescopio Hubble è stato il primo a fotografare un pianeta al di fuori del nostro sistema solare (Europa telescopio molto grande nel 2004), l’azienda ha perso in un giorno 9% della sua capitalizzazione di mercato.

READ  AMD elenca il 14 febbraio come data di uscita per i processori Ryzen 7000X3D - Informatica - Notizie

cancellare l’umanità

scritto il mese scorso Bloomberg sulla base di documenti interni e conversazioni con 18 dipendenti attuali ed ex di Google che l’azienda aveva recentemente chiesto al proprio personale di testare Bard. Un dipendente ha concluso che il chatbot era “un bugiardo patologico”, un altro ha definito Bard “inquietante”. Il chatbot a volte dava consigli pericolosi per la vita. “Bard è peggio che inutile: per favore non iniziare”, ha scritto una persona in un messaggio interno.

Secondo i critici con cui Bloomberg ha parlato, dopo il successo del lancio di ChatGPT, Google ha incaricato i team dell’azienda che sovrintendono alla sicurezza e alle implicazioni etiche dell’intelligenza artificiale di “non ostacolare lo sviluppo del prodotto dell’IA”.

Leggi anche La Camera dei Rappresentanti è stata aggiornata mercoledì da esperti su ChatGPT. “È come una magia”

Hinton ha detto alla BBC che la sua partenza non vuole essere una recensione su Google. Eppure teme che la concorrenza tra Google e Microsoft porterà a una corsa globale che può essere fermata solo da una regolamentazione globale. Non si fa illusioni sul monitoraggio di tali accordi: a differenza delle armi nucleari, l’intelligenza artificiale è facile da sviluppare di nascosto.

Con le sue recensioni, entra a far parte di un’azienda in crescita. A marzo, circa un migliaio di imprenditori e ricercatori tecnologici hanno pubblicato una lettera aperta, chiedendo una moratoria di sei mesi sull’ulteriore sviluppo della tecnologia IA, che dovrà essere applicata dal governo se necessario. Questo tempo dovrebbe essere utilizzato per pensare ai protocolli di sicurezza comuni.

I firmatari includevano Elon Musk (che ha annunciato la sua iniziativa AI poco dopo), il fondatore di Apple Steve Wozniak e lo scrittore Yuval Harari. Quest’ultimo ha avvertito in un contributo molto commentato la scorsa settimana Economisti che abbiamo scoperto una “strana intelligenza quaggiù”. “Non ne sappiamo ancora molto, tranne che potrebbe distruggere la nostra civiltà”.

READ  L'ultima versione di coreboot può eseguire DOOM dal firmware della scheda madre – Gaming – Geeks

Hinton ha anche menzionato il pericolo che l’IA “spazzi via l’umanità”. un incontro con il canale di notizie CBS a marzo già “non inconcepibile”. Ad esempio, teme che i futuri sistemi di intelligenza artificiale possano programmarsi da soli, il che consentirebbe ai sistemi d’arma di funzionare autonomamente.

Hinton ora ha rimpianti per il lavoro della sua vita. “Mi consolo con la solita scusa: se non l’avessi fatto, sarebbe stato qualcun altro.”