Geoffrey Hinton lascia Google e dichiara: “Mi pento di aver creato i chatbot”

Geoffrey Hinton, 75 anni, ha annunciato le sue dimissioni da Google in una dichiarazione al New York Times, dicendo che si pente di aver creato i chatbot di intelligenza artificiale e di aver aperto la strada agli attuali sistemi come ChatGPT. “In questo momento, non sono più intelligenti di noi, per quanto ne so. Ma penso che presto potrebbero esserlo”, In effetti la ricerca pionieristica di Hinton sulle reti neurali e il deep learning ha aperto la strada a ChatGPT. “E dato il ritmo dei progressi, ci aspettiamo che miglioreranno velocemente. Quindi dobbiamo preoccuparcene”.

Nell’articolo del New York Times, Geoffrey Hinton ha fatto riferimento a “cattivi players” che avrebbero cercato di usare l’IA per “cose cattive”. Ha aggiunto: “Il tipo di intelligenza che stiamo sviluppando è molto diverso dall’intelligenza che abbiamo: noi siamo sistemi biologici e questi sono sistemi digitali. E la grande differenza è che con i sistemi digitali hai molte copie dello stesso modello e tutte queste copie possono imparare separatamente ma condividere le loro conoscenze all’istante. Quindi è come se avessi 10.000 persone e ogni volta che una persona ha imparato qualcosa, tutte lo sanno automaticamente. Ed è così che questi chatbot possono sapere molto di più di qualsiasi essere umano.” Anche Yoshua Bengio, un altro cosiddetto padrino dell’intelligenza artificiale, afferma “Bisogna fare un passo indietro.”

I potenziali rischi

Nel marzo 2023, l’Europol, ‘Ufficio europeo di polizia che ha come obiettivo di contribuire a rendere l’Europa più sicura, ha pubblicato un report, denominato ChatGPT. The impact of Large Language Models on Law Enforcement, in cui si descrivono i potenziali rischi riguardanti tali dispositivi.

Secondo Europol, GPT-4, l’ultima versione del software di Open AI, avrebbe apportato miglioramenti rispetto alle versioni precedenti e potrebbe fornire un’assistenza ancora maggiore ai criminali. Il nuovo modello è in grado di comprendere meglio il contenuto del codice e di correggerne eventuali errori di programmazione. Per un hacker con scarse conoscenze tecniche, questa sarebbe una risorsa preziosa, mentre un utente più abile potrebbe avvalersi di queste capacità migliorate per affinare ulteriormente o automatizzare le prassi criminose.

L’Unione Europea sta approntando procedure per contrastare ii sistemi ad alto rischio e stabilire requisiti normativi più elevati, ma ancora non è chiaro come possano essere attuate soluzioni efficaci.