I principali esperti di intelligenza artificiale (AI) hanno lanciato l’allarme sulla velocità e la portata dei recenti progressi nel campo, avvertendo che rappresentano una minaccia per l’umanità.

Tra loro c’è Geoffrey Hinton, un pluripremiato scienziato informatico noto come il “padrino dell’IA”, che ha lasciato il suo lavoro in Google il mese scorso per condividere le sue preoccupazioni sullo sviluppo incontrollato di nuovi strumenti di intelligenza artificiale.

“Ho un improvviso ripensamento sul fatto che queste cose ci supereranno in astuzia”, ​​ha detto Hinton, 75 anni, in un’intervista con il MIT Technology Review questa settimana.

“Penso che ora ci siano molto vicini e in futuro saranno molto più intelligenti di noi… Come faremo a sopravvivere?”

Hinton non era l’unico interessato. A febbraio, Sam Altman, CEO di OpenAI, sviluppatore di ChatGPT, ha affermato che il mondo potrebbe non essere “troppo lontano da strumenti di intelligenza artificiale potenzialmente spaventosi” e che le normative sono importanti, ma ci vorrà del tempo per capirlo.

Poco dopo che la start-up sostenuta da Microsoft ha rilasciato il suo ultimo modello di intelligenza artificiale, chiamato GPT-4, a marzo, più di 1.000 ricercatori e tecnologi hanno firmato una lettera chiedendo una pausa di sei mesi sullo sviluppo dell’IA perché, hanno affermato, rappresentava ” gravi rischi per la società e l’umanità”.

Di seguito sono riportate le principali preoccupazioni espresse da Hinton e altri esperti.

1. L’intelligenza artificiale potrebbe già essere più intelligente di noi

I nostri cervelli umani possono risolvere equazioni, guidare automobili e guardare le serie Netflix grazie al loro talento innato nell’organizzare e archiviare informazioni e pensare a soluzioni a problemi spinosi.

Ciò è possibile grazie ai circa 86 miliardi di neuroni nel nostro cranio e, cosa più importante, ai 100 trilioni di connessioni che questi neuroni stabiliscono tra loro.

Al contrario, la tecnologia alla base di ChatGPT ha tra 500 miliardi e un trilione di connessioni, secondo Hinton. Anche se questo sembra funzionare contro di noi, Hinton sottolinea che GPT-4, il nuovo modello di intelligenza artificiale di OpenAI, sa “centinaia di volte di più” di qualsiasi essere umano. Forse, suggerisce, ha “algoritmi di apprendimento molto migliori” dei nostri, rendendolo più efficiente nei compiti cognitivi.

I ricercatori hanno osservato da tempo che le reti neurali artificiali impiegano più tempo per assorbire e applicare nuove conoscenze rispetto agli esseri umani, perché addestrarle richiede enormi quantità di energia e dati.

Hinton afferma che non è più così, osservando che sistemi come GPT-4 possono apprendere cose nuove molto rapidamente una volta che i ricercatori li addestrano correttamente. Qualcosa di simile a quanto accade ai fisici professionisti che possono assimilare le nuove scoperte sperimentali molto più velocemente degli studenti di scienze delle scuole superiori.

ANNUNCIO

Ciò ha portato Hinton a concludere che i sistemi di intelligenza artificiale potrebbero averci superato in astuzia: non solo potevano imparare le cose più rapidamente, ma potevano anche condividere copie delle loro conoscenze tra loro quasi istantaneamente.

“Questa è una forma di intelligenza completamente diversa”, ha detto al MIT Technology Review. “Una nuova e migliorata forma di intelligenza”.

2. L’intelligenza artificiale può “amplificare” la diffusione della disinformazione

Cosa farebbe un sistema di intelligenza artificiale più intelligente degli umani? Una possibilità preoccupante è che individui, gruppi o stati-nazione canaglia possano facilmente cooptarli per promuovere i propri obiettivi.

Secondo un nuovo rapporto di NewsGuard, che valuta la credibilità del sito web e tiene traccia della disinformazione online, dozzine di siti Web di notizie false multilingue si sono diffusi sul Web, alcuni dei quali hanno pubblicato fino ad oggi centinaia di articoli generati dall’intelligenza artificiale.

Hinton è profondamente preoccupato che gli strumenti di intelligenza artificiale possano essere addestrati per influenzare le elezioni e persino innescare guerre.

ANNUNCIO

La disinformazione elettorale diffusa tramite chatbot di intelligenza artificiale, ad esempio, potrebbe essere una versione futura della disinformazione elettorale diffusa tramite Facebook e altre piattaforme di social media.

E questo potrebbe essere solo l’inizio.

“Non pensare per un momento che Putin non costruirà un robot super intelligente per uccidere gli ucraini”, ha detto Hinton nell’articolo. “Non ne dubiterei.”

3. L’intelligenza artificiale ci licenzierà?

OpenAI stima che l’80% dei lavoratori statunitensi possa vedere il proprio lavoro influenzato dall’intelligenza artificiale e un rapporto di Goldman Sachs afferma che la tecnologia potrebbe mettere a repentaglio 300 milioni di posti di lavoro a tempo pieno in tutto il mondo.

La sopravvivenza dell’umanità è minacciata quando “le cose intelligenti possono superarci in astuzia”, ​​secondo Hinton.

ANNUNCIO

“Questo potrebbe tenerci in vita per un po’ per far funzionare le centrali elettriche”, ha detto mercoledì Hinton alla conferenza EmTech Digital MIT Technology Review da casa sua tramite video. “Ma dopo, forse no.”

“Queste cose impareremo da noi, leggendo ogni romanzo per sempre e tutto ciò che ha scritto Machiavelli, come manipolare le persone”, ha detto Hinton. “Anche se non possono tirare direttamente la leva, possono sicuramente convincerci a tirarla.”

4. Non sappiamo come fermarlo

“Vorrei avere una soluzione semplice da trovare, ma non è così”, ha aggiunto Hinton. “Non sono sicuro che ci sia una soluzione.”

Tuttavia, il governo è molto preoccupato per l’aumento dell’IA. La Casa Bianca ha convocato giovedì gli amministratori delegati di Google, Microsoft e OpenAI, creatore di ChatGPT, per incontrare il vicepresidente Kamala Harris in quella che le autorità descrivono come una discussione aperta su come mitigare i rischi a breve e lungo termine. la tua tecnologia

I legislatori europei stanno anche accelerando i negoziati per approvare nuove regole sull’IA e il cane da guardia della concorrenza del Regno Unito esaminerà l’impatto dell’IA sui consumatori, le imprese e l’economia e se i nuovi controlli sull’IA richiedano tecnologie come ChatGPT.

Ciò che non è chiaro è come impedire a una potenza come la Russia di utilizzare la tecnologia AI per dominare i suoi vicini o i suoi stessi cittadini.

Hinton ha suggerito che un accordo globale simile alla Convenzione sulle armi chimiche del 1997 potrebbe essere un buon primo passo verso la definizione di standard internazionali contro le armi di intelligenza artificiale.

Anche se va anche notato che il patto sulle armi chimiche non ha fermato quelli che gli investigatori hanno scoperto essere possibili attacchi siriani usando gas di cloro e l’agente nervino sarin contro i civili nel 2017 e nel 2018 durante la sanguinosa guerra civile del paese.