Elon Musk e un migliaio di esperti chiedono una pausa nello sviluppo dell'IA per proteggere l'umanità
Mentre il chatbot ChatGPT continua a evolversi e a far parlare di sé, centinaia di esperti nel campo dell'intelligenza artificiale esprimono preoccupazione in una lettera aperta e chiedono una pausa di sei mesi nella ricerca su strumenti più potenti di ChatGPT4. Affermano che alcuni sistemi di intelligenza artificiale sono potenzialmente una seria minaccia per la società e l'umanità, soprattutto a causa dell'imprevedibilità di questi strumenti, anche per i loro creatori, e dei rischi per i lavoratori.
Negli ultimi anni l'intelligenza artificiale si è sviluppata a ritmi vertiginosi e inquietanti, avvicinandosi pericolosamente ai rischi evidenziati nelle opere di fantascienza. Elon Musk, co-fondatore ed ex membro del consiglio di OpenAI, la società che in seguito ha creato ChatGPT, ha avvertito il 3 dicembre dei rischi posti dal prototipo. In un messaggio su Twitter, ilha scritto il miliardario :
"ChatGPT è terrificante. Non siamo lontani da un'IA pericolosamente potente."
Meno potente del suo successore apparso poco dopo, il 14 marzo. Quel giorno, OpenAI ha lanciato la sua ultima versione dell'agente, ChatGPT4, che ha più precisione, secondo l'azienda, ed è in grado di interpretare le immagini. L'azienda lo propose affermando che l'agente "è più creativo e collaborativo che mai. Può generare, modificare e iterare con gli utenti su attività di scrittura creativa e tecnica, come scrivere canzoni, sceneggiature o apprendere lo stile di scrittura dell'utente".
Al vertice del governo mondiale a Dubai lo scorso febbraio, Musk aveva chiamato sviluppare "regole o regolamenti per controllare lo sviluppo dell'IA", facendo un'analogia con i trasporti o la sicurezza medica.
In la lettera del 28 marzo aperto alla firma e pubblicato sul sito web del Future of Life Institute, il fondatore di Tesla e SpaceX, è una delle centinaia di voci che chiedono una pausa nella ricerca sull'IA. La scelta dei media non è insignificante, Musk è uno dei consulenti dell'istituto che fa professione di denunciare i rischi esistenziali che l'IA pone all'umanità e chiede di "guidare la tecnologia trasformativa a beneficio della vita e lontano da rischi estremi su larga scala" .
Se molti dei firmatari della lettera hanno un conflitto di interessi nelle loro critiche a ChatGPT, lavorando in particolare in società concorrenti di OpenAI e Microsoft il cui vantaggio è mostruoso, le loro critiche sono comunque legittime e preoccupanti.
I firmatari affermano di ritenere che "l'umanità possa godere di un futuro fiorente attraverso l'IA" e parlano di "godersi un'estate AI" con sistemi progettati "per il massimo beneficio di tutti" e desiderano dare alla "società" la possibilità di adattarsi". possibile solo a condizione di agire come quando "la società ha messo in pausa altre tecnologie con effetti potenzialmente catastrofici per essa".
Concludendo la metafora, sollecitano una pausa basata sul principio di precauzione:
"Godiamoci una lunga estate AI e non precipitiamoci impreparati verso l'autunno."
Un rischio per l'umanità: l'assenza di controllo e di riflessione
Questo calo potrebbe essere accelerato dal fatto che attualmente non esiste alcuna possibilità di controllare completamente gli sviluppi dell'IA. Gli autori della lettera affermano che i sistemi di intelligenza artificiale in competizione con gli esseri umani rischiano di rappresentare una profonda minaccia per la società e l'umanità. Indicano la ricerca esaustiva "riconosciuta dai principali laboratori di intelligenza artificiale" come prova di ciò.
Alla luce dei principi sviluppati in 2017 al convegno Asilomar sull'intelligenza artificialee (coordinati dal Future of Life Institute), affermano, "l'IA avanzata potrebbe rappresentare un profondo cambiamento nella storia della vita sulla Terra, e dovrebbe essere pianificata e gestita con le cure e le risorse necessarie".
Nonostante questi principi, "questo livello di pianificazione e gestione non esiste". Sottolineano che negli ultimi mesi i laboratori si sono rinchiusi "in una corsa incontrollata per sviluppare e distribuire menti digitali sempre più potenti che nessuno - nemmeno i loro creatori - può comprendere, prevedere o controllare in modo affidabile".
Tali rischi sono menzionati in opere di fantascienza che spesso hanno il merito di sollevare questioni etiche, in particolare riguardo al rapporto tra tecnologia e potere politico, ma anche da pensatori come Jacques Ellul o Georges Bernanos. Il primo, storico, sociologo e teologo protestante, si è compiaciuto dei contributi della tecnologia che permette, ad esempio, di viaggiare e "ricevere immagini da tutto il mondo":
"Quindi hai un universo libero davanti a te."
Ma l'autore delle opere "The Technician System" o "The technology bluff", stimava che l'automobile spingesse tre milioni di parigini, ad esempio, ad andare in vacanza ogni anno sulle rive del Mediterraneo, come una massa senza pensare al suo movimento:
"È molto difficile in una società [tecnica] come la nostra per un uomo essere responsabile".
Ellul cita le giustificazioni fornite dal direttore del campo nazista di Bergen-Belsen, durante i processi di Norimberga, secondo le quali non aveva tempo di pensare alle persone che morivano, perché era preoccupato delle preoccupazioni tecniche dei forni. Strumenti tecnologici sempre più efficienti fanno sì che, nonostante i loro vantaggi, l'uomo stesso diventi lo strumento di ciò che avrebbe dovuto essere un mezzo.
Lo scrittore cattolico Georges Bernanos non mette in guardia di meno nel suo premonitore "La Francia contro i robot", pubblicato nel 1947, dichiarando che il pericolo principale è l'assenza di riflessione sulla tecnica, in particolare con queste parole divenute relativamente famose:
"Il pericolo non sta nella moltiplicazione delle macchine, ma nel numero sempre crescente di uomini abituati, fin dall'infanzia, a desiderare solo ciò che le macchine possono dare."
Allerta con largo anticipo della comparsa dell'IA, e di tale potere che riduce l'uomo in secondo piano, addirittura al rango di inutile.
Un rischio per l'informazione e il mercato del lavoro
Bernanos ha opposto "la civiltà delle macchine [che] è quella della quantità" a "quella della qualità".
Una preoccupazione espressa dai firmatari della lettera che osservano il fatto che “i sistemi di IA contemporanei stanno oggi diventando competitivi a livello umano per compiti generali”. Pongono la domanda fondamentale per il futuro della società democratica:
"Dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e bugie? Dovremmo automatizzare tutti i lavori, compresi quelli più appaganti?"
Si tratta di un segnale di allarme che ricalca, in modo attualissimo, quanto già denunciava Paolo VI la sua enciclica Populorum progressio nel 1967, ricordando che la tecnologia dovrebbe essere al servizio dell'uomo.
Al punto 20 dell'enciclica, il papa ha sottolineato che "se il perseguimento dello sviluppo richiede sempre più tecnici, richiede uomini ancor più sapienti e di profonda riflessione, alla ricerca di un nuovo umanesimo, che permetta all'uomo moderno di ritrovare se stesso, assumendo i valori più alti dell'amore, dell'amicizia, della preghiera e della contemplazione”.
Una preoccupazione che, vista la difficoltà che i progettisti incontrano nel padroneggiare perfettamente i loro più potenti strumenti di intelligenza artificiale, assume un significato particolare. I tecnici sono numerosi, ma la riflessione morale è stata dimenticata troppo, portando a una continuazione di uno sviluppo mal strutturato.
Tra le conseguenze, l'AI minaccia l'uomo mentre il "programma fatto per aumentare la produzione", dice Paolo VI al punto 20 della sua lettera, dovrebbe esserci per "liberare l'uomo dalle sue servitù [sul plan du travail], rendendolo capace di essere egli stesso l'agente responsabile del suo benessere materiale, del suo progresso morale”.
L'enciclica metteva in guardia con queste parole sulla tecnicizzazione che dovrebbe arricchire la società:
“Dire: lo sviluppo infatti deve riguardare tanto il progresso sociale quanto la crescita economica. Non basta aumentare la ricchezza comune perché sia equamente distribuita. Non basta promuovere la tecnologia perché la terra sia più umana abitare."
La dichiarazione è corroborata dal recente studio di Goldman Sachs, pubblicato il 26 marzo, che lo indica 300 milioni di posti di lavoro potrebbero essere persi in tutto il mondo a causa dell'uso dell'intelligenza artificiale, vale a dire il 18% della massa.
Preoccupazioni condivise dagli autori della lettera che salutano La dichiarazione del 24 febbraio di Open AI che "Ad un certo punto, potrebbe essere necessaria una revisione indipendente prima di iniziare ad addestrare sistemi futuri". Traendo la loro conclusione da questa dichiarazione, sentono che rimane solo una vaga promessa e scrivono:
"Pertanto, chiediamo a tutti i laboratori di intelligenza artificiale di sospendere immediatamente, per almeno sei mesi, l'addestramento di sistemi di intelligenza artificiale più potenti di GPT-4. Questa pausa dovrebbe essere pubblica e verificabile e includere tutti i principali attori. Se tale pausa non può essere messo in atto rapidamente, i governi dovrebbero intervenire e istituire una moratoria".
Jean Sarpedonte
