Dibattito: l'intelligenza artificiale può supportare le persone in lutto?

Il dibattito su ChatGPT e IA generative continua a rimbalzare, attraverso le nuove applicazioni che genera a pochi mesi dal suo lancio. Un recente documentario di Special Envoy su France 2 (27 aprile 2023) ha presentato un'applicazione che utilizza GPT-3 e consente all'utente di ricreare un dialogo con le persone scomparse.

"Progetto dicembre (Simula i morti)" è indubbiamente un caso estremo di utilizzo di un agente conversazionale da GPT-3 ma ci dice molto sulla mancanza di parametri di riferimento delle società cosiddette occidentali per facilitare il lutto in modo collettivo e inquadrato nel tempo come hanno fatto le civiltà che ci hanno preceduto.

Chatta con i nostri cari defunti

"Project December" permette a chiunque, per 10 dollari, di aprire un conto e chattare con un programma di intelligenza artificiale (brevettato) che simula le parole di una persona deceduta per un massimo di cento scambi e una durata di un'ora.

Per fare questo bisogna compilare un lungo questionario che si compone di due sezioni principali: identità della persona (nome, soprannome, date, luoghi, professioni ed eventualmente anche il nome del cane), tratti della personalità (descritti in maniera molto modo binario: es: sicuro/fiducioso/stabile vs preoccupato/nervoso/disturbato) a cui si aggiunge un estratto testuale prodotto da queste persone decedute.

Il rapporto dicorrispondente mostra così un uomo che ha appena perso la madre e che pone ogni giorno domande al suo avatar sintetico, domande che non aveva potuto farle prima della sua morte.

Ai fini del reportage, l'ideatore dell'applicazione organizza anche, in compagnia del giornalista, un dialogo con l'agente conversatore sopra la tomba del filosofo, poeta e naturalista americano Henry David Thoreau utilizzando una delle sue citazioni più famose: "il governo migliore è quello che governa meno", in linea con la sua ideologia libertaria di sostenere sempre "meno governo" - un'ideologia che è anche quello della Silicon Valley.

Interrogato artificialmente tramite l'applicazione sui possibili usi tossici dello strumento "Project December", l'avatar simulato di Thoreau risponde che ogni responsabilità ricade sull'utente, come nel caso di una casa automobilistica che non può essere ritenuta responsabile del comportamento di un cattivo autisti.

Un disprezzo per il processo di lutto?

Le risoluzionismo tecnologico così chiamato dal ricercatore Evgeny Morozov, nel suo slancio dirompente, sembra spazzare via ogni pensiero anche solo vagamente argomentato sulle conseguenze psichiche o culturali di una simile trattazione del rapporto con i morti.

Disprezza le questioni antropologiche di processo di lutto e tutta la conoscenza di questo processo sviluppata sia dalla psicologia che dallo studio delle tradizioni.

Se la psicoanalisi considera il lutto come un processo psichico attraverso il quale una persona riesce a distaccarsi dalla persona scomparsa ea dare un senso a questa perdita, le feste dei morti nelle tradizioni antiche contribuiscono a un processo simile, a ridare un senso alla vita.

Prendiamo l'esempio del Giorno dei Morti in Messico: dura due giorni, e consiste nel visitare la tomba dove riposano i defunti della famiglia, pranzare intorno ad essa, al ritmo della musica. A seconda dei casi, viene organizzata una veglia per tutta la notte. In questa occasione i cimiteri si riempiono di famiglie, una grande quantità di fiori d'arancio e candele. Tutto ciò crea un'atmosfera particolarmente vivace. Le famiglie hanno anche temporaneamente allestito un altare in casa con i ritratti dei defunti, fiori, cibo, candele, ecc.

Da questi rituali emergono tre dimensioni sociali e psichiche:

1. la festa dei morti – il lutto – è un invito collettivo,

2. il contatto ricercato con il defunto non ha nulla di spiritualistico, non facciamo domande specifiche

3. la festa dei morti ha una durata ben definita.

Questi tre aspetti aiutano a comprendere la cura data alla salute mentale individuale e collettiva delle società. La memoria dei morti si realizza in un quadro di incontri sociali e protocolli che aiutano ad ancorarsi alla vita.

Un lutto senza intermediari

Nelle nostre società occidentali, il cristianesimo e le terapie si sono fatte carico di questo processo di lutto in forme già indebolite. I rituali cristiani tendono aver finito – nel 2018, il 48% dei francesi desidera una cerimonia religiosa quando muore – anche se il prete continua a svolgere un ruolo di intermediario fondamentale, anche per i non credenti. I terapisti svolgono questo lavoro a pagamento, mentre il personale medico si trova nella condizione di gestire questi momenti di lutto ben al di là delle proprie mansioni.

Al contrario, l'app "Project December" non sembra assumersi alcuna responsabilità nel mettere le persone in una relazione solitaria con conversazioni che simulano i pensieri del defunto. Se esiste davvero una forma di mediazione – in questo caso, quella dell'intelligenza artificiale – essa va al di là di ogni quadro collettivo, a rischio di amplificare lo spazio delle fantasie.

Ognuno è lasciato alle proprie sofferenze, alle proprie paure, che l'agente conversazionale deve bloccare o incoraggiare con risposte, sempre molto banali. L'utente che testimonia nella relazione dicorrispondente racconta la sua vita ordinaria o esprime i suoi sentimenti a sua madre. Le parla come se non fosse morta, facendo temere ai suoi figli che rimanga bloccato in questa "relazione".

Tuttavia, in questi riti di passaggio, le parole devono essere scelte con cura per aiutare a trovare un posto, il proprio e quello del defunto. È per questo motivo che gli intermediari sono mobilitati in tutte le tradizioni. Anche se l'utente non si lascia ingannare e l'applicazione lo incoraggia ad esprimersi, tende ad eliminare i mediatori umani, senza rete di sicurezza: un modo rischioso di "uberizzare" sacerdoti, sciamani e terapeuti...

Il necessario tempo di silenzio

Nei riti o nella terapia del lutto, i tempi di silenzio sono essenziali. I rituali stabiliscono un tempo specifico per il lutto o la commemorazione del defunto, liberando la vita quotidiana da questa relazione. L'intelligenza artificiale basata su GPT-3 non lascia mai l'utente in silenzio, è un parlatore impenitente, una segreteria telefonica. Non riesce ad accompagnare in un ascolto profondo, ma si gira, anche in loop, per compensare l'assenza, il vuoto insopportabile che è in fondo il dramma più grande del lutto.

L'isolamento in un dialogo simulato, basato su pochi indizi realistici utilizzando modelli statistici probabilistici del linguaggio, ha qualcosa di osceno: amplifica ulteriormente le nostre tendenze commercialmente incoraggiate a vivere in un mondo "falso", basato su strutture narrative articolate con codici pubblicitari.

Ancora una volta, sono gli artefatti (interfacce e algoritmi) che dovrebbero colmare una lamentosa mancanza di intersoggettività, legame sociale, dinamiche di scambi autentici. Questi oggetti sostitutivi, tuttavia, diventano critici in caso di lutto e non dovrebbero essere maneggiati con noncuranza. Tuttavia, gli agenti conversazionali di tipo GPT prosperano sull'incapacità delle nostre cosiddette società razionali di fornire una guida su una questione così fondamentale per l'anima umana. come ha sottolineato l'antropologo Benedict Anderson.

Applicazioni come Project December riflettono un atteggiamento laissez-faire anti-istituzionale presente in tutte le aziende della Silicon Valley attraverso il loro slogan "Rough Consensus and Running Code", un'espressione di John Perry Barlow nel suo manifesto per l'indipendenza del cyberspazio di 1996.

Secondo questa dottrina, le decisioni di sviluppo di applicazioni, standard e servizi si basano su un vago consenso tra le parti interessate e la produzione di codice non deve mai fermarsi, facilitando innovazioni dirompenti che non ne anticipano le conseguenze sociali e culturali.

Questo sradicamento dell'IA nei confronti dei principi sociali e organizzativi e la sua pretesa di rifondare tutto sulla base della potenza dei suoi calcoli probabilistici che ottimizzano tutto, si ritrovano qui in questo gioco con lo spirito dei morti. Ci destreggiamo nelle relazioni con i morti come ci destreggiamo con le parole.

Come regolamentare questo irresponsabile "running code" visto che è così facile da riprodurre e i confini degli stati non sono in alcun modo sufficienti frenarne l'immediata adozione in tutti i paesi, senza rispetto di alcuna normativa esistente?

Solo i grandi gruppi istituzionali che sono anche grandi mercati come l'Europa hanno il potere necessario per obbligare tutte queste IA e le loro applicazioni a richiedere "l'autorizzazione preventiva all'immissione in commercio", come avviene per la maggior parte dei prodotti dell'industria, dall'alimentare al medicina, compresa l'automobile. L'Legge sull'AI in corso di convalida anche in Europa l'amministrazione Biden devono prendere la misura di queste poste in gioco antropologiche nei loro tentativi di regolazione, poiché anche i nostri rapporti con i morti possono risentirne, mentre sono costitutivi del nostro sensibilità umana.

Dominique Boulier, Professore Universitario Emerito in Sociologia. Ricercatore presso il Centro di Studi Europei e Politica Comparata, Sciences Po et Rebecca Alfonso Romero, dottoranda in geografia culturale, Università della Sorbona

Questo articolo è ripubblicato da The Conversation sotto licenza Creative Commons. Leggi ilarticolo originale.

Credito immagine: Shutterstock/Sheri Armstrong