Intelligenza Artificiale / I rischi di Deadbot, app per parlare con i morti

Dopo i chatbot, arrivano i “deadbot” per “parlare” con i morti tramite l’IA, tecnologia già possibile ma, sembra, non esente dal causare notevoli danni psicologici.

“Deadbot”, l’IA che consente di parlare con i morti: quali danni? / La ricerca dell’Università di Cambridge

Gli esperti di etica dell’intelligenza artificiale sostengono che le ricreazioni digitali di defunti abbiano urgente bisogno di una regolamentazione in merito. I “deadbot” sono ai confini con il reale e potrebbero generare danni psicologici, “perseguitando digitalmente” gli utenti. Questi sistemi tecnologici sono di fatto già tecnicamente possibili da implementare e consentiti a livello legale. Darebbero la possibilità agli utenti di inserire le conversazioni con i loro cari defunti per dare luogo ad una resurrezione digitale sotto forma di chatbot, spiegano gli studiosi dell’Università di Cambridge.

La ricerca è stata pubblicata sulla rivista Philosophy and Technology con il titolo Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry. Lo studio evidenzia come imprese spregiudicate potrebbero causare disagi psichici a lungo termine e violare anche i diritti dei defunti.

“I rapidi progressi dell’intelligenza artificiale generativa fanno sì che quasi chiunque abbia accesso a Internet e qualche conoscenza di base possa rianimare una persona cara deceduta”, ha dichiarato la dott.ssa Katarzyna Nowaczyk-Basińska, uno dei coautori dello studio presso il Leverhulme centre for the future of intelligence (LCFI) di Cambridge.

“Deadbot”, l’IA che consente di parlare con i morti: quali danni? / Rischi etici e psicologici

Fra i rischi possibili c’è anche l’utilizzo dei dati a scopi pubblicitari. Gli utenti potrebbero restare sconvolti quando la persona amata ricreata digitalmente comincerà a consigliare di comprare cibo d’asporto piuttosto che cucinare a casa. Il fruitore raggiungerebbe così l’amara consapevolezza che non ha dato il suo consenso affinchè l’uso dei suoi dati avesse anche questa finalità. La situazione è ancora più drammatica ipotizzando che gli utenti possano essere bambini che stanno cercando di superare la perdita di un genitore. Le evidenze a favore dell’utilità emotiva di una metodologia del genere sono davvero scarse. Invece sembra vi sia più accordo in merito ad una sua possibile dannosità, per via della distorsione del naturale percorso di elaborazione del lutto.

“Nessun servizio di ricreazione può dimostrare che consentire ai bambini di interagire con i ‘deadbot’ sia vantaggioso o, per lo meno, non danneggi questa categoria vulnerabile”, segnala il documento. Al fine di assicurare il rispetto dei defunti e la salute mentale dei vivi, gli studiosi consigliano diverse best practices che avrebbero bisogno di normative specifiche per poter trovare attuazione. Questi servizi dovrebbero restringere l’utilizzo ai soli adulti ed essere molto trasparenti sul loro funzionamento e sui limiti dell’intelligenza artificiale.

“Deadbot”, l’IA che consente di parlare con i morti: quali danni? / Esempi pratici

Non si tratta di semplice fantascienza: esempi di IA in stile ChatGPT per ricreare un caro defunto sono già stati sperimentati. Nel 2021, Joshua Barbeau ha fatto scalpore in quanto ha usato GPT-3 per generare un chatbot che parlava con la voce della sua compagna defunta. Sei anni prima, la sviluppatrice Eugenia Kuyda, ha trasformato i messaggi di testo del suo amico morto, in un chatbot. Questo esperimento ha condotto alla creazione della gettonata app AI Replika.

“Deadbot”, l’IA che consente di parlare con i morti: quali danni? / Oltre i chatbot

I sistemi in grado di prolungare la comunicazione con i propri cari anche dopo la morte vanno ben oltre i chatbot. Nel 2021 il sito di genealogia MyHeritage ha integrato fra i suoi servizi anche Deep Nostalgia. Questa tecnologia realizzava video animati degli antenati degli utenti a partire da fotografie statiche. Tale funzione è poi diventata piuttosto virale e MyHeritage, a quel punto, ha ammesso che alcuni fruitori del servizio “la trovano inquietante”. “I risultati possono essere controversi ed è difficile rimanere indifferenti a questa tecnologia”, dichiarò al tempo MyHeritage. “Questa funzionalità è pensata per un uso nostalgico, ovvero per riportare in vita gli amati antenati. I nostri video non includono il parlato per evitare abusi, come la creazione di video “deep fake” di persone viventi”. Successivamente MyHeritage ha però inserito DeepStory, funzionalità che permette agli utilizzatori della piattaforma di generare video con il parlato.

                                                                                         Maria Maddalena La Ferla