par Michael Mair, Dipanjan Saha, Phillip David Brooker et Terence Heng, La conversation
L’IA générative, qui englobe des modèles de langage étendus (LLM) comme ChatGPT mais également des générateurs d’images et de vidéos comme DALL·E 2, dynamise ce que l’on appelle désormais «nécromancie numérique« , la conjuration des morts à partir des traces numériques qu’ils laissent derrière eux.
Les débats autour de la nécromancie numérique ont été déclenchés pour la première fois dans les années 2010 par les progrès de la projection vidéo (technologie « deep fake ») qui ont conduit à la réanimation de Bruce Lee, Michael Jackson et Tupac Shakur. Cela a également conduit à des apparitions posthumes au cinéma de Carrie Fisher et Peter Cushing, entre autres.
Initialement réservée aux sociétés de production cinématographique et musicale aux ressources considérables, l’émergence de l’IA générative a élargi l’accès à tous les technologies qui ont été utilisées pour réanimer ces stars et d’autres.
Même avant que ChatGPT n’éclate dans la conscience publique fin 2022, un utilisateur avait déjà utilisé le LLM d’OpenAI pour parler avec sa fiancée décédée. basé sur ses SMS et ses emails. Voyant le potentiel, une série de startups comme Ci-après, par la suite et Réplique se sont lancés en s’appuyant sur l’IA générative afin de réanimer les proches des personnes endeuillées.
Cette technologie, pour certains, semble franchir une ligne culturelle et peut-être même éthique. beaucoup ressentent un profond malaise avec l’idée que nous pourrions interagir régulièrement avec des simulations numériques de morts. La magie noire de la nécromancie assistée par l’IA est donc considérée avec suspicion.
Cela peut inquiéter certaines personnes.
Mais comme les sociologues travaillant sur les pratiques culturelles de souvenir et commémorationqui ont également été expérimenter la résurrection des morts à l’aide de l’IA générativenous pensons qu’il n’y a aucune raison de s’inquiéter.
Un nouvel art sombre ou plutôt du quotidien ?
Les liens continus avec les morts à travers des textes, des images et des artefacts sont monnaie courante et font partie de nos vies avec d’autres vivants et morts.
Les gens accordent depuis longtemps une valeur émotionnelle aux ressemblances et aux reliques comme moyen de garder les morts avec eux. Même si à l’époque, faire peindre un portrait n’était plus une manière largement adoptée de commémorer les images d’êtres chers, la diffusion de la photographie au XIXe siècle est rapidement devenu un moyen alternatif de préservation du défunt.
Beaucoup d’entre nous ont aujourd’hui des photos et des vidéos du passé de nos proches, sur lesquelles nous revenons comme souvenirs et consolations. Et bien sûr, la ressemblance avec des personnages célèbres fonctionne ou reste ont été diffusés pour les préserver – souvent à leur demande – aussi longtemps que nous avons enregistré l’histoire. Les reliques religieuses à travers les cultures ne constituent qu’un exemple typique.
En ce qui concerne l’IA générative, il ne se passe donc rien de particulièrement déterminant pour le monde. La rapidité avec laquelle les possibilités nécromantiques de l’IA ont été exploitées nous en dit long sur la manière dont la technologie fonctionne avec nos pratiques existantes de deuil, de souvenir et de commémoration – plutôt que de les « perturber » ou de les « modifier ».
Mais l’IA n’est-elle pas différente ?
Les startups d’IA dans ce domaine s’appuient sur des projets de bricolage antérieurs pour ramener leurs proches utiliser l’IA générative. À l’aide d’écrits (par exemple sur les réseaux sociaux et dans les e-mails), d’enregistrements audio de discours, de photographies et de vidéos de proches soumis par les clients, ils forment des modèles d’IA qui permettent d’interagir à titre posthume avec « eux » à travers des images, de la voix et du texte. .
Comme l’a noté Debra Bassett, qui a étudié de manière approfondie l’au-delà numérique, certains dissidents de cette utilisation de l’IA ont déclaré qu’ils craignaient que les réanimés puissent être amenés à dire des choses qu’ils ne diraient pas de leur vivant et qu’ils jouent à la place le scénario de quelqu’un d’autre. Pour Bassett, l’inquiétude est que les morts sont en train d’être « zombifié » en violation de leur intégrité.
C’est bien sûr une possibilité, mais nous devons toujours examiner ces éléments au cas par cas. Cependant, de manière générale, nous devons nous rappeler que nous imaginons et engageons constamment des conversations avec les morts.
Dans les moments de crise ou de joie, nous réfléchissons à ce que ceux que nous avons perdus auraient pu nous dire, aux attitudes qu’ils auraient pu avoir et aux encouragements qu’ils auraient pu nous offrir face aux défis et aux réalisations du moment présent.
Les images, les textes et les objets tels que les biens du passé ou les objets de famille précieux sont depuis longtemps des médias utilisables pour ce type de communion et les nouvelles technologies, plus récemment les appareils photo et les appareils d’enregistrement, ont toujours rendu ces médias plus facilement et plus largement accessibles.
D’autres, réfléchissant à l’étrangeté des rencontres avec des morts ramenés à une interaction numérique avec nous, soutiennent que ceux qui communiquent ne sont en fait pas du tout des morts, mais fraudes. Lorsque cela est fait de manière exploitante et cachée, comme avec les charlatans du mouvement de renaissance spirituelle victorienne armés de leurs planches Ouija, cela est, bien sûr, très problématique.
Cependant, encore une fois, nous devons nous rappeler que nous ne traitons généralement pas nos messages personnels, nos photographies ou nos vidéos des morts comme si ces documents eux-mêmes étaient ceux de nos proches. Au lieu de cela, nous les utilisons comme conduits vers leur mémoire, les remplaçant comme proxys pour que nous puissions y penser ou communiquer. Suggérer que nous sommes régulièrement confus ou que nous nous trompons à propos de ces médias est une idée fausse.
C’est pourquoi les inquiétudes générales concernant la nécromancie numérique sont largement exagérées : lorsque nous nous concentrons trop sur leurs aspects étranges et sinistres, pour adapter le philosophe Louis Wittgensteinnous perdons de vue la manière dont ces nouvelles technologies parlent et résonnent avec ce que nous sommes et faisons déjà en tant qu’êtres humains.
Cet article est republié à partir de La conversation sous licence Creative Commons. Lis le article original.