/image%2F1192587%2F20191127%2Fob_f52cb2_20191126-152618.jpg)
Alors qu’une pause de six mois a été proposée par de nombreux chercheurs dans ce domaine, je suis arrivé au triste constat que L’ IA allait tuer la TCI.
Dernièrement, un journaliste scientifique (Anthony Morel, le 31 mars 2023) s’est amusé à utiliser l’une des nombreuses applications dans la lignée de chat GPT qui propose de faire dire à n’importe qui ce qu’on veut. Avec son smartphone et cette appli dont je ne donnerais pas le nom (il manquerait plus que j’en fasse de publicité), le journaliste a téléchargé un son de la voix de Donald Trump puis écrit ce qu’il voulait lui faire dire tout à fait naturellement. L’ancien président des Etats-Unis se mit ainsi avec sa voix si reconnaissable à vanter les mérites d’un journaliste et d’une chaine d’info TV.
Résultat bluffant de justesse, impossible de détecter la « Fake news ».
Vous me voyez venir, dorénavant tout enregistrement TCI d’un défunt connu (ou pas ; du moment qu’il existe des audios de son vivant) peut maintenant provenir d’une magouille via l’IA. Il y avait hélas déjà assez de fausses TCI qui circulaient avant mais dorénavant il va falloir être extrêmement vigilant et se rapporter toujours à la source et l’honnêteté du TCiste (pouvant néanmoins aussi se faire avoir en relayant des sons non réalisés personnellement). J’ai beaucoup d’amis et connaissances s’occupant de la TCI et je les admire pour leur travail et honnêteté, il n’est pas question de remettre leurs recherches passées en cause (Père Brune, Jacques Blanc-Garin, Jean-Michel Gransire, Patrick Flamand, …). Mais tout de même, déjà qu’avant l’arrivée de l’Intelligence Artificiel il y avait dans ce domaine de sacrés charlatans, maintenant les temps vont être vraiment dur pour donner le moindre crédit irréprochable aux prochaines TCI. Il va falloir être extrêmement rigoureux, je le répète :
A CE JOUR
ON PEUT FAIRE DIRE N’IMPORTE QUOI
PAR N’IMPORTE QUI…
VIVANT OU MORT !
Panique à bord, donc, concernant la survivance de la TCI sur deux points.
1/ Ici et maintenant, ne prendre en compte que les sons provenant de TCIstes reconnus, honnêtes, et surtout proposant leur service gratuitement (bien que certains ne reculent pas devant la méchanceté gratuite).
2/ Partant du principe que dans l’au-delà le temps n’existe pas, tous les sons rapportés depuis des années à travers les premiers enregistreurs ne seraient-ils pas des tromperies. Je ne doute pas de leur provenance de l’invisible. Mais, suivant l’hypothèse des correspondances entre la terre et le ciel, des mondes parallèles, je me demande juste que : comme sur terre nous pouvons trafiquer les sons si dans l’invisible depuis plus longtemps ils ne faisaient déjà pas les mêmes manipulations.
Non vraiment, je prédis des jours sombres et pas que pour la TCI sur la Vérité.
Et je souhaite bon courage pour les honnêtes TCistes dont on pourra toujours douter de la réalité de leurs nouveaux enregistrements.
Joyeuses Pâques quand même !
Yann-Erick
/https%3A%2F%2Fimages.bfmtv.com%2FqIXGj2HklXyVm68rccmyB9iDPKo%3D%2F0x0%3A1280x720%2F1280x0%2Fimages%2FIntelligence-artificielle-ca-va-trop-loin-31-03-1608355.jpg)
Intelligence artificielle: ça va trop loin ? - 31/03
Une lettre ouverte qui demande la suspension pour 6 mois des recherches sur les systèmes d'intelligence artificielle plus puissants que GPT 4. La lettre relève des logiciels dangereux pour ...
PS :
Moins d'un an après mon article, quelques illustrations par l'exemple qui se passe de commentaire (mais confirment bien mes craintes) :
(TF1 - 1er novembre 2023)
/https%3A%2F%2Fwww.radiofrance.fr%2Fs3%2Fcruiser-production-eu3%2F2024%2F02%2Fb5215c63-1beb-4f14-9b1e-1cc1d28938e7%2F1200x680_sc_000-n79ma.jpg)
En Chine, des intelligences artificielles imitent les morts
Quand l'intelligence artificielle repousse les limites de la morale et redonne vie aux personnes décédées, en permettant des "conversations" avec des versions virtuelles des disparus. En Chine ...
En Chine, l’intelligence artificielle utilisée pour parler aux défunts
/image%2F1192587%2F20240308%2Fob_782fa9_c-c-c.jpg)
(Taizhou) Dans un cimetière de l’est de la Chine, Seakoo Wu écoute, sur son téléphone, la voix de son défunt fils. Ce n’est pas un enregistrement du temps de son vivant : s’il parle, c’est grâce à l’intelligence artificielle.
« Je sais que tu souffres beaucoup, chaque jour, à cause de moi, et que tu te sens coupable et impuissant », dit le défunt Xuanmo, dans une voix aux accents légèrement robotiques.
« Même si je ne pourrai plus jamais être à tes côtés, mon esprit est toujours dans ce monde et t’accompagne dans la vie. »
Comme M. Wu et sa femme, de plus en plus de Chinois endeuillés ont recours à l’intelligence artificielle (IA) pour redonner un semblant de vie à leurs proches disparus.
Pour le père de Xuanmo, l’objectif est de créer à terme un double virtuel de son fils se comportant exactement comme lui.
« Une fois qu’on aura synchronisé la réalité et le métavers, j’aurai à nouveau mon fils avec moi », assure M. Wu.
Plusieurs entreprises chinoises se sont engouffrées dans ce créneau du deuil virtuel : certaines disent avoir créé des milliers de « personnes numériques », parfois juste à partir d’une vidéo de 30 secondes du défunt.
« Bots fantômes »
Saekoo et sa femme ont vu leur vie bouleversée l’an dernier quand leur fils unique est décédé d’un AVC à 22 ans.
Il étudiait la finance et la comptabilité à l’université d’Exeter, au Royaume-Uni. Sportif, « il avait une vie bien remplie », raconte Saekoo.
L’essor en Chine des robots conversationnels de type ChatGPT a donné au père effondré un nouvel espoir : ressusciter son fils virtuellement.
Pour cela, il a rassemblé photos, vidéos et enregistrements audios de Xuanmo. Puis il a dépensé des milliers de dollars auprès de sociétés spécialisées dans l’IA, afin qu’elles clonent le visage et la voix de son enfant.
Si les résultats restent rudimentaires, Saekoo ne veut pas s’arrêter là : muni d’un dossier qu’il a constitué, où fourmille une quantité astronomique d’informations sur son fils, il mise sur des algorithmes pour reproduire sa manière de penser et de parler.
Le phénomène de ces « bots fantômes » n’existe pas qu’en Chine : aux États-Unis notamment, des entreprises sont sur ce créneau.
Mais « sur la technologie de l’intelligence artificielle, la Chine est parmi les meilleures du monde », affirme Zhang Zewei, fondateur de l’entreprise Super Brain, spécialisée dans cette technologie, et ancien collaborateur de Saekoo Wu.
« Et il y a une telle population en Chine, beaucoup dans le besoin émotionnel, que cela nous donne un avantage en matière de marché », assure cet homme qui vit à Jingjiang.
Super Brain facture de 10 000 à 20 000 yuans (de 1900 à 3800 dollars canadiens) la création d’un avatar basique en environ 20 jours, selon M. Zhang.
Ses clients ne sont pas seulement des personnes endeuillées, mais aussi des parents frustrés de ne pas passer assez de temps avec leurs enfants… voire un amoureux inconsolable qui souhaite revoir son ex-petite amie.
L’une des prestations proposées est un appel vidéo avec un employé, dont le visage et la voix sont remplacés par ceux de la personne désirée.
« C’est d’une énorme importance pour notre société, même pour le monde entier », estime M. Zhang. « Une version numérique de quelqu’un (peut) exister pour toujours, même si son corps n’est plus là. »
Consentement
Sima Huapeng, fondateur de l’entreprise Silicon Intelligence, à Nankin, en est persuadé : cette technologie représente « un nouveau genre d’humanisme ».
Il la compare au portrait ou à la photographie, qui en leur temps avaient révolutionné la façon dont les gens pouvaient se souvenir de leurs défunts.
Ces doubles virtuels peuvent apporter un certain réconfort, reconnaît Tal Morse, chercheur au Centre d’études sur la mort et la société à l’université britannique de Bath. Mais encore faut-il savoir quel sera leur impact psychologique et éthique.
« Une question essentielle ici, c’est de savoir […] à quel point ces bots fantômes sont “fidèles” à la personnalité qu’ils sont censés imiter », dit-il.
Car « que se passe-t-il s’ils font des choses qui “polluent” la mémoire de la personne qu’ils doivent représenter ? »
Et comment savoir si la personne décédée aurait été réellement consentante ?
Toute technologie nouvelle est « à double tranchant », admet M. Zhang, de Super Brain. Mais « tant qu’on aide ceux qui en ont besoin, je ne vois pas le problème ».
Il assure ne pas travailler avec ceux pour qui l’expérience pourrait avoir un impact négatif, citant le cas d’une femme qui a tenté de se suicider après le décès de sa fille.
Xuanmo aurait « probablement accepté » d’être ramené à la vie virtuellement, affirme son père.
« Un jour, mon fils, nous nous retrouverons tous dans le métavers », lance-t-il, tandis que sa femme pleure devant sa tombe. « La technologie s’améliore de jour en jour […] ce n’est qu’une question de temps. »
/image%2F1192587%2F20240212%2Fob_3a5fcf_image.jpg)
/image%2F1192587%2F20221008%2Fob_e420fd_ptidej-ujkd.jpg)
/image%2F1192587%2F20201030%2Fob_ee40a2_20201030-083839.jpg)
/image%2F1192587%2F20210111%2Fob_ee5d0c_71xwdieuuyl-us230.jpg)
/image%2F1192587%2F20250316%2Fob_0f9865_zzzzz.jpg)
/image%2F1192587%2F20160322%2Fob_75b98e_vignaud-144.jpg)
/image%2F1192587%2F20140816%2Fob_5e44e4_800px-jean-prieur-2008.JPG)
/image%2F1192587%2F20250219%2Fob_538bcf_bernard-baudouin-25-1aaa.jpg)
Commenter cet article