A l'heure où l'IA arrive partout, y compris dans les moteurs de recherche (par exemple Bing qui attention est le moteur de recherche de Microsoft donc à utiliser avec toutes les réserves que nous avons exprimées ici), il convient également de souligner les dérives de l'IA. Certes vous pouvez poser des questions généalogiques à l'IA dans un langage "naturel" et en français. Mais se pose la question de savoir comment est nourrie cette IA. Pour les quelques questions que j'ai pu poser j'ai été renvoyé vers des renseignements venant de Geneanet. On aimerait bien savoir si Geneanet a consenti à cette captation et il faut rappeler que les renseignements y sont entrés par des généalogistes amateurs et peuvent comporter des erreurs. Il nous faut les prendre comme des indices et non comme des preuves. D'autres généalogistes ont également une expérience mitigée (cf ici en anglais). N'hésitez pas à partager la vôtre en commentaire.

Il convient également de savoir que l'IA peut facilement ré-écrire l'histoire et que les renseignements qu'elles donne doivent être vérifiés et qu'un retour aux archives est nécessaire. On voit par exemple dans cet article les âneries qu'est capable de produire l'IA .

Cet autre article en anglais ,qui annonce la mort d'internet tué par l'IA générative, va plus loin et nous montre des exemples de livres générés par l'IA qui synthétisent la pensée d'un autre livre pour en parasiter les droits d'auteur, d'images IA mélangées à des images réelles dans les réponses des moteurs de recherche, de réponses automatiques aux publications sur les réseaux sociaux, d'abonnés à des comptes d'influenceurs virtuels qui proposent des images ou de la musique générée par IA, de vidéos pour enfants générées par l'IA et même de papiers scientifiques écrits par l'IA ! Des journalistes virtuels écrivent également désormais certains articles de journaux, y compris dans de grands titres de la presse mainstream (ici The Guardian au Royaume-Uni).

Tout ceci ressemble plus ou moins à la liste de craintes qu'avait exprimée OpenAI (l'entreprise qui a créé ChatGPT) en 2019 sur leur blog : que l'IA serve à générer des articles d'informations trompeurs, que l'IA permette à certains de se faire passer pour d'autres personnes en ligne, que l'IA automatise la production et la diffusion de contenus erronés sur les réseaux sociaux et que l'IA automatise la production de spam et de fishing.

L'universitaire Antonio Pele publie d'ailleurs (et en français) sur The Conversation un appel à créer des sanctuaires sans IA et en particulier garantir les 4 points suivants

  • Le droit de se retirer. Dans les domaines jugés sensibles, toute personne a le droit de se retirer d’un accompagnement basé sur l’IA, et cela pendant une durée dont elle sera libre de décider. Ce droit implique l’absence totale d’interférence de dispositif basé sur l’IA ou une interférence modérée.
  • Absence de sanction. Le fait de se retirer d’un dispositif d’IA n’entraînera jamais de désavantages de types économiques ou sociaux.
  • Le droit à la décision humaine. Tout individu a le droit à une décision finale qui soit faite par une personne humaine.
  • Personnes vulnérables et domaines sensibles. Les autorités publiques établiront en collaboration avec les acteurs de la société civile et de l’industrie, les domaines particulièrement sensibles (santé, éducation) et les groupes de personnes, comme les enfants, qui ne devront pas être ou être modérément exposés à des systèmes intrusifs d’IA.

En conclusion nous tenons à réaffirmer que ce blog est nourri par des réflexions humaines, écrit par des humains et n'utilise pas l'IA pour générer du contenu ou traduire des textes. Ce logo vient le rappeler, vous risquez de le retrouver également dans tout un tas d'autres publications ailleurs sur le web !