L'avertissement lancé mardi dernier par l'UNESCO selon lequel les programmes d'intelligence artificielle (IA), qui, selon les données de la même organisation des Nations Unies, sont utilisés par 80% des jeunes tant dans l'éducation que dans les loisirs, propagent et même inventent de faux faits historiques liés à l'Holocauste est un rappel choquant des conséquences que l'absence d'un cadre réglementaire clair pour cette technologie peut avoir sur la société à l'échelle mondiale. L'enquête de l'Unesco explique comment les outils analysés commettent toutes sortes d'erreurs, depuis l'invention du terme « Holocauste par noyade » – selon lequel les victimes juives sont mortes en étant jetées dans des lacs et des rivières et non dans des fusillades de masse ou des chambres à gaz comme cela s'est produit – jusqu'à exonération de hauts dirigeants nazis comme Joseph Goebbels, ministre de la Propagande : certains modèles d'intelligence artificielle assurent à l'utilisateur que Goebbels a tenté d'empêcher la violence contre les Juifs et n'a pas participé à l'Holocauste.
Ce sont des déclarations qui touchent des personnes, principalement des jeunes, qui n'ont pas de connaissances précises en Histoire et qui, en fait, peuvent recevoir ce contenu dans le cadre de leur travail éducatif. L'UNESCO souligne que le problème réside dans les bases de données – dont beaucoup sont inconnues – que l'IA utilise pour s'entraîner et qui peuvent inclure celles au contenu ouvertement antisémite. À cela, il faut ajouter qu'il existe des textes antisémites conçus pour être privilégiés dans leurs recherches par l'IA, c'est-à-dire qu'ils répondent à une stratégie palpable de désinformation sur un fait historique significatif qui peut être utilisé dans le présent pour promouvoir la haine. discours.
Loin d’être une problématique trop technique ou une discussion théorique, l’usage malveillant de l’IA est déjà présent et agissant sur toutes les interactions avec Internet. La semaine dernière, la réunion du G-7 en Italie avait l'IA comme l'un de ses principaux sujets et a salué la participation inhabituelle du pape François pour parler de cette question, ce qui démontre le niveau d'inquiétude face à un changement technologique très rapide qui affectera tous les aspects de la vie. vie. L’IA, comme toute technologie, peut signifier une amélioration très notable de la société, mais aussi un outil efficace d’asservissement. Tout dépendra de l'approche qui sera adoptée et des mesures qui seront adoptées. L’étude sur l’Holocauste démontre, si les preuves manquaient, que la désinformation, l’une des principales menaces auxquelles sont confrontées les démocraties, profite de ce changement, et que le débat public est bien en retard par rapport à cette réalité.
