L’intelligence artificielle contribue à créer de fausses histoires sur les atrocités de la Seconde Guerre mondiale, notamment le négationnisme, risquant ainsi de provoquer une « propagation explosive de l’antisémitisme », a averti mardi l’ONU.
L’Unesco, l’organisme des Nations Unies chargé de l’éducation et de la culture, a appelé les gouvernements et les entreprises technologiques à introduire des garanties éthiques autour de la technologie de l’IA, et les écoles à faire connaître les risques du contenu généré par l’IA.
Le rapport de l’Unesco a mis en évidence des cas où des pirates informatiques ont manipulé des chatbots pour diffuser l’idéologie nazie, et d’autres où des robots ont imaginé leurs propres histoires autour de l’Holocauste.
« Si nous permettons que les faits horribles de l’Holocauste soient dilués, déformés ou falsifiés par l’utilisation irresponsable de l’IA, nous risquons une propagation explosive de l’antisémitisme », a déclaré Audrey Azoulay, directrice générale de l’Unesco.
Elle a déclaré que cela pourrait également conduire à une « diminution progressive de notre compréhension des causes et des conséquences de ces atrocités ».
Controverse
Les outils d’IA qui génèrent du contenu, tels que ChatGPT et DALLE-2, ont explosé sur la scène en 2022.
Les entreprises et les institutions se sont empressées de les adopter pour tout, depuis la traduction de textes jusqu’à la fourniture de services à la clientèle.
Mais les décideurs politiques, les militants et les forces de l’ordre ont averti dès le début que ces outils pourraient être utilisés pour extorquer de l’argent, ruiner des réputations, influencer les élections et déformer l’histoire.
Plusieurs outils ont déjà publiquement échoué dans l’histoire.
Le modèle Gemini de Google a suscité une controverse mondiale en février lorsqu’il a généré des images de soldats nazis d’origines ethniques diverses.
L’Unesco a également souligné que ChatGPT avait entièrement inventé le concept d’« Holocauste par noyade », tandis que le chatbot Bard de Google avait fabriqué des témoins pour soutenir les contre-vérités sur les massacres nazis.
Le document d’orientation de l’Unesco, publié conjointement avec le Congrès juif mondial pour marquer la Journée internationale de lutte contre le discours de haine, appelle à une « action urgente » de la part des gouvernements, des entreprises technologiques et des éducateurs.
Karel Fracapane, expert de l’Unesco sur l’éducation à l’Holocauste, a déclaré à l’agence de presse française AFP que les déformations de l’histoire de l’Holocauste montraient comment l’IA pouvait bouleverser notre rapport à la vérité et « conduire à une profonde érosion de la culture démocratique ».
Des conséquences politiques réelles
Fracapane a déclaré que la popularité croissante actuelle des politiciens d’extrême droite en Europe occidentale faisait partie du même processus que la propagation des discours de haine en ligne.
Bien que l’éducation autour de l’Holocauste se soit nettement améliorée ces dernières années, il a déclaré que la « ligne rouge » de la diffusion du négationnisme et des idées nazies avait été brisée à la fois en ligne et dans le monde réel.
« Ce qui figure dans ce rapport est une manifestation de ce qui se passe dans la société – cela entraîne des conséquences politiques très réelles », a-t-il déclaré.
Parmi les exemples mis en évidence dans le rapport de l’Unesco, on trouve un Joseph Goebbels généré par l’IA affirmant avoir essayé de sauver des vies juives, et un deepfake de l’actrice de « Harry Potter » Emma Watson lisant un passage d’Adolf Hitler. Mon combat.
Toutefois, le rapport de l’Unesco a également souligné les utilisations positives de l’IA.
Les algorithmes pourraient catégoriser et trier les témoignages, aidant ainsi à trouver de nouveaux modèles et de nouvelles perspectives.
Et les outils éducatifs basés sur l’IA pourraient apporter des expériences immersives aux jeunes, indique le rapport de l’Unesco.
Mais Fracapane a déclaré qu’au vu de l’état actuel de la technologie, il penchait davantage vers le côté « IA comme menace » du débat plutôt que vers « IA comme opportunité ».
