L’Unesco a averti que la combinaison de la neurotechnologie et de l’intelligence artificielle constitue une menace pour la vie privée, alors qu’elle travaille sur une nouvelle charte mondiale sur l’éthique scientifique.
L’agence des Nations Unies pour la science et la culture a commencé à élaborer un « cadre éthique » mondial pour répondre aux préoccupations en matière de droits de l’homme posées par les progrès scientifiques rapides, a-t-elle déclaré à sa conférence internationale sur l’éthique des neurotechnologies à Paris jeudi.
La neurotechnologie est un domaine en plein essor qui relie les appareils électroniques au système nerveux. Jusqu’à présent, il a été principalement utilisé pour traiter les troubles neurologiques et restaurer le mouvement, la communication, la vision ou l’ouïe.
Selon Mariagrazia Squicciarini, économiste de l’Unesco spécialisée dans l’intelligence artificielle, les dernières neurotechnologies ont été suralimentées par des algorithmes d’IA qui peuvent apprendre des données d’une manière jamais possible auparavant.
« C’est comme mettre la neurotech sous stéroïdes », a-t-elle déclaré à l’agence de presse française AFP.
Avez-vous déjà souhaité pouvoir lire dans les pensées de quelqu’un ?
Ce n’est peut-être plus de la science-fiction !
La neurotechnologie pourrait mettre notre vie privée en danger en collectant nos données 🧠.
Découvrez comment @UNESCO s’emploie à promouvoir #NeuroEthique pour éviter cela : https://t.co/Xa6mPmOGN1 pic.twitter.com/fl1B4TI4V7
— UNESCO 🏛️ #Education #Sciences #Culture 🇺🇳 (@UNESCO) 13 juillet 2023
Les algorithmes peuvent « manipuler le cerveau »
Gabriela Ramos, directrice générale adjointe de l’Unesco pour les sciences sociales et humaines, a déclaré que la convergence de la neurotechnologie et de l’IA était « de grande portée et potentiellement dangereuse ».
Elle a déclaré à la conférence : « Nous sommes sur la voie d’un monde dans lequel les algorithmes nous permettront de décoder les processus mentaux des gens et de manipuler directement les mécanismes cérébraux sous-jacents à leurs intentions, leurs émotions et leurs décisions. »
En mai, des scientifiques aux États-Unis ont révélé qu’ils avaient utilisé des scanners cérébraux et l’IA pour transformer « l’essentiel » de ce que les gens pensaient en mots écrits – même si cela impliquait de passer plusieurs heures à l’intérieur d’un grand appareil d’IRM fonctionnel.
Plus tard ce mois-là, la société Neuralink du milliardaire Elon Musk a reçu l’autorisation de tester ses implants cérébraux de la taille d’une pièce de monnaie sur des humains aux États-Unis.
Explosion des investissements en neurotech
Squicciarini a souligné que l’Unesco ne pense pas que la neurotechnologie soit une mauvaise chose.
« Si quoi que ce soit, c’est fantastique », a-t-elle déclaré, soulignant comment la technologie pourrait permettre aux aveugles de voir à nouveau ou aux personnes paralysées de marcher.
Mais avec la neurotechnologie « progressant à une vitesse fulgurante », le secrétaire général de l’ONU, Antonio Guterres, a déclaré que des directives éthiques étaient nécessaires pour protéger les droits de l’homme.
Les investissements dans les entreprises de neurotechnologie ont été multipliés par 22 entre 2010 et 2020, atteignant 33,2 milliards de dollars, selon un nouveau rapport de l’Unesco.
Le nombre de brevets pour les dispositifs neurotechnologiques a doublé entre 2015 et 2020, les États-Unis représentant près de la moitié de tous les brevets dans le monde, selon le rapport.
Le marché des dispositifs neurotechnologiques devrait atteindre 24,2 milliards de dollars d’ici 2027.
