L'UE veut restreindre l'utilisation de l'IA et des systèmes de reconnaissance faciale dans un souci de confidentialité

Les responsables de l'UE prévoient de restreindre l' utilisation de la reconnaissance faciale par la police et d'interdire complètement certains types de systèmes d'intelligence artificielle (IA). Ce sera l'une des tentatives les plus importantes d'imposer des restrictions à l'utilisation de l'IA.



L'interdiction comprendra toute une liste de cas d'utilisation de l'IA que les responsables considéreront comme «à haut risque». Parmi eux - la gestion des infrastructures critiques des pays de l'UE, l'admission des candidats dans les collèges et le traitement des demandes de prêt. L'application de l'IA aux options de la liste sera étroitement surveillée. Il est prévu d'élaborer des normes spécifiques pour la mise en œuvre et l'utilisation de l'IA dans ces cas.



L'Union européenne est connue pour lutter activement pour les droits de ses citoyens, y compris. pour leur vie privée, et restreint de toutes les manières possibles le pouvoir excessif des grandes entreprises technologiques, en essayant d'éviter les conséquences potentiellement dangereuses de l'utilisation des nouvelles technologies. Vous pouvez vous rappeler le «Règlement général sur la protection des données» (RGPD) - un règlement par lequel les membres de l'Union européenne renforcent et unifient la protection des données personnelles de tous les citoyens, et restreignent également l'exportation de données depuis l'UE.



De plus, il y a quelques années, l'UE a rédigé un projet de loi "sur la protection des humains contre l'IA", soulignant que la société ne peut tirer quelque chose des technologies que si elle leur fait totalement confiance, et que les systèmes d'IA doivent être "centrés sur l'humain, orientés entièrement à servir l'humanité et le bien commun et à contribuer à l'amélioration des conditions de l'existence humaine et de sa liberté. "



Selon Margreta Vestager, vice-présidente exécutive de la Commission européenne, le règlement proposé s'attaque aux menaces de certains cas d'utilisation de l'IA pour les personnes et la communauté dans son ensemble. Elle affirme que l'UE a été la première au monde à offrir une telle plate-forme juridique.



Il est prévu d'interdire à la police d'utiliser des "systèmes d'identification biométrique à distance" en temps réel, à l'exception de cas tels que la recherche d'enfants enlevés ou la prévention d'attaques terroristes, ainsi que la recherche de criminels d'un certain type.



Il est également prévu d'obliger les entreprises fournissant des services liés à l'interaction des personnes avec l'IA à indiquer clairement les cas où une personne rencontre un bot - par exemple, dans un chat. De même, les créateurs de deepfakes et d'autres médias similaires devront rendre ce fait sans ambiguïté.



Selon Julien Cornebiz, un tel projet de loi n'aura pas forcément les mêmes implications que le RGPD, ne serait-ce que parce qu'il définit l'IA de manière trop large. Il décrit l'IA comme une cible mobile et dit que nos téléphones font aujourd'hui des choses qui, il y a 20 ans, pouvaient certainement être classées comme «IA». Par conséquent, les nouvelles règles risquent de se confondre dans les définitions ou de devenir rapidement obsolètes.