Accueil Technologie Ce que vous devez savoir sur l’ordonnance radicale de Biden en matière d’IA

Ce que vous devez savoir sur l’ordonnance radicale de Biden en matière d’IA

0
Ce que vous devez savoir sur l’ordonnance radicale de Biden en matière d’IA



Le monde attend que les États-Unis se ressaisissent en matière de réglementation de l’intelligence artificielle, d’autant plus qu’ils abritent de nombreuses entreprises puissantes qui repoussent les limites de ce qui est acceptable. Aujourd’hui, le président américain Joe Biden a publié un décret sur l’IA ce qui, selon de nombreux experts, constitue un pas en avant significatif.

« Je pense que la Maison Blanche a fait un très bon travail, très complet », déclare Lee Tiedrich, qui étudie la politique de l’IA en tant qu’éminent professeur à l’Initiative for Science & Society de l’Université Duke. Elle dit qu’il s’agit d’un ensemble « créatif » d’initiatives qui fonctionnent à la portée du pouvoir exécutif du gouvernement, reconnaissant qu’il ne peut ni promulguer de lois (c’est le travail du Congrès) ni fixer directement des règles (c’est ce que font les agences fédérales). Tiedrich déclare : « Ils ont utilisé une combinaison intéressante de techniques pour mettre en place quelque chose qui, j’en suis personnellement optimiste, fera avancer le cadran dans la bonne direction. »

Cette action américaine s’appuie sur des mesures antérieures de la Maison Blanche : une «Plan pour une déclaration des droits de l’IA » qui a défini des principes non contraignants pour la réglementation de l’IA en octobre 2022, ainsi que des engagements volontaires sur la gestion des risques liés à l’IA de la part de 15 grandes entreprises d’IA dans le monde. Juillet et Septembre.

Et cela s’inscrit dans le contexte d’importants efforts de réglementation dans le monde. L’Union européenne est actuellement en train de finaliser c’est Loi sur l’IA, et devrait adopter la législation cette année ou au début de l’année prochaine ; Cette loi interdit certaines applications d’IA jugées présenter des risques inacceptables et établit une surveillance pour applications à haut risque. Parallèlement, la Chine a rapidement rédigé et adopté plusieurs lois sur les systèmes de recommandation d’IA et IA générative. D’autres efforts sont en cours dans des pays comme le Canada, le Brésil et le Japon.

Que contient le décret sur l’IA ?

Le décret s’attaque à beaucoup de choses. La Maison Blanche n’a jusqu’à présent publié qu’une fiche d’information sur cette ordonnance, le texte final étant attendu prochainement. Cette fiche d’information commence par des initiatives liées à la sûreté et à la sécurité, comme une disposition selon laquelle le National Institute of Standards and Technology (NIST) élaborera des « normes rigoureuses pour une vaste gamme de produits ». tests de l’équipe rouge pour assurer la sécurité avant la diffusion publique. Un autre stipule que les entreprises doivent informer le gouvernement si elles forment un modèle de fondation cela pourrait poser des risques sérieux et partager les résultats des tests de l’équipe rouge.

L’ordonnance aborde également les droits civils, affirmant que le gouvernement fédéral doit établir des lignes directrices et une formation pour prévenir les biais algorithmiques – le phénomène dans lequel l’utilisation d’outils d’IA dans les systèmes décisionnels exacerbe la discrimination. Professeur d’informatique à l’Université Brown Suresh Venkatasubramanian, co-auteur du Plan 2022 pour une Déclaration des droits de l’IA, qualifie le décret d’« effort important » et affirme qu’il s’appuie sur le Plan, qui a défini la gouvernance de l’IA comme une question de droits civiques. Cependant, il est impatient de voir le texte final de l’ordonnance. « Même s’il y a des progrès importants dans l’obtention d’informations sur l’utilisation de l’IA par les forces de l’ordre, j’espère qu’il y aura une réglementation plus stricte de son utilisation dans les détails du [executive order], » il dit Spectre IEEE. « Cela semble être une lacune potentielle. »

Un autre expert en attente de détails est Cynthia Rudin, professeur d’informatique à l’Université Duke qui travaille sur des systèmes d’IA interprétables et transparents. Elle est préoccupée par la technologie de l’IA qui utilise des données biométriques, telles que la reconnaissance faciale systèmes. Même si elle qualifie cette décision de « grande et audacieuse », elle dit qu’il n’est pas clair si les dispositions qui mentionnent la confidentialité s’appliquent à la biométrie. «J’aurais aimé qu’ils mentionnent explicitement les technologies biométriques pour que je sache où elles s’intègrent ou si elles étaient incluses», dit Rudin.

Bien que les dispositions relatives à la confidentialité incluent certaines directives permettant aux agences fédérales de renforcer leurs exigences en matière de confidentialité et de soutenir les techniques de formation à l’IA préservant la confidentialité, elles incluent également un appel à l’action du Congrès. Le président Biden « appelle le Congrès à adopter une législation bipartite sur la confidentialité des données pour protéger tous les Américains, en particulier les enfants », indique l’ordonnance. Une telle législation ferait-elle partie de la législation relative à l’IA qui Le sénateur Chuck Schumer travaille sur ça reste à voir.

Prochainement : Des filigranes pour supports synthétiques ?

Un autre sujet brûlant en ces jours de IA générative qui peut produire du texte, des images et du son réalistes à la demande est de savoir comment aider les gens à comprendre ce qui est réel et ce qui l’est. médias synthétiques. L’ordonnance demande au ministère américain du Commerce de « développer des lignes directrices pour l’authentification du contenu et le filigrane afin d’étiqueter clairement le contenu généré par l’IA ». Ce qui semble génial. Mais Rudin note que même si des recherches considérables ont été menées sur la façon de filigraner faux profond images et vidéos, on ne sait pas clairement « comment faire du filigrane sur les deepfakes qui impliquent du texte ». Elle est sceptique quant à l’effet du filigrane, mais estime que si d’autres dispositions de l’ordonnance obligent les sociétés de médias sociaux à révéler les effets de leurs algorithmes de recommandation et l’ampleur de la désinformation circulant sur leurs plateformes, cela pourrait provoquer suffisamment d’indignation pour imposer un changement. .

Susan Ariel Aaronson, professeur d’affaires internationales à l’Université George Washington qui travaille sur la gouvernance des données et de l’IA, qualifie cette ordonnance de « bon début ». Cependant, elle craint que l’ordonnance ne aille pas assez loin dans la définition de règles de gouvernance pour les ensembles de données que les sociétés d’IA utilisent pour entraîner leurs systèmes. Elle recherche également une approche plus définie pour gouverner l’IA, affirmant que la situation actuelle est « un patchwork de principes, de règles et de normes qui ne sont pas bien compris ou mal sourcés ». Elle espère que le gouvernement « poursuivra ses efforts pour trouver un terrain d’entente sur ces nombreuses initiatives en attendant l’action du Congrès ».

Alors que certaines audiences du Congrès sur l’IA se sont concentrées sur la possibilité de créer une nouvelle agence fédérale de réglementation de l’IA, le décret d’aujourd’hui suggère une approche différente. Tiedrich de Duke dit qu’elle aime cette approche consistant à répartir la responsabilité de la gouvernance de l’IA entre de nombreuses agences fédérales, chargeant chacune de superviser l’IA dans ses domaines d’expertise. Les définitions de l’IA « sûre » et « responsable » seront différentes d’une application à l’autre, dit-elle. « Par exemple, lorsque vous définissez la sécurité d’un véhicule autonome, vous allez proposer un ensemble de paramètres différent de celui que vous feriez lorsque vous parlez de laisser un dispositif médical compatible avec l’IA dans un environnement clinique, ou d’utiliser une IA. outil du système judiciaire où il pourrait nier les droits des personnes.

La commande arrive quelques jours seulement avant celle du Royaume-Uni. Sommet sur la sécurité de l’IAun grand rassemblement international de responsables gouvernementaux et de dirigeants d’IA pour discuter des risques liés à l’IA liés à une utilisation abusive et perte de contrôle. La vice-présidente américaine Kamala Harris représentera les États-Unis au sommet, et elle fera valoir haut et fort un point : après un peu d’attente, les États-Unis se présentent.

À partir des articles de votre site

Articles connexes sur le Web

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici