À la suite d'un décret de février 2019, le Bureau américain de la gestion et du budget (OMB) a publié ses directives finales sur la réglementation de l'intelligence artificielle (IA) le 17 novembre 2020. Ce document présente la stratégie du gouvernement américain en matière de surveillance de l'IA, et en tant que tel il mérite un examen attentif. Les directives de la Maison Blanche sont motivées et reflètent une compréhension nuancée de l'IA; cependant, il existe également de réelles raisons de s'inquiéter de l'impact à long terme sur la réglementation de l'IA.
Pour commencer, il existe de nombreux aspects positifs des directives réglementaires de la Maison Blanche sur l'IA. Sa portée est raisonnable, reconnaissant que la réglementation de l’IA du secteur privé est fondamentalement différente du déploiement par le gouvernement des systèmes d’IA, laissant ce dernier pour un document distinct. Il plaide également à juste titre pour une approche de l'IA où la réglementation est spécifique au secteur et au type d'application d'IA, plutôt que des politiques de grande envergure qui n'ont aucun sens dans le large spectre d'utilisation de l'IA. Le document de l'OMB adopte une approche basée sur les risques, suggérant de prioriser des protections plus solides pour les systèmes d'IA qui démontrent le potentiel de risque plus élevé. Le document appelle également les agences fédérales à travailler avec les organismes de normalisation, en leur demandant spécifiquement d’adhérer au plan d’engagement fédéral de l’Institut national des normes et de la technologie pour l’élaboration de normes techniques sur l’IA.
D'autres aspects des orientations sont moins positifs. Le ton du document insiste beaucoup sur la promesse du développement et de l'innovation de l'IA, en particulier pour la croissance économique, écrivant «la promotion de l'innovation et de la croissance de l'IA est une priorité élevée du gouvernement américain». Cela est compréhensible, car l'économie numérique représente plus de 9% du PIB et augmentait de 6,8% par an avant la pandémie COVID-19. L'IA est une partie importante de ce secteur et s'étend également à de nombreux autres secteurs. Pourtant, bien que la valeur économique de l'IA soit importante, les orientations sont trop axées sur l'argument selon lequel la réglementation ne devrait pas entraver son innovation et son déploiement. Le document note une série «d'approches non réglementaires de l'IA» et comporte une section sur «la réduction des obstacles au déploiement et à l'utilisation de l'IA», mais il n'est pas équilibré par une large contextualisation des méfaits de l'IA.
Les directives de l'OMB indiquent clairement que «de nombreuses applications d'IA ne soulèvent pas nécessairement de nouveaux problèmes». Cette affirmation est partiellement vraie, car le gouvernement n'a pas besoin de se préoccuper de nombreuses applications d'IA. Pourtant, l'inverse est également vrai: de nombreuses applications d'IA du secteur privé soulèvent absolument de nouveaux problèmes. Les systèmes d'IA peuvent systématiser la discrimination et redistribuer le pouvoir loin des consommateurs et des employés de première ligne. Les systèmes d'IA peuvent également permettre une surveillance d'entreprise à grande échelle. Ils peuvent faire tout cela, tout en rendant les processus plus difficiles à comprendre pour les individus et en sapant potentiellement leur recours juridique en cas de préjudice.
Ces questions ne sont pas entièrement ignorées dans le document de la Maison Blanche. Il énumère dix principes pour la gestion des applications d'IA, qui sont cohérents avec les recommandations des principaux experts en IA éthique. Cette liste comprend: «Confiance du public dans l'IA», «Participation du public», «Évaluation et gestion des risques», «Équité et non-discrimination» et «Divulgation et transparence». Le problème est que ces critères sont présentés comme une liste de contrôle qui doit être élaborée avant que les agences puissent mettre en œuvre de nouvelles règles sur l'IA. Juste avant la liste des principes, le guide stipule que «les agences ne devraient envisager une nouvelle réglementation que… à la lumière de la section précédente… qu'une réglementation fédérale est nécessaire.» Associé au cadre anti-réglementaire plus large du document, cela suggère une intention de prévenir les actions réglementaires.
La préemption est problématique car nous savons déjà que certains domaines nécessitent une application et une réglementation plus strictes. La Food and Drug Administration réfléchit à la manière d'adapter ses règles pour garantir la sécurité des dispositifs médicaux améliorés par l'IA tout en leur permettant d'être mis à jour avec de nouvelles données. Le ministère du Travail et la Commission pour l'égalité des chances en matière d'emploi devront examiner comment les outils algorithmiques affectent la rémunération des travailleurs, la sécurité au travail et les processus de recrutement. La santé et les services sociaux doivent apprendre à appliquer les protections légales de non-discrimination sur les services de santé attribués par algorithme. De même, le ministère des Transports a besoin de nouvelles règles pour assurer la sécurité des véhicules autonomes.
En l'absence de réglementations et de processus d'application mis à jour, le statu quo permet de contourner facilement la loi en utilisant des algorithmes. La supervision des algorithmes nécessite de nouvelles idées, une expertise technique et des capacités supplémentaires, et la Maison Blanche et l'OMB devraient encourager les agences à s'attaquer aux nouveaux risques de l'IA. Malheureusement, dans une règle finalisée concernant les normes d'impact disparates, le logement et le développement urbain ont ignoré les nouveaux défis de l'IA, ce qui a empêché les plaignants de prouver qu'ils étaient discriminés par des algorithmes.
Au-delà de l'influence directe sur la réglementation des agences, ces orientations peuvent également affecter le rôle futur de l'OMB, en particulier son bras d'examen réglementaire, le Bureau de l'information et des affaires réglementaires (OIRA). À certains moments au cours de ses quarante ans d'existence, l'OIRA a joué un rôle actif de «gardien» de la réglementation. Ce rôle est particulièrement axé sur les «mesures importantes des autorités de réglementation», qui comprennent des règles dont l’impact économique est estimé à plus de 100 millions de dollars ou des règlements qui «soulèvent de nouvelles questions juridiques ou politiques». Bien que certaines réglementations relatives à l'IA satisfassent probablement aux critères d'impact économique, beaucoup d'autres soulèveront sûrement de nouvelles questions en matière de droit et de politique. Le personnel relativement petit de l'OIRA, divisé en groupes affectés à différents organismes fédéraux, peut ne pas avoir l'expertise en IA nécessaire pour peser efficacement sur ces nouvelles règles émergentes. On ne sait pas exactement comment ce problème évoluera, mais il est possible que les directives de la Maison-Blanche, telles qu'interprétées par l'OIRA, créent de nouveaux fardeaux de conformité.
Il ne faudra peut-être pas longtemps pour déterminer l’impact de ces directives. La contribution la plus précieuse de cette directive est peut-être qu'elle appelle les agences fédérales à fournir des plans de conformité dans un délai de six mois (d'ici le 17 mai 2021). Avec l'afflux de nouvelles nominations de la part de l'administration Biden, il est possible que ce document suscite de nouvelles idées et un degré d'action sans précédent pour élaborer des réglementations intelligentes et efficaces en matière d'IA. Espérons que l'OIRA travaillera principalement à favoriser l'échange de connaissances et la coopération entre les agences, comme l'a soutenu Cass Sunstein.
Cela peut être le cas. Pourtant, il y a lieu de s'inquiéter dans la rédaction de ce document, et son effet dépendra considérablement de la façon dont il sera interprété et abordé par le futur personnel de l'agence. Il est difficile d'imaginer que changer cette orientation deviendra une priorité de premier plan de la Maison Blanche Biden, compte tenu de tous ses autres problèmes urgents. Pourtant, il existe un risque réel que ce document devienne une force pour maintenir le statu quo, au lieu de s'attaquer aux graves dommages causés par l'IA.
