Les organismes fédéraux chargés de l’application de la loi utilisent depuis longtemps des tests médico-légaux pour associer des preuves matérielles trouvées sur une scène de crime à un individu spécifique. Autrefois une tâche manuelle, ce processus est maintenant de plus en plus automatisé par les analystes médico-légaux utilisant des algorithmes médico-légaux informatisés. La semaine dernière, le Government Accountability Office (GAO) des États-Unis a publié un nouveau rapport d’évaluation technologique intitulé Technologie médico-légale : les algorithmes renforcent l’analyse médico-légale, mais plusieurs facteurs peuvent affecter les résultats, qui fournit une analyse approfondie des trois systèmes les plus courants : les algorithmes de correspondance d’empreintes digitales latentes, les algorithmes de reconnaissance faciale et les algorithmes de génotypage probabiliste qui analysent des mélanges complexes d’ADN.
Selon le rapport, bien que chaque système présente certains points forts par rapport aux méthodes conventionnelles, il existe une série de défis sociaux et éthiques associés à l’utilisation de ces algorithmes, tels que des données d’entrée de mauvaise qualité, des erreurs humaines de l’utilisateur et des biais parmi les groupes démographiques, y compris selon la race et le sexe. Dans le rapport, le GAO fait trois recommandations politiques concernant l’utilisation d’algorithmes afin de relever les défis : (1) accroître la formation des analystes et des enquêteurs ; (2) élaborer des normes et des politiques sur l’utilisation appropriée ; et (3) accroître la transparence autour des tests, des performances et de l’utilisation de ces algorithmes.
Bien que chacune de ces recommandations améliorerait le statu quo, le rapport néglige un recours immédiat à la disposition des décideurs : mettre fin à l’abus des lois sur les secrets commerciaux pour supprimer les preuves pertinentes dans les affaires pénales, ce qui permet aux fournisseurs d’échapper à l’examen des systèmes logiciels d’application de la loi tout en réprimant les droits de l’accusé.
Le problème des secrets commerciaux
Certes, le rapport reconnaît que « les développeurs d’algorithmes peuvent ne pas vouloir divulguer des informations exclusives liées à la formation et aux tests ». Il identifie également la pratique troublante de certains fournisseurs privés qui empêchent activement les scientifiques indépendants de mener des études de validation de leurs outils en refusant de fournir des licences de recherche, tandis que les fournisseurs soutiennent simultanément devant les tribunaux que les résultats de leurs outils sont soumis à un examen par les pairs et devraient donc être une preuve admissible contre les accusés.
Mais le rapport omet de mentionner la seule chose qui facilite ces abus, quelque chose qui pourrait être facilement changé immédiatement. Les développeurs qui vendent ou autorisent des algorithmes médico-légaux aux forces de l’ordre prétendent régulièrement qu’ils disposent d’un droit spécial de secret commercial leur permettant de dissimuler entièrement aux témoins experts de la défense pénale les preuves pertinentes sur le fonctionnement de ces systèmes. En conséquence, ils refusent de divulguer des informations méthodologiques clés sur ces outils aux équipes de défense pénale, même lorsque ces équipes accepteraient une ordonnance de protection judiciaire visant à protéger la propriété intellectuelle des entreprises. Comme une cour d’appel du New Jersey l’a récemment observé en étant la première cour du pays à rejeter un tel privilège, « [w]ous sommes conscients du besoin important de préserver la confidentialité des secrets commerciaux . . . Mais envelopper le code source et les documents connexes dans un rideau de secret entrave considérablement la possibilité pour le défendeur de contester de manière significative la fiabilité. »
La pratique consistant à revendiquer un privilège relatif aux secrets commerciaux pour bloquer le contre-interrogatoire par l’accusé au criminel est un abus du droit de la propriété intellectuelle.[1] La loi sur les secrets commerciaux est conçue pour protéger les informations contre le vol par des concurrents commerciaux. Il n’est pas censé entraver une procédure régulière ou bloquer la recherche de la vérité judiciaire. De plus, les secrets commerciaux sont régulièrement divulgués dans le cadre d’ordonnances de protection dans les litiges civils pour détournement de secrets commerciaux, c’est-à-dire dans des circonstances où une entité commerciale en accuse déjà une autre d’avoir volé sa propriété intellectuelle.
En revanche, dans les affaires pénales où les résultats d’algorithmes médico-légaux sont présentés comme preuves, il n’y a pas de risque significatif que des secrets commerciaux soient divulgués à un concurrent commercial. Certes, les avocats de la défense pénale et les témoins experts de la défense veulent sonder et tester ces algorithmes. Après tout, c’est leur travail de contester les preuves de l’accusation. Mais la défense pénale n’est pas la même chose que le vol par un concurrent commercial. Le contre-interrogatoire n’est pas un détournement. Il s’agit d’un droit constitutionnel et statutaire de l’accusé qui ne devrait pas être bloqué par la loi sur le secret commercial.
Le GAO omet une perspective juridique nécessaire
Le rapport du GAO a peut-être négligé ce problème de secret commercial car il apporte une perspective largement scientifique, plutôt que juridique, au manque de transparence des algorithmes médico-légaux d’application de la loi. Par exemple, le rapport met en évidence de graves problèmes que le manque de transparence crée pour l’examen scientifique par les pairs et la reproductibilité, notamment le fait que la plupart des études évaluant les logiciels de classification ADN ont été entreprises par les développeurs ou les organismes chargés de l’application des lois eux-mêmes, plutôt que par des chercheurs universitaires indépendants. Le rapport souligne également que les mises à jour des logiciels peuvent nécessiter de nouvelles études de validation internes, dont l’omission peut être masquée par un manque de transparence autour du contrôle des versions.
Pourtant, la transparence autour des preuves que le gouvernement utilise pour condamner les personnes accusées de crimes n’est pas simplement une meilleure pratique scientifique – c’est un engagement profond et requis par la Constitution en faveur d’une procédure régulière. Les valeurs scientifiques et juridiques de la transparence dans les algorithmes médico-légaux sont distinctes pour de bonnes raisons. Pour commencer, leurs enjeux diffèrent. Si une théorie scientifique est incorrecte, des études ultérieures peuvent la réfuter et remettre la recherche scientifique sur les rails. Mais si le gouvernement utilise des preuves incorrectes pour juger, condamner et incarcérer un accusé, cette personne ne pourra jamais retrouver le temps perdu, la liberté, la dignité ou, dans certains cas, sa vie.
De manière appropriée, les normes que la science et le droit appliquent aux algorithmes médico-légaux diffèrent également. Le rapport se concentre sur la façon dont la communauté scientifique évalue l’exactitude de différents algorithmes médico-légaux, par exemple en décrivant un test de performance comparatif des algorithmes d’empreintes digitales mené par le National Institute of Standards and Technology. Mais le rapport ne mentionne jamais comment la communauté juridique évalue les preuves de l’accusation à travers la transparence et la contestabilité. Le fédéral Daubert La norme d’admissibilité exige des juges qu’ils évaluent non seulement si une technique scientifique a obtenu une « acceptation générale » dans une communauté scientifique, mais aussi qu’ils évaluent le niveau d’examen académique indépendant auquel la technique a été soumise, ainsi que si elle a une ou taux d’erreur connaissable. Une fois les preuves admises, les accusés ont le droit de les confronter et de les contre-interroger. Et les défendeurs ont également le droit constitutionnel et statutaire de découvrir des informations sur ces preuves qui pourraient être utiles pour le contre-interrogatoire. Ensemble, ces droits créent le mandat de transparence juridique totalement distinct qui est au cœur du processus de recherche de la vérité des tribunaux.
Ce que les décideurs politiques peuvent faire
Heureusement, certains décideurs politiques ont pris des mesures pour mettre fin à cet abus de la loi sur le secret commercial. S’inspirant des éléments constitutifs du rapport, le représentant Mark Takano (D-Calif.), a introduit HR 2438, la loi de 2021 sur la justice dans les algorithmes médico-légaux. Parallèlement à de nombreuses autres réformes bénéfiques, notamment l’élaboration de normes et un programme de tests. pour les algorithmes médico-légaux, ce projet de loi interdirait l’utilisation d’un privilège de preuve de secret commercial pour retenir les preuves pertinentes des avocats de la défense dans les affaires pénales. Si le projet de loi est adopté, les développeurs pourraient toujours obtenir des ordonnances de protection appropriées des tribunaux pour protéger leurs intérêts de propriété intellectuelle, mais ils ne pourraient plus s’appuyer sur des arguments de secret commercial pour supprimer entièrement les preuves pertinentes du contre-interrogatoire par la défense. .
Le rapport du GAO met en lumière d’urgence les problèmes techniques concernant l’utilisation par les forces de l’ordre d’algorithmes médico-légaux. Mais les algorithmes médico-légaux sont à la fois un problème juridique et technique. Les décideurs politiques doivent agir maintenant pour s’assurer que les fournisseurs d’algorithmes médico-légaux n’abusent pas des lois sur la propriété intellectuelle pour saper les valeurs de procédure régulière.
L’auteur a été consultant expert sur le rapport du GAO et sur la Justice in Forensic Algorithms Act de 2021.
NOTES DE BAS DE PAGE
[1] Pour une discussion générale de cette question, voir Rébecca Wexler, Vie, liberté et secrets commerciaux : la propriété intellectuelle dans le système de justice pénale, 70 Stan. L. Rév. 1343 (2018).
