Les logiciels libres (OSS), libres d’accès, d’utilisation et de modification sans restrictions, jouent un rôle central dans le développement et l’utilisation de l’intelligence artificielle (IA). Un algorithme d’IA peut être considéré comme un ensemble d’instructions, c’est-à-dire quels calculs doivent être effectués et dans quel ordre ; les développeurs écrivent ensuite un logiciel qui contient ces instructions conceptuelles en tant que code réel. Si ce logiciel est ensuite publié de manière open source, où le code sous-jacent est accessible au public pour que quiconque puisse l’utiliser et le modifier, tout data scientist peut rapidement utiliser cet algorithme avec peu d’effort. Il existe des milliers d’implémentations d’algorithmes d’IA qui facilitent l’utilisation de l’IA de cette manière, ainsi qu’une famille critique d’outils émergents qui permettent une IA plus éthique. Simultanément, il existe un nombre décroissant d’outils OSS dans le sous-domaine particulièrement important de l’apprentissage en profondeur, ce qui renforce l’influence sur le marché des entreprises qui développent cet OSS, Facebook et Google. Peu de documents sur la gouvernance de l’IA se concentrent suffisamment sur le rôle des logiciels libres, ce qui est un oubli regrettable, bien que cela affecte discrètement presque tous les problèmes de la politique de l’IA. De la recherche à l’éthique, et de la concurrence à l’innovation, le code open source joue un rôle central dans l’IA et mérite plus d’attention de la part des décideurs politiques.
1. OSS accélère l’adoption de l’IA
OSS permet et augmente l’adoption de l’IA en réduisant le niveau de connaissances mathématiques et techniques nécessaires pour utiliser l’IA. L’écriture des mathématiques complexes des algorithmes dans le code est difficile et prend du temps, ce qui signifie que toute alternative open source existante peut être un énorme avantage pour les data scientists. OSS bénéficie à la fois d’un environnement collaboratif et compétitif dans la mesure où les développeurs travaillent ensemble pour trouver des bogues aussi souvent qu’ils rivalisent pour écrire la meilleure version d’un algorithme. Cela se traduit souvent par un code plus accessible, robuste et de haute qualité par rapport à ce qu’un data scientist moyen, souvent plus un explorateur de données et un résolveur de problèmes pragmatique qu’un pur mathématicien, pourrait développer. Cela signifie qu’un code d’IA open source bien écrit augmente considérablement la capacité du data scientist moyen, lui permettant d’utiliser des algorithmes et des fonctionnalités d’apprentissage automatique plus modernes. Ainsi, bien qu’une grande attention ait été accordée à la formation et à la fidélisation des talents de l’IA, rendre l’IA plus facile à utiliser, comme le fait le code OSS, peut avoir un impact tout aussi important pour permettre la croissance économique de l’IA.
2. OSS aide à lutter contre les biais de l’IA
Les outils d’IA open source peuvent également permettre une utilisation plus large et meilleure de l’IA éthique. Des outils open source comme AI Fairness 360 d’IBM, Fairlearn de Microsoft et Aequitas de l’Université de Chicago atténuent les obstacles techniques à la lutte contre les biais de l’IA. Il existe également des logiciels OSS qui permettent aux scientifiques des données d’interroger plus facilement leurs modèles, tels que AI Explainability 360 d’IBM ou l’outil et le livre d’apprentissage automatique interprétables de Chris Molnar. Ces outils peuvent aider les scientifiques des données pressés par le temps qui souhaitent créer des systèmes d’IA plus responsables, mais qui sont sous pression pour terminer des projets et livrer pour les clients. Bien qu’une surveillance gouvernementale accrue de l’IA soit certainement nécessaire, les décideurs devraient également envisager plus fréquemment d’investir dans des logiciels d’IA éthiques open source comme levier alternatif pour améliorer le rôle de l’IA dans la société. La National Science Foundation finance déjà des recherches sur l’équité de l’IA, mais les organismes subventionnaires et les fondations devraient considérer le logiciel libre comme une partie intégrante de l’IA éthique, et financer davantage son développement et son adoption.
3. Les outils d’IA OSS font progresser la science
En 2007, un groupe de chercheurs a fait valoir que « le manque d’implémentations algorithmiques librement disponibles est un obstacle majeur au progrès scientifique » dans un article intitulé « The Need for Open Source Software in Machine Learning ». Il est difficile d’imaginer ce problème aujourd’hui, car il existe maintenant une pléthore d’outils d’IA OSS pour la découverte scientifique. À titre d’exemple, le logiciel d’IA open source Keras est en train d’être utilisé identifier les sous-composants des molécules d’ARNm et construire des interfaces neuronales pour mieux aider les personnes aveugles à voir. Les logiciels OSS facilitent également la reproduction de la recherche, permettant aux scientifiques de vérifier et de confirmer les résultats des uns et des autres. Même de petits changements dans la façon dont un algorithme d’IA a été mis en œuvre peuvent conduire à des résultats très différents ; l’utilisation de logiciels libres partagés peut atténuer cette source d’incertitude. Cela permet aux scientifiques d’évaluer plus facilement les résultats de la recherche de leurs collègues, un défi commun dans les nombreuses disciplines confrontées à une crise de réplication en cours.
Bien que le code OSS soit beaucoup plus courant aujourd’hui, des efforts sont encore déployés pour augmenter le pourcentage d’articles universitaires qui publient leur code, actuellement environ 50 à 70 % lors des grandes conférences sur l’apprentissage automatique. Les décideurs politiques ont également un rôle à jouer dans le soutien du code OSS dans les sciences, par exemple en encourageant les projets de recherche en IA financés par le gouvernement fédéral à publier le code résultant. Les organismes subventionnaires peuvent également envisager de financer la maintenance continue des outils d’IA OSS, ce qui est souvent un défi pour les logiciels critiques. L’initiative Chan Zuckerberg, qui finance des projets OSS critiques, écrit que l’OSS « est crucial pour la recherche scientifique moderne… pourtant, même le logiciel de recherche le plus largement utilisé manque de financement dédié ».
4. Les logiciels libres peuvent aider ou entraver la concurrence dans le secteur technologique
L’OSS a des ramifications importantes pour la politique de la concurrence. D’une part, la diffusion publique du code d’apprentissage automatique élargit et permet mieux son utilisation. Dans de nombreux secteurs, cela permettra une plus grande adoption de l’IA avec moins de talents en IA, probablement un avantage net pour la concurrence. Cependant, pour Google et Facebook, l’open source de leurs outils d’apprentissage en profondeur (respectivement Tensorflow et PyTorch) pourrait les ancrer davantage dans leurs positions déjà renforcées. Presque tous les développeurs de Tensorflow et PyTorch sont employés par Google et Facebook, ce qui suggère que les entreprises n’abandonnent pas beaucoup de contrôle. Bien que ces outils soient certainement plus accessibles au public, l’objectif souvent déclaré de « démocratiser » la technologie via les logiciels libres est, dans ce cas, un euphémisme.
Tensorflow et PyTorch sont devenus les outils d’apprentissage en profondeur les plus courants dans l’industrie et dans le milieu universitaire, offrant de grands avantages à leurs sociétés mères. Google et Facebook bénéficient plus immédiatement des recherches menées avec leurs outils car il n’est pas nécessaire de traduire les découvertes académiques dans un langage ou un cadre différent. De plus, leur domination manifeste un pipeline de scientifiques des données et d’ingénieurs en apprentissage automatique formés à leurs systèmes et les aide à se positionner comme les entreprises de pointe pour lesquelles travailler. Dans l’ensemble, les avantages pour Google et Facebook de contrôler l’apprentissage en profondeur OSS sont importants et pourraient persister dans le futur. Cela devrait être pris en compte dans toutes les discussions sur la concurrence dans le secteur technologique.
5. OSS crée des normes d’IA par défaut
OSS AI a également des implications importantes pour les organismes de normalisation, tels que l’IEEE, l’ISO/JTC et le CEN-CENELEC, qui cherchent à influencer l’industrie et la politique de l’IA. Dans d’autres secteurs, les organismes de normalisation ajoutent souvent de la valeur en diffusant les meilleures pratiques et en permettant une technologie interopérable. Cependant, dans l’IA, l’utilisation diversifiée des systèmes d’exploitation, des langages de programmation et des outils signifie que les problèmes d’interopérabilité ont déjà reçu une attention considérable. De plus, la communauté des praticiens de l’IA est quelque peu informelle, avec de nombreuses pratiques et normes diffusées via Twitter, des articles de blog et la documentation OSS. La domination de Tensorflow et PyTorch dans le sous-domaine de l’apprentissage en profondeur signifie que Google et Facebook ont une influence démesurée, qu’ils peuvent être réticents à céder aux organismes de normalisation axés sur le consensus. Jusqu’à présent, les développeurs d’OSS n’ont pas été largement impliqués dans le travail des organismes de normalisation internationaux, ce qui peut considérablement inhiber leur influence sur le domaine de l’IA.
La politique d’IA est liée au logiciel Open Source
De la recherche à l’éthique, de la compétition à l’innovation, le code open source joue un rôle central dans le développement des usages de l’intelligence artificielle. Cela rend l’absence constante de développeurs open source dans les discussions sur les politiques tout à fait notable, car ils exercent une influence significative sur la direction de l’IA et une connaissance très spécifique de celle-ci. Impliquer davantage de développeurs OSS d’IA peut aider les décideurs politiques en matière d’IA à considérer plus systématiquement l’influence de l’OSS dans la poursuite du développement juste et équitable de l’IA.
La National Science Foundation, Facebook, Google, Microsoft et IBM sont des donateurs de la Brookings Institution. Les résultats, interprétations et conclusions publiés dans cet article sont uniquement ceux des auteurs et ne sont influencés par aucun don.
