Commissaire aux algorithmes : voilà la nouvelle profession imaginée par la Commission supérieure du numérique et des postes (CSNP). Inspirée des commissaires aux comptes, elle aurait pour but de vérifier et de certifier la qualité des algorithmes.
La fonction des commissaires aux comptes est de décrypter, d'analyser et de contrôler les comptes des entreprises. Partant de cette idée d'un « commissaire », spécialiste chargé d'analyser et de certifier des documents pour vérifier leur conformité réglementaire et juridique, les membres de la Commission supérieure du numérique et des postes (CSNP) proposent la création d'un « commissaire à l'intelligence artificielle » ou d'un « commissaire aux algorithmes ».
Dans les faits, ce commissaire à l'IA aurait pour mission de vérifier des algorithmes, édités et produits par des entreprises ou des administrations, afin par exemple de s'assurer qu'ils ne sont pas biaisés ou qu'ils ne font pas intervenir un traitement totalement automatisé. Le RGPD interdit en effet, dans son article 22, de fonder une décision exclusivement sur un traitement automatisé.
De la même manière que les commissaires aux comptes, les commissaires à l'IA seraient des personnes indépendantes, exerçant de façon libérale et disposant d'un droit d'alerte.
La vérification des algorithmes, un enjeu d'intérêt public
Cette proposition de création d'un commissaire à l'IA fait écho à des problématiques récentes, sur le traitement parfois biaisé de certains algorithmes, dont certains ont pu être accusés de racisme aux Etats-Unis par exemple. Il s'agirait aussi d'« ouvrir les boîtes noires » de certains algorithmes dont le pouvoir de nuisance est potentiellement important, comme ceux de Facebook par exemple, très critiqués pendant la dernière élection présidentielle américaine. La transparence est aussi un enjeu de taille tant pour le public que pour les industriels, car ces algorithmes d'une sophistication extrême ont un intérêt commercial important.
Comment vérifier alors la conformité d'un algorithme, présenter ses grandes lignes au public dans un objectif de transparence tout en respectant la réglementation sur le secret des affaires ? Autant de problématiques que devront résoudre les membres de la CSNP et plus tard le législateur s'il décide de mettre cette proposition à l'ordre du jour.
Les commissaires à l'IA devront être des experts aguerris
D'autres problèmes se posent sur les personnes qui exerceront le poste de commissaire à l'IA. Elles devront nécessairement être des experts en programmation. Mais si les commissaires aux comptes peuvent prétendre à une forte expérience et un savoir-faire (la profession existe depuis plusieurs décennies), l'exercice d'un commissariat à l'IA pourrait s'avérer beaucoup plus compliqué.
La vérification et certification de codes informatiques nécessitent des compétences étendues en programmation, une connaissance approfondie de la plupart des langages informatiques utilisés, d'autant que ces langages évoluent très régulièrement. Certains algorithmes s'étendent probablement sur des milliers de pages de code. Savoir les lire, les décoder et analyser leur conformité légale et réglementaire sera sans nul doute une tâche ardue...
En réalité, il est difficile pour l'heure de savoir à quoi ressemblera ce poste spécifique, ni quelles seront ses missions précises, dans quel cadre elles s'exerceront et dans quel but particulier. Mais cette proposition va probablement dans le bon sens. Les algorithmes sont peut-être la plus grande « boîte noire » de notre époque, prenant une place de plus en plus grande dans nos vies à tous égards. La transparence des algorithmes sera sans doute l'un des enjeux majeurs des prochaines années.
Raphaël Lichten
