La Cnil a présenté la semaine dernière un rapport sur les enjeux éthiques des algorithmes qui interpelle toute la société, des développeurs au grand-public. La Commission nationale de l’informatique et des libertés (Cnil) vise ainsi à sensibiliser développeurs, entreprises et utilisateurs sur les enjeux éthiques des algorithmes et de l’intelligence artificielle (IA).Présentation des principales conclusions et déclarations de sa présidente Isabelle Falque-Pierrotin.
On December 15, 2017, CNIL president Isabelle Falque-Pierrotin is to present a report on the commission’s ethical issues. / AFP PHOTO / ERIC PIERMONT
De son côté Nicole Belloubet, garde des Sceaux, ministre de la Justice, a présenté le 13 décembre en conseil des ministres le projet de loi relatif à la protection des données personnelles. Ce rapport est a rapprocher de la réglementation et la directive européenne sur la protection des données (RGPD) qui entreront en vigueur afin d’harmoniser ces mesures entre tous les pays de l’Union européenne.
Le document est le produit d’un vaste débat organisé par la Cnil entre janvier et octobre 2017, la loi pour une République numérique de 2016 lui ayant donné mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l’évolution des technologies numériques.
Pour son premier opus, la Commission s’est emparé des algorithmes, omniprésents dans l’univers numérique, parce qu’ils suscitent « un réel intérêt du grand public, et aussi un malaise du fait de l’incompréhension autour de cet objet technique », a indiqué sa présidente Isabelle Falque-Pierrotin à l’AFP (photo) .Dans son rapport, la Cnil définit simplement un algorithme comme « une suite finie et non ambiguë d’instructions permettant d’aboutir à un résultat à partir de données fournies en entrée », ce qui permet par exemple « fournir des résultats sur un moteur de recherche, proposer un diagnostic médical, conduire une voiture d’un point à un autre, détecter des suspects de fraude parmi les allocataires de prestations sociales, etc »
L’intelligence artificielle désigne principalement « une nouvelle classe d’algorithmes, paramétrés à partir de techniques dites d’apprentissage », explique-t-elle aussi: les instructions à exécuter ne sont plus programmées explicitement par un développeur humain, elles sont générées par la machine elle-même, qui « apprend » à partir des données qui lui sont fournies. Cela permet d’accomplir des tâches dont sont incapables les algorithmes classiques. »Mais leur logique reste incompréhensible et opaque, y compris à ceux qui les construisent », souligne la Commission.
Deux principes nouveaux apparaissent comme fondateurs », selon le rapport
Le premier, « substantiel », est le principe de loyauté: l’algorithme ne doit pas trahir l’utilisateur, ni la communauté. Le second est un principe de vigilance: « On doit constamment créer du doute au niveau de l’algorithme; il doit sans cesse être remis en question » car il est extrêmement complexe et en perpétuelle mutation, insiste Mme Falque-Pierrotin.
La Cnil avance six recommandations: former à l’éthique tous les maillons de la « chaîne algorithmique », y compris les citoyens, rendre les systèmes algorithmiques plus compréhensibles en renforçant les droits existants, travailler leur design au service de la liberté humaine, mettre sur pied une « plateforme nationale d’audit des algorithmes », encourager la recherche sur l’intelligence artificielle éthique et enfin « renforcer la fonction éthique au sein des entreprises ». Dans une interview aux Echos, sa présidente déclarait notamment « Avec les algorithmes, on est sur une brique de base de l’univers numérique. Le principe de loyauté a l’air très banal: l’algorithme fait une promesse, par exemple de trier les gens. Il faut qu’il fasse ce qu’il dit, c’est le premier niveau du principe de loyauté. Nous disons que derrière ce premier niveau, il y en a un autre qui est la loyauté à la communauté humaine. L’algorithme ne doit pas trahir les intérêts supérieurs de la communauté humaine, par exemple en ne servant que les intérêts d’une communauté d’utilisateurs en particulier –ce qui désavantagerait les autres ».
Projet de loi relatif à la protection des données personnelles
Le 13 décembre, Nicole Belloubet, garde des Sceaux, ministre de la Justice, a présenté en conseil des ministres le projet de loi relatif à la protection des données personnelles dont la mission est d’adapter la loi française Informatique et Libertés du 6 janvier 1978 au droit européen.
« Le développement de l’ère numérique oblige à repenser le cadre applicable aux données personnelles » a énoncé Nicole Belloubet lors du compte rendu du conseil des ministres du 13 décembre 2017. En mai 2018, la réglementation et la directive européenne sur la protection des données (RGPD) entreront en vigueur afin d’harmoniser ces mesures entre tous les pays de l’Union européenne. Le projet de loi porté par la ministre de la Justice en collaboration avec Mounir Mahjoubi, secrétaire d’État au numérique, transpose ce nouveau cadre juridique européen.
Ce projet de loi comporte des avancées majeures qui peuvent « bouleverser les usages » selon Mounir Mahjoubi. Le texte va créer un cadre unifié et protecteur pour les données personnelles tout en instaurant de nouveaux droits pour les citoyens, notamment un droit à la portabilité des données personnelles. « La portabilité est une révolution » a ajouté le secrétaire d’État au numérique.
Une simplification des règles auxquelles sont soumis les acteurs économiques sera également mise en place. Un contrôle a posteriori, fondé sur l’appréciation par le responsable de traitement des risques causés par son traitement remplacera le contrôle a priori, basé sur des déclarations et autorisations préalables. En contrepartie de cette responsabilisation des acteurs, les pouvoirs de la CNIL seront renforcés, comme les sanctions encourues qui pourront aller jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial consolidé. T
LE SITE OFFICIEL DE LA CNIL :
https://www.cnil.fr/
Domoclick.com avec Lionel BONAVENTURE pour l’AFP
