La Commission nationale de l’informatique et des libertés (CNIL) a consacré un an à étudier les enjeux éthiques des algorithmes et de l’intelligence artificielle. Nous savons que ces programmes informatiques sont présents partout et orientent, voire régentent notre vie : choisir les meilleurs candidats, aider à élaborer un diagnostic, établir l’itinéraire des patrouilles de police, recommander des achats ou…des amis, voilà leur rôle. La CNIL a voulu, avec l’aide d’usagers et de professionnels participant à débats publics, dégager des principes auxquels ils devraient se soumettre pour, au-delà de leur utilité matérielle ou marchande, respecter l’éthique. Elle a dégagé deux principes fondateurs : la loyauté et la vigilance. La loyauté : l’intérêt des utilisateurs, ou, plus important encore, celui des citoyens doit toujours primer, ce qui limite, par exemple, l’utilisation des algorithmes pour cibler l’envoi de messages, lors de campagnes électorales, sur des segments prédéterminés du corps politique ; la vigilance, qui implique de surveiller constamment l’utilisation des algorithmes pour que telle ou telle pratique n’échappe pas à la surveillance : des comités d’éthique pourraient s’en emparer. La CNIL formalise en effet les craintes que devraient nous inspirer les algorithmes : nous les jugeons trop vite « neutres » ou infaillibles et nous leur déléguons des responsabilités dont nous devrions vérifier qu’elles sont assurées comme nous le souhaitons. D’autant que l’algorithme, le plus souvent, discrimine, exclut, sélectionne. Il segmente aussi : cette personnalisation (qui fait partie de son utilité) est-elle toujours compatible avec notre vie collective, les échanges que nous souhaitons avoir, la vie démocratique ? Quel est l’équilibre à établir entre les énormes fichiers dont l’intelligence artificielle a besoin et le respect des données personnelles ? Enfin, les données qui sont sélectionnées et qui alimentent l’algorithme sont-elles pertinentes ? En nombre suffisant ? Pour que l’homme garde la main, la CNIL avance des recommandations opérationnelles : former à l’éthique les concepteurs et les citoyens, rendre les algorithmes compréhensibles (avec des mots, pas en donnant les codes sources), constituer une plate-forme d’audit des algorithmes, renforcer enfin la fonction éthique dans les entreprises. Le rappel des risques et les recommandations sont salutaires. Dans le domaine public, la loi du 7 octobre 2016 pour une République numérique oblige les administrations qui mettent en œuvre un traitement par algorithmes à en informer les personnes et à leur permettre d’en comprendre le fonctionnement. L’exigence première est en effet un besoin de transparence. La seconde est de garder le contrôle et de pas laisser l’algorithme décider à la place des responsables. Programme quelque peu utopique, peut-on penser. Certes, mais travail d’alerte bienvenu. Les algorithmes, c’est encore plus important que les fichiers de données personnelles informatisées. Il faut sans nul doute « aller y voir ». .