Voitures autonomes et autres algorithmes : pourquoi nous avons besoin d’une #MoralTech

Le responsable de l’intelligence artificielle chez Facebook est un chercheur formé dans les universités françaises, Yann Le Cunn. Un autre chercheur français vient de monter l’initiative «Moral Machines» avec d’autres chercheurs du MIT pour réfléchir aux conséquences de choix algorithmiques «automatiques» à l’échelle du transport mais également de l’éducation, de la médecine, de la justice, de l’emploi. Mi-Novembre à New-York se tiendra un colloque (sponsorisé par Google et Microsoft…) pour réfléchir aux questions de «l’équité, de la redevabilité et de la transparence» du «Machine Learning». En France, quelques chercheurs (Bernard Stiegler, Eric Sadin…) dénoncent depuis longtemps l’idéologie de la Silicon Valley, dans le sillage d’autres penseurs comme Evgeny Morozov. François Hollande, en visite chez BlaBlaCar, expliquait récemment aux salariés du leader mondial du covoiturage qu’il ne fallait pas avoir peur de s’ouvrir à l’international, nous ramenant ainsi aux heures les plus surréalistes de la Chiraquie du «mulot».

Choix éthiques vs milliards de dollars

Les plus grosses sources de financement dédiées à la réflexion éthique et morale autour de ces technologies sont apportées par des entrepreneurs qui développent eux-mêmes ces technologies dans des secteurs où elles représentent l’avenir du marché concerné : c’est notamment le cas d’Elon Musk et de son projet OpenAI mais également de Google, Amazon, Facebook, Microsoft et IBM qui ont récemment créé un partenariat pour réfléchir à de «bonnes pratiques» autour de «l’éthique de l’intelligence artificielle». Mettront-ils en avant des choix moraux ou éthiques alors que les marchés concernés se chiffrent en milliards de dollars ? On peut raisonnablement en douter.

On ne compte plus dans l’hexagone les #FrenchTechs et autres #CivicTechs qui sont les relais idéalisés d’un mouvement ancré dans l’idéologie libertarienne de la Silicon Valley. Mais rien, ou si peu, qui permette d’ouvrir une réflexion urgente et nécessaire autour d’une #MoralTech, d’un questionnement éthique sur le développement exponentiel et endémique de ces technologies présentées comme des remèdes mais qui portent également en elles des maux bien plus profonds pour l’équilibre de nos sociétés démocratiques, du vote électronique aux voitures autonomes en passant par sainte quadrature de toutes les NBIC (nano-bio-info-cogno technologies) prises dans le grand cercle de l’intelligence artificielle et son pensum de Deep Learning.

Main invisible du marché

Ce questionnement ne peut ni ne doit être laissé aux mains des mêmes entrepreneurs qui développent ces technologies : il nécessite un financement public à la hauteur des enjeux, il nécessite également une volonté politique pour permettre de créer une convergence forte de la recherche universitaire sur ces questions doublement fondamentales. «Science sans conscience n’est que ruine de l’âme», disait Rabelais. Continuer de s’étourdir des promesses digitales de la #FrenchTech sans déployer une #MoralTech à la hauteur des enjeux achèvera de ruiner les ambitions de la recherche publique sur ces questions, mais nous condamnera également à subir demain les impensés d’aujourd’hui, avec un impact totalement inédit sur le plan économique, politique et moral.

Dans une lettre adressée en 1946 à un chercheur d’une grande société d’aéronautique qui lui avait demandé de lui communiquer un rapport technique sur certains travaux de recherches effectués pendant la guerre, Norbert Wiener (père de la cybernétique) écrivait ceci : «Dans l’état présent de notre civilisation, il est parfaitement clair que la dissémination des informations sur une arme aboutit à la certitude pratique que cette arme sera utilisée. […] J’entends à l’avenir ne plus publier aucune recherche apte à devenir dangereuse une fois aux mains de militaristes irresponsables.» Refuser de créer, d’accompagner et de financer aujourd’hui une #MoralTech équivaut à laisser ce débat et ces choix à la seule main invisible du marché. C’est une erreur stratégique et une faute politique majeure.