Depuis la publication du rapport de la mission gouvernementale sur l’intelligence artificielle, « AI for Humanity », orchestré par Cédric Villani, de très nombreux commentaires ont été publiés, sur le web ou ailleurs. Il est frappant de voir à quel point le niveau du débat est élevé. Tellement élevé que cela me paraît impossible, pour qui n’est pas expert, d’entrer réellement dans la discussion.
Comment, donc, permettre à tous les individus de s’emparer de ce grand changement en pleine accélération et d’en devenir un acteur averti ? A quel moment crée-t-on le lien entre d’un côté ceux qui font l’IA et qui la pensent, et de l’autre ceux qui la vivent, la craignent, la subissent voire l’ignorent, parce qu’ils n’y comprennent rien ? Comment va-t-on rassembler toutes les forces dans leur diversité autour d’un projet déjà classé pour un grand nombre comme un domaine réservé à l’élite ?
La louable volonté d’éthique, le danger d’une éthique décrétée
À Syllabs, nous sommes convaincus que nous avons, comme la plupart des acteurs de l’IA, une responsabilité éthique, culturelle et sociétale. En effet, traiter l’information et la synthétiser sous forme d’articles comme nous le faisons n’est pas un acte anodin. Il peut avoir des conséquences importantes sur la société s’il n’est pas correctement maîtrisé et encadré. Mais, s’il est important de mettre l’éthique au cœur du développement de l’IA, la manière dont le débat a été amorcé est quelque peu inquiétante.
D’un côté, l’éthique est interprétée comme un sain principe de précaution : prédire les dangers pour les prévenir. De l’autre, elle est considérée comme un frein majeur au business. Dans ce dernier « clan », les plus virulents nous avertissent que toute prévision des impacts de cette technologie est impossible et qu’il serait bien dommage, sous prétexte d’essayer de protéger l’intégrité des valeurs humaines, de se faire écraser par la Chine ou les États-Unis qui n’en feraient pas grand cas.
Finalement, le rapport Villani à peine lancé et c’est déjà la cacophonie et les dialogues de sourds. Et c’est bien normal, car nous passons à côté de l’enjeu majeur de la question : l’éthique se construit avec tous ceux qui vont la vivre. La démarche de construction de cette éthique doit être inclusive et se baser sur l’écoute, le dialogue et l’explication. Il est nécessaire d’écouter, et même d’aller chercher les questions qui se posent partout dans la société. Il est fondamental de dialoguer car les réponses à ces questions ne sont pas l’apanage des experts. Il est enfin indispensable d’expliquer.
Ce dernier point implique de la pédagogie et une honnêteté sans faille de la part des experts. L’IA est un domaine particulièrement propice aux phantasmes. Expliquer ce qui est possible et impossible actuellement, tout en répondant aux craintes sur ce qui pourrait être possible demain. La science-fiction est en cela un terrain d’étude fantastique sur ce qui pourrait être possible demain et les experts ne doivent pas laisser ce terrain aux seules mains des artistes car il est extrêmement compliqué, pour des non experts, de distinguer ce qui est fiction de ce qui est possible.
L’intelligence artificielle au service de l’humain… sur-éduqué ?
Lors de son allocution http://www.elysee.fr/declarations/article/transcription-du-discours-du-president-de-la-republique-emmanuel-macron-sur-l-intelligence-artificielle/ au Collège de France du 29 mars 2018, Emmanuel Macron a déployé un discours magistral d’une heure qui commence par des hypothèses leibniziennes et le risque dystopique de l’ambivalence prométhéenne… J’entendais un humoriste à la radio qui soulignait qu’heureusement que Cédric Villani était là, car, à défaut d’y comprendre quelque chose, au moins, on appréciait le spectacle.
Le besoin de se montrer « au niveau »auprès de son audience est compréhensible, mais la complexité de ce discours souligne encore plus la distance entre ce qui se passe actuellement en IA et la nécessité éthique de s’adresser à tous. Plus nous creusons le fossé entre discours expert « sacré » et réalité quotidienne ‘profane », plus nous laissons la place aux phantasmes et aux manipulations qui peuvent mener à un « obscurantisme » dangereux.
Créer le dialogue des intelligences humaines autour de l’IA
Il faut que nous trouvions des moyens qui permettent à tous de se projeter dans cette aventure, de percevoir clairement en quoi elle nous concerne, nous impacte et impacte la société dans laquelle nous vivons. Chacun doit pouvoir se positionner dans cette aventure de l’intelligence artificielle.
En cela, le premier défi de ceux qui innovent est d’accepter de simplifier, de vulgariser, proposer de réfléchir et de débattre sur des sujets qui parlent à tous, voire, qui amusent, interpellent. Il est nécessaire de sortir de cet entre-soi d’experts et d’ingénieurs. Et, avant tout, il est nécessaire d’écouter les doutes et les peurs, d’inciter le questionnement.
Voir tous les articles à ce sujet1