L’intelligence artificielle : sujet des relations internationales, objet éthique

Par Emmanuel R. Goffi, professeur à l’ILERI.

 

 

Les relations internationales (RI) sont un domaine protéiforme recouvrant une vaste gamme de matières et un spectre encore plus vaste de sujets. Ces dernières années un nouvel objet de réflexion y a fait une entrée en force. Désormais applicable à l’ensemble des activités humaines, l’intelligence artificielle (IA) s’invite sur la scène internationale. Outils de puissance, elle modifie les interactions entre acteurs étatiques ou non. Source de revenus non négligeable, elle participe de la création de véritables empires industriels. Technologie duale, elle rend toujours plus poreuse la frontière entre publique et privé et renforce l’influence du premier sur le second et par conséquent sur les RI.

L’IA impacte notre vision du monde, nos perceptions, nos lectures de nos environnements. Elle nous invite à repenser nos relations humaines, économiques, diplomatiques, nos transports, notre éducation, nos modes de consommation et de communication. Elle nous invite à repenser l’humain lui-même. Elle conditionne désormais nos décisions et nos actions, questionne nos valeurs, les modalités de notre vivre ensemble et nos rapports aux autres. Elle bouleverse nos conceptions du Bien et du Mal, du Juste et de l’Injuste, de l’Humain et de l’Inhumain, de la Liberté et de la Servitude. Elle ébranle nos convictions éthiques en modifiant en profondeur notre rapport à l’Autre et à Soi. L’IA nous entraîne vers les abîmes du mythe prométhéen en révélant plus que jamais notre besoin de nous sentir démiurges, de maîtriser notre environnement, de le soumettre pour assouvir notre volonté de puissance, notre désir de posthumain nietzschéen. Elle nous happe dans un réseau dont nous ne sommes plus désormais que de simples connexions. Elle nous fait croire que nous contrôlons la technologie alors que la technologie contrôle déjà la plupart d’entre nous.

En 1953, le philosophe allemand Martin Heidegger écrivait :

« Nous demeurons par­tout enchaînés à la technique et privés de liberté, que nous l’affirmions avec passion ou que nous la niions pareillement. Quand cependant nous consi­dérons la technique comme quelque chose de neutre, c’est alors que nous lui sommes livrés de la pire façon. »[1]

Est-ce un bien ? Est-ce un mal ? Chacun se forgera ses propres convictions.

Le fait est que ces modifications de perceptions sont sensibles au niveau international où la course à l’IA est lancée. En déclarant que « [l]’intelligence artificielle est l’avenir non seulement de la Russie, mais de toute l’humanité » et que « [c]elui qui deviendra le leader dans ce domaine, sera le maître du monde »[2], le Président Poutine illustre l’impact de l’intelligence artificielle sur nos perceptions. Il démontre de manière plus général, le poids des avancées technologiques dans la construction de nos modes de pensée qui à leur tour conditionnent nos actions.

 

L’intelligence artificielle investit le champ des relations internationales

 

En tout état de cause, il semble que l’IA est en passe de s’imposer dans le champ des RI pour en devenir un sujet à part entière. Les publications faisant état d’une « géopolitique de l’IA » ou de l’IA comme « instrument de puissance », voire de « domination du monde », se multiplient et invitent à s’interroger sur le poids de cette technologie sur les relations internationales et sur ses implications sur les comportements des acteurs.

Selon certains observateurs, on assisterait à l’avènement d’un « nationalisme de l’IA » qui donnerait naissance à une « nouvelle forme de géopolitique » marquée par trois formes d’instabilités (économique, militaire et technologique)[3]. Comme le souligne Tim Dutton, chaque pays développe sa propre politique en la matière, voire une véritable stratégie, pour gagner « la course pour devenir un leader global en intelligence artificielle »[4]. Course également dans le domaine de l’éthique, non seulement pour les États, mais également pour les grandes entreprises multinationales[5]. Dans le registre des courses, celle à l’innovation est également à souligner puisque « la recherche dans le domaine de l’intelligence artificielle (IA) explose ; le nombre de brevets déposés dans le monde ayant presque doublé entre 2005 et 2015 »[6].

La course a, en fait, débuté il y a une cinquantaine d’année entre les États-Unis et le Japon dans le domaine des applications commerciales d’une IA alors balbutiante. Dans les années 2000, avec l’explosion du deep learning dans l’industrie, notamment avec la reconnaissance vocale, la compétition entre dans une nouvelle dimension et est accentuée à partir de 2011 avec la reconnaissance d’images ou d’objets. À partir de 2012, les investissements dans l’IA sont alors multipliés par 10 pour atteindre 5 milliards de dollars quatre ans plus tard[7] et 9,3 milliards de dollars en 2018[8]. L’IA est indéniablement devenue un enjeu de puissance sur la scène internationale. Son impact s’étend à l’économie, à l’éducation, aux transports, aux communications, à la diplomatie, à la défense, à la politique, à la santé, à l’environnement…. Elle est partout et concerne l’ensemble des activités humaines à travers la planète.

Il suffit d’ailleurs de faire un rapide tour d’horizon des principaux pays concernés pour s’en convaincre.

 

Une compétition acharnée

 

Deux pays semblent aujourd’hui se détacher, notamment en termes d’investissements : les États-Unis et la Chine, qui a aujourd’hui pris l’avantage. Les deux pays se partagent d’ailleurs les géants du numérique engagés dans l’IA. Google, Apple, Facebook, Amazon et Microsoft à l’Ouest, Baidu, Alibaba, Tencent et Xiaomi à l’Est. Pékin a d’ailleurs annoncé clairement sa volonté d’être le premier centre d’innovation en IA d’ici 2030. Ce serait la défaite du sud-coréen Lee Sedol contre AlphaGo en mars 2016, suivie de celle du chinois Ke Jie en mai 2017[9], qui aurait incité l’Empire du milieu à se lancer dans la course à l’IA. Ainsi, dès 2017, constatant que « le développement rapide de l’intelligence artificielle va profondément changer (…) le monde »[10], Pékin fait de l’IA une priorité en publiant un Plan de développement de la nouvelle génération d’intelligence artificielle affirmant la volonté du gouvernement de devenir leader mondial en devenant « le centre d’innovation majeur en IA dans le monde »[11]. Les ambitions sont claires et les moyens mis en œuvre à la hauteur de la volonté chinoise d’influer sur la scène internationale. Le dernier rapport, paru en mai 2019, réaffirme ces ambitions en soulignant la volonté chinoise de répondre aux besoins nationaux mais également d’impacter la scène internationale. Cet objectif se poursuit d’ailleurs au détriment des États-Unis, deuxième grand investisseur dans l’IA, champions du domaine dont ils sont également le berceau.

Bien que Donald Trump a promulgué un ordre exécutif sur le « maintien du leadership américain en matière d’intelligence artificielle » affirmant l’importance stratégique de l’IA[12], il n’en demeure pas moins que contrairement à son concurrent asiatique direct, les États-Unis n’ont pas de stratégie globale et sont en perte de vitesse. Sur les 15,2 milliards investis dans le monde, seulement 38% l’ont été aux États-Unis contre 48% en Chine[13].

À l’Est, la Fédération de Russie n’est pas en reste. La déclaration du Président Poutine n’est finalement que l’expression d’une dynamique initiée en 2014 avec l’Initiative nationale pour la technologie traversée par l’IA. Mais c’est en mars de l’année dernière que Moscou entre dans la course et organise la conférence « Intelligence artificielle : problèmes et solutions – 2018 » qui se conclura par la publication d’une liste de 10 recommandations. Point de grandes innovations en vue, mais Moscou compte bien prendre sa part du gâteau en s’imposant comme un acteur majeur du secteur.

En mars 2017, le Canada devenait le premier pays au monde à établir une stratégie en matière d’IA[14] accompagnée d’un budget de 125 millions de dollars canadiens (environ 85 millions d’euros)[15]. Ce faisant, Ottawa ambitionne d’établir un « leadership éclairé d’envergure mondiale » dans le domaine de l’IA notamment au travers d’un programme ambitieux de création et de financement de programmes de recherche, en se concentrant essentiellement sur les travaux universitaires. En publiant la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, le Canada se positionne d’ailleurs comme la plaque tournante de la réflexion éthique. Le pays à la feuille d’érable, s’est également engagé dans une étroite collaboration avec la France au travers de la Déclaration franco-canadienne sur l’intelligence artificielle, appelant notamment à la création « d’un groupe international d’étude, capable de devenir la référence mondial ».

Paris, comme Ottawa, voit d’ailleurs l’IA comme une formidable opportunité économique et diplomatique. C’est ce que traduit le discours du Président Macron lorsque, au Collège de France en mars 2018, il dévoilait la stratégie française en matière d’IA affirmant son souhait « que la France soit l’un des leaders de cette intelligence artificielle »[16]. Cette stratégie, établie sur la base du rapport Villani[17] et présentée en novembre 2018, vise essentiellement à « installer durablement la France dans le top 5 des pays experts en IA à l’échelle mondiale » et à « faire de la France le leader européen de la recherche en IA » en s’appuyant sur un budget de 665 millions d’euros sur quatre ans[18]. La stratégie française[19] se veut d’autant plus ambitieuse qu’elle entend s’étendre à l’ensemble de l’Union européenne (UE) en initiant « une dynamique industrielle européenne de l’IA » tel que préconisé dans le rapport Villani.

L’UE accuse d’ailleurs un retard important dans le domaine. Pourtant ses atouts sont nombreux : outre qu’elle est le marché le plus important au monde en termes de volume, l’UE dispose également d’un tissu industriel substantiel et de ressources de qualité en matière de recherche et développement[20]. En organisant un workshop en janvier 2018, la Commission européenne a voulu dresser un état des lieux de l’IA en Europe. Les résultats de ce bilan ont été publiés dans un rapport en avril 2018. Ils recensent les forces et faiblesses de chaque pays tout en soulignant la nécessité d’avoir une approche unifiée en matière d’IA et la richesse du bassin académique dans le domaine[21]. « L’élaboration d’un plan coordonné sur l’IA » avait d’ailleurs été annoncée par la Commission dans une communication publiée en avril 2017[22]. Pour autant, et malgré la volonté européenne d’être « compétitive dans le domaine de l’IA »[23], les investissements restent modestes et la dynamique se concentre essentiellement autour d’un axe Paris-Berlin-Londres. Pour l’heure il semble que l’UE veut s’affirmer en leader sur les aspects normatifs, éthiques et juridiques, de l’IA. C’est ce que traduisent notamment l’adoption en 2018 de la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement ; l’établissement d’un groupe d’experts indépendants chargés d’émettre des recommandations relatives aux problèmes éthiques et juridiques posés par l’IA ; l’étude commandée par la commission des affaires juridiques du Parlement européen « pour obtenir une évaluation et analyse, sous les angles juridique et éthique, de quelques futures règles européennes de droit civil en robotique » ; la Déclaration sur l’intelligence artificielle, la robotique et les systèmes « autonomes » par le Groupe européen d’éthique des sciences et des nouvelles technologies en mars 2018 ; ou encore la très controversée Résolution du Parlement européen du 16 février 2017, qui proposait « la création, à terme, d’une personnalité juridique spécifique aux robots ».

En matière normative un autre acteur, plus inattendu, affirme ses ambitions en IA. En créant, en octobre 2017, le premier ministère en charge de l’intelligence artificielle au monde, les Émirats Arabes Unis (EAU) font une entrée remarquée dans la géopolitique de l’IA. Les EAU ont investi en force le domaine dès le début 2017 avec pour objectif d’être « l’État le plus préparé à la vague internationale qui arrive, qui est l’intelligence artificielle »[24]. Les EAU ont par ailleurs lancé un programme de formation d’un an en intelligence artificielle à destination des employés du gouvernement en mai 2018. Ils ont également mis en place un programme en internat de trois ans destinés à 500 étudiants quatre mois plus tard. D’autres initiatives sont incluses dans le Programme national pour l’intelligence artificielle (The National AI Strategy 2031), visant à établir un « écosystème fertile » au plan domestique et à faire du pays un leader mondial d’ici 2031[25]. Pour terminer sur les EAU, on soulignera qu’à l’occasion du World Governement Summit, qui s’est tenu à Dubaï le 10 février 2019, le ministre français de l’Économie, Bruno Le Maire, a annoncé que la France allait « lancer une coopération en matière d’intelligence artificielle avec les Émirats arabes unis ».

On pourrait dérouler ainsi la liste de l’ensemble des pays et groupes de pays impliqués de près ou de loin dans l’IA : Australie, Allemagne, Royaume-Uni, ONU, OTAN, Israël, Japon, Pologne, Nigeria, Nouvelle-Zélande, Kenya, Mexique, G7, OCDE … L’exercice serait assez indigeste à lire et inutile tant il est évident, avec ces quelques exemples, que l’IA est désormais une préoccupation majeure et en pleine expansion sur la scène internationale. Qu’elle conduise à la compétition ou à la coopération, l’IA est devenue un facteur de puissance largement convoité. Nul doute qu’elle donnera lieu à des associations autour d’intérêts communs, mais aussi à des luttes acerbes pouvant aboutir à des tensions qui pourraient s’avérer dangereuses. En d’autres termes, l’IA contribue à redistribuer les cartes de la puissance et à façonner le paysage international pour les années à venir.

Au nombre des cartes à jouer, potentiellement génératrices de conflits, l’IA associée à la robotique de défense fait déjà l’objet d’âpres rivalités.

 

Intelligence artificielle et défense

 

Il faut garder à l’esprit que cette montée en puissance de l’IA s’inscrit dans un contexte international marqué par une reprise de la course aux armements entre les États-Unis et la Russie[26], mais aussi par la guerre commerciale que se livrent Washington et Pékin.

En matière d’IA, il est évident que le contexte sécuritaire ouvre de nombreuses opportunités au travers des programmes d’armements qui se multiplient. De fait, le secteur de la défense, et plus spécifiquement le domaine militaire, est directement impacté par l’éclosion de l’IA qu’il impacte en retour. C’est essentiellement dans ce domaine que se posent aujourd’hui les grandes questions normatives liées à l’encadrement juridique de nouveaux systèmes d’armes par le droit international. On soulignera, que le droit international est l’un des point d’entrée de l’IA dans les RI en imposant des réflexions sur la légalité des nouvelles armes telles que les systèmes de combat opérés à distance et autres « robots tueurs ». Au-delà des normes positives, ces réflexions, sur le mariage IA-armement, suscitent surtout de nombreuses interrogations d’ordre éthique accentuées par le dynamisme des dépenses militaires.

Selon le Stockholm International Peace Research Institute (SIPRI), avec une croissance mondiale de 2,6% en 2018, les dépenses militaires ne cessent d’augmenter tirées par les États-Unis (+4,6%), la Chine (+5%), l’Inde (+3,1%) ou encore la Corée du Sud (+3,1%). Malgré les baisses accusées par la France (-1,4%), la Russie (-3,5%) ou l’Arabie Saoudite (-6,5%), ces trois pays ajoutés aux États-Unis et à la Chine représentaient plus de 60% du marché mondial en 2018. Washington et Pékin comptent pour la moitié du marché avec des parts respectives de 36% et 14%. L’Alliance atlantique (OTAN) a, quant à elle, vue ses dépenses croître de 4% en 2018[27]. De la même manière, et toujours selon le SIPRI, les exportations d’armes font l’objet d’une concurrence acharnée entre les États-Unis (où se trouvent 42 des 100 plus grandes entreprises d’armement), la Russie, la France, l’Allemagne et la Chine qui représentent 75% du commerce sur la période 2014-2018. Dans le même temps, en termes d’importations on note un doublement du volume au Moyen-Orient qui représente aujourd’hui 35% du total mondial. Riyad s’est même positionnée en tête des importateurs d’armement au monde en 2014-18, avec une augmentation de 192% par rapport à la période 2009-13.

Articulant industrie d’armement et IA, la robotique militaire fait partie des secteurs stratégiques faisant l’objet d’une lutte internationale. Il faut dire que les enjeux économiques sont là aussi colossaux. Sans entrer dans le détail, si en 2014 la robotique militaire représentait un marché de 3,2 milliards de dollars US (2,9 milliards d’euros) par an, les projections sont de 10,2 milliards (9,2 milliards d’€) pour 2021[28].

Le triple dynamisme des marchés de l’armement, de la robotique de défense et de l’IA, entraine une concurrence internationale acharnée entre les acteurs, publics et privés, concernés. D’autant que le développement de l’IA de défense concerne un spectre assez large d’activités à hautes valeurs stratégiques elles aussi soumises à cette compétition internationale. Parmi celles-ci on mentionnera la gestion et l’exploitation des données massives (big data), le cyberespace, le renseignement, l’autonomie des systèmes d’armes ou encore la militarisation de l’espace[29].

On le voit bien, ce dynamisme du marché de l’IA de défense ne peut qu’inviter à une réflexion sur les conséquences de cette association sur l’équilibre international. Qu’il s’agisse de la compétition économique, des luttes de puissances, ou encore de la gestion des conflits, les développements de l’IA dans le domaine militaire sont voués à devenir des enjeux stratégiques, eux-mêmes potentiellement générateurs de tensions, voire de conflits. Elon Musk, dans un Tweet le 4 septembre 2017, exprimait son inquiétude : « La compétition pour la supériorité en matière d’IA à un niveau national pourrait à mon avis être la cause la plus probable d’une Troisième Guerre mondiale ». Sans sombrer dans l’excès, il est cependant évident que ce nouveau champ de bataille conduira à une réarticulation des alliances, à l’accentuation de tensions préexistantes et la naissance de nouvelles discordes[30].

Bien que la focalisation porte sur les acteurs étatiques, il ne faut pas perdre de vue que de nombreux acteurs non-étatiques sont très actifs dans le domaine et contribuent activement à son développement horizontal et vertical. Il faut même indiquer que l’essentiel du développement de l’IA est le fait du privé. L’industrie de défense qui investit massivement dans l’IA et la robotique fait, par exemple, un travail conséquent d’influence auprès des acteurs publics pour s’ouvrir de nouveaux débouchés. Dans un tout autre registre, les groupes armés non-étatiques et autres terroristes se dotent peu à peu d’armements de plus en plus sophistiqués tels que les drones et ne manqueront pas de s’équiper d’IA, si ce n’est déjà fait, dès qu’ils le pourront.

À l’aune de toutes ces considérations et en l’absence d’un cadre juridique internationale adéquat, l’éthique se pose désormais comme l’outil normatif incontournable.

 

La nécessaire formation à l’éthique

 

« Le GEE appelle à un engagement public large et systématique et à une délibération sur l’éthique de l’IA, de la robotique et de la technologie “autonome”, ainsi que sur les valeurs que les sociétés choisissent d’intégrer dans le développement et la gouvernance de ces technologies. »

Cet appel du Groupe européen d’éthique des sciences et des nouvelles technologies, traduit clairement l’importance de la réflexion éthique à un moment où l’IA se développe à une vitesse inégalée et où les risques potentiels dont elle est porteuse inquiètent. La nécessité de mettre en place des garde-fous pour éviter, ou limiter, les dérives est aujourd’hui reconnue internationalement. Qu’il s’agisse des organisations internationales (ONU, OCDE, UE…) ou non gouvernementales (Stop Killer Robots…), des universitaires, industriels et autres intellectuels (Future of Life Institute…), voire même des grandes compagnies (Google, Amazon, Alibaba…), nombreux sont les acteurs qui ont pris conscience de l’importance d’un cadre normatif éthique. Peu importe qu’il se résume parfois à de simples principes ou qu’il s’inscrive dans une perspective déontologique ou conséquentialiste répondant à des convictions ou à de purs intérêts économiques.

Mais la réflexion éthique ne peut, ni ne doit, être l’apanage d’un cénacle d’intellectuels, de politiques, de lobbyistes ou d’industriels. Elle doit être globale. C’est dans cette optique dite de « coconstruction citoyenne », et avec « pour objectif de mettre le développement de l’IA au service du bien-être de tout un chacun », qu’a été publiée la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle à l’initiative de l’Université de Montréal. Cependant, malgré les bonnes intentions, la Déclaration a du mal à investir la société civile et reste relativement confidentielle.

De la même manière, faisant suite aux lettres ouvertes sur les armes autonomes et sur une intelligence artificielle robuste et bénéfique, une conférence s’est tenue à Asilomar en Californie pour discuter des défis de l’IA et définir des mesures permettant un développement bénéfique de cette technologie. Durant cette conférence ont été développés les 23 « Principes d’Asilomar pour l’IA ». Aujourd’hui intégrés à la législation californienne, ces principes ont pour objectif de favoriser un développement bénéfique de l’IA contribuant « à des idéaux éthiques partagés par le plus grand nombre et pour le bien de l’humanité plutôt que pour un État ou une entreprise ». Mais là encore, si l’initiative est louable, elle reste extrêmement limitée dans sa portée.

Qu’il s’agisse de la Déclaration de Montréal ou des Principes d’Asilomar, on comprend bien que le sujet reste enfermé dans un cadre intimiste de « sachants » (voire de savants) et d’acteurs directement concernés par le développement de l’IA. Or, le débat devrait s’ouvrir à tous dans la limite où cette technologie concerne désormais chacune et chacun d’entre nous. Le sujet devrait être investi de manière plus globale et citoyenne. Un moyen d’atteindre cet objectif est évidemment de favoriser les initiatives visant aux débats, à l’information, à la sensibilisation. Mais informer et sensibiliser a posteriori n’est pas suffisant. Il faut également éduquer et former a priori.

Le célèbre Massachussetts Institute of Technology (MIT), ne s’y est pas trompé et annonçait en 2018, le financement à hauteur d’1 milliard de $ d’un collège totalement dédié à l’IA pour traiter des « opportunités et des défis globaux » de l’impact de l’informatique et de l’IA. Conscient de l’importance du sujet la célèbre école veut, au travers du Stephen A. Schwarzman College of Computing, « renforcer son positionnement d’acteur international majeur dans l’évolution responsable et éthique des technologies sur le point de transformer fondamentalement la société » en sensibilisant les étudiants et les chercheurs aux conséquences liées au développement de ces technologies et en les formant à l’éthique.

En France, en 2017, un rapport conjoint de l’Assemblée nationale et du Sénat proposait de « [f]ormer à l’éthique de l’intelligence artificielle et de la robotique dans certains cursus spécialisés de l’enseignement supérieur » et de « [c]onfier à un institut national de l’éthique de l’intelligence artificielle et de la robotique un rôle d’animation du débat public sur les principes éthiques qui doivent encadrer ces technologies ». L’année suivante, le rapport Villani invitait, quant à lui, à « [f]ormer des talents en IA, à tous niveaux » en créant « de nouveaux cursus et de nouvelles formations à l’IA » auxquelles seront intégrées les questions éthiques, notamment dans les formations à destination des ingénieurs et chercheurs, dont « cet enseignement est quasiment absent ».

Cette volonté de formation à l’éthique de l’IA a, par ailleurs, été réaffirmée par le Président de la République en mars 2018 lorsqu’il déclarait : « Nous allons introduire aussi une formation à l’éthique liée au numérique parce que nous avons besoin aussi que nos futurs concitoyens soient formés à ces transformations », de manière à « penser les termes d’un débat politique et éthique que l’intelligence artificielle alimente partout dans le monde ». En l’occurrence, la France est loin d’être la seule à proposer des formations ou des réflexions en éthique, comme le prouve le Rapport sur les stratégies nationales et régionales en matières d’IA du Canadian Institute for Advanced Research (CIFAR), qui s’est intéressé à 18 pays dotés de stratégies en IA.

Au-delà des volontés gouvernementales, il semble qu’une « demande sociétale » se fasse jour chez certains acteurs employés dans le monde de l’IA et qui s’interrogent sur les conséquences et le sens à donner à leur travail. « Bien des entreprises ont anticipé ces questions », comme en témoigne la société Spoon, créée par d’anciens collaborateurs d’Aldebaran (devenue Soft Bank Robotics), qui « conçoit des créatures artificielles » et qui s’est offert les services d’un philosophe chargé de « définir les valeurs de la société, de réfléchir aux questions éthiques posées par l’intelligence artificielle et d’organiser des “midis philo” pour ses collègues ». Le besoin de développer une IA socialement responsable, est d’ores et déjà une préoccupation importante pour nombre d’acteurs. Avec les progrès en cours et à venir de l’IA dans des domaines aussi sensibles que le médical ou le militaire, nul doute que ces inquiétudes vont se multiplier et imposer un recours à la réflexion éthique dans de nombreuses entreprises pour répondre aux inquiétudes sociales grandissantes. Cette réflexion ne pourra se faire sans formation préalable. Si, comme le dit le Président Poutine, être leader en IA revient à être maître du monde, il faut avoir pleinement conscience que former les futurs leaders en IA revient à être le maître des maîtres du monde et à avoir inévitablement un impact considérable sur le domaine. La formation à l’éthique de l’IA a de beaux jours devant elle.

 

Conclusion

 

« Troisième grand bouleversement que nous vivons c’est évidemment la révolution technologique. Elle est inédite. Celle de l’internet, des réseaux sociaux, maintenant de l’intelligence artificielle, c’est d’abord une mondialisation formidable de l’intelligence, des progrès technologiques qui acquièrent une rapidité inédite. »[31]

Comme le soulignait le Président Macron, la révolution technologique est « un changement anthropologique profond qui touche nos démocraties et c’est aussi un espace nouveau qui se constitue sous nos yeux qui nécessite de repenser des règles, un ordre international qui aujourd’hui n’existe pas »[32]. Dans ce contexte, l’IA Semble prendre le dessus et est devenue un enjeu stratégique majeur sur une scène internationale classiquement marquée par les luttes d’influences et la quête de puissance. Les nouveaux espaces ouverts par les technologies sont autant de champs d’explorations sur lesquels se positionnent acteurs étatiques et non-étatiques pour en tirer un maximum de bénéfices. Dans ce contexte, chaque acteur tente naturellement d’occuper une niche et/ou d’assurer sa compétitivité.

La course à l’IA a commencé et elle va s’accentuer dans les années à venir. Les enjeux économiques, politiques, diplomatiques, sociétaux sont tels que nul ne pourra y échapper. L’IA continuera de modifier le paysage international, de créer de nouvelles opportunités de coopérations ou de frictions. Parmi celles-ci, l’IA militaire est vouée à occuper une place prépondérante tant les conséquences d’une escalade dans la compétition entre puissances sont potentiellement dangereuses.

Si le droit est aujourd’hui insuffisant et évolue difficilement, l’éthique semble être un cadre normatif de substitution acceptable, bien que très imparfait. Encore faut-il savoir ce qu’est l’éthique. Les inquiétudes sur le développement d’une IA potentiellement destructrice s’accompagnent nécessairement d’une accentuation du besoin d’éthique, de la nécessité d’un cadre permettant de limiter les dérives. C’est ici que la formation à l’éthique de l’IA a un rôle à jouer.

Dans Le principe responsabilité, le philosophe Hans Jonas soulignait que « [l]a technologie moderne, influencée par une pénétration toujours plus profonde de la nature et animée par les forces du marché et de la politique, a augmenté le pouvoir humain au-delà de tout ce qui était connu ou avait été rêvé auparavant ». C’était en 1979. Quarante ans plus tard, il est évident que « les forces du marché et de la politique » sont toujours aussi puissantes et que l’IA, « technologie moderne » s’il en est, est sur le point de donner à l’humain un pouvoir qui lui sera difficile de maîtriser. C’est pourquoi, il est essentiel que chacune et chacun d’entre nous appliquent le principe de responsabilité que nous a légué Jonas : « Agis de façon que les effets de ton action soient compatibles avec la permanence d’une vie authentiquement humaine sur terre ».

 

 

 

 

 

 

[1] Martin Heidegger, Essais et conférences, « La question de la technique », traduction d’André Préau, Paris, Gallimard, 1958 [1953], pp. 9-48.

[2] Vladimir Poutine, Déclaration du Président de la Fédération de Russie à l’occasion de la leçon inaugurale de « Journée du savoir », le 1er septembre 2017 à Yaroslavl.

[3] Ian Hogarth, “AI Nationalism”, Blog, June 13, 2018.

[4] Tim Dutton, “An Overview of National AI Strategies”, medium.com, June 28, 2018.

[5] David Larousserie, « La course à l’éthique est lancée », lemonde.fr, 2 janvier 2018.

[6] Florent Amat, « Géopolitique de l’intelligence artificielle : une course mondiale à l’innovation », diploweb.com, 28 mars 2018.

[7] Le Dessous des Cartes, « L’intelligence artificielle, un instrument de puissance ? », Arte, épisode 9, 12’, 2019.

[8] Certaines analyses prévoient 18,3 milliards en 2019, 27,4 en 2020 et jusqu’à 232 milliards de dollars en 2025. Dominique Filippone, « 12,4 milliards de dollars investis dans l’IA en 2018 », lemondeinformatique.fr, 31 juillet 2018. Disponible à https://www.lemondeinformatique.fr/actualites/lire-12-4-milliards-de-dollars-investis-dans-l-ia-en-2018-72464.html

[9] La retransmission en directe de la partie avait d’ailleurs été bloquée au dernier moment par les autorités chinoises.

[10] Conseil d’État, Note du Conseil d’État sur l’impression et la distribution du Plan de développement de la nouvelle génération d’intelligence artificielle, 20 juillet 2017.

[11] Idem.

[12] Donald J. Trump, “Executive Order on Maintaining American Leadership in Artificial Intelligence”, Infrastructure and Technology, The White House, Washington DC, February 11, 2019. En octobre 2016 l’administration Obama avait publié un Plan stratégique national de recherche et développement en intelligence artificielle. Disponible à https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf

[13] CBINsights, “Top AI Trends To Watch In 2018”, p. 5-6.

[14] Stratégie pancanadienne en matière d’intelligence artificielle, mars 2017.

[15] Lors de la Conférence multipartite du G7 sur l’intelligence artificielle qui s’est tenue à Montréal en 2018, le Premier ministre Justin Trudeau a par ailleurs annoncé « un investissement d’une valeur maximale de près de 230 millions de dollars à l’appui de la Supergrappe des chaînes d’approvisionnement axées sur l’IA ».

[16] Emmanuel Macron, Discours du Président de la République sur l’intelligence artificielle, « AI for Humanity », Collège de France, Paris, 29 mars 2018

[17] Cédric Villani, Donner un sens à l’intelligence artificielle : pour une stratégie national et européenne, 28 mars 2018.

[18] Ministère de lʼEnseignement supérieur, de la Recherche et de lʼInnovation, « Stratégie nationale de recherche en intelligence artificielle », 28 novembre 2018. Disponible à http://www.enseignementsup-recherche.gouv.fr/cid136649/la-strategie-nationale-de-recherche-en-intelligence-artificielle.html

[19] La stratégie française en matière d’IA fera l’objet d’un article à part entière.

[20] European Commission, The European AI Landscape. Workshop Report, 18 April 2018. Disponible à https://ec.europa.eu/digital-single-market/en/news/european-artificial-intelligence-landscape

[21] European Commission, The European AI Landscape. Workshop Report, 18 April 2018.

[22] Commission européenne, Communication de la Commission au Parlement européen, au Conseil européen, au Conseil, au Comité économique et social européen et au Comité des régions, « L’intelligence artificielle pour l’Europe », COM(2018) 237 final, Bruxelles, 25 avril 2018, p. 7.

[23] Id., p. 2.

[24] Sheikh Mohammed Bin Rashid Al Maktoum, Vice-président, Premier ministre et Ministre de la Défense des Émirats Arabes Unis, déclaration à l’occasion de la nomination d’Omar Bin Sultan Al Olama au poste de Ministre d’État pour l’intelligence artificielle, 19 octobre 2017. Propos rapportés par les médias.

[25] Les Émirats Arabes Unis accueilleront d’ailleurs à Dubaï les 10 et 11 mars 2020 le sommet AI Everything pour lequel ils ont produit une vidéo promotionnelle.

[26] Oleg Lypko, « À la veille d’une nouvelle course aux armements stratégiques? », Meta-Défense.fr, 11 août 2019.

[27] Les projections de croissance pour 2019 sont stables à 3,9%.

[28] Emmanuel R. Goffi, « Quelle place pour les robots dans les conflits du futur ? » Les Grands Dossiers de Diplomatie, No. 48, Décembre 2018-Janvier 2019, pp. 20-23.

[29] Sur toutes ces thématiques et d’autres voir Revue de la Défense Nationale, n° 820, « L’intelligence artificielle et ses enjeux pour la Défense », mai 2019. Également le très complet Rapport conjoint de l’Assemblée nationale et du Sénat, « Pour une IA maîtrisée, utile et démystifiée » de mars 2017. On notera par ailleurs que la Russie vient d’ailleurs d’envoyer son premier robot (Fiodor) à bord de la Station spatiale internationale (ISS).

[30] « Les conséquences négatives prévisibles et imprévisibles des avancées technologiques telles que l’intelligence artificielle… », sont considérées comme des risques technologiques globaux dans le « Global Risks Report 2019, 14th Edition » du World Economic Forum. Voir pp. 7, 17 et 98.

[31] Emmanuel Macron, Discours du Président de la République française lors de la Conférence des ambassadeurs et des ambassadrices, Palais de l’Élysée, Paris, le 27 août 2019.

[32] Emmanuel Macron, Discours du Président de la République française lors de la Conférence des ambassadeurs et des ambassadrices, Palais de l’Élysée, Paris, le 27 août 2019.

Publié le 6 décembre 2019