« Sur la montée en puissance

de l'Intelligence Artificielle »

Intervention devant le groupe de travail 'Sapiens 3.0' de l'association IE/IHEDN

dans le cadre du rapport " Que maitriserons-nous de notre futur ? "

Caserne des Célestins - 26 juin 2018

 

Bonjour à tous,

Merci beaucoup pour votre invitation à ce déjeuner.

(Introduction)

1/ Les révolutions technologiques actuelles vont avoir un impact sur toutes les activités humaines.

De quelles révolutions parlons-nous ? Du numérique que tout le monde connait, mais aussi des nanotechnologies, des biotechnologies et du biocognitif qui inclut, entre autres, l’intelligence artificielle et la connexion homme-machine via les réseaux neuronaux.

Analyser et anticiper leurs conséquences relève de l'exercice toujours impossible de "penser la complexité". Je me concentrerai donc ici sur trois aspects essentiels : la politique, l'économie et les dynamiques sociétales, en gardant à l'esprit que ces dimensions sont liées entre elles. J'aborderai aussi quelques questions transversales, comme l'éthique, le sacré ou encore la transmission du savoir. 

2/ Que maîtriserons-nous de notre futur ? Votre question appelle deux précisions : (1) de quel "nous" s'agit-il - de l'individu, d'une communauté, de la nation...? et (2) de quel futur parlons-nous ? Il y a autant de vues sur notre futur que d’experts qui en parlent. En ce sens, la réflexion apparait très dépendante de ce que les dirigeants des grandes entreprises de la tech' nous prédisent en matière d’innovation. Là se pose une question clé. Faut-il croire les gourous de la Silicon Valley lorsqu’ils nous parlent de nouvelle frontière ou tout cela n’est-il que l’habillage marketing d’un nouveau consumérisme ?

Ceci posé, entrons dans le vif du sujet pour essayer (I) de comprendre vers quel monde nous allons et (II) de cerner les grands questionnements posés par ces évolutions.

I. Vers quel monde les révolutions technologiques nous emmènent-elles ?

Partons de la situation présente. Nous connaissons tous des situations où, d’ores et déjà, l’Intelligence Artificielle (IA) modifie les chaînes de valeur :

  • Elle assure mieux que l’Intelligence Humaine (IH) de nombreuses tâches répétitives et même certaines qui ne le sont pas, y compris dans des domaines intellectuels à forte valeur ajoutée : l’analyse juridique, l’analyse financière, les diagnostics médicaux…

  • Elle facilite l’accès de ceux qui le souhaitent aux métiers des autres (ce qui, d’ailleurs, les dévalorise et entache la fierté de s’être spécialisé) : Uber avec les chauffeurs de taxis, Air Bn’B avec les hôteliers …

  • Et bien entendu, elle permet de cibler individuellement les services aux intermédiaires et aux consommateurs finaux par le traitement des données personnelles : publicité pour le commerce, distractions et loisirs mais aussi assurance et soins médicaux, etc.

 

Demain, on nous promet un envahissement par l’IA de toutes les sphères de la société. Rien n’y échapperait. Voyons ce qu’il en est dans les trois domaines que j’ai évoqués.

1/ D’abord le politique.

 

Je n’observe pas, pour ma part, d’impact réel des révolutions technologiques sur la verticalité du pouvoir. Trump, Poutine ou Xi Jinping ne me semblent pas avoir modifié les règles classiques codifiées par Machiavel dans Le Prince. Cependant, de nombreux bouleversements s’annoncent quant à la manière de gouverner les hommes et d’organiser la société. Trois me paraissent essentiels.

 

a/ Les dirigeants, au moins en Occident, sont soumis, comme leurs concitoyens, à la triple dictature du numérique : la dictature de la transparence, celle de l’évaluation et celle du temps court.

  • Transparence : Chez nous, de l’affaire Cahuzac à celle des financements libyens et (dans la sphère semi-publique) du Mediator à Lafarge en Syrie, tout le monde semble avoir enfin compris que « tout finit par se savoir ». Parce que nous sommes obligés de laisser des traces numériques qui, en cas de délit, tendent à finir chez le juge. Dans la sphère judiciaire, il n’y a plus une affaire sérieuse sans analyse de données numériques.

  • Évaluation : Nous sommes rentrés dans l’ère de l’évaluation permanente. Parce que toutes nos actions sont suivies par un nuage de données qui permettent de calculer leur optimisation. Dans la sphère publique, cela va du sondage politique à l’évaluation en continu des actions menées par les administrations et leurs personnels. Avec les absurdités que l’on connaît lorsque l’on aborde la partie non monétarisable de l’action publique : au Quai d’Orsay, la négociation sur le nucléaire iranien doit-elle être considérée comme une bonne ou une mauvaise négociation ?

  • Enfin, le temps court qui tient en otage le temps long : le politique doit nourrir le Moloch médiatique en temps réel pour le JT de 20 heures et les chaînes d'information en continu, mais aussi réagir par tweet au moindre événement, etc. Et c’est désormais la sphère médiatique qui assure l’écriture de l’Histoire.

 

b/ Le politique prend toujours plus de retard à réguler les innovations technologiques. Le temps de comprendre et de légiférer, il est déjà trop tard car la technologie avance à très vive allure. Exemple : nous venons de mettre en place le RGPD ; il aurait fallu le faire il y a vingt ans ; à bien des égards, il est déjà dépassé. Conséquence : le politique perd de sa crédibilité et doit laisser une partie du secteur privé s’autoréguler. Il a perdu l’expertise : un tiers des spécialistes mondiaux de l’IA sont chez Google.

 

c/ Enfin, le numérique de masse pose plusieurs problèmes à la démocratie, à travers les possibilités de grandes manipulations : électorale, dans le cadre des guerres informationnelles ; sociale, dans le cadre de la surveillance généralisée induite par le big data ; citoyenne, lorsque l’allégeance prioritaire de l’individu ne va plus à l’État ou à la nation mais à une quelconque tribu de circonstance née sur les réseaux sociaux.

2/ J’en viens à l’économie.

 

C’est évidemment la sphère économique qui est la plus touchée par les nouvelles technologies et, en particulier, par l’IA.

 

Un mot d’abord sur l’Intelligence Economique (IE), sur laquelle travaille votre groupe. Je pense qu’elle va beaucoup souffrir de l’arrivée de l’IA. Beaucoup d’éléments constitutifs de la démarche IE (la veille sectorielle, la lecture des signaux faibles, la mobilisation de tous les échelons hiérarchiques de l’entreprise pour sentir les évolutions des concurrents et adversaires, etc.) tout cela va être transféré à des algorithmes puissants. Lesquels, au demeurant, ne seront sans doute pas plus qu’aujourd’hui capables d’anticiper les ruptures stratégiques, les disruptions et autres « cygnes noirs ».

 

J’en viens donc à l’économie. Les problématiques sont nombreuses mais trois paraissent essentielles.

 

a/ La croissance. Des pans entiers de l’ancienne économie vont disparaître – à commencer par les intermédiations physiques (que l’on pense aux agences de voyage ou aux guichets bancaires). Plus que jamais la croissance sera tirée par la « destruction créatrice » chère à Schumpeter, selon deux axes :

  • La substitution et non la complémentarité. Les nouveaux produits et les nouveaux services ne s’ajoutent pas aux anciens mais les remplacent en les rendant obsolètes. C’est ainsi que, grâce à l’innovation, iTunes – donc Apple – « avale » le marché de la musique, que Google « avale » le marché des médias et de la publicité… dans une sorte de trou noir de puissance économique. Le coût de la croissance par le numérique, c’est la destruction partielle de l’ancienne économie.

  • La perception de la valeur économique change. Est-ce une bulle ou y a-t-il vraiment rupture avec les modes d’évaluation économique d’un monde révolu (moyens de production, CA, valeur boursière) ? Toujours est-il que les nouvelles entreprises sont rachetées à prix d’or alors qu’elles sont déficitaires (Instagram, Spotify…). Leur valeur projetée (et bien réelle !?) n’est pas proportionnelle à leur marge mais au nombre d’utilisateurs connectés.

 

b/ L’organisation du travail va encore considérablement évoluer – les hiérarchies pyramidales s’effaçant dans le tertiaire devant le collaboratif, le participatif et les réseaux. Il suffit d’aller voir les bureaux des start up à Paris ou ailleurs : on reste saisi par la différence de convivialité ou d’ambiance avec les bureaux classiques.

L’IA, c’est aussi le possible retour du « local », plus précisément de la redistribution des activités de production au plan local donc d’une forme organisable de résurrection de territoires aujourd’hui en déshérence (les imprimantes 3D offrent le choix du lieu, l’IA de la répartition territoriale, etc.). L’enrichissement continu et la valorisation de l’espace urbain n’est plus la seule option.

 

c/ Le système de redistribution de la richesse né de l’après-guerre devra lui aussi évoluer, que ce soit la fiscalité (comment taxer la création de valeur créée par l’IA s’il y en a une) ou la protection sociale (cf. par exemple, l’évolution du ratio actifs/inactifs liée à l’allongement de la durée de vie).

 

Comme on le voit, tant dans la sphère politique que dans la sphère économique, il y a mise en question de la capacité de la puissance publique à maîtriser donc à protéger.

 

Transition toute trouvée pour aborder

3/ Les dynamiques sociétales.

 

Il y en a de nombreuses mais je me concentrerai sur les trois principales.

 

a/ L’émergence d’une société en réseau

Du côté des ‘plus’ : Les hommes sont de plus en plus reliés entre eux par des réseaux de toute nature - culturels, économiques, sociaux, religieux. Partout s’inventent de nouvelles formes de vie collective entre entités comparables : par exemple, les régions et les villes se parlent entre elles, coopèrent, innovent... C’est l’émergence de nouvelles tribus, comme on dit ; en tout cas, c’est une mise en cause profonde des pouvoirs centraux.

Du côté des ‘moins’ : Les réseaux sociaux accélèrent une forme de boulimie informationnelle. L’info-sphère tourne en boucle et à flux tendu, ce qui, partout, contribue à créer des sociétés oublieuses du temps long au profit du zapping. Et, par des effets de suivisme, des effets « banc de poissons », croyances et désinformation se diffusent à vive allure. A cela s’ajoutent de dangereuses convergences entre classe politique et médias. D’où une modification profonde du rapport à la vérité. Le complotisme et la propagande triomphent, portés par l’individualisme et l’aveuglement narcissique (ie l’illusion de tenir sa propre « vérité » comme universelle).

 

b/ Le développement de nouvelles formes de conscience individuelle et collective

Partout, devant certains excès de la mondialisation marchande, apparaissent des lanceurs d’alerte. Que ce soit pour dénoncer la malbouffe, les pesticides, les médicaments dangereux, la pollution, les gâchis et les absurdités de toute sorte.

Ces lanceurs d’alerte sont encore bizarrement considérés par la société (cf. la bataille d’Hélène Frachon pour le Médiator). Devons-nous considérer Snowden et Assange comme des criminels ou des héros ?

Au-delà de ces dénonciations ponctuelles, qu’est-ce qui est ainsi mis sur la table ? Une interrogation profonde sur la notion de progrès. Lequel est vécu aujourd’hui autant comme un espoir que comme une angoisse.

En ce sens, le big data donne un pouvoir inquiétant de contrôle, de manipulation et de prévision.

Chaque individu voit sa vie privée numériquement accessible par les entreprises mais aussi par les gouvernements. J’insiste sur ce dernier aspect : la surveillance de notre comportement, restrictive de nos droits et libertés, par des gouvernements ayant stocké à notre insu, un nombre considérable de données nous concernant. Nous voilà facilement pistés, y compris grâce aux data relatives à nos conversations téléphoniques ou à nos relevés bancaires.

Au niveau national, cette collecte de données numériques permet désormais la mise en œuvre d’algorithmes prédictifs, capables de déterminer les éléments susceptibles d’influencer une population, y compris, par exemple, dans le cadre de scrutins électoraux.

c/ Le détournement des révolutions technologiques à des fins criminelles

On l’a vu, le politique a, depuis longtemps, « décroché » devant ces ruptures technologiques et s’avère incapable de les réguler (demandez donc autour de vous qui régule internet…). Le risque est double :

  • Dans le retard que prend le droit par rapport au marché et à l’innovation, se glissent des individus ou des groupes qui détournent les technologies à des fins criminelles ou délictueuses.

Certains acteurs se retrouvent ainsi en capacité de démultiplier leur pouvoir de nuisance (pour la CIA : «  super-empowered actors have access to technologies that magnify their ability to wreak havoc »). Autrement dit, les nouvelles technologies modifient les rapports de puissance traditionnels. Elles n’ont pas nécessairement le caractère d’une arme (mais elles peuvent l’avoir, comme les robots et les drones) ; elles ont des effets disproportionnés aux moyens mis en œuvre (ce qui les apparente au modus operandi terroriste) ; elles sont à la portée d’individus isolés auxquels elles confèrent une puissance considérable ; elles peuvent, dans certains cas (cyber, en particulier), garantir à ceux-ci l’anonymat et donc l’impunité. 

  • De fait, l’hyper connexion du monde conduit aujourd’hui à son hyper vulnérabilité.

C’est particulièrement vrai des attaques informatiques contre les infrastructures, en particulier contre les opérateurs d’importance vitale (OIV). Mais cela touche tous les secteurs, à tous les niveaux : l’imprimante 3D permet une explosion de la contrefaçon de pièces détachées, y compris d’armes légères ; le bitcoin devient l’incontrôlable monnaie de référence du dark web ; l’intelligence artificielle est la nouvelle frontière de la surveillance généralisée via les objets connectés ; les robots - dont les humanoïdes - font courir le risque d’une destruction des emplois mais aussi d’une régression des rapports entre les hommes ; et jusqu’au transhumanisme, qui  se moque de l’éthique quand il nous promet un « homme augmenté » ou capable de vivre deux cents ans ; etc.

Ce qui m’amène à aborder maintenant

II. les grands questionnements liés à ces probables évolutions.

1/ Il me semble, en premier lieu, nécessaire de parler de l’éthique. Question difficile qu’il est intéressant d’aborder à partir d’un exemple. Et le plus emblématique, c’est le projet politique de Google relatif à la transformation de l’homme.

  • Rappelons d’abord que le prix du séquençage du génome humain a chuté, ouvrant la voie à des avancées extraordinaires en matière médicale, de la détection précoce de maladies génétiques à la lutte contre les cancers. Cela paraît très positif.

  • Mais cela ouvre aussi la voie à des modifications et réparations génétiques destinées à nous faire vivre plus longtemps. Pour les gourous de Google et leurs émules de la Silicon Valley, la vie c’est de l’info et l’info c’est la vie. Google n’est plus seulement un moteur de recherche ; il rachète sans cesse des entreprises de biotech et de nanotechnologie. Ses dirigeants ont développé un projet politique : faire transiter toutes les data par le moteur de recherche de Google et les exploiter pour améliorer la durée de vie. Ils nous font ainsi miroiter une augmentation de l’espérance de vie de vingt ans à l’horizon 2035. Et ils ont tous les capitaux nécessaires pour mettre en œuvre leur projet.

  • Ils travaillent dans le même temps aux possibilités offertes par les nanotechnologies d’implantation de microcomposants dans le cerveau et au cœur même de nos 100 milliards de neurones, ce qui ferait de nous des cyborgs hyperperformants.

 

Bref, à travers le transhumanisme, Google vise à faire " reculer la mort ". A nous de savoir ce que nous voulons faire de cela. Pour ma part, sans être opposé le moins du monde à la recherche scientifique, je pense qu’il nous faut rappeler aux générations montantes deux ou trois vérités historiques.

  • Toutes les tentatives d’homme nouveau, fréquentes dans l’histoire, se sont traduites par des désastres. Mais les geeks enthousiastes de la Silicon Valley ne sont sans doute pas des lecteurs assidus d’Hannah Arendt ou de Peter Sloterdijk.

  • C’est important parce que l’on nous promet que l’IA dépassera l’Intelligence Humaine vers 2050. Nous vivons aujourd’hui avec une « IA faible », celle qui n’a pas encore « conscience d’elle-même » malgré ses capacités d’auto apprentissage par le . Celle qui est encore débranchable à tout moment. On nous promet une « IA forte », ayant conscience d’elle-même et donc capable de se protéger elle-même des hommes qui l’auront mise en place. Le golem aurait ainsi échappé à son créateur et, pour quelques-uns, deviendrait un nouveau dieu qu’il faudrait adorer et servir pour qu’il ne se retourne pas contre nous. Nous n’en sommes pas là mais il est de notre devoir d’y penser.

  • De fait, toutes les initiatives technologiques, poussées par l’hubris de l’homme (toujours plus haut, toujours plus loin, toujours plus vite…) produisent leurs propres catastrophes. C'est toujours pour battre un record que le Titanic heurte un iceberg, le Zeppelin prend feu, l’usine de Bhopal s’effondre, etc. C’est ainsi malheureusement que la recherche avance. Transposons cela mutatis mutandis aux révolutions technologiques. Alors que les gourous de numérique nous promettent toujours plus de data dans un cloud toujours plus gros, il nous faut nous interroger : si toute innovation poussée à son paroxysme produit sa propre catastrophe, quelle sera la catastrophe du numérique et de l’IA ?

2/ La seconde interrogation touche la question du sacré.

 

Voilà qui peut surprendre. Et pourtant… Qu’observons-nous ?

  • Au sens étymologique du terme – du latin relegere – ce monde est religieux c’est-à-dire relié. Cette capacité du numérique à créer du lien a deux conséquences essentielles qui le rapproche d’une Église : le fait de se sentir faire partie d’une communauté grâce aux réseaux sociaux ; le fait de penser que nous pouvons, grâce aux moteurs de recherche, trouver des réponses à toutes nos questions (comme la religion ?).

  • Deuxième aspect : notre rapport au numérique s’apparente à une servitude volontaire. On retrouve en effet tous les éléments décrits par La Boétie dans son écrit en 1574. Une certaine abdication de la volonté, doublée d’un certain fatalisme, se font jour sur le thème : c’est comme ça, on n’y peut rien, nous y trouvons des avantages et aller contre ce mainstream ne fera que nous isoler.

  • Troisième aspect : nous plongeons collectivement dans la ritualisation autour du totem qu’est devenu le smartphone. Combien commencent la journée par ce rituel partagé (c’est le premier acte au réveil de très nombreuses personnes) : regarder ses mails, puis les réseaux sociaux, puis les news ? Et cela plusieurs fois par jour, comme la prière pour certains… Et que dire de la nécessité de s’extraire de toute conversation dans le monde réel pour vite répondre au téléphone lorsque notre « doudou » des temps modernes se met à vibrer ? Ne pas répondre risquerait au mieux de nous culpabiliser, au pire de nous angoisser par la perspective d’être marginalisé dans le groupe.

 

On retrouve donc bien de nombreux attributs du religieux. Pour autant le « culte » du numérique n’est pas une religion :

  • Le religieux implique avant tout une recherche de sens, de transgression de sa condition mortelle. Le projet de Google recule la mort mais ne la fait pas disparaître.

  • Le mot « religere », dans son sens religieux, ne renvoie pas au lien qui unit (≠relie) entre eux les membres de l’Église mais au lien de chacun des membres avec son Dieu. Et c’est ce lien personnel que tous ont en commun qui, à son tour, unit entre eux à la fois tous les membres de l’Église (vivants ou morts) et Dieu dans une communion. On est assez loin de Google et de sa fabrique de tribus, du moins de mon point de vue.

La communion numérique ne fait-elle pas apparaître au contraire une vacuité « pleine et profonde » qui ne projette que l’ombre du sacré ?

3/ Enfin, le troisième questionnement touche la question de la transmission du savoir.

L’enjeu est notre capacité à assurer une transmission générationnelle de nos savoirs et donc à nous inscrire dans l’Histoire.

C’est cela que semble vouloir bouleverser le numérique. D’un côté, l’industrie du numérique permet de compiler une infinité de savoirs qui sont tous à la disposition de tous, en ligne. Et elle nous promet des modes d’apprentissage performants, par une individualisation de la transmission entre l’élève et son terminal d’ordinateur.

Sauf que l’on constate partout que c’est insuffisant et que la pédagogie passe par le présentiel et non par le virtuel. Car la pédagogie est aussi histoire de charisme et de séduction, d’énergie du professeur, de plaisir ou d’angoisse devant une poésie ou une démonstration de mathématiques, etc. La « connaissance Google » est une formidable banque riche d’une infinité de savoirs qui sont tous à la disposition de tous, en ligne. Extrêmement utile, elle n’en demeure pas moins un gigantesque placard dans lequel tout peut être rangé et ordonné (par métaphore : tous ces savoirs sont au placard).

Mais la connaissance, c’est bien autre chose que la compilation des savoirs. Ce dont le numérique ne peut rendre compte, c’est la manière dont la connaissance se transmet depuis la nuit des temps. C’est, pour reprendre le vocabulaire des linguistes et des psychanalystes, l’infinité des signifiants de toutes les langues du monde, des mots de tous les pères que porte et qu’a porté la terre, ceux qui se passent de génération en génération. C’est l’évolution des mots et des phrases qui depuis des milliers d’années nous ont permis de nommer tant notre environnement naturel que notre corps et nos passions, et qui constituent le véritable trésor de la transmission. En ce sens, la connaissance Google écrase la temporalité.  Anhistorique, elle peut témoigner d’une culture mais ne peut contribuer à bâtir une civilisation.

(Conclusion)

 

Finalement, votre question « Que maîtriserons-nous de notre futur ? » interroge trois de nos capacités :

  • D’abord, notre capacité à faire société, c’est-à-dire à repenser l’extraordinaire complexité des liens interpersonnels dans un environnement où c’est la machine qui aujourd’hui assure une part prépondérante de nos communications ;

  • Ensuite, notre capacité à orienter l’avenir que certains nous prédisent dominé par l’intelligence artificielle, sorte de golem technologique angoissant dont la puissance exponentielle finirait par nous dominer. Ce qui est sûr, c’est que le pouvoir tend à se déplacer vers ceux qui maîtrisent les algorithmes, les logiciels et les applications. Ceux-là deviennent les nouveaux maîtres du monde et leurs gourous inventent le futur.

  • Enfin, notre capacité à résister si ces nouveaux maîtres attaquent tous azimuts. Le cas échéant, comment réagir ?

- A titre individuel et dans la sphère privée, nous devons "rester dans le coup" et ne pas lâcher prise. Le challenge est colossal donc la tentation est forte de baisser les bras et d’aller vivre à la campagne (une campagne certes connectée pour tromper notre ennui…)

- Et pour ce qui est de la sphère publique, voire des nations : qui maîtrisera l’Intelligence Artificielle s’assurera sa place dans la géopolitique du monde qui vient. Je note qu’à ce stade, nous sommes un peu à la traîne…

Finalement, l’enjeu reste d’orienter et de maîtriser les révolutions NBIC pour réconcilier la population avec la raison et le progrès. Et donc de travailler à la modernité des Lumières qui ont guidé le monde depuis trois siècles. Lesquelles, si l’on n’y prend pas garde, pourraient se réduire bientôt à quelque pâle lueur, à peine discernable dans l’obscurité qui menace./.

© 2018