Forum du CCIC-Unesco 2022

(Centre catholique international de coopération avec l’UNESCO)

Le 1er mai 2022, le CCIC (Centre catholique international de coopération avec l’UNESCO) a publié les actes d’un forum qui avait pour thème « Métamorphose du Monde, jusqu’où l’Homme peut-il changer l’humain ? Quelle boussole pour l’éducation ? ».  Ci-après se trouve le texte de mon intervention, qui tente de synthétiser l’héritage humaniste et spirituel en Occident, avant de s’interroger sur les opportunités et dangers des nouvelles technologies de l’information sur notre humanité.

Le Général de Gaulle disait : « Je voguais vers le Moyen-Orient compliqué avec quelques idées simples… » 

Je vais tenter à mon tour de m’en tenir ici à des idées simples, avec un plan simple. Je tenterai tout d’abord « d’extraire » les trois grands points de notre héritage, à la fois humaniste et spirituel, en Occident -- ma pensée ne concerne que l’Occident -- sur ce qui est l’Homme. Ces trois perspectives nous serviront de critères pour évaluer les chances, les failles, les risques de l’Intelligence Artificielle et des nouvelles technologies en général.

Quels sont donc les trois grands points qui nous semblent résumer l’héritage humaniste et spirituel en Occident ?

Le premier point, c’est la conscience

L’homme est pourvu d’une conscience. Ce terme général, nous pouvons le détailler un peu plus : elle est cette capacité de l’homme à pouvoir vivre les choses à la fois de manière objective et de manière subjective. 

Un exemple très simple : si je lève ma main, je suis capable d’analyser le fait que ma main se lève, dans un système physique qui m’est extérieur, etc... Il y a quelque chose d’objectivable dans le fait que je lève ma main. Je peux en mesurer la vitesse, je peux quantifier ce geste, mais en même temps, de manière immédiate, parallèle, en tout cas de manière simultanée, je vis une expérience intérieure qui est « Je veux lever la main, et je lève la main ». Une expérience « intérieure » qui n’appartient qu’à la volonté, et demeure très difficile à objectiver.

Les philosophes se sont penchés abondamment sur ce problème, en tentant de penser la connexion entre l’esprit et le corps, en imaginant par exemple un parallélisme comme Spinoza, ou alors le dualisme, selon Descartes, ou d’autres systèmes encore. Aucun système philosophique ne semble en mesure de dépasser la contradiction sur un plan théorique, mais le fait est que la conscience humaine permet de vivre des choses à, la fois de manière objectivable, d’être conscient d’accomplir des choses dans un espace physique, et en même temps de vivre ces mêmes choses d’une manière subjective, « intérieure ».

Subjectivité et objectivité (on pourrait dire également « mondanité »). Une sorte de schizophrénie qui est une bénédiction pour l’homme, la capacité à vivre des évènements sur un double plan.

Ayant dit cela, on devine déjà combien la métaphore de l’ordinateur comme métaphore de l’esprit humain est problématique. Dans la tendance actuelle à assimiler celui-ci à la notion d’intelligence, on voit une sorte de réductionnisme à l’œuvre, où la performance du calcul informatique ou numérique réduit un peu hâtivement cette richesse de la « schizophrénie » humaine de la conscience (qui articule les deux dimensions, objective ET subjective).

Le deuxième héritage, tiré de la philosophie, en tout premier lieu la philosophie grecque, c’est l’orientation morale de l’homme

La conscience humaine, le fait de la conscience se transforme en une nécessité pour l’homme de vivre non seulement sur un plan matériel et biologique, mais également, de s’orienter dans la vie. 

C’est le grand problème de Socrate. Les anciens, les Grecs, avaient d’ailleurs beaucoup de mal à positionner l’homme, à identifier une essence humaine. Le mieux qu’ils aient fait est de l’avoir positionné entre l’animal et les dieux, avoir pensé l’homme dans des excès permanents oscillant entre l’animal et Dieu.

En tout cas, Socrate, venant après l’époque des « Physiologues », qui les premiers avaient analysé le monde en termes de « nature », de « nature des choses », pensait que ce n’était pas suffisant. Les raisons physiques, soi-disant causales, ne suffisent pas à rendre compte de ce que fait ou ce que vit l’homme. Sa vie est aussi le fruits de désirs, de volontés, de motifs d’agir, et c’est dans cette perspective qu’il y a nécessité d’orienter sa vie.

C’est la fameuse phrase selon laquelle « une vie ne vaut que si elle est examinée », et donc, intervient ici la nécessité pour l’homme de faire appel à quelque chose d’extérieur, une idée, un idéal, des valeurs, et l’on voit donc que la conscience, constituée à la fois d’extériorité et de subjectivité, prend nécessairement une orientation morale. Toute la civilisation occidentale, et plus tard l’humanisme, est fondée là-dessus. Il y a un idéal humain, une idée du « meilleur de l’homme. »

Alors, selon les époques, c’est différent. Le meilleur pour les Grecs, et certainement pour Aristote, c’était la raison ; il s’agissait donc de s’évertuer à cultiver sa raison et de devenir raisonnable. Pour les médiévaux, dans un vécu cosmologique où Dieu était la présence première, le meilleur de l’homme se situait dans sa foi. Dans tous les cas, en Occident, cette nécessité d’orienter sa vie de manière morale, en fonction de l’idéal qui pose le meilleur pour l’homme, est vraiment quelque chose de fondamental.

Le troisième aspect, qui est à la fois une bénédiction et sans doute aussi un piège pour l’homme, c’est sa projection vers l’extérieur de manière technique

Il y a ce mot qui désigne la mètis, la mètis grecque. Jean-Pierre Vernant a écrit des pages magnifiques sur la mètis, cette sorte de ruse vis à vis de la nature, vis à vis de ses propres capacités, et puis, aussi, cette passion à créer des choses dans le monde, à le peupler de formes, à créer du matériel, et à s’y enthousiasmer. 

Un intervenant a mentionné Hannah Arendt et sa distinction entre le travail, l’œuvre et l’action. Nous vivons entourés de nos œuvres, nos artéfacts, d’objets qui constituent nos écosystèmes, fruits d’une véritable passion de l’esprit humain pour s’extérioriser dans la nature à travers les objets – cette tendance, instruite de l’idée que nous ne maîtrisons vraiment que ce dont nous sommes l’auteur, va se radicaliser avec la modernité. L’ingenium, cette sorte d’esprit inventif et rusé, qui aime résoudre les problèmes, va devenir passionnément technicien. Ce projet va se formaliser, de manière globale et philosophique, avec Descartes comme un projet explicite de domination de la nature. Une phrase séminale, parmi d’autres – celle-ci est de Vico : « verum et factum convertuntur », « Ce que l’on fait et le vrai sont convertibles ».

Ainsi, la capacité à vivre les choses à la fois de manière objective et subjective ; la nécessaire orientation morale de l’homme en fonction de « ce qui est le meilleur pour lui » ; un tropisme pour l’extériorisation de soi dans le monde par une projection technique : ces trois grands points constituent notre héritage quant à ce que signifie être humain.

Ayant dit cela, on se rend compte que l’on pourrait ajouter bien d’autres choses, le fait, par exemple, que l’homme ne reste jamais dans les limites qui lui sont imposées. On a vu que pour les Grecs, l’homme oscille constamment entre les dieux et l’animal, avec ce danger qu’ils nommaient hubris, cette tentation que l’homme peut avoir de se prendre pour un dieu.

Il y a un midrash, une histoire juive absolument délicieuse qui raconte la création de l’homme par Dieu. Dieu, de manière très sage, décide de prendre conseil auprès des anges. Les anges, dans la tradition juive, ne sont garants que d’une chose à la fois ; un ange, c’est mono-tâche. Donc Dieu demande à la vérité : « est-il valable de créer l’homme ? » La vérité est très dure envers ce projet d’être humain, et dit « Non, l’homme sera pétri de mensonges, ne le crée pas ! » Dieu demande ensuite à la compassion, qui répond « Non, l’homme peut être cruel ». Il demande ainsi aux quatre ou cinq valeurs fondamentales, et chacune, ancrée sur l’absolu de sa valeur, répond « Non, l’homme n’est pas digne d’être créé parce qu’il sera toujours en déficit par rapport à cette valeur. Mais alors, pendant que les anges discutent, à l’infini, et ne parviennent pas à accord entre eux, Dieu, lassé, les abandonne à leur discussion, il les prend tous de vitesse et il crée l’homme quand même.

Quelqu’un a mentionné, tout à l’heure, la notion « d’aventure humaine » ; en écho à cette belle expression, on peut dire que l’homme est précisément un « quand même », autrement dit il excède toujours l’idée raisonnable que l’on pourrait attendre de lui. Ceci est aussi un des héritages de la pensée occidentale, considérer que l’homme est essentiellement fluctuant, souple ; on ne peut pas lui assigner de nature ou d’essence fixe ; celle-ci est fonction de l’orientation morale qu’il se donne.

.

Quid des nouvelles technologies de l’information ?

Face à cet héritage, il y a cette immense possibilité des techniques qui permettent une extériorisation humaine depuis toujours, mais avec une accélération aujourd’hui, notamment avec le numérique.

On peut en souligner les promesses de bienfaits parce qu’elles sont nombreuses dans le domaine médical, de la sécurité, des services, mais on peut aussi en souligner les dangers, ne serait que par cette évidence, soulignée par chacun des intervenants : la technologie n’est pas seulement technologique. Elle n’est pas neutre. Jacques Ellul l’avait souligné avec force, elle constitue des écosystèmes, avec leurs conséquences dérivées, auxquelles l’homme est contraint de s’adapter au-delà de l’intention initiale, et elles ont un impact profond sur l’humanité.

Une autre chose me semble très importante quant à l’importance de la numérisation et de la communication dans nos vies, c’est la destruction de cette distinction, en son temps analysée par Hannah Arendt, entre domaine privé et public, distinction constitutive de la société civile et de nos démocraties. La discussion démocratique implique la publicité des idées, leur expression par des personnes identifiées qui risquent leur parole dans l’espace public. La politique, depuis les Grecs, consiste à se donner une visibilité dans la discussion. Cette rigueur, et ce risque de la responsabilité ont totalement volé en éclats avec les réseaux sociaux, pour créer un espace indéfini, virtuel, où les règles de conversations sont totalement différentes -- notre manière de réfléchir en ressort profondément impactée. 

On peut désormais s’exprimer de manière anonyme, selon une réactivité permanente, où l’on n’attend même plus que quelqu’un dise quelque chose pour réfléchir à ce qu’il dit, avant de répondre à son tour. Nous sommes désormais noyés sous une logorrhée permanente, où l’attaque ad hominem devient la règle, où l’argument raisonné se voit déclassé par l’expression de la seule émotion. On sait combien ces nouveaux biais sont portés par la technologie-même des algorithmes, qui favorisent les messages les plus invraisemblables et les plus improbables, et donc la floraison des fake news ; tout cela modifie en profondeur notre environnement cognitif.

Le statut-même de la conversation, qui perd son caractère intra-personnel pour devenir une sorte de conversation de café du commerce mondiale, en ressort profondément modifié. Nous n’en mesurons pas encore les conséquences, mais il n’est pas impossible qu’elles soient délétères…

Un deuxième aspect préoccupant, c’est l’idéologie souvent portée par les acteurs des nouvelles technologies. Je ne vais pas m’étendre sur l’idéologie des GAFA, mais, originée dans un fond libertaire qui faisait partie de la pensée américaine des années soixante, elle s’est bien vite transformée en une idéologie dominatrice et, ce qui me frappe, profondément anti-étatique.

On sait que le temps de la technologie n’est pas celui de la politique, que les structures de l’Etat sont lentes à évoluer, mais il y a une volonté de dynamiter les frontières et la logique des états-nations qui me paraît attentatoire à un certain nombre de choses essentielles dans la pensée politique de l’Occident. Même s’ils sont aujourd’hui obèses et défectueux, les états sont encore des dispositifs d’identité collective qui structurent le vivre-ensemble et promeuvent le bien commun. Il ne me semble pas que l’hyper-individualisation induite par les nouvelles technologies de l’information permettra un surcroît de vivre ensemble…

Autre idéologie, assez dangereuse dans ses conséquences : celle de la « véracité » de la data. Selon cette perspective, la data en saurait plus sur nous-mêmes, et mieux que nous-mêmes, parce que nous serions perclus de biais cognitifs. Une machine serait donc plus sûre pour prendre des décisions nous concernant. On mesure le danger de cette idéologie, qui ressemble furieusement un défaitisme auto-programmé de la part de l’homme…

J’en reviens maintenant à une distinction très factuelle concernant la conscience. Réduire l’intelligence, réduire la conscience à la simple performance, à la capacité de calculer est une énorme erreur, parce que pour la conscience, l’arc réflexif est absolument fondamental.

Savoir quelque chose, c’est une chose. Mais savoir que je sais, cette sorte de redoublement mental, qui du seul point de vue logique paraît inutile, est en fait fondamental. Toute la différence entre une conscience et un ordinateur tient dans cette « re-flexion », dans ce redoublement. Comme le disait l’intervenant précédent, un ordinateur ne peut pas faire l’amour, ou alors il peut faire l’amour mais il ne sait pas qu’il le fait.

Cette distinction archi-simple, et fondamentale, nombre de discours, y compris chez les meilleurs experts, semblent l’ignorer. On abuse de l’erreur logique (« logical fallacy ») qui consiste à dire que l’ordinateur « pense », et du coup dramatiser leur éventuelle suprématie à long terme sur la pensée humaine -- oubliant que l’ordinateur ignore ce qu’il fait, et n’accomplit des tâches que dans la mesure où elles sont programmées par l’homme. Aucun « deep learning », ou état de connaissance scientifique ultérieur ne permettra de combler ce gap -- qui demeure principiel -- entre la performance et la conscience.

Et puis, cette notion de data me paraît employée souvent de manière très naïve. La sur-capacité informative de la data offrirait soi-disant un avantage compétitif par rapport à nos  pauvres mémoires, comme si la pertinence de l’agir en situation ne dépendait que de la masse d’informations disponible, et non pas de quantité d’autres aptitudes. Comme celle-ci, toute simple, mais fondamentale : la capacité humaine de changer d’avis…

On connaît tous ce paradoxe de la personne qui v au cinéma pour voir une comédie, peut-être pas du meilleur niveau intellectuel, mais qui rit pendant une heure et demie et qui, à la sortie, dira : « Oh ! Oui, non...c’est un film nul ».

Cette capacité à prendre de la distance vis-à-vis de ses propres décisions – pour x raisons que ce soit-- , c’est cela, l’homme. Les expériences de Benjamin Libet, qui montrent que le signal neuronal est envoyé aux muscles de l’action avant même que l’on en ait conscience, sont souvent avancées comme la preuve ultime du fait que l’homme se leurre sur sa propre liberté. Mais n’y a-t-il pas une terrible naïveté philosophique à présenter cela comme un argument, un argument final, en tout cas ? Car précisément, alors même que nous sommes déterminés par un certain nombre de facteurs de toutes natures, c’est la force de l’homme de pouvoir raconter l’histoire de manière différente, et de justifier à posteriori des choses dont il n’avait pas même nécessairement maîtrisé la naissance !

Cette souplesse, cette capacité narrative de revenir sur les choses, cet accès à l’identité narrative, font partie des avantages compétitifs de l’homme, totalement inaccessibles à une simple capacité computationnelle -- la saga de la data n’y changera rien.

Un adage talmudique  le dit excellement : Dieu a créé l’homme, parce qu’il raconte des histoires !