ChatGPT-Le prix à payer

Introduction

C’est à OpenAi que l’on doit l’IA conversationnelle ChatGPT née en 2019. La vidéo de présentation qui figure sur la page d'accueil du site d'OpenAI reprend les principales expressions chères aux grands seigneurs de l’empire numérique : étendre nos capacités cérébrales, contribuer à l’avènement d’un monde meilleur, émanciper la sagesse humaine.

Je commencerai par (1) quelques rappels sur les performances de ChatGPT en mettant en avant ceux qui défendent son usage au nom de la réussite professionnelle. Cela permettra d’aborder (2) l’évolution de nos rapports avec les systèmes d’intelligence artificielle, de voir ensuite (3) en quoi des outils d’assistance tels que ChatGPT soulèvent des difficultés relatives à notre développement cognitif. Enfin, (4) nous examinerons rapidement en quoi la performance de l’IA nous interpelle sur notre propre nature.

1. Performances de Chat GPT et réussite professionnelle

Comme vous le savez peut-être, l’IA conversationnelle ChatGPT est le logiciel grand public à la croissance la plus rapide de l'histoire. Sam Altman, Elon Musk et d’autres co-fondateurs d’OpenAI prouvent s’il en est que la Californie reste l'un des cœurs les plus puissants de l'empire numérique.

L'une des fonctions essentielles de ChatGPT est de générer tout type de texte et des lignes de code informatique sur demande. Ce chatbot s’intègre aisément sur des plateformes et s’associe à une diversité d’outils pour fournir une aide conséquente.

Si vous ne l’avez pas encore utilisé, voici quelques-unes de ses nombreuses prouesses : aide à la traduction, à la correction de texte, à la rédaction de textes juridiques et d’e-mails dans un style formel ou amical ; aide à la rédaction d’essai pour des étudiants peu enclins à la recherche ; aide à l’écriture de nouvelles, de romans et d’essais ; aide pour trier des listes par ordre alphabétique ; aide à la rédaction des référentiels de compétences dans le cadre de la certification des compétences professionnelles ; aide à la création de contenu marketing ; accélération des process et des productions des créateurs de formations en ligne ; conception des paroles dans le style de tel ou tel vedette pour des chansonniers en quête d’inspiration.

L’outil est tellement performant que Microsoft l'a intégré à son moteur de recherche Bing. Son but : améliorer la recherche de données en favorisant l'interaction de l'IA avec l'utilisateur.

J'ai testé ChatGPT dans des domaines considérés comme exotiques : la philosophie et la médecine traditionnelle indiennes. Si on l’interpelle de manière judicieuse en approfondissant le questionnement, on obtient des réponses pertinentes. Comme ce chatbot mémorise l’ensemble des entrées, on peut lui demander de rédiger un essai court sur le sujet. On obtient une introduction et une conclusion précises, et un développement satisfaisant car sa capacité de synthèse est indéniable. Pour rappel, ChatGPT ne fait qu’agréger des mots et des contenus sémantiques de façon purement formelle. L’agent ne comprend pas ce qu’il fait et ses réponses sont modérées par des outils de contrôle.

En bref, on peut envisager ChatGPT comme un compagnon de route, un assistant. Durant le processus de rédaction, il fournit un brouillon, un plan mais surtout il suscite des idées. L’ensemble est bien sûr à retravailler.

Sur le plan professionnel, ChatGPT répond aux exigences d’un marché concurrentiel. Aujourd’hui, notre environnement de travail nous pousse à intensifier nos interactions avec les systèmes d'IA. Dans ce contexte de croissance continue des performances, vous aurez remarqué à quel point le système technicien nous pousse à maîtriser ses outils. Si vous envisagez de gagner votre vie sur Internet et de conquérir votre indépendance, cette maîtrise est indispensable.

C’est justement la force du système technicien que de se rendre inévitable. C’est là le signe de son autorité. Et si vous gardez la tête dans le guidon, soucieux de relations positives et empathiques avec vos clients, fonçant tête baissée vers la réussite, vous n’aurez guère le temps ni l’envie de vous interroger sur l’omnipotence du système technicien ou sur une technologie de pointe comme ChatGPT. Celle-ci nous renvoie d'ailleurs à l’idéologie libertarienne, à l’idéal du self made man américain et à celui du libre marché. En revanche, vous constaterez sans peine qu’avec les IA conversationnelles, l’information et le savoir perdent de la valeur tant ils sont devenus accessibles.

Or, au-delà de l’enthousiasme que provoquent des IA tel que ChatGPT, se pose la question de la place croissante qu’occupe le système technicien dans nos vies. Nous ne sommes plus à l’époque des Temps modernes de Chaplin mais plus proche de 2001, l'Odyssée de l'espace de Stanley Kubrick. Finalement qui décide ? Jacques Ellul, le grand penseur de la technique, écrivait à ce sujet en 1988 : « Bien entendu, on peut dire que c’est l’homme qui décide : [c’est le cas avec ChatGPT] mais la croissance technique lui a fabriqué une idéologie, une morale, une mystique, qui déterminent rigoureusement et exclusivement ses choix dans le sens de cette croissance. » (Jacques Ellul, Le système technicien). Cette idéologie, cette morale et cette mystique s’incarnent dans la volonté d’extension de nos capacités cérébrales, dans les recherches pour émuler le cerveau humain, dans ce rêve d’un monde meilleur et cette croyance que la technique soutient l’émancipation de la sagesse en chacun de nous. La technique, et surtout l’IA, serait donc le tremplin vers une humanité accomplie. La mesure aussi nous permettant d'évaluer l’écart entre nous et l’animalité. Ce genre de thèse prépare insidieusement ou inconsciemment l’avènement d’une post-humanité.

Pour comprendre ce changement de palier, revenons un peu en arrière. Envisageons ChatGPT dans un paysage plus vaste. Intéressons-nous à l’évolution de nos rapports avec les systèmes d’intelligence artificielle.

2. Évolution de nos rapports avec les systèmes d'intelligence artificielle

Apparus dans les années 1950, les systèmes d'intelligence artificielle ont connu une progression constante au fil des décennies. Des algorithmes de plus en plus complexes et performants sont capables de résoudre des tâches autrefois réservées à l'être humain. On assiste donc à un glissement des compétences du biologique à l’artificiel.

Ces dernières années, l’IA appliquée au traitement du langage naturel a connu une progression fulgurante. Les systèmes actuels sont capables de comprendre et de générer du langage avec une précision déconcertante. Cette avancée est visible notamment dans le domaine de la traduction automatique, de la reconnaissance de la parole, de l’analyse des sentiments et de la conversation automatisée, ce que fait ChatGPT.

1. Dès le premier âge d'or de l'IA (années 1950), les chercheurs ont cherché à humaniser l'IA pour la rendre très proche de l'être humain. Ils ont utilisé des métaphores biologiques, telles que "neurones artificiels", pour concevoir des systèmes inspirés du fonctionnement du cerveau. Par la suite, la robotique humanoïde, affective et cognitive a vu le jour, atteignant même des milieux inattendus, tels que le temple Zen Rinzai Kodai Ji de Kyoto au Japon. Pour 790 000 dollars, une version humanoïde d'Avalokiteshvara, le bodhisattva qui incarne la vision d'amour et de non-violence fondamentale, donne un enseignement sur le "soutra du cœur", l'un des textes les plus importants du bouddhisme du grand véhicule.

L'engouement pour l'IA s'est également étendu au monde de l'art. Le premier portrait peint par une intelligence artificielle a été adjugé à 432 500 $ chez Christie's à New York, le 20 août 2018. L'artiste Android Aida est devenu une star de l'art contemporain, tandis que le site Google Art and Culture a mis en ligne un centre de ressources intitulé "Climt vs Climt : The Man of Contradictions", offrant des reproductions photographiques d'œuvres recolorisées par l'apprentissage automatique. Parmi ces peintures, se trouvent des œuvres telles que "La jurisprudence" et "La philosophie", qui avaient été détruites par les nazis.

2. Dès 2017, on assiste à la multiplication d’agents virtuels maîtrisant le langage humain. Chat GPT est une forme très aboutie de cette évolution. Les agents conversationnels, comme Amelia de la société américaine IPsoft, intègrent le monde du travail et commencent à remplacer les êtres humains. Amelia parle 30 langues, peut connaître et mémoriser le contenu d'un manuel technique de 300 pages en à peine 30 secondes, traiter des milliers d’appels simultanément ou des dossiers d’admission dans des écoles de renom comme l’école hôtelière de Lausanne.

On ne tardera certainement pas à assister à l’essor des systèmes tutoriels intelligents (les STI) pour accompagner le travail des enseignants. Ces systèmes sont capables de dresser un modèle de l'apprenant pour lui proposer un parcours adapté à ses besoins. On parle d’apprentissage personnalisé via l’IA. IBM Watson éducation, la solution cognitive de la célèbre firme américaine, est déjà à la pointe dans ce domaine.

Ces systèmes remettent en cause le travail humain dans la mesure où ils peuvent être sollicités à tout moment sans contrainte de temps et d'espace. Ils ne sont jamais malades, ne revendiquent rien et ne font jamais grève… Ils transforment les professeurs en accompagnateurs et en facilitateurs.

D’une manière générale, les progrès dans la maîtrise du langage naturel annoncent l’ère de l’assistanat intensif dans le domaine de l'écriture. On peut produire des textes comme s'ils avaient été générés par un être humain. Les plus pessimistes parleront d’un grand remplacement, d’un glissement du réel vers le virtuel au point de les confondre, d’une symbiose donc entre l'homme et les machines auto-apprenantes. Les plus optimistes parleront plutôt de l'intensification du partenariat cognitif. Dans ce cas précis, il peut être judicieux d’aborder ces systèmes comme s’il s’agissait d’un jeu collaboratif consistant à obtenir la structure et le contenu de base d'un article, par exemple. Et il est vrai que si l'on dispose des compétences nécessaires à la réécriture et à l'amélioration d’un contenu, on peut voir dans ces outils des assistants très efficaces, comme je l’indiquais dans la première partie.

3. Néanmoins, même si ces outils n’ont pas de conscience, leur perfectionnement et leur complexité grandissante accentuent la crainte de voir apparaître une IA forte. Par « IA forte », on entend une IA capable d'agir sans intervention humaine, capable de se régénérer et de se cloner elle-même pour engendrer d'autres intelligences plus perfectionnées. Le rythme exponentiel de l'évolution technologique rend envisageable l'apparition subite d'une IA de niveau surhumain. Si cette éventualité venait à se réaliser, l'intelligence artificielle atteindrait un niveau de complexité et de capacité décisionnelle inédits. Nous ne parviendrions ni à la comprendre ni à la contrôler. Dès lors, nous serions incapables de prédire les conséquences à long terme de cet événement communément appelé « singularité technologique ».

Avec les progrès gigantesques des calculateurs et parce que l'informatique quantique va permettre d'atteindre un degré de puissance inégalée, le monde prête aujourd'hui une oreille plus attentive à cette possible « singularité technologique ». Même si elle relève encore de la fiction, cette hypothèse a l’avantage de nous questionner sur le pouvoir de la technique et l’importance d’exercer un contrôle sur les systèmes d’IA. Pour certains philosophes comme Nick Bostrom ou Éric Sadin, c’est un vœu pieux. Tous deux dénoncent l’irresponsabilité d’un grand nombre d’ingénieurs et de décideurs qui « n’éprouvent aucun scrupule éthique quant à la création d’esprits artificiels et à l’éventuelle suprématie d’un ordinateur » (Nick Bostrom, Superintelligence, p. 16).

4. Il convient aussi de mettre ces remarques en perspective en tenant compte cette fois de la montée en puissance de l'idéal transhumaniste. Pour faire court, le transhumanisme propose de dépasser les limitations biologiques grâce à la technologie. Vous me direz sans doute : mais quel rapport avec Chat GPT ? Au prime abord, aucun. Pourtant ChatGPT entre dans le cadre des recherches consacrées à la symbiose de l’humain et des systèmes d’intelligence artificiel.

Au-delà de cela, ce qui compte surtout, c'est l'atmosphère que mettent en place les géants du numérique : intensifier la mutation continue, l'inéluctable transformation des sociétés humaines et de l'être humain lui-même, sous l'effet de la prolifération des technologies d'intelligence artificielle.

Tout porte à croire que les seigneurs de l’empire numérique bâtissent pierre après pierre les conditions indispensables à la réalisation même de l'idéal transhumaniste, bien au-delà de la symbiose avec les machines cognitives.

Est-ce positif ou négatif ? À vous de voir... Notez simplement que l’engouement pour ChatGPT est un signe de plus de notre consentement, de notre foi en les technologies qui transforment notre existence, de notre culte de la nouveauté et, peut-être, de notre conviction intime ou inconsciente que les technologies d’assistance seront capables de guérir l’homme de ses défauts et de sa démesure.

3. Enjeux de l'assistanat cognitif

Rappelons que l'IA était initialement réservée aux seuls spécialistes et techniciens du domaine. Aujourd’hui les systèmes d’IA sont largement étendus aux particuliers. C'est ainsi que l'on parle de démocratisation de l'IA.

Ce n'est pas sans conséquence sur le plan cognitif. D'une part, on continue d’assister à une forme d'apogée du transfert de notre mémoire dans celle des machines. On peut aussi penser que nos capacités à la recherche d'informations pertinentes comme à l'écriture risquent sérieusement d'être amoindries par le transfert de certaines de nos compétences cognitives aux machines. Si je confie à ChatGPT l’écriture de mes e-mails, je risque de ne plus être capable de rédiger selon mes propres souhaits, défauts et qualités. Je cours le risque d’uniformiser mes réponses sauf si l’IA continue de progresser.

Ce constat est d'autant plus pertinent s'il s'adresse à la jeunesse.

En effet, que faire lorsque l'on n'est pas formé dans l'usage des IA conversationnelles ? Que faire si l'on manque de recul, de culture, d'une capacité critique face à la performance de ces outils ? Que faire aussi si l'on n'est pas soi-même structuré par un parcours scolaire ? En bref, si l'on ne dispose pas d'un bagage suffisant, n'est-ce pas la porte ouverte à l'affaiblissement de certaines de nos capacités cognitives essentielles ? La porte ouverte aussi à la tricherie généralisée, à la multiplication des faux sur les réseaux sociaux, à la prolifération du tout et n'importe quoi, tout simplement par manque de créativité et d'excès de confiance dans les outils d'intelligence artificielle.

C’est tout le problème auquel ont à faire face les systèmes éducatifs de nombreux pays. Certains ont décidé d’interdire ChatGPT dans leur établissement. C’est le cas de Sciences Po et des écoles publiques de New York. D’autres cèdent à cette évolution au prétexte d’utiliser des détecteurs d’IA comme GPTZero.

4. En quoi la performance de l’IA nous interpelle sur notre propre nature ?

La performance de l'IA nous amène à nous interroger sur ce qui nous différencie réellement des machines. Si l'IA est capable de résoudre des tâches complexes autrefois réservées à l'être humain, cela remet en question notre conception traditionnelle de l'intelligence, de la créativité et de la conscience.

Il conviendrait aussi de nous interroger sur la place des systèmes d'intelligence artificielle dans un contexte d'effondrement du monde vivant. Ces nouveaux systèmes sont-ils présents pour conjurer nos souffrances et notre insatisfaction, notre sentiment d'insignifiance, notre incapacité à surmonter les défis dont nous sommes nous-mêmes la cause ? Autrement dit, avons-nous besoin de ces technologies pour surmonter nos propres défaillances cognitives voire éthiques ? Avons-nous besoin des technologies performantes pour nous éduquer et nous former ?

Dans ces conditions de prolifération des systèmes d'intelligence artificielle, qu'en est-il du progrès scientifique ? Participe-t-il encore à l'élévation de notre dignité ou nous a-t-il soumis au rôle de simple consommateur hybridé au numérique ?

Le régime de l'accélération technologique rend-il l'éthique opérante ? Peut-on se modérer, s’empêcher de créer des outils qui peu à peu nous effacent ? Ce « nous » désigne ici ce que nous sommes sans le système technicien. Autrement dit, si nous sommes déjà hybridés, si nous sommes déjà des cyborgs, si nos usages des outils numériques sont déjà banalisés, alors aucune éthique ne peut contrarier des avancées technologiques qui nourrissent la machine économique et la quête de prospérité.

En définitive...

Tout ce que nous avons vu préalablement légitime le projet transhumaniste. Dans la vidéo de présentation qui figure sur la page d'accueil du site d'OpenAI, on retrouve les grandes promesses propres au système technicien : 

• Progrès infini (amplifier indirectement le pouvoir des technologies convergentes (NBIC) : nanotechnologies, biotechnologies, informatique, sciences cognitives.)
• Pouvoir salvateur des technologies en espérant, grâce à elles, la pleine maîtrise de la nature.
• Monde appelé à devenir meilleur grâce aux nouvelles technologies.
• En finir avec les limitations biologiques. Dans le cas de ChatGPT c'est très clair : bénéficiez d'un assistant virtuel qui nous aide à écrire, à reformuler des idées, à concevoir des messages marketing, par exemple. Steve Jobs parlait de l'ordinateur comme d'un vélo pour l'esprit. On peut dire ici que ChatGPT est la moto ultrarapide de notre cerveau.
• Guérir l'homme de ses défauts et de ses manques en émancipant la sagesse en lui.
• Parachever l'œuvre de la nature ou du créateur car nous sommes nés non finis, non achevés.
• S'éveiller et éveiller l'univers en transférant le sacré sur la technique. 

En bref, si l'on se laisse gagner par les merveilles des systèmes d'intelligence artificielle, on peut dire qu'ils participent à la manière dont le transhumanisme revisite les 4 remèdes épicuriens à la douleur d'exister : 1. la mort est un mal ; 2. la souffrance est intolérable ; et surtout 3. nous vivrons comme des dieux ; 4. le bonheur est notre avenir.

Conclusion

Une amie me disait récemment qu'elle avait honte d'utiliser ChatGPT pour ces annonces marketing. Elle a le sentiment de perdre son autonomie en dépendant d'un système ultra efficace !

Nul doute que ChatGPT est utile à celles et ceux qui ne peuvent pas se payer les services d'un marketeur. Utile aussi à celles et ceux qui ont des difficultés à concevoir des textes impactants. Maintenant si l'on prend un peu de hauteur, nous pouvons nous demander si ChatGPT, comme la plupart des systèmes d'IA dotés de capacités surhumaines, ne participent pas à la transformation de notre propre nature. Il devient difficile en effet de penser en dehors du système technicien parce que nous sommes inclus en lui. Il nous a absorbés, digérés, assimilés.

Notre nature humaine s'éloigne peut-être de nous au fur et à mesure de l'avancée des systèmes d'intelligence artificielle. 

>  Retour à la liste des articles