Vaincre notre paresse intellectuelle face à l'IA

Vous êtes alumna de Sorbonne Université. En quoi votre formation universitaire a-t-elle façonné votre manière de penser les technologies, et l’IA en particulier ? 

Marion Carré : Si on me demande souvent, dans le milieu de l’intelligence artificielle, quelle école d’ingénieurs j’ai faite, je viens, en réalité, des sciences humaines. Cela peut sembler atypique à première vue, mais à mes yeux, c’est au contraire essentiel. L’IA est une technologie qui impacte la société dans son ensemble : on ne peut donc pas se contenter de profils uniquement techniques pour s’en saisir. Il est fondamental d’avoir aussi des personnes capables d’avoir une vision globale et critique.

Mon parcours à Sorbonne Université a été très riche à cet égard, et notamment ma formation au Celsa. J’ai acquis, grâce aux sciences de l’information, une véritable « boîte à outils » pour décrypter les outils numériques que nous utilisons au quotidien. Cette approche m’a beaucoup nourrie, aussi bien dans la création d’Ask Mona que dans mon travail d’analyse et de réflexion.

Certains enseignements du Celsa continuent d’ailleurs de me servir de boussole et m’ont permis de développer une littératie de l’IA, c’est-à-dire la capacité à comprendre, interroger et contextualiser ces dispositifs. C’est précisément ce type d’outils intellectuels qu’il faudrait aujourd’hui pouvoir déployer plus largement, afin de permettre à chacun de prendre du recul critique face à l’IA.

Vous avez fondé Ask Mona une start-up spécialisée dans l’IA appliquée à la culture, à l’éducation et à l’engagement des publics. En quoi cette expérience de terrain a-t-elle nourri votre regard sur les promesses et les limites de l’IA ?

M. C. : Le fait d’avoir cofondé Ask Mona il y a bientôt dix ans m’a permis de « mettre les mains dans le cambouis ». On entend beaucoup de débats très polarisés sur l’intelligence artificielle, souvent pour ou contre. Mais lorsqu’on développe concrètement des outils, comme ceux que nous concevons chez Ask Mona, on acquiert une compréhension beaucoup plus fine de ce que ces technologies savent et ne savent pas faire.

C’est un point sur lequel nous sensibilisons beaucoup nos partenaires et nos clients, à la fois à travers les dispositifs que nous déployons dans les institutions culturelles, mais aussi par la formation qui accompagne leur mise en œuvre. Avec Ask Mona Academy, nous formons des acteurs issus d’horizons très différents à l’usage de l’IA. L’enjeu est de leur permettre à la fois de développer une pensée critique et d’adopter des pratiques adaptées à leurs besoins. 

Vous êtes à la fois entrepreneure, enseignante, conférencière et autrice. À quel moment avez-vous ressenti le besoin d’écrire Le paradoxe du tapis roulant ?

M. C. : Après cette première approche très concrète de l’IA avec Ask Mona, j’ai rapidement ressenti le besoin de prendre du recul sur l’impact de cette technologie. Ce travail de réflexion, je l’ai mené sous différentes formes. D’abord par l’enseignement, notamment à Sciences Po Paris, mais aussi au Celsa où j’ai enseigné, ainsi qu’à travers des conférences que j’ai données dans différents pays.

J’ai également mené des projets artistiques et des résidences qui mobilisaient l’IA tout en interrogeant ses implications. Ces dernières années, ma réflexion s’est davantage exprimé à travers l’écriture. Le Paradoxe du tapis roulant s’inscrit dans cette continuité. Avant lui, j’avais notamment publié Qui a voulu effacer Alice Recoque ?, consacré à une pionnière oubliée du numérique et de l’intelligence artificielle.

Pourquoi avoir choisi la métaphore du “tapis roulant” pour penser notre rapport à l’IA générative ? 

M. C. : Ce que décrit l’image du tapis roulant, c’est avant tout une expérience très répandue lorsqu’on commence à utiliser l’intelligence artificielle : cette impression d’être plus créatif, d’avoir plus d’idées et d’aller plus vite.

Le paradoxe apparaît lorsqu’on s’appuie trop sur l’IA et qu’on se laisse porter. À force, on finit par arriver tous dans la même direction, comme sur un tapis roulant. On produit des idées très similaires, et l’on se rend compte que l’originalité et la créativité promises ne sont pas toujours au rendez-vous. C’est cette illusion de progrès (aller plus vite sans nécessairement aller plus loin) que cette métaphore permet de rendre visible.

Vous opposez le “tapis roulant” au “tapis de course”. Qu’est-ce que cette distinction révèle sur la place de l’effort dans nos processus de pensée ?

M. C. : L’usage du “tapis roulant” installe une forme de délégation cognitive. À force de confier à l’IA des calculs ou des raisonnements, on exerce moins son esprit critique, on perd l’habitude de réfléchir par soi-même et l’on s’affaiblit. À l’opposé, les usages de type “tapis de course” consistent à ne pas utiliser l’IA pour faire à notre place, mais pour approfondir, questionner et enrichir notre réflexion. Plutôt que de nous laisser porter, il s’agit de courir sur le tapis, c’est-à-dire de fournir un effort. Dans cette configuration, l’IA n’est plus utilisée pour penser à notre place, mais pour nous aider à penser contre nous-mêmes et à aller plus loin.

Dans vos travaux, vous montrez que moins on a confiance en ses capacités, plus on tend à faire confiance à l’IA. Comment éviter que l’IA devienne une autorité cognitive incontestée ?

M. C. : C’est un point central, en particulier lorsqu’on se place dans le contexte de l’enseignement, et de la manière dont on intègre l’IA dans les pratiques d’apprentissage. Je fais souvent le parallèle avec la calculatrice : on apprend d’abord à faire du calcul mental avant d’utiliser une calculatrice. Avec l’IA, il est essentiel de conserver ce même réflexe.

Même s’il est aujourd’hui possible de demander à une IA de rédiger une dissertation, il reste fondamental d’apprendre d’abord à la faire soi-même, à structurer ses idées et à maîtriser les codes de l’exercice. Sinon, on se retrouve face à un double problème de dépendance et de confiance. Si l’on s’habitue trop tôt à déléguer, on ne développe pas la compétence par soi-même ; on devient dépendant, et l’on n’a pas confiance en ses propres capacités parce qu’on ne les a jamais réellement exercées. Cette dépendance renforce mécaniquement la confiance accordée à l’IA. Et surtout, sans compétence préalable, il devient impossible d’exercer un recul critique : si je ne sais pas faire une chose par moi-même, je ne suis pas en mesure d’évaluer si l’IA l’a faite correctement ou non.

À l’université, comment éviter que l’IA ne court-circuite les apprentissages fondamentaux, tout en reconnaissant qu’elle fait désormais partie du quotidien des étudiantes et étudiants ?

M. C. : La question n’est pas simplement de savoir s’il faut utiliser l’IA ou non, mais plutôt de déterminer dans quels cas il ne faut surtout pas l’utiliser parce que cela nuit à l’apprentissage, et dans quels cas, au contraire, elle peut être utile, et à quel moment précis de la réflexion. 

Selon moi, il s’agit d’abord de bâtir des compétences par soi-même, puis, une fois ces compétences acquises, d’utiliser l’IA comme un outil pour aller faire mieux, pour accompagner l’étudiant dans sa réflexion, le guider, l’aider à formuler, à questionner, à approfondir. Rappelons aussi que dans un contexte d’apprentissage, lorsque les travaux sont réalisés de manière trop automatique avec l’IA, les savoirs s’impriment moins durablement.

A Sciences Po, nous avons mené plusieurs expérimentations avec des étudiants. Dans certains cours, nous leur demandons de réaliser des essais en utilisant l’IA pour leur devoir final, mais l’évaluation ne porte pas sur le résultat produit. Elle porte sur la conversation qu’ils ont eue avec l’IA, de la même manière que l’on évaluerait une démonstration plutôt que la seule réponse finale. Il me semble que ce sont des pistes à continuer d’explorer. 

Concrètement, dans votre propre travail intellectuel, que refusez-vous aujourd’hui de déléguer à l’IA ?

M. C. : Dans mon usage professionnel, je me sers beaucoup de l’IA, mais j’avais écrit des ouvrages avant l’arrivée des outils génératifs : je savais donc que je savais écrire. Et pourtant, au moment de rédiger ce livre, j’ai eu le sentiment d’avoir perdu cette gymnastique. Je fais souvent le parallèle avec l’écriture à la main et l’écriture au clavier. À force d’écrire à l’ordinateur, j’écris aujourd’hui très mal à la main. Et au début de la rédaction, j’ai ressenti quelque chose de similaire : je me suis dit que je ne savais plus écrire. Je me comparais à l’IA, je trouvais qu’elle faisait mieux que moi, et j’étais extrêmement tentée de reprendre ce qu’elle produisait.

Mais je me suis rendue compte que ce n’était pas ce que je voulais faire. D’abord parce que l’IA déformait parfois mes idées, y compris lorsque je lui demandais simplement de reformuler ou de corriger. Certains arguments étaient biaisés ou déplacés. J’ai donc fait le choix de m’en servir pour penser contre moi-même, pour questionner et éprouver mes idées, mais pas pour rédiger à ma place. Il s’agissait, au fond, d’un travail d’émancipation : trouver comment passer, dans l’écriture, du tapis roulant au tapis de course, en acceptant l’effort nécessaire pour rester pleinement à l’origine de ma pensée et de mes mots.

Dans les entreprises, comment éviter que l’efficacité ne se fasse au détriment de la singularité et de la transmission des savoir-faire ?

M. C. : C’est toute la tension à laquelle on est confronté aujourd’hui. Il y a une pression productive très forte, et l’IA est souvent perçue comme la clé pour y répondre. Le problème, c’est que l’on finit par calquer les cadences de travail humaines sur les cadences de l’IA, en cherchant à compresser toujours davantage pour produire toujours plus.

À terme, cela nuit à la qualité du travail. Ce que je décris, dans mon livre, avec l’idée du « premier et du dernier kilomètre », c’est la nécessité de préserver des temps de réflexion avant et après l’usage de l’IA. Autrement dit, il s’agit de penser par soi-même avant de solliciter la machine, puis de reprendre de manière critique ce qu’elle propose plutôt que de l’appliquer mécaniquement. Si l’on réinvestit réellement ce temps nécessaire à la réflexion, le gain de productivité permis par l’IA devient beaucoup plus marginal que ce que l’on espérait initialement.

Il y a aussi un effet d’inflation très clair. Je reprends le parallèle proposé par Hartmut Rosa : répondre à un mail est plus rapide que répondre à une lettre, mais nous recevons aujourd’hui bien plus de mails que nous ne recevions de lettres. Avec l’IA, on observe un phénomène similaire : parce que l’on sait que l’on peut faire plus vite, on cherche à faire plus. Or, si l’on ne se réserve pas volontairement des espaces de respiration, des temps dédiés à la réflexion, on s’enferme mécaniquement dans le tapis roulant. 

Sorbonne Université porte un projet de recherche-création autour d’une pièce de théâtre co-écrite avec une IA “à la manière de Molière”. Selon vous, à quelles conditions un tel projet peut devenir un véritable terrain de créativité et de réflexion ?

M. C. : Au-delà du projet Molière Ex Machina que vous citez, ce que je trouve intéressant, pour les artistes en général, c’est d’utiliser l’IA pour nourrir leur réflexion et ouvrir des pistes qu’ils n’auraient pas forcément envisagées autrement.

Il n’y a pas une seule manière de travailler avec ces outils. Il existe en réalité une grande diversité de démarches artistiques possibles. L’IA peut être utilisée à différents niveaux du processus créatif. Dans le projet Molière Ex Machina, elle sert à écrire un texte, mais des artistes peuvent aussi s’en servir comme source d’inspiration, sans faire du contenu généré par l’IA leur œuvre finale. Il existe toute une palette de pratiques. À mon sens, ce qui doit primer c’est l’intention artistique. Qu’a-t-on cherché à faire ? Comment ? Pourquoi ? Quelle est la démarche ? La question de savoir si l’on a utilisé l’IA ou non me paraît secondaire dès lors qu’il y a une véritable réflexion et une démarche artistique forte.