L'expertise de Sorbonne Université au cœur de la gouvernance européenne de l'IA

Sorbonne Université vient d'être reconnue comme experte européenne en intelligence artificielle. Pouvez-vous nous en dire plus sur cette nomination et ses enjeux ?

Arnaud Latil : Pour bien mesurer les enjeux, il faut avoir en tête l’architecture de la gouvernance prévue par le règlement européen sur l’IA (l'AI Act). Ce texte prévoit que le Bureau de l’IA (l'AI Office), constitué au sein de la Commission européenne, est chargé d'une partie de l’application du règlement. Pour mener à bien sa mission et l'éclairer dans ses décisions, deux organes de conseil ont été mis en place. Le premier est un comité scientifique composé d’experts indépendants. Le second est un forum consultatif, et c’est précisément au sein de cette instance que Sorbonne Université a été sélectionnée pour siéger.

Nous y évoluons aux côtés d'autres organismes de recherche, mais également de représentants d’entreprises, de PME et d’associations de la société civile. Notre mission consiste à conseiller et éclairer le Bureau de l’IA sur la mise en œuvre concrète du règlement. C’est un rôle de conseil « technique » aussi bien sur des dimensions d’ingénierie que sur des dimensions organisationnelles, éthiques et juridiques.
 

Sorbonne Université fait partie des deux universités françaises sélectionnées dans ce forum consultatif.Qu'est-ce qui a fait la différence selon vous ? 

A. L. : Nous avons été sélectionnés avec l'Université de Rennes (le cluster Sequoia), l’Inria, le CNRS et le CEA. Je pense que la force de notre candidature réside dans ce que Sorbonne Université, et à travers elle SCAI, propose : une véritable pluralité et une grande variété de domaines de compétences en matière d’IA. 

Notre expertise n'est pas uniquement technique ou mathématique ; elle est aussi informatique, juridique, organisationnelle, sociologique ou encore philosophique. Nous disposons d’un très large panel de compétences interdisciplinaires, et c’est l’ADN même de notre cluster PostGenAI qui a été reconnu à l'échelle européenne. Son objectif consiste notamment à imaginer à quoi pourrait ressembler l’IA au-delà de l’IA générative, en matière d’IA agentique, par exemple. 

Quel va être votre rôle quotidien et celui de l'université au sein de ce forum consultatif ? 

A. L. : Des sous-groupes de travail thématiques vont être constitués. Même si la liste définitive n'est pas encore arrêtée, les principaux thèmes graviteront autour de la normalisation, de la création et de l'articulation entre les différentes normes (en particulier pour les cas d’usages dits « à haut risque »), de la mise en œuvre des bacs à sable réglementaires (sandboxes)¹, et enfin de l'articulation de la gouvernance de l'IA entre le niveau européen et les échelons nationaux. Ce sont ces sujets majeurs qui vont nous occuper, même s'il est encore trop tôt pour dire précisément dans lesquels nous serons investis en priorité.

Comment comptez-vous faire remonter la voix de la recherche académique française au sein de ce forum multipartite ? 

A. L. : C’est une question fondamentale. Évidemment, nos positions dépendront des sujets précis qui nous seront soumis. Cependant, la ligne directrice est claire : le véritable enjeu de la mise en œuvre de ce règlement – dont les dispositions sur les cas d'usage à haut risque deviendront applicables en principe à partir du 2 décembre 2027 – est de proposer des normes soutenables. Il s’agit d’aboutir à une mise en œuvre du texte qui soit réaliste, adaptée à la pratique et aux usages, et non pas à une réglementation déconnectée du réel. 

Il faut que l'application des exigences de l'AI Act soit claire, pertinente, adaptée et évolutive pour les entreprises et les organisations. Elle doit être suffisamment souple pour ne pas bloquer les évolutions technologiques, mais assez structurée pour protéger les citoyens. C'est précisément pour cela que le forum consultatif mêle des centres de recherche, des think tanks et des entreprises privées. Le régulateur a besoin d'expertises croisées qui pensent sur plusieurs champs simultanément. Notre but est de faire « atterrir » les exigences théoriques du règlement dans la réalité du tissu économique et scientifique.

Le Règlement sur l’IA est souvent critiqué par certains acteurs industriels qui craignent qu’il ne devienne un frein à l’innovation technologique face aux géants américains ou asiatiques. Que leur répondez-vous ?

A. L. : Le texte a précisément été conçu avec la volonté d'articuler deux dynamiques : encourager l'innovation d'un côté, et poser des garde-fous de l'autre. L'Europe met en œuvre des actions concrètes pour soutenir le développement de l'IA, notamment à travers les dispositions sur l'accès à la puissance de calcul, les bacs à sable réglementaires et, depuis peu à travers l’objectif de souveraineté technologique en matière de Cloud et d’IA. Mais elle fixe aussi des limites, des lignes directrices pour garantir que l'usage de l'IA soit conforme aux valeurs de l'Union européenne.

Ces exigences, qui concernent le contrôle humain, la transparence, la gouvernance des données, la robustesse ou encore la cybersécurité, me paraissent indispensables pour pratiquer une IA éthique. Toute la subtilité réside dans leur traduction concrète. Prenons l’exemple du contrôle humain : Comment ne pas y être favorable ? Mais qu’est-ce que cela signifie concrètement dans une ligne de code ou un processus industriel ? Si les exigences sont absolutistes, elles ruineront l'innovation. À l’inverse, si le contrôle humain est dérisoire ou purement formel, nous ne ferons pas honneur aux valeurs européennes que nous prétendons défendre. Trouver le juste curseur est notre mission.

Comment pensez-vous mobiliser les forces vives de Sorbonne Université pour nourrir vos contributions au Bureau européen de l'IA ?

A. L. : Nous pourrions construire des groupes de travail internes pour faire remonter la bonne information – scientifique, éthique, juridique – selon les sujets abordés à Bruxelles. Par exemple, on peut légitimement anticiper qu'un groupe de travail européen se penchera sur les questions spécifiques de l'IA dans le secteur de la santé. Le cas échéant, nos collègues de la faculté de Santé auront évidemment vocation à m'éclairer et à nourrir ma réflexion pour que je puisse relayer une expertise de pointe au niveau de l'Union européenne. N'oublions pas que le forum consultatif est une machine multipartite de 174 organisations : pour y donner de la voix et peser, nos contributions devront être solidement étayées par nos laboratoires.

En quoi cette nomination orientera-t-elle de futurs axes de recherche ou de nouvelles formations au sein de l’université ?

A. L. : De manière immédiate, cela n'aura pas d'impact direct sur les maquettes pédagogiques ou les budgets de recherche car l'objectif premier du forum reste d'éclairer le régulateur européen. Nous sommes là pour apporter notre expérience de terrain en matière de recherche, d’enseignement, et même d’administration. 

En revanche, ce que notre communauté va en retirer de précieux, c'est une présence directe au cœur des instances européennes et une connaissance de première main des dynamiques législatives en train de se nouer. L’objectif est de prendre part au débat public mondial. Cela inscrit Sorbonne Université comme un acteur central au service de l’action publique en matière d’IA. C'est une démarche de conseil en faveur de l’administration européenne, une forme de contribution active de la recherche à la société civile par l'expertise.

Ce conseil aux décideurs n’est pas une initiative isolée en matière d’ouverture vers la société à Sorbonne Université, n’est-ce pas ?

A. L. : En effet, c’est une démarche que nous pratiquons déjà à travers d’autres programmes, comme le programme d'innovation SOUND, profondément tourné vers les enjeux sociétaux et la médiation scientifique.

Au sein de SCAI, nous menons aussi des projets de recherche collaboratifs très concrets, avec par exemple un partenariat avec la Cour de cassation : avec nos collègues de l’Université Panthéon-Assas, nous y menons une expérimentation sur l'usage de l'IA par les conseillers de la Cour. 

Cette volonté de faire dialoguer la recherche, les administrations et les entreprises s'illustre aussi par notre présence à des événements majeurs comme VivaTech. Sorbonne Université y participera activement, et nous y organiserons notamment une table ronde en partenariat avec la Commission européenne dédiée à une thématique cruciale : le passage de la recherche au marché dans le domaine de l'IA. Notre mission s'inscrit pleinement dans cette dynamique globale de transmission des savoirs, depuis nos laboratoires jusqu'aux organisations publiques, privées, et à l'ensemble du monde économique et social.

^{1   Dispositifs permettant à des entreprises, des start-ups ou des chercheurs de tester leurs innovations technologiques en conditions réelles, avec des règles assouplies pendant une période donnée.}