« L’intelligence artificielle pénètre l’ensemble des strates de notre société »

L’intelligence artificielle est au centre d'une compétition acharnée au niveau mondial. Pouvez-vous nous présenter un aperçu des enjeux stratégiques associés ?

Jamal Atif1 : L’intelligence artificielle (IA) est ce que les économistes appellent une technologie d'usage général. C'est-à-dire qu’elle transforme de manière radicale la société telle qu’on l’a connue, comme l’électricité ou l’imprimerie avant elle. L’IA pénètre ainsi l’ensemble des strates de notre société : l’organisation sociale, l’économie, la politique, mais aussi notre rapport aux autres. L’enjeu principal pour les États est donc de maîtriser la science sous-jacente, la technologie et les produits qui en découlent.

La compétitivité de l'IA s’appuie sur l’accès et la maîtrise du triptyque : données, puissance de calcul et cerveaux, qui sont au cœur d’une bataille féroce au niveau international. Une bataille qui se joue entre les acteurs classiques (les États), mais aussi des acteurs privés qui ont une profondeur de marché bien plus importante.

Dominer la course mondiale dans le domaine de l'IA permet d’influencer les normes, les réglementations et les orientations futures de cette technologie. L’IA soulève des questions éthiques : comment assurer la protection de la vie privée, empêcher la discrimination par les algorithmes, la manipulation de l’opinion, etc. Et enfin, elle fait émerger des questions interdisciplinaires d’ordre scientifique.

Le PEPR2 IA, que vous co-dirigez avec François Terrier (pour le CEA) et Marc Schoenauer (pour Inria), est synchronisé avec le Plan européen pour le développement et l’utilisation d’une intelligence artificielle « made in Europe ». Quelles sont les caractéristiques de cette IA européenne ?

J. A. : La course mondiale est dominée par les États-Unis et la Chine avec des investissements colossaux. L’Europe souhaite trouver une place en phase avec ses principes et valeurs fondateurs. Il a donc été décidé de construire une nouvelle voie privilégiant ce qu’on appelle l’IA de confiance, englobant des questions scientifiques (robustesse, explicabilité, préservation de la vie privée) et d’usage. En somme, ce sont des algorithmes qui ne nuisent pas l’humain et qui sont au service des humains.

Cependant, l’émergence de l’intelligence artificielle générative a rebattu les cartes. Avec ChatGPT, l’IA est directement entrée dans la sphère du grand public et a permis à tout un chacun, non pas juste d’utiliser l’IA sans le savoir, mais d’interagir avec elle. Il y a donc une plus grande prise de conscience du pouvoir de cette technologie et du rôle qu’elle pourrait jouer dans notre société. Mais l’IA générative consomme beaucoup de données et de puissance de calcul. Si bien qu’il n’y a pas assez de puissance énergétique disponible sur Terre actuellement pour satisfaire toutes les requêtes qui seraient faites à ChatGPT si tout le monde l’utilisait comme un moteur de recherche. Elle pose donc des problèmes de soutenabilité alors que nous sommes en pleine crise énergétique.

Ce constat renforce la nouvelle position de l’Europe et de la France qui s’orientent désormais vers le développement d’une IA de confiance, mais aussi frugale qui consommerait moins d’énergie et moins de données personnelles, tout en étant aussi efficace que les autres. C’est désormais à la recherche de faire émerger cette vision.

Comment le PEPR va-t-il contribuer à répondre à ces enjeux ?

J. A. : La recherche va préparer la future génération d’algorithmes d’intelligence artificielle avec les critères susmentionnés. Pour se diriger vers une IA frugale, le PEPR va s’intéresser à des modèles plus proches de l’embarqué avec une réflexion sur le matériel support de l’IA.

L’IA est un formidable outil d’aide à la décision, mais le manque d’explicabilité de ses recommandations freine son adoption dans des usages critiques. En ce sens, un axe est dédié aux fondements mathématiques de l’IA. La France dispose d’une communauté d’excellence, si nous aboutissons à des modèles mathématiques qui expliquent le fonctionnement des algorithmes les plus puissants d’aujourd’hui, ou si nous proposons de nouveaux modèles, ce sera une grande avancée.

La robustesse de l’IA à différents aléas, y compris à des manipulations malveillantes, et plus largement la notion de confiance, est un autre axe du PEPR. Il va y avoir, par exemple, une réflexion sur la distribution des données, donc des systèmes associant des calculs distants et locaux, afin de mieux sécuriser l’utilisation de données sensibles.

Enfin, nous apporterons un regard équilibré entre les avancées technologiques et leur impact sur la société. Un appel à projets sera bientôt lancé pour aborder les questions d’équité, d’éthique, les problématiques du futur du travail et des travailleurs, les transformations organisationnelles, la gouvernance ou encore la régulation de l’IA. Pour la première fois, nous allons regarder les impacts avant que ces technologies n’intègrent la société.

Comment ce programme s’articulera-t-il par rapport à la stratégie nationale pour l’IA ?

J. A : Le PEPR est un maillon de plus dans la chaîne préexistante qui se met en place depuis plusieurs années en France. Il complète et s’inscrit dans la continuité de démarches du CNRS avec les Instituts interdisciplinaires d'intelligence artificielle, le réseau des ingénieurs qui accompagne l’implémentation de l’IA dans tous les domaines, le centre AISSAI3 (IA pour les sciences, des sciences pour l’IA), ou encore les appels de la Mission pour les initiatives transverses et interdisciplinaires sur les enjeux scientifiques et sociaux de l’IA.

Le PEPR s’appuiera par ailleurs sur le supercalculateur Jean Zay grâce auquel la France se maintient dans la course mondiale de l’IA. Avoir accès à sa puissance de calcul sera un véritable atout pour accélérer les recherches de ce PEPR.

Quelles sont les retombées envisagées pour la science et la société ?

J. A : Nous sommes en lien avec deux projets de transfert : la plateforme d’apprentissage profond embarquée coordonnée par le CEA et un projet de librairie et de transfert porté par Inria. Il y aura aussi des actions pour favoriser la création de start-up.

Enfin, ce PEPR n’est pas orienté vers des applications ou des méthodes particulières. Il reste généraliste pour que les résultats obtenus innervent, à terme, un peu toute notre société. L’IA est une science de l’induction. Elle peut être un vecteur d’accélération de découverte des connaissances dans les autres sciences. Il s’agit d’un outil qui est de plus en plus important dans la boîte à outils des scientifiques des autres domaines.

• 1Professeur à l'Université Paris Dauphine – PSL, membre du Laboratoire d'analyse et modélisation de systèmes pour l'aide à la décision (CNRS/Université Paris Dauphine – PSL) et directeur de programme du PEPR Intelligence artificielle pour le CNRS.
• 2
  Les programmes et équipements prioritaires de recherche (PEPR) visent à construire ou consolider un leadership français dans des domaines scientifiques liés à une transformation technologique, économique, sociétale, sanitaire ou environnementale et considérés comme prioritaires au niveau national ou européen.
   
• 3L’objectif principal de ce centre est de structurer et d’organiser les actions transverses impliquant l’ensemble des instituts du CNRS aux interfaces avec l’IA.