Les technologies d’intelligence artificielle se sont glissées dans tous les interstices de nos vies, privées comme professionnelles. Elles transforment nos activités, nos relations avec les autres, nos objets de la vie quotidienne, nos façons de travailler... Elles bouleversent des pans entiers de l’économie et, dans le même temps, font naître de grands espoirs, notamment dans la santé, la mobilité, l’énergie et l’environnement. Pour autant, l’IA soulève des questions fondamentales qui fragilisent son acceptation par la société et freinent son déploiement dans le monde industriel…
La force de l’IA réside dans sa capacité à analyser rapidement de très grands volumes de données. Elle tient aussi dans l’étendue de ses domaines d’applications. L’IA se caractérise, en effet, par une variété de formes qui, en se combinant, permettent de résoudre toutes sortes de problématiques : on utilise de l’IA dans le véhicule autonome pour lui permettre de percevoir son environnement et aussi pour calculer sa trajectoire ; on l’emploie pour traduire des textes en différentes langues et aussi pour synthétiser un texte ou interagir avec un être humain ; on s’en sert pour modéliser des phénomènes physiques et aussi pour optimiser des processus complexes ou prédire des événements… Cet ensemble de capacités font de l’IA un outil très puissant pour innover y compris lorsqu’il s’agit de repousser les limites de la science. Le CEA-List, historiquement très présent dans la recherche autour de l’analyse d’images, du langage et de signaux, développe une expertise pointue dans les technologies d’IA liées à ces trois thématiques. Il les applique pour apporter des réponses performantes à ses partenaires industriels dans la santé, la mobilité, la cybersécurité, l’industrie du futur ou l’environnement.
Perception de l’environnement, analyse de scène, détection d’objet, classification d’images, robotique…
Traduction automatique de langues, extraction automatique d’informations, génération de contenus, synthèse de texte, chatbots…
Analyse prédictive, hyperpersonnalisation, reconnaissance vocale
Simulation complexe, optimisation de flux ou de de processus
En partenariat avec Valeo, le CEA-List a développé un système de perception permettant à un véhicule de détecter et localiser en 3D et en temps réel et à 360° autour du véhicule, tous les éléments de l’environnement (piétons, autres véhicules, etc.). Le système collecte des données à partir de caméras fish-eye embarquées sur le véhicule. La détection est effectuée par une version améliorée et adaptée de l’algorithme DeepManta, un réseau de neurones multitâche
Malgré toutes ses promesses, l’IA soulève des questions qui sèment le doute chez les utilisateurs et freinent son déploiement dans les contextes industriels. Ces interrogations concernent essentiellement les technologies d’IA à base de réseaux de neurones de grande taille (technologies de deep learning) qui se trouvent être aussi les plus performantes actuellement et donc les plus attrayantes… Du fait de leur complexité, ces IA se comportent comme des boîtes noires dont on ne sait ni décrire précisément le fonctionnement ni identifier les éléments qui ont contribué au résultat.
L’ignorance des critères retenus dans le calcul du résultat pose problème dans de nombreux cas où le besoin d’expliquer s’impose : quand le résultat affecte une personne (diagnostic médical, scoring bancaire, etc.) ou quand le système est censé aider un professionnel à prendre une décision, a fortiori si cette dernière doit entraîner une action immédiate. L’explicabilité et la transparence ne sont cependant pas les seules conditions à l’acceptation de l’IA par les utilisateurs, il faut aussi qu’elles évitent de reproduire les biais enfouis dans les jeux de données utilisés pour l’apprentissage et qu’elles garantissent la confidentialité des données utilisées.
Dans les contextes industriels, la question de la confiance en un système d’IA se pose différemment. Elle porte sur sa capacité à répondre aux critères de qualité, robustesse, sûreté et sécurité exigées dans cet univers. De nouvelles méthodes doivent être développées. Une IA étant aussi, par définition, un système qui apprend, et donc qui évolue constamment, ces méthodes doivent être par ailleurs dynamiques pour garantir que le comportement restera conforme aux exigences.
Instaurer la confiance dans l’IA et dans les technologies de deep learning, pour permettre leur usage à grande échelle dans le monde industriel, est un enjeu essentiel. Le CEA-List s’y investit par ses travaux sur l’élaboration de méthodes ou techniques permettant de déployer des IA de confiance. Il s’implique aussi dans les réflexions menées par les différentes communautés réunies autour de ce thème qu’elles soient nationales (collectif Confiance.ai, groupe de travail Formal verification of AI, avec l’université Paris Saclay) ou internationales (AI Safety, Waise, SafeAI). Il participe également aux projets collaboratifs européens concentrés sur ce sujet, comme le projet Tailor, qui regroupe 54 partenaires, ou Starlight, dont il est le coordonnateur.
Le CEA-List a expérimenté récemment une approche prometteuse permettant la validation formelle de réseaux de neurones appliqués à la reconnaissance d’image. Pour en savoir plus lire actualité du 24/09/2020.
L’IA fonctionnait jusque-là essentiellement dans le cloud du fait de la prédominance des usages btc. L’arrivée de la technologie dans le monde industriel pourrait changer la donne. Dans ces contextes, les contraintes sur les temps de réponse et la confidentialité des données conduisent à privilégier le traitement des données en local, au plus près des équipements et des capteurs, plutôt qu’à travers Internet. Le défi qui se pose cependant est d’embarquer une IA consommatrice de puissance de calcul, d’espace mémoire et d’énergie dans un dispositif la plupart du temps contraint sur tous ces aspects. Et ce, sans dégrader les performances.
Spécialisé dans le développement de systèmes embarqués, le CEA-List a investi ce champ de recherche.
Du point de matériel, il a développé PNeuro et DNeuro, deux accélérateurs de réseaux de neurones adaptés aux architectures embarquées. Du point de vue algorithmique, ses travaux se concentrent dans un premier temps sur le développement, grâce à l’environnement N2D2, de modèles d’IA plus compacts. Mais son ambition est de parvenir à embarquer également la phase d’apprentissage en local pour renforcer l’efficacité des traitements et la sécurité des données.
Nous savons aujourd’hui réduire la taille des modèles d’IA d’un facteur 10 à 100. C’est tout un champ d’applications qui s’ouvre à nous. On peut, par exemple, envisager d’embarquer des fonctions de reconnaissance d’images dans un satellite afin qu’il traite les images en local et qu’il n’envoie que ce qu’on lui a demandé de chercher. C’est un mode de fonctionnement complètement différent qui peut s’avérer beaucoup plus économique.
Dolphin Design et le CEA-List ont lancé un laboratoire commun de R&D dédié aux systèmes embarqués. L’objectif est de proposer une offre dédiée au domaine de l’IoT (edge-IA), alliant flexibilité du logiciel, efficacité énergétique et performances, et construite autour de l’accélérateur PNeuro du CEA-List et des solutions de traitement de Dolphin Design.
Grâce à leur faible besoin en ressources de calcul, le logiciel LEN (Lifelong Exploratory Navigation) et l’algorithme EDNA* (Exploratory Digraph Navigation Using A*) peuvent s’embarquer dans des robots mobiles et leur permettre de naviguer et d’explorer l’espace de manière autonome. Les deux logiciels reposent sur des technologies de machine learning et satisfont aux contraintes de sûreté.
Une étude menée en 2019 par des chercheurs de l’université du Massachusetts à Amherst a fait grand bruit à sa sortie : elle montrait que l’apprentissage d’un des meilleurs modèles de traitement de langage naturel de l’époque (modèle Bert) générait une empreinte carbone équivalente à celle d’un passager effectuant un vol aller-retour d’une côte à l’autre des États-Unis. Par cette comparaison, l’étude révélait au grand jour l’impact environnemental de ce type d’IA.
Certes, le domaine du traitement du langage naturel est réputé pour manipuler des modèles particulièrement complexes. Pour autant, les besoins en capacités de traitement des IA décuplent chaque année, plus vite que l’amélioration de l’efficacité énergétique des calculateurs. Même si aujourd’hui l’empreinte carbone du deep learning reste encore minime par rapport à la quantité d’émissions générées par l’ensemble du secteur numérique, qui lui-même pèse pour près de 10 % des émissions mondiales, il est important que les acteurs du numérique se saisissent de la question, pour anticiper la croissance des usages et répondre aux interrogations de la société.
Leur défi est de proposer des approches frugales sur tout le cycle de développement et d’exploitation des IA, et, cela des données aux architectures matérielles. C’est ce à quoi s’attache le CEA-List. Ses recherches dans ce domaine rejoignent celles sur l’IA embarquée. Elles portent sur la conception de méthodes d’apprentissage requérant peu de données, l’élaboration d’environnements de conception d’applications moins énergivores et la conception d’architectures matérielles optimisées rejoignent celles sur les architectures d’IA embarquées.
Pour répondre aux besoins d’applications dans des domaines où il n’est pas possible de collecter de grandes quantités de données (ou pas souhaitable de partager des données), de nouvelles méthodes d’apprentissage émergent, qui utilisent des jeux de données restreints, voire pas de données réelles du tout (utilisation de données de synthèse générées par la simulation ou par des IA de type « générative », one ou few-shot learning, IA distribuée, etc.).
La maîtrise par l’Union européenne des technologies fondamentales – matérielles et logicielles – permettant de créer des services innovants à base d’IA et de ses données industrielles est une nécessité impérieuse. Elle est le gage de son indépendance économique et industrielle, de sa capacité à répondre efficacement aux défis de l’avenir et de sa protection contre la cybermenace. Elle est aussi le moyen de tracer cette troisième voie intermédiaire dans laquelle elle peut défendre une vision de l’IA, différente et porteuse de ses valeurs éthiques et sociétales.
De nombreux communautés, structures et instituts se sont mises en place aux échelons nationaux et européens à cet effet. Leur objectif est de mutualiser les efforts de recherche, renforcer les connaissances, former des jeunes chercheuses et chercheurs et développer des passerelles entre la recherche et l’industrie. Cela, dans le but de fonder un socle technologique permettant de sécuriser le développement et l’industrialisation à large échelle de solutions innovantes et de reprendre le leadership dans des domaines clés comme l’IA de confiance.
Le CEA-List est partie prenante de ces communautés nationales et européennes. Il a rejoint notamment le programme national Confiance.ai, lancé en 2021 dans le cadre du Grand Défi « Sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle » dont l’ambition est l’industrialisation de l’intelligence artificielle dans les produits et services critiques. Le CEA-List contribuera au développement de solutions souveraines pour l’IA de confiance.