L’exploitation de l’IA soulève des questions fondamentales en termes de robustesse, sûreté, explicabilité et sobriété qui freinent son déploiement dans les systèmes autonomes ou en proximité des usagers, notamment pour des fonctions critiques ou en mode embarqué. Le CEA-List, qui travaille sur ces sujets depuis plusieurs années, a engagé un programme de recherche ambitieux pour faciliter le développement responsable d’IA pour répondre à ces enjeux.
L’IA ouvre des perspectives prometteuses au monde industriel pour enrichir et optimiser ses produits et ses processus. Pour autant, il reste des freins importants à un large et rapide déploiement de la technologie. Celle-ci ne fournit pas, en effet, l’ensemble des garanties exigées, en termes de robustesse, sûreté, confidentialité et qualité, pour s’intégrer dans des systèmes de confiance en conformité avec les recommandations nationales et européennes.
En outre, l’approche actuelle, qui consiste à ne pas se soucier de la consommation énergétique des applications d’IA, devient difficile à tenir compte tenu des enjeux environnementaux, a fortiori dans les milieux à consommation énergétique contraints tels que les systèmes embarqués.
Le CEA-List figure parmi les premiers acteurs de l’écosystème numérique à avoir souligné l’importance des enjeux liés à l’IA de confiance et à l’IA embarquée dès 2017. Il est ainsi à l’origine de la construction et de l’animation d’ateliers spécialisés dans trois grandes conférences internationales en IA et en ingénierie de la sûreté : AI Safety, Waise et SafeAI.
Aujourd’hui, le CEA-List poursuit son engagement par le biais de trois programmes de recherche dédiés à l’IA pour le milieu industriel. Son ambition à travers eux est de fournir à tous les acteurs du marché les moyens d’effectuer un développement responsable de systèmes d’IA.
Ce programme a trois objectifs :
En savoir plus sur l’IA de confiance, frugale, embarquée et distribuée
Le CEA-List travaille au déploiement d’une infrastructure ouverte fédérant les outils issus des travaux des équipes de recherche pour la conception, la validation et le déploiement d’IA.
En savoir plus sur les environnements de développement
La cible est ici le développement d’applications à base d’IA dans des domaines stratégiques, telles que l’industrie du futur, la mobilité, la santé, la cybersécurité, où le CEA-List possède une expertise.
En savoir plus sur les usages
Le CEA-List dispose d’une recherche solide et éprouvée en confiance logicielle, dans les systèmes embarqués et en IA. Dans ce dernier domaine, son expertise dans des segments porteurs comme la vision par ordinateur ou le traitement automatique du langage est reconnue et ses applications riches et largement diffusées.
En savoir plus sur les outils d’IA :
Sa bonne connaissance des besoins industriels et son expertise dans les domaines applicatifs sensibles comme la santé, la cybersécurité ou la mobilité renforcent la légitimité du CEA-List à se positionner comme une référence sur ces sujets.
En savoir plus sur les domaines applicatifs
L’IA de confiance et l’IA embarquée sont deux thèmes de recherche menés en propre, en complément des projets collaboratifs et des partenariats industriels.