Définition: Intelligence Artificielle embarquée

Définition

L’intelligence artificielle embarquée (IA embarquée) est un type d’IA qui est intégrée à des systèmes matériels ou logiciels pour leur permettre de fonctionner de manière autonome et intelligente. Elle reste basée sur les architectures d’apprentissage profond. L’apprentissage est effectué sur des calculateurs puissants (Data Center) et le résultat de l’apprentissage est intégré à du matériel distribué. Contrairement à l’IA centralisée, qui est souvent hébergée sur des serveurs distants et utilise des réseaux pour communiquer avec d’autres systèmes, l’IA embarquée est conçue pour être autonome et indépendante.

Les applications courantes de l’IA embarquée incluent les voitures autonomes, les drones, les robots industriels et les appareils médicaux. Ces systèmes doivent être capables de prendre des décisions en temps réel en fonction des données qu’ils reçoivent de leur environnement et des capteurs qui les entourent. Elle est donc souvent conçue pour être rapide et efficace, en utilisant des algorithmes optimisés pour les ressources limitées des systèmes embarqués.

Dans le domaine de l’instrumentation scientifique, il s’agit d’optimiser les mesures, de réduire la quantité de données à transmettre et d’analyser au vol les résultats de l’expérience. Ce sont des développements spécifiques en termes de choix matériel, de choix d’architecture de réseaux de neurones et de méthodes d’intégration.

L’IA embarquée est en constante évolution, avec l’émergence de nouvelles technologies et de nouveaux algorithmes qui permettent de concevoir des systèmes encore plus intelligents et autonomes. Cependant, l’IA embarquée soulève également des questions éthiques et de sécurité, notamment en ce qui concerne la responsabilité des systèmes autonomes dans les décisions qu’ils prennent. C’est ce qu’on appelle l’IA Responsable.

Les méthodes d’intégration

Il y a deux façons d’intégré une IA dans un système embarqué. Cela dépend du matériel utilisé. En se basant sur un processeur, on implémentera l’algorithme sous forme logiciel. C’est l’AI Edge Computing. En décrivant le réseau sous forme de firmware sur une plateforme FPGA ou un ASIC, les calculs seront effectués plus rapidement. C’est l’accélération spatial (Spatially Accelerator ou AI Fully Firmware)

AI Edge Computing : L’edge computing est une architecture informatique distribuée dont sa puissance de traitement est décentralisée et autonome. Il s’agit de traiter les informations de façon directe par l’instrument qui les produit. Dans le cas de l’AI Edge Computing, il s’agit d’utiliser un coprocesseur spécialisé dans la résolution des calculs complexes des réseaux de neurones associé à un processeur. Cela reste du développement logiciel embarqué. Les technologies actuelles comprennent les multiprocesseurs massivement paralleles (MPPA), les GPU embarqués (type famille nVidia Jetson), les systèmes on module (type ACAP) et les composants spécialisés (ASICs) comme le TPU de Google, le KPU (Kendryte 510) de SiPeed.

Un « IA spatially accelerator » est un accélérateur matériel spécialisé conçu pour accélérer les performances des charges de calcul des algorithmes d’intelligence artificielle (IA). Le mot « spatial » fait référence à l’utilisation des fonctions matérielles intégré comme de la Brams, des Look-Up Table, des multiplieurs pour réaliser le calcul direct de la réponse d’un réseau de neurone sans utiliser un processeur.

Les  IA spatially accelerator sont optimisés pour les calculs complexes requis par les algorithmes d’IA, tels que les réseaux de neurones convolutionnels (CNN) utilisés pour la reconnaissance d’images, la détection d’objets et la segmentation. Ils sont donc construits à l’aide de matrices de portes programmables (FPGA), d’unités de traitement (DSP) ou de circuits intégrés spécifiques à l’application (ASIC), et peuvent être intégrés dans une variété d’appareils, des téléphones mobiles aux centres de données.

L’utilisation d’ IA spatially accelerator peut considérablement accélérer les performances des applications d’IA, tout en réduisant la consommation d’énergie et les coûts associés à l’exécution de ces charges de calcul. Alors que les applications d’IA orientées spatialement deviennent de plus en plus importantes dans des domaines tels que les véhicules autonomes et la surveillance de l’environnement, les  IA spatially accelerator sont susceptibles de devenir une technologie de plus en plus importante pour construire des instruments scientifiques plus performants, moins énergivores et avec un temps d’analyse des données réduites.