Les technologies
L’« AI Edge Computing » et l’ « AI Spatially accelerator » sont deux technologies utilisées dans le domaine de l’intelligence artificielle (IA), mais elles servent des objectifs différents et ont des capacités différentes.
L’« AI Edge Computing » fait référence à la pratique consistant à traiter et à analyser des données sur des appareils distribués d’un réseau d’information (instrumentation multi-canal, voiture autonome), tels que des smartphones, des capteurs ou des appareils IoT, plutôt que d’envoyer ces données vers un serveur centralisé ou un cloud pour traitement. Son avantage est la réduction de la latence, augmentant l’efficacité et améliorant la confidentialité/sécurité en gardant les données plus proches de la source. Elle permet également la réduction de l’information en sélectionnant les données utiles à l’application.
D’autre part, les « AI Spatially accelerator » sont des dispositifs matériels spécialisés conçus pour accélérer le traitement de certains types de charges de calcul d’IA. Ces appareils utilisent un traitement parallèle et d’autres techniques pour effectuer des calculs plus rapidement et plus efficacement que les CPU ou GPU à usage général. Ils sont particulièrement utiles pour les tâches impliquant le traitement de grandes quantités de données réparties, telles que la reconnaissance d’images, le traitement du langage naturel et la conduite autonome. Dans notre cas en instrumentation scientifique, c’est la reconnaissance automatique des phénomènes physiques étudiés.
En résumé, alors que l’« AI Edge Computing » se concentre sur la distribution de la puissance de calcul plus près de la source de données, les « AI Spatially accelerator » sont conçus pour accélérer des types spécifiques d’IA, les charges en calcul impliquant le traitement de données réparties.
Plusieurs technologies associées à l’IA embarquée se développent :
Appareils périphériques : il s’agit des appareils distribués en réseau, tels que les smartphones, les capteurs, les appareils IoT et d’autres systèmes embarqués qui génèrent et collectent des données.
Passerelles Edge : il s’agit des appareils intermédiaires qui connectent les appareils Edge au cloud ou au centre de données. Ils effectuent généralement un prétraitement des données avant de les envoyer au « cloud » pour un traitement ultérieur.
Serveurs Edge : Ce sont les serveurs situés sur des nœuds du reseau d’instrument, qui traitent les données localement et fournissent des capacités d’analyse et de prise de décision en temps réel.
Analyse Edge : il s’agit du processus d’analyse des données locale sur l’appareil ou le serveur Edge, à l’aide d’algorithmes d’apprentissage automatique pour fournir des informations et une capacité de prise de décision en temps réel.
Plates-formes Edge AI : il s’agit de plates-formes logicielles qui permettent le développement et le déploiement d’applications d’IA embarquées, en s’appuyant souvent sur des framework d’apprentissage automatique comme TensorFlow, PyTorch ou Keras.
Sécurité Edge : Il s’agit de l’ensemble de technologies et de pratiques conçues pour sécuriser les périphériques, les passerelles et les serveurs Edge contre les cyberattaques et les violations de données.
Dans l’ensemble, l’objectif de l’IA edge computing est de rapprocher la puissance de calcul et l’intelligence artificielle de la source de données, permettant ainsi des capacités d’analyse et de prise de décision en temps réel sans utiliser les ressources du cloud ou d’un centre de données.
Il existe plusieurs composants associés à l’IA embarquée, notamment :
Système sur puce (SoC) : les SoC sont des circuits intégrés qui combinent plusieurs composants, tels que des processeurs, de la mémoire et des interfaces d’entrée/sortie, sur une seule puce. Les SoC sont généralement utilisé dans les systèmes distribuée en raison de leur faible consommation d’énergie et leur petite taille.
FPGA (Field-Programmable Gate Arrays) : les FPGA sont des dispositifs électroniques qui peuvent être reconfigurés après fabrication pour exécuter des fonctions spécifiques. Ils sont souvent utilisés dans les serveurs edge et des passerelles pour accélérer les charges de calcul d’IA et obtenir une faible latence.
Circuits intégrés spécifiques à l’application (ASIC) : les ASIC sont des circuits intégrés conçus pour exécuter des fonctions spécifiques, telles que la reconnaissance d’images ou de la parole, le traitement du signal. Les ASIC sont généralement utilisé dans les électroniques frontales, au plus près des données pour accélérer les calculs d’IA.
Technologies de mémoire : les technologies de mémoire, telles que la mémoire flash et la mémoire à large bande passante (HBM), sont utilisées dans les périphériques et les serveurs Edge pour stocker et récupérer des données rapidement et efficacement.
Technologies de capteurs : les technologies de capteurs, telles que les accéléromètres, les gyroscopes et les caméras, sont utilisées dans les appareils embarqués pour collecter des données et les intégrer aux algorithmes d’IA.
Dans l’ensemble, ces composants électroniques jouent un rôle essentiel dans le developpement de l’IA embarquée en fournissant la puissance de traitement, la mémoire, la connectivité et les capacités de collecte de données nécessaires. L’objectif final est d’effectuer une analyse des données pour une prise de décision en temps réel.
On peut presenter différents composants representatifs des technologies d’IA embarquée :
NVIDIA Jetson : NVIDIA Jetson est une famille de plates-formes informatiques d’IA embarquées qui permettent le traitement en temps réel la résolution des algorithmes d’IA embarquée. La plate-forme Jetson comprend une gamme de SoC et de kits de développement, tels que Jetson Nano, Jetson Xavier NX et Jetson AGX Xavier.
Intel Movidius : Intel Movidius est une famille d’accélérateurs d’intelligence artificielle conçus pour effectuer des tâches de vision par ordinateur et d’apprentissage profond en Edge Computing. La plateforme Movidius comprend une gamme de SoC, tels que Myriad X et Myriad 2.
Google Edge TPU : Google Edge TPU est un accélérateur d’intelligence artificielle conçu pour effectuer des inférences d’apprentissage automatique en Edge Computing. Le Edge TPU est disponible en version autonome sur puce ou dans le cadre de la carte de développement Coral et de l’accélérateur USB Coral.
Xilinx Versal : Xilinx Versal est une famille de plates-formes adaptatives d’accélération de calcul (ACAP) qui combine la flexibilité des FPGA avec les performances des ASIC. La plateforme Versal comprend une gamme de SoC et de kits de développement conçus pour accélérer les calculs d’IA embarquée.
Qualcomm Snapdragon : Qualcomm Snapdragon est une famille de SoC conçus pour être utilisés dans les smartphones, les appareils IoT et d’autres appareils autonome. Snapdragon comprend une gamme de processeurs, comme le Snapdragon 888 et le Snapdragon 7c, qui sont optimisés pour les calculs d’IA.
Ces composants commerciaux, ainsi que d’autres, jouent un rôle essentiel en permettant le développement et le déploiement de solutions d’IA embarquée, fournissant la puissance de traitement nécessaire, les capacités de mémoire, de connectivité et l’accélération de calcul de l’IA.