Un aperçu d'Axelera AI : L'accélérateur matériel d'IA en périphérie

Pendant longtemps, l'IA a été une affaire de "cloud-first". Tout le travail de calcul intensif se déroulait sur d'énormes serveurs distants. Mais cela commence à changer. De plus en plus, nous avons besoin que l'IA fonctionne à la "périphérie" (edge), en traitant les données directement sur l'appareil où elles sont collectées. Cette méthode est plus rapide, plus privée et fonctionne même sans une connexion Internet stable.

Et c'est exactement le problème qu'une entreprise comme Axelera AI essaie de résoudre. Ils construisent le matériel et les logiciels spécialisés qui font de l'IA en périphérie non seulement une idée intéressante, mais une réalité puissante. Si vous êtes curieux de savoir ce qu'ils font, comment leur technologie fonctionne, et si elle pourrait être la bonne pièce du puzzle pour votre projet, vous êtes au bon endroit. Nous allons décortiquer la plateforme Axelera AI, en examinant sa technologie de base, ses domaines d'application privilégiés et certains des aspects pratiques à considérer avant de vous lancer.

Qu'est-ce qu'Axelera AI ?

Au fond, Axelera AI est une entreprise axée sur une plateforme matérielle et logicielle complète pour l'intelligence artificielle. Ils ciblent spécifiquement la vision par ordinateur et les applications d'IA générative qui s'exécutent en périphérie. Leur objectif est assez simple : rendre l'IA plus accessible avec des solutions puissantes et à faible consommation d'énergie qui ne coûtent pas une fortune, surtout si on les compare aux GPU énergivores auxquels nous sommes habitués.

Axelera AI a commencé comme un projet d'incubation de Bitfury et du célèbre groupe de nanotechnologie imec. Ils sont basés au Centre d'Innovation en IA du High Tech Campus d'Eindhoven, ce qui semble être l'endroit parfait pour une startup de deep-tech. Il ne s'agit pas seulement d'une startup avec un bon discours. L'entreprise a levé des fonds importants, dont un tour de table de série B de 68 millions de dollars et des subventions majeures, ce qui montre une réelle confiance dans leur approche de l'informatique en périphérie.

La technologie derrière Axelera AI

La performance d'Axelera AI ne repose pas simplement sur l'utilisation de composants standards. Toute leur plateforme est construite autour d'une architecture personnalisée conçue spécifiquement pour l'IA. Examinons les éléments clés qui font tout fonctionner.

L'unité de traitement IA Metis (AIPU)

Vous pouvez considérer l'AIPU Metis comme le cerveau de toute l'opération. Ce n'est pas juste un CPU ou un GPU modifié. C'est un processeur nativement conçu pour l'IA, construit pour une seule chose : exécuter les tâches d'inférence IA aussi rapidement que possible. Avec une performance de départ de 214 TOPS (Téra-opérations par seconde), une seule puce Metis est assez puissante pour gérer plusieurs flux vidéo haute définition à la fois, ce qui la rend idéale pour les tâches exigeantes en temps réel.

Titre Alt : L'unité de traitement IA Metis d'Axelera AI Texte Alt : Une image en gros plan de l'AIPU Metis d'Axelera AI, un composant clé pour l'accélération de l'IA en périphérie.

Le calcul numérique en mémoire (D-IMC)

C'est là que les choses deviennent vraiment intéressantes. Les ordinateurs traditionnels déplacent constamment des données entre le processeur et la mémoire. Ce va-et-vient constant ralentit les choses et consomme beaucoup d'énergie. Le calcul numérique en mémoire change la donne en effectuant les calculs là où les données sont stockées, ce qui réduit considérablement ces mouvements de données.

Le résultat ? Une consommation d'énergie beaucoup plus faible, de meilleures performances et une solution plus rentable. C'est un choix de conception fondamental qui leur permet de concentrer autant de puissance de traitement dans une petite puce qui ne surchauffe pas.

Titre Alt : Comment fonctionne le calcul numérique en mémoire d'Axelera AI Texte Alt : Une infographie expliquant les avantages du calcul numérique en mémoire (D-IMC) utilisé par Axelera AI pour un traitement efficace de l'IA en périphérie.

Le SDK Voyager

Un excellent matériel ne représente que la moitié du travail. Le SDK Voyager est la boîte à outils logicielle qui permet aux développeurs d'exécuter leurs modèles d'IA sur le matériel d'Axelera. Pour faciliter la vie, le SDK est livré avec un "Model Zoo" qui contient plus de 100 modèles pré-entraînés et optimisés prêts à l'emploi, couvrant un grand nombre de tâches courantes de vision par ordinateur.

Produits et cas d'usage clés

Alors, comment toute cette technologie se transforme-t-elle en quelque chose que vous pouvez réellement utiliser ? Axelera AI conditionne sa plateforme en accélérateurs matériels pour les entreprises qui construisent des produits physiques intégrant une IA puissante.

Accélérateurs matériels

Ils vendent leur technologie sous différentes formes pour s'adapter à différents projets. Chacune est conçue pour un type d'intégration spécifique, des petits gadgets embarqués aux grands ordinateurs industriels.

Produit	Facteur de forme	Caractéristique clé	Idéal pour
Carte Metis M.2	M.2	Compacte, haute performance (214 TOPS)	Systèmes embarqués, petits appareils, drones.
Metis M.2 Max	M.2	Performance 2x pour les LLM/VLM	Applications en périphérie plus gourmandes en calcul.
Carte Metis PCIe	PCIe	Carte standard pour stations de travail/serveurs	PC industriels, surveillance multi-caméras.

Applications concrètes

Ce type de matériel n'est pas destiné à faire tourner votre logiciel de comptabilité ; il est conçu pour donner aux machines la capacité de voir et de comprendre leur environnement. Voici quelques secteurs où la technologie d'Axelera AI est parfaitement adaptée :

• Fabrication industrielle : Sur une chaîne de montage, leurs cartes peuvent alimenter des systèmes qui effectuent des contrôles qualité en temps réel, prédisent quand une machine a besoin de maintenance ou surveillent la sécurité sur le lieu de travail (par exemple, en vérifiant si les travailleurs portent leur casque).

• Commerce de détail : Imaginez des systèmes de caisse intelligents qui identifient automatiquement le contenu de votre panier, des caméras qui suivent les stocks en rayon ou des outils d'analyse qui observent les flux de clients pour optimiser l'agencement d'un magasin.

• Sécurité : Parce qu'elle peut gérer de nombreux flux vidéo simultanément, cette technologie est parfaite pour les systèmes de surveillance avancés capables de détecter des menaces, de remarquer des activités inhabituelles ou de suivre des objets sur plusieurs caméras en temps réel.

• Villes intelligentes : Les possibilités sont assez vastes ici, allant de la gestion du trafic et de l'amélioration de la sécurité publique à la mise en place d'infrastructures plus intelligentes dans toute une ville.

Cette vidéo montre comment la technologie d'Axelera AI est appliquée dans le commerce de détail pour améliorer l'expérience client et l'efficacité opérationnelle.

Considérations pratiques : Axelera AI est-il fait pour vous ?

Les chiffres de performance sont impressionnants, mais cette plateforme est conçue pour un type d'utilisateur très spécifique. Ce n'est pas quelque chose que l'on installe comme une application ; cela nécessite de réelles compétences techniques et une planification approfondie. Avant de vous lancer, il est important de comprendre certains des défis que vous pourriez rencontrer.

Maturité logicielle et prise en charge des modèles

D'après un test pratique, le logiciel, bien que puissant, est encore en cours de développement. Le flux de travail actuel est "centré sur le pipeline", ce qui est similaire à des outils comme NVIDIA DeepStream. Cela signifie que vous construisez un flux à partir de blocs de traitement préfabriqués au lieu de simplement déployer directement un modèle PyTorch ou ONNX standard.

Cela fonctionne bien pour les tâches courantes, mais peut sembler un peu rigide si vous construisez un modèle d'IA très personnalisé avec plusieurs étapes. L'article a également souligné que l'outil "Deploy" pour convertir des modèles personnalisés peut être un peu délicat, avec une documentation et des messages d'erreur qui ne sont pas toujours très utiles. Pour les équipes qui ne disposent pas d'un grand nombre d'ingénieurs en IA, cela pourrait signifier une courbe d'apprentissage abrupte.

Compatibilité matérielle et configuration

Ce n'est pas une solution "plug-and-play" pour toutes les machines. Le même testeur a constaté que le matériel fonctionnait parfaitement sur un PC basé sur Intel, mais n'était même pas détecté sur un système AMD ou NVIDIA Jetson. Vous ne pouvez donc pas simplement l'insérer dans n'importe quel ordinateur ; vous devez planifier soigneusement votre configuration matérielle pour vous assurer que tout est compatible.

L'alternative : l'IA logicielle pour les flux de travail métier

Axelera AI s'adresse clairement aux entreprises qui intègrent l'IA dans le matériel. Mais que faire si votre problème est différent ? Et si vous voulez simplement ajouter de l'IA à vos flux de travail métier, comme le support client, l'IT interne, ou les ventes ? C'est un tout autre domaine, qui nécessite une approche axée sur le logiciel.

C'est là qu'un outil comme eesel AI est plus adapté. Au lieu de vous transformer en ingénieur matériel, eesel se connecte directement aux outils que votre équipe utilise déjà tous les jours, comme Zendesk, Slack, ou Confluence. Vous n'avez pas besoin de penser aux voies PCIe ou aux pipelines de conversion de modèles. Avec eesel AI, vous pouvez être opérationnel en quelques minutes. C'est une plateforme en libre-service qui se connecte à votre service d'assistance et à vos bases de connaissances avec des intégrations simples, ce qui en fait un choix beaucoup plus pratique pour les équipes de support et d'IT qui ont besoin d'une solution maintenant, pas dans six mois.

Tarifs

Axelera AI est d'une transparence rafraîchissante concernant ses tarifs. Ils vendent du matériel directement depuis leur boutique en ligne et via des partenaires, ce qui est un changement agréable par rapport au modèle habituel "contactez le service commercial pour un devis" que l'on voit dans le monde des semi-conducteurs.

Les prix peuvent changer, mais vous pouvez généralement trouver leurs principaux produits disponibles à l'achat direct sur leur site :

• Carte accélératrice Metis M.2 AI Edge : Leur option la plus compacte, généralement tarifée pour les développeurs de systèmes embarqués.

• Carte accélératrice Metis PCIe AI : La carte standard pour les PC et les serveurs.

• Systèmes d'évaluation : Ils travaillent également avec des partenaires comme Dell et Lenovo pour offrir des systèmes complets et préconfigurés qui incluent l'ordinateur et la carte accélératrice, prêts à l'emploi dès la sortie de la boîte.

Bien sûr, pour les commandes importantes ou les configurations d'entreprise personnalisées, vous devrez probablement toujours contacter leur équipe commerciale pour obtenir un devis direct.

Axelera AI : un matériel puissant pour la bonne équipe

Alors, quel est le verdict sur Axelera AI ? C'est une plateforme matérielle sérieusement puissante et efficace pour les entreprises qui travaillent à la pointe de... l'informatique en périphérie. Son rapport performance/watt est excellent, ce qui en fait un choix fantastique pour la vision par ordinateur en temps réel dans des domaines exigeants comme l'automatisation industrielle, le commerce de détail et la sécurité.

Mais toute cette puissance a un inconvénient. Cette plateforme est vraiment destinée aux équipes d'ingénieurs expérimentés qui sont à l'aise avec l'intégration matérielle et la navigation dans un écosystème logiciel encore en pleine croissance. C'est un outil spécialisé pour un travail spécialisé.

Prêt à automatiser vos flux de travail sans le casse-tête matériel ?

Si vous voulez les avantages de l'IA sans avoir à construire un appareil personnalisé à partir de zéro, il existe une voie beaucoup plus simple.

Au lieu de déployer des modèles d'IA sur une carte physique, vous pouvez déployer un agent IA directement dans votre service d'assistance. eesel AI est une plateforme entièrement en libre-service qui apprend de vos anciens tickets, documents internes et bases de connaissances pour gérer le support de première ligne, trier les tickets, et en gros donner des super-pouvoirs à vos agents. Vous pouvez même simuler ses performances sur vos propres données passées pour voir le retour sur investissement potentiel. Mieux encore, vous pouvez être opérationnel en quelques minutes, pas en quelques mois.

Essayez eesel AI gratuitement dès aujourd'hui.