La formation de modèles d'intelligence artificielle plus ou moins avancés nécessite souvent des moyens importants. Les modèles complexes signifient des millions de dollars en infrastructure. IBM a créé une technologie pour réduire le coût et le temps de formation. Et, bien sûr, économisez de l'argent.
La société a présenté un prototype d'un nouveau coprocesseur IA 7 nm économe en énergie. L'utilisation de la puce peut multiplier par 7 l' efficacité des systèmes d'entraînement. Voitures autonomes, synthèse vocale, vision industrielle, développement de médicaments, drones de livraison - les applications de l'IA sont aujourd'hui infinies. Pour mettre en œuvre ces projets à grande échelle, de telles technologies sont nécessaires.
Dans la plupart des cœurs de calcul, processeurs et SoC, affûtés pour l'apprentissage automatique, les modes low-bit sont le plus souvent utilisés: FP16 et INT8. La précision 8 bits est simplement redondante dans ce cas. IBM a développé un prototype d'une nouvelle puce IA pour ces systèmes périphériques.
Qu'est-ce qui est intéressant dans le coprocesseur?
Puce à 4 cœurs. La
puce source est conçue à l' aide d'une technologie de processus 7 nm. Différents scénarios d'utilisation de la puce sont possibles:
- En mode 4 bits pour les tâches courantes. La technologie vous permet d'obtenir des résultats comparables au mode 8 bits.
- En mode 2 bits pour les tâches d'inférence. Dans ce cas, la précision diminue parfois de quelques pour cent, mais les performances sont 4 fois supérieures par rapport au mode 8 bits.
- Mode hybride pour différents types de tâches.
Principales caractéristiques de la puce:
- Technologie de processus 7 nm basée sur EUV;
- utilisation du format hybride FP8 avec HFP8;
- Gestion de l'alimentation par IA pour les accélérateurs matériels;
- adaptation à des charges élevées en permanence, ce qui garantit des performances élevées des applications.
Source
Champ d'application de la nouveauté:
- formation de modèles à grande échelle dans le cloud;
- améliorer la sécurité et la confidentialité;
- augmentez la puissance de calcul dans les environnements hybrides sans dépenser trop d'énergie.
IBM estime que le coprocesseur sera applicable à la vision industrielle, aux systèmes de reconnaissance vocale et au traitement du langage naturel pour diverses applications cloud afin de détecter les transactions financières frauduleuses. De plus, les développeurs de véhicules autonomes, de systèmes de vidéosurveillance et de téléphones portables peuvent bénéficier de l'utilisation de la puce.
