Nouvelle architecture permettant 1 PetaOp/s sur une puce
L’implémentation de la nouvelle architecture pour IA, TSP (Tensor Streaming Processor), est selon la société, également capable d’effectuer jusqu’à 250 trillions d’opérations en virgule flottante par seconde (FLOPS).
«Les plus fabricants de GPU les plus en pointe ont indiqué à leurs clients qu’elles espéraient pouvoir offrir une performance PetaOp / s dans les prochaines années alors que Groq l’annonce dès aujourd’hui et établit ainsi une nouvelle norme de performance», déclare Jonathan Ross, Co-fondateur et PDG de Groq. « L’architecture Groq pour applications IA est beaucoup plus rapide que toutes les autres solutions disponibles pour l’inférence, en termes de temps de latence réduit et d’inférences par seconde. Nos interactions avec les premiers clients le confirment. »
Selon la société, l’architecture offre un nouveau paradigme permettant d’obtenir à la fois une flexibilité de calcul et un parallélisme massif sans surcharge de synchronisation des architectures GPU et CPU traditionnelles. Cette architecture peut prendre en charge les modèles d’apprentissage automatiques traditionnels et nouveaux et est actuellement utilisée sur les sites de clients sur des systèmes x86 et non x86.
Inspirée par un esprit d’abord logiciel, la nouvelle architecture de traitement plus simple est conçue spécifiquement pour les exigences de performance de la vision par ordinateur, de l’apprentissage automatique et d’autres charges de travail liées à l’IA. La planification de l’exécution se fait par logiciel, libérant ainsi des fontionalités hardware qui seraient autrement dédiées à l’exécution d’instructions dynamique.
Le contrôle strict fourni par l’architecture permet un traitement déterministe particulièrement utile pour les applications où la sécurité et la précision sont primordiales. Comparée aux architectures traditionnelles complexes basées sur des processeurs, des GPU et des FPGA, la puce simplifie également la qualification et le déploiement.
« La solution Groq est idéale pour le traitement « deep learning » des inférences pour un large éventail d’applications », explique Dennis Abts, architecte en chef chez Groq, « mais même au-delà de cette énorme opportunité, la solution Groq est conçue pour une large gamme de charges de travail. Ses performances couplées à sa simplicité en font une plate-forme idéale pour toutes les charges de travail hautes performances, intensives en données ou en calcul. «
Pour plus d’informations, reportez-vous au livre blanc de la société sur la nouvelle architecture: « Tensor Streaming Architecture Delivers Unmatched Performance for Compute-Intensive Workloads.«
Lire également:
Le marché des processeurs IA dépassera les 20 milliards de dollars en 2019
Related articles:
Groq says it will reveal potent artificial intelligence chip in 2018
New Nvidia GPU architecture achieves ‘Holy Grail’ of computer graphics
Steep growth of AI chip market will produce new winners
Si vous avez apprécié cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à :
