Cerebras Systems a dévoilé la plus grande puce d’IA basée sur le nœud de processus 7 nm, le Wafer Scale Engine 2. Succédant au WSE de première génération, le WSE2 est une puce monolithique singulière qui présente une gamme de nouvelles fonctionnalités, notamment le plus grand nombre de transistors et le plus grand nombre de cœurs jamais présentés sur une puce.
Cerebras Wafer Scale Engine est une puce IA massive dotée de 2,6 billions de transistors et de près d’un million de cœurs
Le Cerberas Wafer Scale Engine 2 comporte deux parties, la première est la puce elle-même et la seconde est le système CS-2 dans lequel elle sera en fait présentée. Nous le ferons avec la puce elle-même qui a des chiffres insensés. Pour commencer, le WSE-2 est la plus grande puce AI jamais fabriquée. Il est basé sur le nœud de processus 7 nm de TSMC et a un taux de rendement de 100%, ce qui est assez impressionnant. D’une part, si vous utilisez la plaquette entière comme matrice, vous obtiendrez un rendement de 100% si la conception peut absorber les défauts ou de 0% si elle ne le peut pas.
La puce Cerebras Wafer Scale Engine est par rapport au GPU A100 AI de NVIDIA.
Pour en venir aux détails techniques, le Cerebras WSE-2 mesure 46 225 mm2, soit 56 fois plus grand que le plus grand GPU jamais conçu, le NVIDIA Ampere A100. La puce comporte près d’un million de cœurs (850000 pour être précis), une augmentation de 123x par rapport à l’Ampère A100, 40 Go de mémoire sur puce (SRAM) contre 40 Mo sur l’Ampère A100, 20 pétaoctets par seconde de bande passante mémoire et 220 pétabits par seconde de bande passante de structure d’interconnexion (maillage 2D).
Spécifications de Cerebras Wafer Scale Engine 2
| Nom de la puce | Cerebras WSE-2 | Cerebras WSE-1 | NVIDIA A100 | Cerebras Advantage (par rapport à A100) |
|---|---|---|---|---|
| Process Node | TSMC 7 nm | TSMC 16 nm | TSMC 7 nm | N/A |
| Taille de la puce | 46 225 mm2 | 46 225 mm2 | 826mm2 | 56 X |
| Cœurs | 850 000 | 400 000 | 6 912 + 432 | 123 X |
| Mémoire sur puce | 40 Go | 18 Go | 40 Mo | 1 000 X |
| Bande passante mémoire | 20 Po/s | 9 Po/s | 1,55 Go/s | 12 862 X |
| Fabric Bandwidth | 220 Pb/s | 100 Pb/s | 600 Go/s | 45 833 X |
| Prix | TBC | ~ 2 millions de dollars américains | 11 à 15 000 dollars américains | N/A |
Quant aux cœurs du Cerebras WSE-2, ils sont optimisés par IA (SLAC ) et sont adaptés au traitement de l’IA. Par rapport à la génération précédente ( Cerebras WSE-1 ), le WSE-2 de Cerebras offre une augmentation de 2,16 fois la densité des transistors et présente plus de deux fois le nombre de cœurs.
Le WSE-2 alimentera le Cerebras CS-2, l’ordinateur IA de l’entreprise, qui fait plus que doubler les performances du CS-1 de première génération de Cerebras. Fabriqué par Taiwan Semiconductor Manufacturing Company (TSMC) sur son nœud 7 nm, le WSE-2 fait plus que doubler toutes les caractéristiques de performance de la puce-le nombre de transistors, le nombre de cœurs, la mémoire, la bande passante mémoire et la bande passante de la structure-par rapport à la première génération WSE.
“TSMC a établi un partenariat de longue date avec les innovateurs de l’industrie pour fabriquer des processeurs avancés avec des performances de pointe. Nous sommes heureux du résultat de notre collaboration continue avec Cerebras Systems dans la fabrication du Cerebras WSE-2 sur notre processus 7 nm, une autre réalisation extraordinaire et une étape importante pour le développement à l’échelle de la tranche après l’introduction du Cerebras 16 nm WSE il y a moins de deux ans.”
Sajiv Dalal, vice-président directeur de la gestion d’entreprise, TSMC Amérique du Nord
Passant au système CS-2 alimenté par Cerebras WSE-2, nous examinons un système de 26 pouces de hauteur et composé de 15 unités de rack (15U). Le système comprend 12 voies 100 GbE, un système personnalisé refroidi à l’eau solution via une configuration en boucle fermée et douze blocs d’alimentation standard dans une configuration redondante 9 + 3 qui fournit jusqu’à 23 000 watts de puissance au système CS-2. Quelques mots de Cerebras sur leur solution de refroidissement:
Pour fournir la puissance de refroidissement dont le WSE-2 a besoin tout en simplifiant l’intégration du centre de données, le CS-2 est refroidi par eau en interne. L’eau circule à travers une boucle fermée, entièrement autonome dans le système. Comme un PC de jeu géant, le CS-2 utilise de l’eau pour refroidir le WSE-2, puis de l’air pour refroidir l’eau.
Le coin supérieur droit du système est pour le mouvement de l’eau. Deux pompes remplaçables à chaud font passer l’eau à travers un collecteur à l’arrière du WSE-2, refroidissant la tranche et réchauffant l’eau. De l’eau chaude est ensuite pompée dans un échangeur de chaleur. Cet échangeur de chaleur présente une grande surface pour l’air froid insufflé par les quatre ventilateurs échangeables à chaud au bas du CS-2. Ces ventilateurs déplacent l’air de l’allée froide, refroidissent l’eau chaude via l’échangeur de chaleur et évacuent l’air chaud dans l’allée chaude.
Actuellement, il n’y a pas de mot sur le prix du Cerberas CS-2 ou du WSE-2, mais le Wafer Scale Engine de première génération avait un prix d’environ 2 millions de dollars américains.