Quelle est l'échelle réelle d'un superpod TPU ? L'échelle réelle d'un superordinateur n'est pas définie par le nombre de processeurs que vous pouvez placer dans une pièce ; elle est définie par le nombre de processeurs qui peuvent penser efficacement comme un seul. Cette distinction est le moteur derrière Ironwood, notre unité de traitement tensoriel (TPU) de septième génération, et l'architecture du superpod TPU. Sur le papier, l'échelle d'un superpod Ironwood est impressionnante : il peut évoluer jusqu'à 9 216 puces dans un seul domaine interconnecté. Mais la véritable échelle réside dans le tissu qui les lie. Dans un superpod Ironwood, nous utilisons une technologie de mise en réseau révolutionnaire appelée Inter-Chip Interconnect (ICI) fonctionnant à 9,6 térabits par seconde. Cela permet à ces 9 216 puces de communiquer avec une latence quasi instantanée, accédant à un énorme 1,77 pétaoctets de mémoire à large bande partagée (HBM). Alors, comment connecter près de 10 000 puces sans créer un cauchemar de câblage ? La réponse réside dans le commutateur de circuit optique (OCS). ◾ Les clusters Ironwood sont construits à partir de blocs de construction appelés "cubes" (64 puces chacun). ◾ Pour évoluer au-delà d'un seul cube, plusieurs cubes sont connectés à l'aide d'un réseau de commutateur de circuit optique (OCS). C'est un réseau optique dynamique et reconfigurable qui connecte des cubes entiers, permettant au système de passer d'un petit "pod" (par exemple, un pod Ironwood de 256 puces avec quatre cubes) à un "superpod" massif (par exemple, un système de 9 216 puces avec 144 cubes). ◾ Cette topologie basée sur l'OCS est essentielle pour la tolérance aux pannes. Si un cube ou un lien échoue, le gestionnaire de tissu OCS ordonne à l'OCS de contourner optiquement cette unité et d'établir de nouveaux circuits optiques complets en remplaçant par un spare désigné. → Le matériel n'est que la moitié de l'équation. La véritable échelle d'un superpod TPU est débloquée par une pile logicielle co-conçue pour des résultats plus rapides et plus efficaces. Grâce à des intégrations profondes à travers la pile—des optimisations matérielles à l'échelle du centre de données aux logiciels ouverts et aux services gérés—les TPU Ironwood sont nos TPU les plus puissants et les plus écoénergétiques à ce jour.