Wat is de ware schaal van een TPU-superpod? De ware schaal van een supercomputer wordt niet gedefinieerd door hoeveel processors je in een kamer kunt passen; het wordt gedefinieerd door hoeveel processors effectief als één kunnen denken. Dit onderscheid is de drijvende kracht achter Ironwood, onze zevende generatie Tensor Processing Unit (TPU), en de architectuur van de TPU-superpod. Op papier is de schaal van een Ironwood-superpod indrukwekkend: het schaalt tot 9.216 chips in een enkele onderling verbonden domein. Maar de ware schaal ligt in de stof die ze bindt. In een Ironwood-superpod gebruiken we een baanbrekende Inter-Chip Interconnect (ICI) netwerktechnologie die draait op 9,6 terabits per seconde. Dit stelt die 9.216 chips in staat om te communiceren met bijna onmiddellijke latentie, met toegang tot een enorme 1,77 Petabyte aan gedeeld High Bandwidth Memory (HBM). Dus, hoe verbind je bijna 10.000 chips zonder een kabelnachtmerrie te creëren? Het antwoord ligt in de Optical Circuit Switch (OCS). ◾ Ironwood-clusters zijn opgebouwd uit bouwstenen die "cubes" worden genoemd (64 chips elk). ◾ Om verder te schalen dan een enkele cube, worden meerdere cubes verbonden met behulp van een Optical Circuit Switch (OCS) netwerk. Dit is een dynamisch, herconfigureerbaar optisch netwerk dat hele cubes verbindt, waardoor het systeem kan schalen van een kleine "pod" (bijv. een 256-chip Ironwood-pod met vier cubes) naar een enorme "superpod" (bijv. een 9.216-chip systeem met 144 cubes). ◾ Deze OCS-gebaseerde topologie is de sleutel tot fouttolerantie. Als een cube of link faalt, instrueert de OCS-fabric manager de OCS om die eenheid optisch te omzeilen en nieuwe, complete optische circuits op te zetten door een aangewezen reserve in te schakelen. → Hardware is slechts de helft van de vergelijking. De ware schaal van een TPU-superpod wordt ontgrendeld door een co-ontworpen softwarestack voor snellere, efficiëntere resultaten. Dankzij diepe integraties in de stack - van hardware-optimalisaties in datacenters tot open software en beheerde diensten - zijn Ironwood-TPU's onze krachtigste en energiezuinigste TPU's tot nu toe.