Mikä on TPU-superpodin todellinen mittakaava? Supertietokoneen todellinen mittakaava ei määritä sillä, kuinka monta prosessoria huoneeseen mahtuu; Se määritellään sen mukaan, kuinka moni prosessori pystyy tehokkaasti ajattelemaan yhtenä. Tämä ero on Ironwoodin, seitsemännen sukupolven Tensor Processing Unitin (TPU) ja TPU:n superpodin arkkitehtuurin taustalla. Paperilla Ironwoodin superpodin mittakaava on vaikuttava: se skaalautuu jopa 9 216 siruun yhdessä toisiinsa kytkeytyneessä domainissa. Mutta todellinen mittakaava piilee kankaassa, joka sitoo heidät. Ironwoodin superpodissa käytämme läpimurtoa Inter-Chip Interconnect (ICI) -verkkoteknologiaa, joka toimii 9,6 terabitin sekuntinopeudella. Tämä mahdollistaa näiden 9 216 piirien kommunikoinnin lähes välittömällä viiveellä, käyttäen valtavia 1,77 petatavua jaettua High Bandwidth Memory (HBM) -muistia. Joten, miten liität lähes 10 000 piiriä ilman, että syntyy kaapelointipainajainen? Vastaus löytyy optisesta piirikytkimestä (OCS). ◾ Rautapuuryhmät rakennetaan rakennuspalikoista, joita kutsutaan "kuutioiksi" (64 lastua kutakin). ◾ Yhden kuution yli skaalautumiseksi useita kuutioita yhdistetään optisella piirikytkimen (OCS) verkolla. Kyseessä on dynaminen, uudelleenkonfiguroitava optinen verkko, joka yhdistää kokonaisia kuutioita, mahdollistaen järjestelmän skaalautumisen pienestä "podista" (esim. 256-siruinen Ironwood-pod, jossa on neljä kuutiota) massiiviseen "superpodiin" (esim. 9 216-sirun järjestelmä, jossa on 144 kuutiota). ◾ Tämä OCS-pohjainen topologia on avain vikansietokykyyn. Jos kuutio tai linkki vikaantuu, OCS-kankaan hallinta ohjeistaa OCS:ää optisesti ohittamaan kyseisen yksikön ja perustamaan uusia, täydellisiä optisia piirejä, jotka vaihtavat varapiiriin. → Laitteisto on vain puolet yhtälöstä. TPU-superpodin todellinen mittakaava avautuu yhdessä suunnitellun ohjelmistopinon avulla nopeampien ja tehokkaampien lopputulosten saavuttamiseksi. Syvällisten integraatioiden ansiosta koko pinossa – datakeskuksen laajuisista laitteistooptimoinneista avoimeen ohjelmistoon ja hallituihin palveluihin – Ironwood TPU:t ovat tähän mennessä tehokkaimmat ja energiatehokkaimmat TPU:mme.