Який справжній масштаб суперкапсули TPU? Справжній масштаб суперкомп'ютера визначається не кількістю процесорів у кімнаті; Вона визначається тим, скільки процесорів можуть ефективно мислити як один. Ця відмінність є рушійною силою Ironwood, нашого сьомого покоління Tensor Processing Unit (TPU), а також архітектури суперпода TPU. На папері масштаб суперпода Ironwood вражає: він масштабується до 9 216 чипів в одному взаємопов'язаному домені. Але справжній масштаб криється у тканині, що їх об'єднує. У суперподі Ironwood ми використовуємо проривну технологію Inter-Chip Interconnect (ICI) зі швидкістю 9,6 терабіт за секунду. Це дозволяє цим 9 216 чипам спілкуватися з майже миттєвою затримкою, отримуючи доступ до величезних 1,77 петабайта спільної високопропускної пам'яті (HBM). Отже, як підключити майже 10 000 чипів, не створюючи кабельний кошмар? Відповідь криється в оптичному комутаторі (OCS). ◾ Кластери з залізного дерева виготовляються з будівельних блоків, які називаються «кубиками» (по 64 стружки в кожному). ◾ Для масштабування понад один куб кілька кубів підключаються через мережу Optical Circuit Switch (OCS). Це динамічна, переналаштовувана оптична мережа, яка з'єднує цілі куби, дозволяючи системі масштабуватися від невеликого «капсули» (наприклад, капсула Ironwood з 256 чіпами та чотирма кубами) до масивного «суперпода» (наприклад, системи з 9 216 чипів і 144 кубами). ◾ Ця топологія на основі OCS є ключем до стійкості до відмов. Якщо куб або зв'язок виходить з ладу, менеджер тканини OCS дає вказівку OCS оптично обійти цей пристрій і встановити нові, повні оптичні схеми для заміни у визначеному запасному місці. → Апаратне забезпечення — це лише половина рівняння. Справжній масштаб суперкапсули TPU відкривається спільно розробленим стеком програмного забезпечення для швидших і ефективніших результатів. Завдяки глибоким інтеграціям у всьому стеку — від оптимізації апаратного забезпечення для дата-центрів до відкритого програмного забезпечення та керованих сервісів — Ironwood TPU є нашими найпотужнішими та найенергоефективнішими TPU на сьогодні.