Каков истинный масштаб суперподов TPU? Истинный масштаб суперкомпьютера не определяется тем, сколько процессоров можно разместить в комнате; он определяется тем, сколько процессоров могут эффективно мыслить как одно целое. Это различие является движущей силой за Ironwood, нашим процессором Tensor Processing Unit (TPU) седьмого поколения, и архитектурой суперпода TPU. На бумаге масштаб суперпода Ironwood впечатляет: он масштабируется до 9,216 чипов в одном взаимосвязанном домене. Но истинный масштаб заключается в ткани, которая связывает их. В суперподе Ironwood мы используем прорывную технологию межчиповой связи (ICI), работающую на скорости 9,6 терабит в секунду. Это позволяет этим 9,216 чипам общаться с почти мгновенной задержкой, получая доступ к массивной 1,77 петабайта общей памяти с высокой пропускной способностью (HBM). Итак, как подключить почти 10,000 чипов, не создавая кошмара с кабелями? Ответ заключается в оптическом коммутаторе (OCS). ◾ Кластеры Ironwood построены из строительных блоков, называемых "кубами" (по 64 чипа каждый). ◾ Чтобы масштабироваться за пределы одного куба, несколько кубов соединяются с помощью сети оптического коммутатора (OCS). Это динамическая, перенастраиваемая оптическая сеть, которая соединяет целые кубы, позволяя системе масштабироваться от небольшого "пода" (например, 256-чиповый под Ironwood с четырьмя кубами) до огромного "суперпода" (например, 9,216-чиповая система с 144 кубами). ◾ Эта топология на основе OCS является ключом к отказоустойчивости. Если куб или связь выходят из строя, менеджер OCS инструктирует OCS оптически обойти этот узел и установить новые, полные оптические цепи, заменяя его назначенной резервной единицей. → Аппаратное обеспечение — это лишь половина уравнения. Истинный масштаб суперпода TPU раскрывается благодаря совместно разработанному программному стеку для более быстрых и эффективных результатов. Благодаря глубоким интеграциям по всему стеку — от оптимизаций аппаратного обеспечения на уровне дата-центра до открытого программного обеспечения и управляемых услуг — TPUs Ironwood являются нашими самыми мощными и энергоэффективными TPUs на сегодняшний день.