¿Cuál es la escala real de un superpod TPU? La verdadera escala de un superordenador no se define por cuántos procesadores puedes meter en una habitación; Se define por cuántos procesadores pueden pensar eficazmente como uno solo. Esta distinción es la fuerza motriz detrás de Ironwood, nuestra Unidad de Procesamiento de Tensores (TPU) de séptima generación, y la arquitectura del superpod TPU. Sobre el papel, la escala de un superpod de Ironwood es impresionante: escala hasta 9.216 chips en un único dominio interconectado. Pero la verdadera escala reside en la tela que los une. En un superpod Ironwood, utilizamos una tecnología innovadora de red Inter-Chip Interconnect (ICI) que funciona a 9,6 terabits por segundo. Esto permite que esos 9.216 chips se comuniquen con una latencia casi instantánea, accediendo a una enorme cantidad de 1,77 petabytes de memoria compartida de Alto Ancho de Banda (HBM). Entonces, ¿cómo conectas casi 10.000 chips sin crear una pesadilla de cableado? La respuesta está en el Interruptor de Circuito Óptico (OCS). ◾ Los grupos de madera de hierro se construyen a partir de bloques de construcción llamados "cubos" (64 astillas cada uno). ◾ Para escalar más allá de un solo cubo, se conectan varios cubos mediante una red de Conmutadores de Circuito Óptico (OCS). Se trata de una red óptica dinámica y reconfigurable que conecta cubos enteros, permitiendo que el sistema escale desde un pequeño "pod" (por ejemplo, un pod Ironwood de 256 chips con cuatro cubos) hasta un enorme "superpod" (por ejemplo, un sistema de 9.216 chips con 144 cubos). ◾ Esta topología basada en OCS es clave para la tolerancia a fallos. Si falla un cubo o enlace, el gestor de fabric OCS indica al OCS que evada ópticamente esa unidad y establezca nuevos circuitos ópticos completos intercambiando un repuesto designado. → El hardware es solo la mitad de la ecuación. La verdadera escala de un superpod TPU se desbloquea gracias a una pila de software co-diseñada para obtener resultados más rápidos y eficientes. Gracias a integraciones profundas en toda la pila —desde optimizaciones de hardware a nivel de centro de datos hasta software abierto y servicios gestionados— los TPUs Ironwood son nuestros TPUs más potentes y eficientes energéticamente hasta la fecha.