Google presenta el TPU 8tx y el TPU 8i Max y amplía su línea de chips de IA

Google añadió el lunes dos sistemas de computación de inteligencia artificial, el TPU 8tx y el TPU 8i Max, que completan una línea de unidades de procesamiento tensorial de octava generación que ahora ofrece a los clientes cuatro configuraciones para entrenar y ejecutar modelos de IA. Google dice que atiende a casi 100 clientes de TPU, desde laboratorios de IA hasta universidades, y anunció ambos sistemas en un solo año con cuatro presentaciones de TPU, una primera vez para la empresa.

El anuncio importa por lo que cada sistema está hecho para hacer. Uno está construido en torno a la privacidad mientras el trabajo se ejecuta. El otro está construido en torno a la memoria, el límite que Google dice que ahora frena los grandes trabajos de IA.

TPU 8tx: privacidad durante el trabajo

El TPU 8tx usa computación confidencial a nivel de hardware para aislar los datos del cliente y los parámetros propietarios de los modelos incluso mientras un trabajo está en curso, según el anuncio recogido por Decrypt. Combina silicio TPU 8t con procesadores AMD EPYC de quinta generación y la red Boardfly de Google.

Google afirma que el diseño puede reducir la latencia hasta a la mitad en comparación con el TPU 8t, casi sin penalización de rendimiento. Esa comparación es de Google, medida contra su hardware anterior. Los informes son claros sobre un límite del anuncio: las cifras de rendimiento de Google comparan los sistemas nuevos con hardware anterior de Google, no con los productos más recientes de Nvidia.

TPU 8i Max: hecho para el muro de la memoria

El TPU 8i Max combina dos chips TPU 8i en un solo paquete. Eso duplica la potencia de cálculo, la SRAM en el chip y el rendimiento de memoria de gran ancho de banda en comparación con el TPU 8i, según los informes. Los datos de TechTarget situaron las cifras de memoria en 768 MB de SRAM y 17,2 TB/s de rendimiento de memoria de gran ancho de banda.

Amin Vahdat, tecnólogo jefe de Google y vicepresidente sénior de IA e infraestructura, planteó el sistema en una frase citada en los informes: "Nuestro cuarto sistema, el TPU 8i Max, está hecho para un problema distinto: el muro de la memoria".

Google también dijo que está liberando como código abierto TPU Sync, un software que mueve la memoria de trabajo de la IA entre chips, servidores y almacenamiento. Poner ese software en abierto forma parte del mismo planteamiento: los clientes que construyen sobre hardware de Google reciben herramientas para mover la memoria de trabajo de la que dependen sus modelos.

Lo que Google no dijo

Google no reveló los precios de las dos configuraciones nuevas, y no dio fechas de disponibilidad. Los clientes que comparan los sistemas con hardware rival reciben el lunes la arquitectura y las afirmaciones de rendimiento de Google, pero no las dos cifras que deciden la mayoría de las compras: cuánto cuestan los sistemas y cuándo pueden entregarse.

El momento dio al lanzamiento un telón de fondo de mercado. Las acciones de Nvidia cayeron un 9,3 por ciento el jueves y cayeron otro 5 por ciento en la sesión del lunes, en informes que vinculan la presión sobre la acción con la investigación de la junta de Nvidia que involucra a su director ejecutivo. El anuncio de Google llegó en esa ventana, con sus dos sistemas nuevos dirigidos a los mismos clientes que compran potencia de computación de IA en grandes cantidades.

La atribución importa aquí. Las cifras de latencia y memoria de arriba son afirmaciones y especificaciones reportadas del anuncio de Google, recogidas por los informes de Decrypt y TechTarget. No son resultados de pruebas independientes, y el anuncio del lunes no incluyó una comparación directa con hardware de Nvidia.

Fuentes

Informes de Decrypt sobre el anuncio de Google, cifras de TechTarget recogidas en los informes del lanzamiento, e informes de CoinDesk recogidos por KuCoin, enlazados abajo. Esto no es asesoramiento financiero.