Google busca más independencia y lanza nuevos chips de IA

La TPU 8T es una opción optimizada específicamente para el entrenamiento de modelos a gran escala. Este sistema puede conectar hasta 9,600 unidades en una red de dos petabits —un petabit equivale a unos 125,000 gigabytes—, ofreciendo una mejora de tres veces respecto a las generaciones anteriores de GPU y una eficiencia de cómputo superior a cualquier otra opción en el mercado.

Por otro lado, la TPU 8i se diseñó exclusivamente para la inferencia, es decir, para la ejecución de los modelos una vez ya entrenados. Con 1,152 chips por sistema, este modelo destaca por un incremento del 80% en la memoria SRAM, lo que facilita el manejo de grandes conjuntos de datos y una tecnología para acelerar las respuestas.

Uno de los factores determinantes detrás de esta estrategia, comentó Kurian, fue la eficiencia energética, pues subrayó que diseñaron estos sistemas para ser extremadamente eficientes en el uso de energía, anticipando que el consumo eléctrico se convertiría en una restricción crítica a medida que las empresas escalan sus operaciones de IA tanto en entrenamiento como en inferencia.

Los gigantes tech apuestan por hardware propietario para crecer en la IA

Google no es el único gigante tecnológico que ve una oportunidad en el mercado de los chips de IA. El mes pasado, Meta dio a conocer sus primeros cuatro chips de uso interno para cubrir las necesidades y expansión de sus grandes centros de datos.

Este chip forma parte de un proyecto en el que la empresa ha trabajado desde 2023 y cuyo nombre es Meta Training and Inference Accelerator (MTIA), el cual busca reducir la dependencia ante los chips de Nvidia y, además, abordar la creciente cantidad de potencia de procesamiento necesaria para ejecutar sus productos de Meta AI.

“La arquitectura de este chip se centra fundamentalmente en proporcionar el equilibrio adecuado entre computación, ancho de banda de memoria y capacidad de memoria para servir modelos de clasificación y recomendación”, detalló la empresa en una publicación de blog.

Yee Jiun Song, vicepresidente de ingeniería de Meta, comentó que el diseño de este componente fue un trabajo por completo de la empresa y serán fabricados bajo un nodo de 5 nanómetros por TSMC, el principal fabricante de chips a nivel mundial, entre cuyos clientes destacan Apple, Nvidia, Qualcomm y AMD, entre muchos otros.

Al igual que Google, en el caso de Meta los chips también tienen diferentes usos. El primero, de acuerdo con Song, ya se está implementando para el entrenamiento de modelos de IA pequeños, que se encargan de labores como clasificación y recomendación de contenidos.

Por otra parte, los tres chips restantes, señaló el especialista, están diseñados para tareas de inferencia avanzada para funciones de IA generativa, es decir, aquellas aplicaciones como creación de imágenes o videos basados en prompts.