Jim Keller afirma que la salida a bolsa de Cerebras fue beneficiosa mientras Tenstorrent se prepara para «superarlos en todo», y confirma reuniones con los directores ejecutivos de Intel y Qualcomm;

Jim Keller no se molesta por la reciente salida a bolsa de Cerebras y dice que lo da la bienvenida, pero Tenstorrent todavía los vencerá en todo.

El CEO de Tenstorrent, Jim Keller, señala que se enfrenta a Intel o Qualcomm mientras promete vencer a las cérebras "en todo"

Tenstorrent presentó recientemente su último servidor BlackHole Galaxy, un sistema con el que puede interrumpir todo el segmento de IA, con niveles de rendimiento que aplastan a la competencia. Cubrimos el anuncio el mes pasado cuando la compañía demostró su servidor Blackhole que socavaba un NVIDIA GB300 con hasta cinco veces mejor TCO.

Keller Acepta El Desafío De Vencer A NVIDIA, Cerebras Y Otros En AI TCO

Durante una charla con EETimes, Jim Keller ofreció una declaración sobre la reciente salida a bolsa de Cerebras y sus números de rendimiento recientes compartidos para el modelo Kimi K2.6 (1T). Se dice que el hardware de Cerebras WSE-CS3 (Wafer Scale Engine) ofrece casi 1000 tokens por segundo en este modelo, pero Jim afirma que no solo pueden superar este rendimiento fácilmente con implementaciones a gran escala de servidores BlackHole, sino que pueden hacerlo a una fracción del costo total del sistema.

Continuó diciendo que no se inmuta a la reciente salida a bolsa de Cerebras y lo considera "útil" ya que van a vencerlos en todo.

“La Cerebras [la OPI y la valoración posterior] fueron útiles, especialmente porque vamos a vencerlos en todo”, dijo. “¡Reto aceptado!” Jim Keller - CEO de Tenstorrent (vía EETimes)

Hablando de cómo Tenstorrent aborda KV Cache, para la que competidores como NVIDIA han creado soluciones dedicadas, como sus chips Groq-LPX, Keller señala que KV Cache se almacena en la DRAM del mismo chip que el decodificar, y es tan simple como eso.

Tenstorrent confía en su enfoque, y son "realmente buenos en eso". El KV Cache se puede escalar utilizando los chips Tensor de Tenstorrent, que pueden almacenarlo localmente en la SRAM, pero si no son suficientes, los datos se pueden transmitir a la DRAM, que incurre en una penalización de rendimiento, pero sigue siendo mejor que las soluciones de NVIDIA y Cerebras, que carecen de DRAM.

“A menudo me preguntan cómo manejamos el caché de KV”, dijo. “Está en la DRAM en los mismos chips que la decodificación, ni siquiera pensamos en ello. Somos muy buenos en eso”. Jim Keller - CEO de Tenstorrent (vía EETimes)

Jim también arrojó luz sobre los recientes rumores sobre los que Tenstorrent fue comprado por Qualcomm e Intel. Si bien no declaró nada en la primera parte, confirmó que se reunió con CEOs de ambos campamentos y espera obtener un gran problema de una de las compañías, principalmente su IP de CPU RISC-V. Tenstorrent también ha sido contactado por un hiperescalador en su IP de IA para un pequeño chip, dijo Jim Keller a EETimes.

“Espero obtener un gran problema de uno de esos tipos, porque nuestra IP de CPU RISC-V es genial”, dijo. “Uno de los hiperescaladores también está mirando nuestra IP de IA en busca de un chip pequeño”. Jim Keller - CEO de Tenstorrent (vía EETimes)

IPO Y Pedidos Fuertes Para Galaxy Blackhole Servidores

Actualmente, Tenstorrent está apuntando a una OPI, que Jim comentó, afirmando que sus inversores están "muy calientes" en la propuesta y están trabajando para establecer una presencia más amplia en el mercado global y una cadena de suministro. La compañía ya ha visto un aumento en los pedidos de su servidor y hardware específico de IA, como Galaxy, como un pedido de una cápsula 96-Galaxy que comprende 3072 chips Blackhole por un cliente offshore.

El aumento de los pedidos tiene que ver con la incapacidad de los competidores para satisfacer las demandas de todos los clientes. Una orden de NVIDIA de $ 100 millones puede costar aproximadamente $ 20 millones cuando se va con Tenstorrent debido a su propuesta de precio muy disruptiva, y la compañía puede entregarlas a pesar de enfrentar demandas más altas. Tenstorrent está desarrollando actualmente 1000 servidores Galaxy, de los cuales la mitad ya están vendidos.

Fuente: Wccftech