GeForce desbloqueada: los modders aumentan hasta el doble el rendimiento de cómputo de las series RTX 20, RTX 30 y RTX 40

Las tarjetas gráficas de la serie 30 y RTX de la serie 30 de GeForce RTX de NVIDIA se basan en los mismos troqueles que sus GPU de calidad profesional. Esto significa que el potencial informático de las GPU RTX orientadas al consumidor está restringido por la pila de firmware de NVIDIA, pero los modders han logrado desbloquear la tasa de emisión de instrucciones equivalente a sus contrapartes profesionales de la GPU. A partir de la serie "Ampere" de la serie 30 de GeForce RTX, un investigador desarrolló un desbloqueo que duplica efectivamente la velocidad de emisión de instrucciones de FMA FP/BF16 en las operaciones de FP32 en las tarjetas GA102, GA103, GA104 y GA106. Como resultado, tarjetas como la GeForce RTX 3090 Ti experimentan una multiplicación de matriz hasta un 80% más rápida en BF16, que es crucial para ejecutar casi todas las redes neuronales. El desbloqueo admite tarjetas gráficas GEForce RTX basadas en GA102, GA103, GA104 y GA106.

• 

• 

• 

A continuación, tenemos la serie GeForce RTX de 40 "Ada Lovelace" con otro proyecto que ha demostrado una aceleración masiva de 2 × en el rendimiento del tensor FP16 y BF16 con acumulación de FP32. Cuando se probó el GeForce RTX 4090 con rendimiento de tensor FP16 y acumulación de matriz, la GPU logró 165,6 TeraFLOPS, mientras que el desbloqueo empujó ese número a 331,6 TeraFLOPS. Esto es intrigante, ya que estos números de rendimiento computacional generalmente se reservan para el segmento profesional de gama alta como el NVIDIA RTX 6000 "Ada Lovelace". Parece que NVIDIA limitó artificialmente el rendimiento del silicio AD102 en la multiplicación y acumulación de matrices sensibles al cálculo, afectando el rendimiento de ejecutar modelos de lenguaje grandes. Para este desbloqueo, AD102, AD103 y AD106 están oficialmente desbloqueados.

Estos dos desconciertos de GPU separados aparecieron casi simultáneamente, con uno demostrado para la serie GeForce RTX de 30 "Ampere" y el otro para la serie GeForce RTX de 40 "Ada Lovelace". Ambos desbloqueos pasan con éxito las comprobaciones de controladores de NVIDIA y anulan el restablecimiento del nivel de función de PCIe (FLR), los controladores de NVIDIA de stock y los puntos de referencia de CUDA se realizan normalmente. Por ejemplo, la misma potencia de placa TGP de 450 W se utiliza antes y después del desbloqueo tanto en GA102 como en AD102. Para aquellos que ejecutan tareas intensivas en computación como los LLM locales, la potencia de cálculo adicional resulta en un rendimiento de token significativamente mayor en el prellenado y la decodificación, lo que permite a los consumidores disfrutar de un mayor rendimiento. Sin embargo, es importante tener en cuenta que cualquier modificación de la GPU anulará la garantía y debe estar habilitada en el arranque, por lo que estos mods se unen antes de que los controladores de NVIDIA atan la tarjeta al kernel.

Actualización 09:20 UTC: La serie "Turing" GeForce RTX de NVIDIA también se está desbloqueando con la misma técnica, aumentando el rendimiento en 2x.

Fuentes: Ampere Desbloqueo, Ada Lovelace Desbloqueo, Desbloqueo De Turing