Nvidia anuncia en CES un pequeño ordenador de sobremesa, Project Digits, definido como superordenador personal para inteligencia artificial, con la idea de poner la potencia de su microarquitectura Blackwell con su CPU Grace, que incluye veinte núcleos de bajo consumo de energía construidos con la arquitectura Arm, al alcance de cualquier desarrollador, por un precio a partir de 3,000 dólares y con capacidad para correr modelos de hasta 200,000 millones de parámetros.
Unas mil veces más potente que un ordenador portátil estándar, pero suficientemente pequeño como para poder acomodarlo en cualquier mesa de trabajo – de hecho, recuerda mucho en su forma a un Mac Mini – y funcionar con una toma de corriente estándar, ofrece un petaflop de performance para prototipar, ajustar y ejecutar modelos de inteligencia artificial de un tamaño muy razonable, con 128GB de memoria y hasta 4TB de almacenamiento, con la posibilidad adicional de poder combinar dos máquinas para poder correr modelos de hasta 405,000 millones de parámetros, el tamaño actual, por ejemplo, del modelo más avanzado de Llama 3.1.
En el diseño de Project Digits, Nvidia ha contado con la colaboración de MediaTek, la compañía taiwanesa líder del mercado en diseños de SoC basados en la arquitectura Arm. El resultado es una máquina con una gran eficiencia energética para el rendimiento que ofrece.
Una forma de crear un mercado y demostrar que existe demanda para este tipo de máquinas, que cumple además con una importante función: democratizar el uso de inteligencia artificial y, por tanto, la demanda de sus microprocesadores al dirigirse a un mercado que si bien no es exactamente de consumo, porque todavía no estamos a un nivel en el que el común de los consumidores se dedica a correr modelos de inteligencia artificial, sí se acerca bastante a ello en términos de precio. En la práctica, Project Digits se dirige a desarrolladores, investigadores, científicos de datos y estudiantes, que podrán desarrollar y ejecutar inferencias en modelos utilizando su propia máquina, y posteriormente lanzar sin problemas esos modelos en una infraestructura acelerada de nube o en un centro de datos.
La idea es ser capaces de colocar una supercomputadora de inteligencia artificial en el escritorios de cada científico de datos, investigador de IA o estudiante para que les permita participar y dar forma sin problemas a la era de la inteligencia artificial.
Por el momento, seguramente, lo más relevante que hemos visto en el CES de este año.
Dejar una contestacion