• Especificaciones del fabricante, nada inventado
  • Cada equipo, con los modelos que puede ejecutar
  • Envíos a todo el mundo, aranceles e impuestos incluidos
Aceleradores de IA

Categoría

Tarjetas aceleradoras de IA y sobremesas para crear modelos

Tarjetas aceleradoras de IA y sobremesas diseñados ante todo para la IA: las tarjetas Tenstorrent con un stack de software de código abierto y el sobremesa NVIDIA DGX Spark.

Algo grande se enciende: llega NVIDIA DGX SparkVídeo oficial · NVIDIA

Un acelerador de IA se elige primero por su software. El NVIDIA DGX Spark es un equipo de desarrollo CUDA de 128 GB cuyo código se traslada a sistemas DGX más grandes y a la nube; las tarjetas Tenstorrent funcionan con un software íntegramente de código abierto que se puede programar hasta el nivel de los kernels. Si lo que busca sobre todo es ejecutar modelos grandes con rapidez, más que crearlos, un Mac Studio o una tarjeta gráfica suelen ser mejor opción.

Nuestra selección

3 productos

Cómo elegir un acelerador de IA

CUDA o código abierto
El DGX Spark incluye el software de IA de NVIDIA, así que el código escrito en él pasa a sistemas DGX más grandes con pocos cambios. Las tarjetas Tenstorrent funcionan con TT-Metalium y TT-Forge, de código abierto desde los kernels de bajo nivel hasta el compilador de modelos. No son tarjetas CUDA.
Compruebe primero la compatibilidad de modelos
Antes de comprar una tarjeta Tenstorrent, compruebe que los modelos que necesita están en la biblioteca de modelos de código abierto de Tenstorrent. En la Wormhole n300 los 24 GB se reparten en 12 GB por chip, así que los modelos más grandes necesitan una versión multichip que funcione.
La memoria marca el límite
Según la regla de nuestra guía de modelos, los 128 GB de memoria unificada del Spark admiten un modelo de 70B a 8 bits o uno de la clase de 120B a 4 bits. La Blackhole p150a tiene 32 GB de GDDR6 a 512 GB/s, memoria suficiente para un modelo de la clase de 30B a 4 bits si la biblioteca lo admite.
Capacidad no es velocidad
El ancho de banda de memoria del Spark es de 273 GB/s, frente a los 1.792 GB/s de una RTX 5090. Con modelos densos grandes genera texto más despacio; los modelos de mezcla de expertos (MoE), que solo leen una parte de sus pesos por token, notan menos la diferencia.
Planifique la ampliación
Dos DGX Spark se conectan entre sí a 200 Gb/s mediante la red ConnectX-7 integrada. La p150a tiene cuatro puertos QSFP-DD 800G y la n300, dos puertos QSFP-DD para encadenar tarjetas. Cada tarjeta Tenstorrent consume 300 W y necesita una ranura PCIe x16, así que conviene prever la alimentación y la ventilación del equipo anfitrión.

Preguntas habituales

¿Me conviene un acelerador de IA o una tarjeta gráfica?

Un acelerador se compra por su software: el DGX Spark para desarrollar con CUDA y 128 GB, una tarjeta Tenstorrent para trabajar con software abierto. Si busca la máxima velocidad con modelos de hasta unos 30B, o si también juega, es mejor opción una tarjeta gráfica como la RTX 5090.

¿Funcionará mi código CUDA en una tarjeta Tenstorrent?

No. Las tarjetas Tenstorrent funcionan con su propio software de código abierto, TT-Metalium y TT-Forge. Antes de comprar, compruebe que sus modelos están admitidos en la biblioteca de modelos de Tenstorrent.

¿Puede el DGX Spark ejecutar Windows o juegos?

No. Funciona con NVIDIA DGX OS, un sistema Linux basado en Ubuntu, sobre una CPU Arm. El software creado solo para Windows x86 no funciona, y no es un equipo para jugar.

¿Se puede hacer fine-tuning de modelos en el DGX Spark?

Sí. El fine-tuning necesita más memoria que ejecutar un modelo, y los métodos eficientes en parámetros como LoRA reducen mucho esa necesidad. Los 128 GB del Spark dan margen para este trabajo con tamaños que una tarjeta de 32 GB no alcanza.

Páginas relacionadas: Hardware para IA local · Apple