AION On-Premise PGX.Abre la máquina.
El ordenador de IA del tamaño de un libro en el que funciona AION On-Premise. Desplázate: le damos la vuelta, quitamos la tapa y llegamos hasta el chip.
En la parte trasera, solo lo necesario.
Bajo la tapa, un solo chip.
Sin tarjetas gráficas adicionales ni módulos de RAM separados: CPU, GPU y memoria están alrededor de un único superchip, el GB10.
NVIDIA GB10 Grace Blackwell.
150 × 150 × 50,5 mm · 1,2 kg · 240 W
Una sola memoria, toda para el modelo.
En un PC tradicional la GPU trabaja solo con su VRAM y los datos llegan desde la RAM a través del bus PCIe. En el GB10, CPU y GPU comparten los mismos 128 GB.
Dos memorias separadas: el modelo debe caber en la VRAM de la GPU y cada paso desde la RAM es una copia por PCIe.
- Memoria unificada
- 128 GB LPDDR5x
- Interfaz
- 256 bits
- Ancho de banda
- 273 GB/s
- Modelos en una unidad
- hasta 200 mil millones de parámetros
Capacidad de modelo indicada por NVIDIA; dos unidades conectadas llegan a 405 mil millones de parámetros.
Un modelo de 125 mil millones de parámetros, en un tercio del espacio.
Los modelos AION están cuantizados: cada peso pasa de 16 a 4 bits. El modelo ocupa alrededor del 30% del espacio original y deja memoria libre para contextos largos y para varios modelos a la vez.
Pesos originales · 16 bits por parámetro
FP16 · 100%AION · ~30%
- Compresión
- 69–70%
- Pérdida de calidad
- 1–3%
- Calidad mantenida
- 97–99%
Modelo de ejemplo de 125 mil millones de parámetros
Cada cuadrado equivale a 1 GB de memoria.
FP16 · 16 bits
250GB
125 mil millones × 2 bytes (16 bits)
AION · 4 bits
≈ 75GB
125 mil millones × ~0,6 bytes (4 bits + escalas)
No cabe en memoria. Faltan 122 GB: el modelo original no puede ejecutarse en la máquina.
Más de 30 modelos de código abierto, listos para arrancar.
AION Hub es el catálogo que vive en tu máquina: descarga, arranca y detiene en la GPU los modelos que AION ha optimizado. Partimos de los grandes proveedores de código abierto y los preparamos para una DGX Spark.
- Sin límites de uso
- Consulta los modelos cuanto necesites: el uso no tiene límites.
- Siempre actualizados
- Con la licencia de AION On-Premise, los modelos del catálogo se mantienen siempre actualizados.
Cómo nace un modelo del catálogo
Base de código abierto
Partimos de los modelos de los grandes proveedores, abiertos y verificables.
- Qwen
- GLM
- Kimi
- Mistral
Cuantización AION
Los pesos bajan a 4 bits: los modelos grandes caben en los 128 GB.
Fine-tuning
Cuando hace falta, los adaptamos a tareas y dominio.
Motores optimizados
La inferencia corre en motores que AION ha afinado para el GB10.
AION Hub
Ejemplo demostrativo
- Detenido
Modelo de lenguaje
Razona y responde
- Detenido
Embeddings
Busca por significado
- Detenido
Reranker
Ordena los resultados
- Detenido
OCR
Lee escaneos e imágenes
Gateway compatible con OpenAI
Ningún servicio activo
Ejemplo ilustrativo: el espacio ocupado depende de los modelos elegidos. Los modelos se actualizan por VPN o, si la máquina está aislada de la red, con una memoria USB.
Más de 120 tokens por segundo. En local.
La respuesta se genera en la máquina, en tus oficinas. Ninguna llamada a servicios externos, ningún dato sale.
Velocidad orientativa con modelos AION cuantizados en una sola unidad; varía según el modelo y la longitud del contexto.
Analiza el contrato de suministro e identifica las cláusulas de riesgo.
He analizado el contrato de suministro (42 páginas). Cláusulas de riesgo identificadas: 1. Art. 7.2 — Penalizaciones por retraso sin tope máximo: exposición potencialmente ilimitada. 2. Art. 11 — Renovación tácita de 36 meses con preaviso de solo 30 días. 3. Art. 14.4 — Fuero competente extranjero: costes legales elevados en caso de litigio. 4. Art. 18 — Subproveedores no listados tratan datos personales: verificación RGPD necesaria. Sugerencia: negociar un tope a las penalizaciones del 10% del valor anual y reducir la renovación a 12 meses. Procesamiento completado en local: ningún dato ha salido del perímetro de la empresa.
- Tokens
- 0
- Velocidad
- —
- Tiempo
- —
- Datos salientes
- 0 byte
De una a cuatro unidades.
Cuando hacen falta más usuarios o modelos más grandes se añaden unidades, conectadas a alta velocidad. La memoria se suma.
Memoria total
128 GB
Una sola máquina, en el escritorio o en rack: el punto de partida para un departamento.
- Conexión
- Ninguna: unidad única
- Dimensionamiento
- Nivel 1 · unos 10 usuarios activos, hasta 8 solicitudes simultáneas
- Modelos
- Hasta 200 mil millones de parámetros (dato NVIDIA)
Los usuarios indicados son estimaciones de dimensionamiento: el número real depende de los modelos, los contextos y el uso.
Ficha técnica.
Los datos de la unidad de referencia, Lenovo ThinkStation PGX.
Fuentes: NVIDIA y Lenovo PSREF. Las configuraciones disponibles pueden variar.
Superchip NVIDIA GB10
- CPU
- Grace, 20 núcleos Arm (10 × Cortex-X925, 10 × Cortex-A725)
- GPU
- Blackwell, 6.144 núcleos CUDA, Tensor Cores de 5.ª gen., RT Cores de 4.ª gen.
- Rendimiento de IA
- Hasta 1 PFLOP FP4 (con sparsity)
- Interconexión
- NVLink-C2C, 900 GB/s bidireccionales
Memoria y almacenamiento
- Memoria
- 128 GB LPDDR5x unificada, 256 bits, 273 GB/s
- Almacenamiento
- SSD NVMe M.2 de 1 TB o 4 TB, autocifrado
Conectividad
- Clúster
- 2 × QSFP, NVIDIA ConnectX-7 a 200 Gb/s
- Red
- Ethernet 10 GbE (RJ-45)
- USB
- 4 × USB-C (3 a 20 Gb/s, 1 para la alimentación)
- Vídeo
- HDMI 2.1a
- Inalámbrico
- Wi-Fi 7, Bluetooth 5.3
Unidad
- Dimensiones
- 150 × 150 × 50,5 mm
- Peso
- 1,2 kg
- Alimentación
- 240 W, USB-C PD 3.1
Software
- Sistema operativo
- NVIDIA DGX OS
- Stack
- NVIDIA AI Software Stack, CUDA 13
- Con AION
- AION On-Premise y modelos AION cuantizados, instalados por nosotros
Hablemos de tu máquina.
Te mostramos AION en DGX Spark con un caso real y dimensionamos juntos cuántas unidades hacen falta.
- [email protected]
- Sede
- Corso Vercelli 89, 28100 Novara