AION On-Premise PGX.Ouvrez la machine.
L'ordinateur IA de la taille d'un livre sur lequel tourne AION On-Premise. Faites défiler : nous la retournons, retirons le capot et descendons jusqu'à la puce.
À l'arrière, seulement l'essentiel.
Sous le capot, une seule puce.
Pas de cartes graphiques supplémentaires ni de barrettes de RAM séparées : CPU, GPU et mémoire sont réunis autour d'une seule superpuce, le GB10.
NVIDIA GB10 Grace Blackwell.
150 × 150 × 50,5 mm · 1,2 kg · 240 W
Une seule mémoire, tout entière pour le modèle.
Dans un PC traditionnel, le GPU ne travaille qu'avec sa VRAM et les données arrivent de la RAM via le bus PCIe. Dans le GB10, CPU et GPU partagent les mêmes 128 GB.
Deux mémoires distinctes : le modèle doit tenir dans la VRAM du GPU et chaque passage depuis la RAM est une copie via PCIe.
- Mémoire unifiée
- 128 GB LPDDR5x
- Interface
- 256 bits
- Bande passante
- 273 GB/s
- Modèles sur une unité
- jusqu'à 200 milliards de paramètres
Capacité de modèle indiquée par NVIDIA ; deux unités reliées atteignent 405 milliards de paramètres.
Un modèle de 125 milliards de paramètres, dans un tiers de l'espace.
Les modèles AION sont quantifiés : chaque poids passe de 16 à 4 bits. Le modèle occupe environ 30% de l'espace d'origine et laisse de la mémoire libre pour les longs contextes et pour plusieurs modèles à la fois.
Poids d'origine · 16 bits par paramètre
FP16 · 100%AION · ~30%
- Compression
- 69–70%
- Perte de qualité
- 1–3%
- Qualité conservée
- 97–99%
Modèle d'exemple de 125 milliards de paramètres
Chaque carré représente 1 GB de mémoire.
FP16 · 16 bits
250GB
125 milliards × 2 octets (16 bits)
AION · 4 bits
≈ 75GB
125 milliards × ~0,6 octet (4 bits + échelles)
Ne tient pas en mémoire. Il manque 122 GB : le modèle d'origine ne peut pas tourner sur la machine.
Plus de 30 modèles open source, prêts à démarrer.
AION Hub est le catalogue qui vit sur votre machine : il télécharge, démarre et arrête sur le GPU les modèles qu'AION a optimisés. Nous partons des grands fournisseurs open source et les préparons pour une DGX Spark.
- Aucune limite d'utilisation
- Interrogez les modèles autant qu'il le faut : l'usage n'est pas plafonné.
- Toujours à jour
- Avec la licence AION On-Premise, les modèles du catalogue restent toujours à jour.
Comment naît un modèle du catalogue
Base open source
Nous partons des modèles des grands fournisseurs, ouverts et vérifiables.
- Qwen
- GLM
- Kimi
- Mistral
Quantification AION
Les poids passent à 4 bits : les grands modèles tiennent dans 128 Go.
Fine-tuning
Quand il le faut, nous les adaptons à vos tâches et à votre domaine.
Moteurs optimisés
L'inférence tourne sur des moteurs qu'AION a mis au point pour le GB10.
AION Hub
Exemple de démonstration
- Arrêté
Modèle de langage
Raisonne et répond
- Arrêté
Embeddings
Cherche par sens
- Arrêté
Reranker
Classe les résultats
- Arrêté
OCR
Lit scans et images
Passerelle compatible OpenAI
Aucun service actif
Exemple illustratif : l'espace occupé dépend des modèles choisis. Les modèles se mettent à jour par VPN ou, si la machine est isolée du réseau, avec une clé USB.
Plus de 120 tokens par seconde. En local.
La réponse est générée sur la machine, dans vos bureaux. Aucun appel à des services externes, aucune donnée ne sort.
Vitesse indicative avec des modèles AION quantifiés sur une seule unité ; elle varie selon le modèle et la longueur du contexte.
Analysez le contrat de fourniture et identifiez les clauses à risque.
J'ai analysé le contrat de fourniture (42 pages). Clauses à risque identifiées : 1. Art. 7.2 — Pénalités de retard sans plafond : exposition potentiellement illimitée. 2. Art. 11 — Reconduction tacite de 36 mois avec un préavis de seulement 30 jours. 3. Art. 14.4 — Juridiction compétente étrangère : frais juridiques élevés en cas de litige. 4. Art. 18 — Des sous-traitants non listés traitent des données personnelles : vérification RGPD nécessaire. Suggestion : négocier un plafond des pénalités égal à 10% de la valeur annuelle et ramener la reconduction à 12 mois. Traitement effectué en local : aucune donnée n'a quitté le périmètre de l'entreprise.
- Tokens
- 0
- Vitesse
- —
- Temps
- —
- Données sortantes
- 0 byte
D'une à quatre unités.
Quand il faut plus d'utilisateurs ou des modèles plus grands, on ajoute des unités, reliées à haute vitesse. La mémoire s'additionne.
Mémoire totale
128 GB
Une seule machine, sur le bureau ou en rack : le point de départ pour un service.
- Liaison
- Aucune : unité unique
- Dimensionnement
- Niveau 1 · environ 10 utilisateurs actifs, jusqu'à 8 requêtes simultanées
- Modèles
- Jusqu'à 200 milliards de paramètres (donnée NVIDIA)
Les utilisateurs indiqués sont des estimations de dimensionnement : le nombre réel dépend des modèles, des contextes et de l'usage.
Fiche technique.
Les données de l'unité de référence, Lenovo ThinkStation PGX.
Sources : NVIDIA et Lenovo PSREF. Les configurations disponibles peuvent varier.
Superpuce NVIDIA GB10
- CPU
- Grace, 20 cœurs Arm (10 × Cortex-X925, 10 × Cortex-A725)
- GPU
- Blackwell, 6 144 cœurs CUDA, Tensor Cores de 5e gén., RT Cores de 4e gén.
- Performances IA
- Jusqu'à 1 PFLOP FP4 (avec sparsité)
- Interconnexion
- NVLink-C2C, 900 GB/s bidirectionnels
Mémoire et stockage
- Mémoire
- 128 GB LPDDR5x unifiée, 256 bits, 273 GB/s
- Stockage
- SSD NVMe M.2 de 1 TB ou 4 TB, auto-chiffrant
Connectivité
- Cluster
- 2 × QSFP, NVIDIA ConnectX-7 à 200 Gb/s
- Réseau
- Ethernet 10 GbE (RJ-45)
- USB
- 4 × USB-C (3 à 20 Gb/s, 1 pour l'alimentation)
- Vidéo
- HDMI 2.1a
- Sans fil
- Wi-Fi 7, Bluetooth 5.3
Unité
- Dimensions
- 150 × 150 × 50,5 mm
- Poids
- 1,2 kg
- Alimentation
- 240 W, USB-C PD 3.1
Logiciel
- Système d'exploitation
- NVIDIA DGX OS
- Stack
- NVIDIA AI Software Stack, CUDA 13
- Avec AION
- AION On-Premise et modèles AION quantifiés, installés par nos soins
Parlons de votre machine.
Nous vous montrons AION sur DGX Spark avec un cas réel et dimensionnons ensemble le nombre d'unités nécessaires.
- [email protected]
- Siège
- Corso Vercelli 89, 28100 Novara