Modelli IA che questa macchina esegue
Eseguiti in locale, interamente nella memoria della scheda video: nessun servizio esterno, nessun dato che esce.
| Modello | Parametri | Quant. | Occupa | Margine | Contesto max |
|---|---|---|---|---|---|
| Mixtral 8X22B | 176 B | Q4_0 | 87,2 GB | 40,8 GB | 64k |
| Qwen2.5 72B | 72 B | Q8_0 | 85,6 GB | 42,4 GB | 32k |
| Qwen2.5 72B | 72 B | Q4_0 | 53,7 GB | 74,3 GB | 32k |
| Llama3.3 70B | 70 B | Q8_0 | 80,3 GB | 47,7 GB | — |
| Llama3.1 70B | 70 B | Q8_0 | 80,3 GB | 47,7 GB | — |
| Codellama 70B | 70 B | Q8_0 | 78,5 GB | 49,5 GB | — |
| Llama3.3 70B | 70 B | Q4_0 | 45,5 GB | 82,5 GB | — |
| Llama3.1 70B | 70 B | Q4_0 | 45,5 GB | 82,5 GB | — |
| Deepseek-r1 70B | 70 B | Q4_0 | 45,5 GB | 82,5 GB | — |
| Codellama 70B | 70 B | Q4_K_M | 44,4 GB | 83,6 GB | — |
| Codellama 70B | 70 B | Q4_0 | 41,6 GB | 86,4 GB | — |
| Mixtral 8X7B | 56 B | Q4_0 | 29,5 GB | 98,5 GB | 32k |
| Codellama 34B | 34 B | FP16 | 72,3 GB | 55,7 GB | — |
| Codellama 34B | 34 B | Q8_0 | 38,4 GB | 89,6 GB | — |
| Codellama 34B | 34 B | Q4_K_M | 21,7 GB | 106,3 GB | — |
| Llava 34B | 34 B | Q4_0 | 20,8 GB | 107,2 GB | — |
| Codellama 34B | 34 B | Q4_0 | 20,4 GB | 107,6 GB | — |
| Qwen2.5 32B | 32 B | FP16 | 72,5 GB | 55,5 GB | 32k |
| Qwen2.5-coder 32B | 32 B | FP16 | 72,5 GB | 55,5 GB | 32k |
| Qwen2.5 32B | 32 B | Q8_0 | 39,6 GB | 88,4 GB | 32k |
| Qwen2.5-coder 32B | 32 B | Q8_0 | 39,6 GB | 88,4 GB | 32k |
| Qwen2.5 32B | 32 B | Q4_0 | 23,6 GB | 104,4 GB | 32k |
| Qwen2.5-coder 32B | 32 B | Q4_0 | 23,6 GB | 104,4 GB | 32k |
| Qwq 32B | 32 B | Q4_0 | 23,6 GB | 104,4 GB | 40k |
| Deepseek-r1 32B | 32 B | Q4_0 | 23,6 GB | 104,4 GB | 128k |
| Gemma2 27B | 27 B | FP16 | 58,3 GB | 69,7 GB | — |
| Gemma2 27B | 27 B | Q8_0 | 31,0 GB | 97,0 GB | — |
| Gemma3 27B | 27 B | Q4_0 | 18,6 GB | 109,4 GB | — |
| Gemma2 27B | 27 B | Q4_K_M | 17,8 GB | 110,2 GB | — |
| Gemma2 27B | 27 B | Q4_0 | 16,7 GB | 111,3 GB | — |
| Mistral-small 24B | 24 B | Q4_0 | 16,8 GB | 111,2 GB | 32k |
| Mistral-small 22B | 22 B | Q4_0 | 13,5 GB | 114,5 GB | — |
| Qwen2.5 14B | 14 B | FP16 | 33,4 GB | 94,6 GB | 32k |
| Qwen2.5-coder 14B | 14 B | FP16 | 31,6 GB | 96,4 GB | — |
| Qwen2.5 14B | 14 B | Q8_0 | 18,5 GB | 109,5 GB | 32k |
| Qwen2.5-coder 14B | 14 B | Q8_0 | 16,8 GB | 111,2 GB | — |
| Phi4 14B | 14 B | Q4_0 | 9,7 GB | 118,3 GB | — |
| Qwen2.5 14B | 14 B | Q4_0 | 11,4 GB | 116,6 GB | 32k |
| Qwen2.5-coder 14B | 14 B | Q4_0 | 9,6 GB | 118,4 GB | — |
| Deepseek-r1 14B | 14 B | Q4_0 | 11,4 GB | 116,6 GB | 128k |
| Codellama 13B | 13 B | FP16 | 27,9 GB | 100,1 GB | — |
| Codellama 13B | 13 B | Q8_0 | 14,8 GB | 113,2 GB | — |
| Codellama 13B | 13 B | Q4_K_M | 8,4 GB | 119,6 GB | — |
| Codellama 13B | 13 B | Q4_0 | 7,9 GB | 120,1 GB | — |
| Llava 13B | 13 B | Q4_0 | 7,9 GB | 120,1 GB | — |
| Gemma3 12B | 12 B | Q4_0 | 8,7 GB | 119,3 GB | — |
| Gemma2 9B | 9 B | FP16 | 19,8 GB | 108,2 GB | — |
| Gemma2 9B | 9 B | Q8_0 | 10,5 GB | 117,5 GB | — |
| Gemma2 9B | 9 B | Q4_K_M | 6,2 GB | 121,8 GB | — |
| Gemma2 9B | 9 B | Q4_0 | 5,8 GB | 122,2 GB | — |
| Llama3.1 8B | 8 B | FP16 | 17,2 GB | 110,8 GB | — |
| Llama3.1 8B | 8 B | Q8_0 | 9,1 GB | 118,9 GB | — |
| Deepseek-r1 8B | 8 B | Q4_0 | 5,6 GB | 122,4 GB | — |
| Llama3.1 8B | 8 B | Q4_0 | 5,3 GB | 122,7 GB | — |
| Qwen2.5 7B | 7 B | FP16 | 16,8 GB | 111,2 GB | 32k |
| Qwen2.5-coder 7B | 7 B | FP16 | 16,8 GB | 111,2 GB | 32k |
| Mistral 7B | 7 B | FP16 | 16,7 GB | 111,3 GB | 32k |
| Codellama 7B | 7 B | FP16 | 14,4 GB | 113,6 GB | — |
| Qwen2.5 7B | 7 B | Q8_0 | 9,2 GB | 118,8 GB | 32k |
| Qwen2.5-coder 7B | 7 B | Q8_0 | 9,2 GB | 118,8 GB | 32k |
| Mistral 7B | 7 B | Q8_0 | 9,4 GB | 118,6 GB | 32k |
| Codellama 7B | 7 B | Q8_0 | 7,7 GB | 120,3 GB | — |
| Qwen2.5 7B | 7 B | Q4_0 | 5,5 GB | 122,5 GB | 32k |
| Qwen2.5-coder 7B | 7 B | Q4_0 | 5,5 GB | 122,5 GB | 32k |
| Deepseek-r1 7B | 7 B | Q4_0 | 5,5 GB | 122,5 GB | 128k |
| Mistral 7B | 7 B | Q4_0 | 5,8 GB | 122,2 GB | 32k |
| Mistral 7B | 7 B | Q4_K_M | 5,8 GB | 122,2 GB | 32k |
| Llava 7B | 7 B | Q4_0 | 4,4 GB | 123,6 GB | — |
| Codellama 7B | 7 B | Q4_K_M | 4,4 GB | 123,6 GB | — |
| Starcoder2 7B | 7 B | Q4_0 | 4,3 GB | 123,7 GB | — |
| Codellama 7B | 7 B | Q4_0 | 4,1 GB | 123,9 GB | — |
| Gemma3 4B | 4 B | Q4_0 | 3,6 GB | 124,4 GB | — |
| Llama3.2 3B | 3 B | FP16 | 6,9 GB | 121,1 GB | — |
| Qwen2.5 3B | 3 B | FP16 | 6,9 GB | 121,1 GB | 32k |
| Qwen2.5-coder 3B | 3 B | FP16 | 6,6 GB | 121,4 GB | — |
| Llama3.2 3B | 3 B | Q8_0 | 3,7 GB | 124,3 GB | — |
| Qwen2.5 3B | 3 B | Q8_0 | 3,8 GB | 124,2 GB | 32k |
| Qwen2.5-coder 3B | 3 B | Q8_0 | 3,5 GB | 124,5 GB | — |
| Llama3.2 3B | 3 B | Q4_0 | 2,2 GB | 125,8 GB | — |
| Qwen2.5 3B | 3 B | Q4_0 | 2,4 GB | 125,6 GB | 32k |
| Qwen2.5-coder 3B | 3 B | Q4_0 | 2,1 GB | 125,9 GB | — |
| Starcoder2 3B | 3 B | Q4_0 | 1,8 GB | 126,2 GB | — |
| Gemma2 2B | 2 B | FP16 | 5,6 GB | 122,4 GB | — |
| Gemma2 2B | 2 B | Q8_0 | 3,0 GB | 125,0 GB | — |
| Gemma2 2B | 2 B | Q4_K_M | 1,8 GB | 126,2 GB | — |
| Gemma2 2B | 2 B | Q4_0 | 1,7 GB | 126,3 GB | — |
| Qwen2.5 1.5B | 1,5 B | FP16 | 3,3 GB | 124,7 GB | — |
| Qwen2.5-coder 1.5B | 1,5 B | FP16 | 3,3 GB | 124,7 GB | — |
| Qwen2.5 1.5B | 1,5 B | Q8_0 | 1,8 GB | 126,2 GB | — |
| Qwen2.5-coder 1.5B | 1,5 B | Q8_0 | 1,8 GB | 126,2 GB | — |
| Deepseek-r1 1.5B | 1,5 B | Q4_0 | 1,2 GB | 126,8 GB | — |
| Qwen2.5 1.5B | 1,5 B | Q4_0 | 1,1 GB | 126,9 GB | — |
| Qwen2.5-coder 1.5B | 1,5 B | Q4_0 | 1,1 GB | 126,9 GB | — |
| Llama3.2 1B | 1 B | FP16 | 2,7 GB | 125,3 GB | — |
| Llama3.2 1B | 1 B | Q4_0 | 1,4 GB | 126,6 GB | — |
| Gemma3 1B | 1 B | Q4_0 | 0,9 GB | 127,1 GB | — |
| Llama3.2 1B | 1 B | Q4_K_M | 0,9 GB | 127,1 GB | — |
Occupazione calcolata con un margine del 15% per attivazioni e frammentazione, su una finestra di contesto di 8.192 token. Contesti più lunghi richiedono memoria aggiuntiva; modelli più grandi possono girare appoggiandosi alla RAM di sistema, ma molto più lentamente.
MSI EdgeXpert è un supercomputer AI da scrivania costruito sulla piattaforma NVIDIA DGX Spark: un petaFLOP di prestazioni AI in un volume di 1,2 litri, alimentato da una normale presa di corrente. Serve a chi lavora su modelli di grandi dimensioni e non vuole dipendere dal cloud — per costo, per latenza o perché i dati non possono uscire dall'azienda.
Il cuore è il superchip GB10 Grace Blackwell: GPU Blackwell con Tensor Core di quinta generazione e CPU Arm a 20 core (10 Cortex-X925 e 10 Cortex-A725), collegate da NVLink-C2C. CPU e GPU condividono 128 GB di memoria unificata LPDDR5x con banda di 273 GB/s: niente copie avanti e indietro fra memoria di sistema e memoria video, che è poi il motivo per cui una macchina di queste dimensioni riesce a tenere in memoria modelli che altrove richiederebbero un server.
Con questa configurazione si lavora su modelli fino a 200 miliardi di parametri e si fa fine-tuning fino a 70 miliardi. Collegando due EdgeXpert fra loro tramite la scheda di rete ConnectX-7 (QSFP 200 GbE) si arriva a 405 miliardi di parametri; il cavo QSFP è venduto a parte.
L'archiviazione è un SSD NVMe M.2 da 4 TB di quinta generazione con autocifratura, e proprio sul Gen 5 MSI ha lavorato sul raffreddamento: piastra in rame dedicata, fondo in alluminio che fa da dissipatore e aperture di ventilazione, per tenere l'SSD sotto i 60 °C anche sotto carico prolungato.
Il sistema operativo è NVIDIA DGX OS con lo stack AI completo — NIM, NeMo, Blueprints, Cosmos, Holoscan, Isaac — quindi il lavoro si sposta da qui al DGX Cloud o a un datacenter accelerato senza rimettere mano all'ambiente. Nota: l'uso in produzione su datacenter e cloud richiede licenza NVIDIA AI Enterprise.
Dati Tecnici:
- Architettura: NVIDIA Grace Blackwell (GB10)
- GPU: architettura NVIDIA Blackwell, Tensor Core di 5ª generazione, RT Core di 4ª generazione
- CPU: Arm 20 core — 10x Cortex-X925 + 10x Cortex-A725
- Prestazioni AI: 1 petaFLOP (FP4, sparse)
- Formati Tensor Core: TF32, FP16, BF16, INT8, FP8, FP6, FP4
- Memoria: 128 GB LPDDR5x unificata, interfaccia 256 bit, banda 273 GB/s
- Archiviazione: SSD NVMe M.2 4 TB Gen 5 con autocifratura
- Rete: ConnectX-7 Smart NIC (QSFP 200 GbE) + 1x RJ-45 10 GbE
- Wireless: Wi-Fi 7, Bluetooth 5.4
- Porte USB: 4x USB 3.2 Type-C fino a 20 Gb/s
- Uscite video: 1x HDMI 2.1, 4x DisplayPort 1.4a via USB-C
- Audio: uscita multicanale via HDMI
- Codifica video: 1x NVENC, 1x NVDEC
- Sistema operativo: NVIDIA DGX OS
- Dimensioni: 151 x 151 x 52 mm (1,2 litri)
- Peso: 1,2 kg
Le specifiche tecniche, le descrizioni e le immagini dei prodotti sono fornite dai rispettivi produttori e riportate a titolo informativo. Tali dati possono contenere errori involontari o essere soggetti a variazioni e aggiornamenti da parte del produttore senza preavviso. Le immagini sono da considerarsi indicative e potrebbero non corrispondere esattamente al prodotto consegnato.
In caso di discrepanza, fanno fede le specifiche ufficiali pubblicate dal produttore. I diritti del consumatore previsti dal D.Lgs. 206/2005 restano impregiudicati. Per chiarimenti, contattaci.
Recensioni
Non ci sono recensioni dei clienti in questo momento.
MSI EdgeXpert - Supercomputer AI NVIDIA GB10 Grace Blackwell, 128GB Unified, 4TB Gen5, DGX OS
€ 7.499,00o in 12 rate con Alma