Modelli IA che questa macchina esegue

Eseguiti in locale, interamente nella memoria della scheda video: nessun servizio esterno, nessun dato che esce.

72B
Qwen2.5 72Bin locale · 16 bit · contesto 32k
101modelli
ModelloParametriQuant.OccupaMargineContesto max
Mixtral 8X22B176 BQ4_087,2 GB164,8 GB64k
Qwen2.5 72B72 BFP16158,6 GB93,4 GB32k
Qwen2.5 72B72 BQ8_085,6 GB166,4 GB32k
Qwen2.5 72B72 BQ4_053,7 GB198,3 GB32k
Llama3.3 70B70 BFP16151,1 GB100,9 GB
Llama3.1 70B70 BFP16151,1 GB100,9 GB
Codellama 70B70 BFP16147,8 GB104,2 GB
Llama3.3 70B70 BQ8_080,3 GB171,7 GB
Llama3.1 70B70 BQ8_080,3 GB171,7 GB
Codellama 70B70 BQ8_078,5 GB173,5 GB
Llama3.3 70B70 BQ4_045,5 GB206,5 GB
Llama3.1 70B70 BQ4_045,5 GB206,5 GB
Deepseek-r1 70B70 BQ4_045,5 GB206,5 GB
Codellama 70B70 BQ4_K_M44,4 GB207,6 GB
Codellama 70B70 BQ4_041,6 GB210,4 GB
Mixtral 8X7B56 BQ4_029,5 GB222,5 GB32k
Codellama 34B34 BFP1672,3 GB179,7 GB
Codellama 34B34 BQ8_038,4 GB213,6 GB
Codellama 34B34 BQ4_K_M21,7 GB230,3 GB
Llava 34B34 BQ4_020,8 GB231,2 GB
Codellama 34B34 BQ4_020,4 GB231,6 GB
Qwen2.5 32B32 BFP1672,5 GB179,5 GB32k
Qwen2.5-coder 32B32 BFP1672,5 GB179,5 GB32k
Qwen2.5 32B32 BQ8_039,6 GB212,4 GB32k
Qwen2.5-coder 32B32 BQ8_039,6 GB212,4 GB32k
Qwen2.5 32B32 BQ4_023,6 GB228,4 GB32k
Qwen2.5-coder 32B32 BQ4_023,6 GB228,4 GB32k
Qwq 32B32 BQ4_023,6 GB228,4 GB40k
Deepseek-r1 32B32 BQ4_023,6 GB228,4 GB128k
Gemma2 27B27 BFP1658,3 GB193,7 GB
Gemma2 27B27 BQ8_031,0 GB221,0 GB
Gemma3 27B27 BQ4_018,6 GB233,4 GB
Gemma2 27B27 BQ4_K_M17,8 GB234,2 GB
Gemma2 27B27 BQ4_016,7 GB235,3 GB
Mistral-small 24B24 BQ4_016,8 GB235,2 GB32k
Mistral-small 22B22 BQ4_013,5 GB238,5 GB
Qwen2.5 14B14 BFP1633,4 GB218,6 GB32k
Qwen2.5-coder 14B14 BFP1631,6 GB220,4 GB
Qwen2.5 14B14 BQ8_018,5 GB233,5 GB32k
Qwen2.5-coder 14B14 BQ8_016,8 GB235,2 GB
Phi4 14B14 BQ4_09,7 GB242,3 GB
Qwen2.5 14B14 BQ4_011,4 GB240,6 GB32k
Qwen2.5-coder 14B14 BQ4_09,6 GB242,4 GB
Deepseek-r1 14B14 BQ4_011,4 GB240,6 GB128k
Codellama 13B13 BFP1627,9 GB224,1 GB
Codellama 13B13 BQ8_014,8 GB237,2 GB
Codellama 13B13 BQ4_K_M8,4 GB243,6 GB
Codellama 13B13 BQ4_07,9 GB244,1 GB
Llava 13B13 BQ4_07,9 GB244,1 GB
Gemma3 12B12 BQ4_08,7 GB243,3 GB
Gemma2 9B9 BFP1619,8 GB232,2 GB
Gemma2 9B9 BQ8_010,5 GB241,5 GB
Gemma2 9B9 BQ4_K_M6,2 GB245,8 GB
Gemma2 9B9 BQ4_05,8 GB246,2 GB
Llama3.1 8B8 BFP1617,2 GB234,8 GB
Llama3.1 8B8 BQ8_09,1 GB242,9 GB
Deepseek-r1 8B8 BQ4_05,6 GB246,4 GB
Llama3.1 8B8 BQ4_05,3 GB246,7 GB
Qwen2.5 7B7 BFP1616,8 GB235,2 GB32k
Qwen2.5-coder 7B7 BFP1616,8 GB235,2 GB32k
Mistral 7B7 BFP1616,7 GB235,3 GB32k
Codellama 7B7 BFP1614,4 GB237,6 GB
Qwen2.5 7B7 BQ8_09,2 GB242,8 GB32k
Qwen2.5-coder 7B7 BQ8_09,2 GB242,8 GB32k
Mistral 7B7 BQ8_09,4 GB242,6 GB32k
Codellama 7B7 BQ8_07,7 GB244,3 GB
Qwen2.5 7B7 BQ4_05,5 GB246,5 GB32k
Qwen2.5-coder 7B7 BQ4_05,5 GB246,5 GB32k
Deepseek-r1 7B7 BQ4_05,5 GB246,5 GB128k
Mistral 7B7 BQ4_05,8 GB246,2 GB32k
Mistral 7B7 BQ4_K_M5,8 GB246,2 GB32k
Llava 7B7 BQ4_04,4 GB247,6 GB
Codellama 7B7 BQ4_K_M4,4 GB247,6 GB
Starcoder2 7B7 BQ4_04,3 GB247,7 GB
Codellama 7B7 BQ4_04,1 GB247,9 GB
Gemma3 4B4 BQ4_03,6 GB248,4 GB
Llama3.2 3B3 BFP166,9 GB245,1 GB
Qwen2.5 3B3 BFP166,9 GB245,1 GB32k
Qwen2.5-coder 3B3 BFP166,6 GB245,4 GB
Llama3.2 3B3 BQ8_03,7 GB248,3 GB
Qwen2.5 3B3 BQ8_03,8 GB248,2 GB32k
Qwen2.5-coder 3B3 BQ8_03,5 GB248,5 GB
Llama3.2 3B3 BQ4_02,2 GB249,8 GB
Qwen2.5 3B3 BQ4_02,4 GB249,6 GB32k
Qwen2.5-coder 3B3 BQ4_02,1 GB249,9 GB
Starcoder2 3B3 BQ4_01,8 GB250,2 GB
Gemma2 2B2 BFP165,6 GB246,4 GB
Gemma2 2B2 BQ8_03,0 GB249,0 GB
Gemma2 2B2 BQ4_K_M1,8 GB250,2 GB
Gemma2 2B2 BQ4_01,7 GB250,3 GB
Qwen2.5 1.5B1,5 BFP163,3 GB248,7 GB
Qwen2.5-coder 1.5B1,5 BFP163,3 GB248,7 GB
Qwen2.5 1.5B1,5 BQ8_01,8 GB250,2 GB
Qwen2.5-coder 1.5B1,5 BQ8_01,8 GB250,2 GB
Deepseek-r1 1.5B1,5 BQ4_01,2 GB250,8 GB
Qwen2.5 1.5B1,5 BQ4_01,1 GB250,9 GB
Qwen2.5-coder 1.5B1,5 BQ4_01,1 GB250,9 GB
Llama3.2 1B1 BFP162,7 GB249,3 GB
Llama3.2 1B1 BQ4_01,4 GB250,6 GB
Gemma3 1B1 BQ4_00,9 GB251,1 GB
Llama3.2 1B1 BQ4_K_M0,9 GB251,1 GB

Occupazione calcolata con un margine del 15% per attivazioni e frammentazione, su una finestra di contesto di 8.192 token. Contesti più lunghi richiedono memoria aggiuntiva; modelli più grandi possono girare appoggiandosi alla RAM di sistema, ma molto più lentamente.

La MSI XpertStation WS300 è un supercomputer da scrivania costruito sull'architettura NVIDIA DGX Station: porta la potenza di calcolo di un data center accanto al tavolo di chi lavora, senza sala macchine e senza rack.

Al centro c'è il NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip, che unisce una CPU NVIDIA Grace da 72 core Arm Neoverse V2 e una GPU NVIDIA Blackwell Ultra attraverso l'interconnessione NVLink Chip-to-Chip. Le due metà non si parlano su un bus PCIe: condividono un unico spazio di memoria coerente da 748 GB — 252 GB di HBM3e a 7,1 TB/s sulla GPU e 496 GB di LPDDR5X a 396 GB/s sulla CPU. È questa memoria unica, non la sola potenza di picco, a permettere l'addestramento e l'inferenza di modelli fino a mille miliardi di parametri su una macchina sola.

La rete è dimensionata di conseguenza: la NVIDIA ConnectX-8 SuperNIC integrata espone due porte QSFP112 da 400 GbE per un totale di 800 Gb/s, affiancate da una porta 10 GbE RJ45. Due unità si possono mettere in cascata per raddoppiare memoria e dimensione del modello.

Lo storage di sistema è già popolato con 2 TB NVMe in RAID1 su PCIe 5.0, e restano due slot M.2 PCIe 6.0 x4 liberi, collegati direttamente alla ConnectX-8, pensati per i dati di addestramento. Ci sono poi tre slot di espansione PCIe 5.0 e una porta di gestione dedicata con ASPEED AST2600, IPMI 2.0 e Redfish, con Root of Trust hardware e TPM 2.0.

Il sistema arriva con Ubuntu 24.04 LTS e gli NVIDIA AI Developer Tools già installati: è operativo dal primo avvio per sviluppo AI, data science, inferenza locale di modelli di grandi dimensioni e come nodo di calcolo condiviso di un gruppo di lavoro.

Dati Tecnici

  • Nome prodotto: XpertStation WS300 (CT60-S8060)
  • Codice produttore: WS300T60L
  • Architettura: NVIDIA DGX Station
  • CPU: NVIDIA Grace, 72 core Arm Neoverse V2
  • GPU: NVIDIA Blackwell Ultra
  • Superchip: NVIDIA GB300 Grace Blackwell Ultra Desktop
  • Interconnessione CPU-GPU: NVIDIA NVLink Chip-to-Chip (C2C)
  • Prestazioni AI: fino a 20 petaFLOPS
  • Memoria: 748 GB coerenti unificati
    - 496 GB LPDDR5X (396 GB/s) sulla CPU Grace
    - 252 GB HBM3e (7,1 TB/s) sulla GPU Blackwell Ultra
  • Dimensione massima del modello: fino a 1.000 miliardi di parametri
  • Storage di sistema: 2 TB NVMe in RAID1 - 2 × M.2 2280 PCIe 5.0 x4 collegati alla CPU
  • Storage di espansione: 2 × M.2 2280 PCIe 6.0 x4 liberi, collegati alla ConnectX-8
  • Rete: - 2 × QSFP112 400 GbE (NVIDIA ConnectX-8 SuperNIC integrata)
    - 1 × 10 GbE RJ45 (Marvell AQC113)
  • Gestione remota: porta dedicata 1000Base-T, ASPEED AST2600 con IPMI 2.0 e DMTF Redfish
  • Sicurezza: Root of Trust hardware, TPM 2.0
  • Slot di espansione: 3 × PCIe 5.0
  • Sistema operativo: Ubuntu 24.04 LTS con NVIDIA AI Developer Tools preinstallati
  • Alimentatore: 1600 W ATX, 80 PLUS Platinum
  • Formato: Tower
  • Dimensioni (L×H×P): 245,7 × 529,0 × 570,4 mm
  • Produttore: MSI

Le specifiche tecniche, le descrizioni e le immagini dei prodotti sono fornite dai rispettivi produttori e riportate a titolo informativo. Tali dati possono contenere errori involontari o essere soggetti a variazioni e aggiornamenti da parte del produttore senza preavviso. Le immagini sono da considerarsi indicative e potrebbero non corrispondere esattamente al prodotto consegnato.

In caso di discrepanza, fanno fede le specifiche ufficiali pubblicate dal produttore. I diritti del consumatore previsti dal D.Lgs. 206/2005 restano impregiudicati. Per chiarimenti, contattaci.

Recensioni

Non ci sono recensioni dei clienti in questo momento.

Lascia una recensione ›
MSI

MSI XpertStation WS300 - AI Station NVIDIA GB300 Grace Blackwell Ultra, 748GB, 2TB NVMe RAID1

Cod. Drako: 035-964SKU: WS300T60LEAN: N/A
€ 149.000,00
IVA inclusa, escluse spese di spedizione
finanziamento da € 203,30/mese in 48 rate
TAN 9,45% fisso · TAEG 11,10% ·
Pagamento sicuro
Spedizione rapida
Reso entro 14 giorni
Hai domande su questo prodotto?