Memoria unei plăci video de laptop se termină repede. Lucrezi pe modele mici și speri că se comportă la fel cele mari.
Între laptop și centrul de date e o prăpastie
Pe laptop nu încape modelul. În cloud plătești pe oră și îți urci datele. Pe server stai la coadă.
Fiecare experiment costă, iar datele firmei ajung pe serverele altcuiva. Un fine-tuning uitat pornit se vede pe factură.
Experimentele concurează cu aplicațiile care servesc clienții. Nimeni nu vrea să încetinească producția pentru un test.
Unul, doi sau patru
Unitățile se leagă prin rețeaua ConnectX-7 de 200 Gb/s și își pun memoria la comun. Alege câte și vezi ce poți rula.
- Memorie la comun
- 128 GB
- Inferență
- până la 200B
- Fine-tuning
- până la 70B
Sursa: NVIDIA. B înseamnă miliarde de parametri.
La ce îl folosesc echipele
Șase scenarii concrete. Unde NVIDIA a dat exemple publice, le menționăm.
Prototipare pe CUDA
Aceeași arhitectură și același stack software ca în centrele de date NVIDIA, pe un aparat de 15 centimetri. Ce merge pe birou merge și pe serverul de producție, fără surprize la mutare.
- Ce rulează
- CUDA și bibliotecile NVIDIA
- PyTorch
- Microservicii NIM
- Configurația potrivită
- O unitate pe dezvoltator sau pe echipă mică.
Fine-tuning pe datele firmei
NVIDIA indică fine-tuning pentru modele de până la 70 de miliarde de parametri, local. Adaptezi un model pe e-mailurile, documentele și tonul firmei, fără să urci datele în cloud.
- Ce rulează
- Fine-tuning pe modele de până la 70B
- Adaptoare LoRA
- Evaluare pe setul firmei
- Configurația potrivită
- O unitate pentru experimente; două pentru modele mai mari sau rulări mai lungi.
Asistenți și agenți locali
Un asistent pe documentele firmei sau un agent care execută pași în programele voastre, cu modelul pe DGX Spark. Printre exemplele NVIDIA: un chatbot construit cu Qwen3, rulat local.
- Ce rulează
- Modele de până la 200B, la inferență
- Căutare în documente (RAG)
- Agenți cu unelte
- Configurația potrivită
- O unitate pentru un departament; pentru toată firma, discutăm un server.
Video și viziune
Modele care înțeleg imagini și video, rulate lângă camere. NVIDIA dă ca exemplu un agent de căutare și rezumare video construit cu modelul Cosmos Reason, pe DGX Spark.
- Ce rulează
- Modele viziune-limbaj
- Căutare în înregistrări video
- Inspecție vizuală
- Configurația potrivită
- O unitate lângă sursa video, ca imaginile să nu plece din clădire.
Generare de imagini pe brand
Un model de generare de imagini adaptat pe produsele și stilul vostru. NVIDIA menționează personalizarea modelelor FLUX.1 de la Black Forest Labs pe DGX Spark.
- Ce rulează
- Fine-tuning de modele de imagine
- Generare locală
- Variante de produs
- Configurația potrivită
- O unitate, cu stocare suficientă pentru seturile de imagini.
Laborator și instruire
Un mediu complet de AI pentru studenți sau cercetători, fără cozi la un cluster comun și fără facturi pe oră în cloud. Datele din proiectele sensibile rămân în laborator.
- Ce rulează
- Cursuri practice de AI
- Experimente cu modele open-source
- Proiecte cu date sensibile
- Configurația potrivită
- Una sau mai multe unități, legate prin rețeaua de 200 Gb/s când e nevoie de mai multă memorie.
Cât o carte groasă, pe birou
15 × 15 centimetri și 1,2 kilograme. Stă lângă laptop, nu într-o cameră tehnică.
Fotografii: NVIDIA.
Vine cu stack-ul NVIDIA gata instalat
Sistemul NVIDIA DGX OS, bibliotecile CUDA și microserviciile NIM sunt preinstalate. Noi adăugăm modelele, uneltele și legăturile cu aplicațiile voastre.
- DGX OSSistemul de operare, bazat pe Linux
- CUDAAceleași biblioteci ca în centrele de date
- NIMModele împachetate ca servicii, gata de apelat
- FrameworksPyTorch și uneltele obișnuite de AI
Fișa tehnică
Specificațiile publicate de NVIDIA pentru DGX Spark. Sistemele partenerilor pot diferi la stocare și carcasă.
- Superchip
- NVIDIA GB10 Grace Blackwell
- Grafică
- Arhitectura Blackwell, Tensor Cores de generația a 5-a, RT Cores de generația a 4-a
- Performanță AI
- până la 1 PFLOP FP4
- Procesor
- 20 de nuclee Arm (10 Cortex-X925 și 10 Cortex-A725)
- Memorie
- 128 GB LPDDR5x, unificată și coerentă, interfață de 256 de biți
- Lățime de bandă
- 273 GB/s
- Stocare
- 4 TB NVMe M.2, cu criptare
- Rețea
- ConnectX-7 la 200 Gb/s, Ethernet 10 Gb (RJ-45), Wi-Fi 7, Bluetooth 5.4
- Porturi
- 4 USB Type-C, 1 HDMI 2.1a
- Sistem de operare
- NVIDIA DGX OS
- Alimentare
- sursă de 240 W; GB10 are un TDP de 140 W
- Dimensiuni
- 15 × 15 × 5,05 cm
- Greutate
- 1,2 kg
Pe același cip GB10 au anunțat sisteme și Acer, ASUS, Dell Technologies, GIGABYTE, HP, Lenovo și MSI. Îți recomandăm varianta potrivită după stocare, garanție și disponibilitate.
De la cutie la modelul care răspunde
Îl livrăm, îl configurăm și îl legăm de aplicațiile voastre. Tu primești un sistem care merge din prima zi.
- 1Alegem varianta
NVIDIA sau un partener, după stocare, garanție și cât de repede îl poți avea.
- 2Instalare
În rețeaua firmei, cu acces doar pentru cine trebuie.
- 3Modele și unelte
Instalăm și testăm modelele pe întrebările voastre, în română.
- 4Legături
API compatibil OpenAI, asistent intern, pipeline de fine-tuning, după caz.
- 5Suport
Actualizări și ajutor, dacă vrei să rămânem alături.
DGX Spark sau Mac Studio?
Amândouă aduc AI-ul pe birou. Alegi după ecosistem și după cât de mare e modelul.
NVIDIA DGX SparkMac Studio M5 Ultra
Memorie
128 GB unificată
până la 512 GB unificată
Lățime de bandă
273 GB/s
1,2 TB/s
Ecosistem
Linux (DGX OS), CUDA, stack-ul NVIDIA
macOS, MLX, llama.cpp, LM Studio
Unde strălucește
Prototipare și fine-tuning pe CUDA
Inferență pe modele foarte mari
Mai multe unități
Până la 4, prin ConnectX-7 200 Gb/s
Se pot lega prin Thunderbolt 5
Întrebări frecvente
La ce e bun DGX Spark, concret?
Pentru prototipare, fine-tuning și inferență la birou, pe același stack software NVIDIA folosit în centrele de date. NVIDIA indică inferență pe modele de până la 200 de miliarde de parametri și fine-tuning pe modele de până la 70 de miliarde, pe o singură unitate.
Poate servi toată firma?
Pentru un departament sau o echipă mică, da. Pentru zeci de utilizatori simultan, un server cu plăci video dedicate e de obicei mai potrivit. Îți spunem sincer ce se potrivește după ce vedem cât trafic ai.
Ce înseamnă mai multe unități legate?
Unitățile se leagă prin rețeaua ConnectX-7 de 200 Gb/s și își pun memoria la comun. NVIDIA indică până la patru unități, pentru modele de până la 700 de miliarde de parametri.
Doar NVIDIA îl produce?
Nu. NVIDIA vinde varianta proprie, iar Acer, ASUS, Dell Technologies, GIGABYTE, HP, Lenovo și MSI au anunțat sisteme construite pe același cip. Îți recomandăm varianta potrivită după stocare, garanție și disponibilitate.
Voi îl instalați și îl configurați?
Da. Îl livrăm, îl punem în rețea, instalăm modelele și îl legăm de aplicațiile voastre. Dacă vrei, rămânem alături și pentru actualizări și suport.
Cât costă?
Depinde de producător, stocare și disponibilitate. Prețul în lei, cu TVA, instalare și configurare, îl primești în oferta noastră, în scris.
Centrul de date, pe colțul biroului.
Spune-ne ce vrei să rulezi sau să antrenezi. Primești varianta potrivită, câte unități îți trebuie și prețul, în scris.
NVIDIA, DGX, Grace, Blackwell, CUDA și ConnectX sunt mărci ale NVIDIA Corporation. e-data nu este afiliată cu NVIDIA. Specificațiile sunt cele comunicate de NVIDIA și pot fi modificate de producător.
