E.D.A.T.A. / EST. 2017
— HARDWARE / EDT-RIG

Mașini de inteligență, construite de noi.

Hardware-ul nu e un serviciu auxiliar — e produs. Asamblăm, testăm, livrăm și instalăm mașinile pe care rulează AI-ul tău. Mai jos: de ce contează, din ce sunt făcute și șase configurații plus două platforme alternative.

6 configurații + 2 platforme/Dimensionate pe workload/Datele rămân la tine
— CONFIGURAȚII / EDT-RIG

Șase rig-uri, plus două platforme.

Puncte de plecare, nu produse de raft. Fiecare configurație se ajustează pe modelul pe care vrei să-l rulezi și pe datele pe care le ai.

— DE CE HARDWARE DEDICAT

Patru motive pentru care AI-ul stă la tine.

Cloud-ul e simplu până la prima factură și prima cerință de conformitate. Un rig propriu schimbă ecuația pe termen lung.

EDT-INF-01 / SUVERANITATE

Datele nu pleacă din sediu

Modelul rulează pe mașina ta. Documentele, codul și datele clienților nu se copiază în niciun cloud extern. Pentru domenii reglementate, e singura variantă acceptabilă.

EDT-INF-02 / COST

O investiție, nu o chirie lunară

Cloud-ul AI se plătește la oră și crește cu volumul. Un rig propriu se amortizează: după ce e al tău, inferența nu mai are cost marginal per token.

EDT-INF-03 / LATENȚĂ

Răspuns local, constant

Fără drum dus-întors la un API extern. Inferența se întâmplă la câțiva metri de utilizator — latență mică și predictibilă, indiferent de internet.

EDT-INF-04 / CONTROL

Modelul tău, versiunea ta

Alegi ce model rulezi și când îl schimbi. Nimeni nu-ți deprecază endpoint-ul peste noapte și nu-ți schimbă comportamentul modelului fără să știi.

— ANATOMIA UNUI RIG

Din ce e făcută mașina.

Nouă decizii care, împreună, determină ce model poți rula și cât de repede. Le alegem pe fiecare în funcție de workload-ul tău — nimic nu e de raft.

REGULA VRAM~2 GB / miliard parametri @ 16-bit~0,5 GB / miliard @ 4-bitmodelul + contextul trebuie să încapă
EDT-CMP-01 / GPU
NVIDIA

Placa video — motorul

Unitatea care face calculul modelelor. Aici se întâmplă training-ul și inferența.

De ce contează

Determină cât de repede și ce mărime de model poți rula. NVIDIA (CUDA) rămâne standardul pentru compatibilitate cu ecosistemul AI.

Ce alegem

RTX 5090 pentru atelier, RTX 6000 Pro pentru producție, configurații 2× pentru studio.

EDT-CMP-02 / VRAM

Memoria video

Memoria de pe placă în care trebuie să încapă modelul plus contextul.

De ce contează

E prima limită reală. Regula practică: ~2 GB per miliard de parametri la 16-bit, ~0,5 GB la 4-bit. Modelul nu încape → nu rulează.

Ce alegem

Dimensionăm VRAM-ul total pe cel mai mare model pe care vrei să-l rulezi, cu marjă pentru context.

EDT-CMP-03 / CPU
AMD

Procesorul

Orchestrează sistemul, preprocesează datele și alimentează GPU-urile.

De ce contează

La rig-uri multi-GPU contează numărul de linii PCIe și de nuclee — un CPU slab devine gâtul de sticlă care ține GPU-urile flămânde.

Ce alegem

Ryzen pentru single-GPU, Threadripper pentru configurațiile cu 2+ plăci și memorie ECC.

EDT-CMP-04 / RAM

Memoria de sistem

Memoria principală, folosită la pregătirea datelor și la offload.

De ce contează

Regulă: 1,5–2× VRAM-ul total. Prea puțină RAM înseamnă staging lent al dataset-urilor și offload imposibil.

Ce alegem

64 GB la low-end, până la 512 GB DDR5 ECC la configurațiile de capacitate.

EDT-CMP-05 / STOCARE

Stocare NVMe

Discurile pe care stau dataset-urile, checkpoint-urile și modelele.

De ce contează

La training, viteza de citire alimentează pipeline-ul de date; un checkpoint de zeci de GB trebuie scris fără să blocheze GPU-urile.

Ce alegem

NVMe rapid, în RAID pentru throughput, dimensionat pe volumul de date — de la 4 TB la 24 TB.

EDT-CMP-06 / PLATFORMĂ

Placa de bază & PCIe

Coloana vertebrală: sloturile PCIe și liniile care leagă GPU-urile de CPU.

De ce contează

Numărul de sloturi PCIe și bifurcarea liniilor decid câte GPU-uri intră și la ce lățime de bandă comunică.

Ce alegem

X870E pentru single-GPU (AM5), TRX50 pentru multi-GPU și ECC (Threadripper).

EDT-CMP-07 / RĂCIRE

Răcirea

Sistemul care ține componentele în fereastra termică sigură.

De ce contează

GPU-urile degajă mult; peste prag, plăcile fac throttling și pierzi throughput. Stabilitatea termică = performanță constantă.

Ce alegem

Cooler pe aer la AM5, răcire lichidă 360 mm la configurațiile Threadripper.

EDT-CMP-08 / ALIMENTARE

Sursa (PSU)

Alimentarea, dimensionată cu rezervă pentru rulare stabilă sub sarcină.

De ce contează

Un rig cu 2 plăci profesionale poate cere peste 2 kW. Sursă subdimensionată sau fără headroom = instabilitate sub sarcină.

Ce alegem

Surse cu marjă de 20–30% — de la 1000 W la 2200 W, după configurație.

EDT-CMP-09 / REȚEA

Rețeaua

Legătura spre stocare și, la cluster, între noduri.

De ce contează

Pentru single-node, 10–25 GbE spre stocare. Pentru training distribuit, interconectarea rapidă între GPU-uri decide dacă scalarea e reală.

Ce alegem

10/25 GbE la producție, interconectare rapidă la configurațiile de cluster.

— DE LA ATELIER LA SEDIUL TĂU

Livrată gata de producție.

ASAMBLARE ÎN-HOUSE/TESTARE PE WORKLOAD REAL/BURN-IN 48H/INSTALARE LA SEDIU/SUPORT & OPERARE
Mâini lucrând pe componente în timpul asamblării unui rig
FIG. 01 — ASAMBLARE & TESTARE ÎN ATELIER

Pornim de la workload-ul tău, alegem componentele, asamblăm și testăm pe date reale, apoi instalăm la sediu și rămânem lângă sistem.

Cere o configurație pe workload-ul tău