Care vor un asistent pe documente fără să urce datele în cloud.
Pentru cine e treapta Low-End
Care vor să vadă ce poate AI-ul pe datele lor înainte de o investiție mare.
Un calculator care stă pe birou, merge din priză și nu cere întreținere specială.
Ce modele încap în 32 GB
Mărimea modelului decide treapta. Estimare pentru modele cuantizate la 4 biți, cu loc pentru context și pentru mai mulți utilizatori. „La limită” înseamnă că merge, dar pentru puțini utilizatori deodată.
- 8B~5 GBÎncape
- 14B~9 GBÎncape
- 32B~21 GBÎncape
- 70B~46 GBNu încape
- 120B~78 GBNu încape
- 235B~153 GBNu încape
Pentru modele mai mari: treapta Mid-End. Pentru memorie foarte mare pe un singur aparat, vezi și Mac Studio M5 Ultra.
Două configurații
Aceeași treaptă, două feluri de a o folosi. Diferența e în ce se întâmplă în jurul plăcii video.
- Placă video
- NVIDIA RTX 5090
- Memorie video
- 32 GB
- Procesor
- AMD Ryzen 9 9900X, 12 nuclee
- Memorie RAM
- 64 GB DDR5
- Stocare
- 4 TB NVMe SSD
- Răcire
- Cooler pe aer (AM5)
- Sursă
- 1200 W
- Potrivit pentru
- Inferență pe modele de 7–34B, RAG, viziune, prototipare
- Placă video
- NVIDIA RTX 5000 Ada
- Memorie video
- 32 GB
- Procesor
- AMD Ryzen 9 9950X3D, 16 nuclee
- Memorie RAM
- 96 GB DDR5
- Stocare
- 8 TB NVMe SSD
- Răcire
- Cooler pe aer (AM5)
- Sursă
- 1000 W
- Potrivit pentru
- Inferență 24/7 pe placă de workstation, RAG, LoRA
Atelier sau Atelier Pro?
Trei întrebări care decid de obicei.
Atelier
Atelier Pro, cu placă de workstation făcută pentru 24/7
Atelier, cu 4 TB
Atelier Pro, cu 8 TB și 96 GB RAM
Atelier, cel mai accesibil
Atelier Pro, dacă stabilitatea merită diferența de preț
La ce îl folosesc firmele
Asistent pe documente
Un model de 14–24B răspunde din contracte, proceduri și oferte, cu sursa la vedere. Indexarea documentelor rulează peste noapte.
- Ce rulează
- Modele de 14–24B
- Căutare după sens
- Răspuns cu sursă
- Configurația potrivită
- Atelier, sau Atelier Pro dacă rulează non-stop.
Date scoase din facturi
Facturile și comenzile primite pe e-mail sunt citite de un model local, iar datele intră în programul de facturare.
- Ce rulează
- Extragere din PDF și scanuri
- Verificare CUI
- Export în ERP
- Configurația potrivită
- Atelier.
Prototip înainte de investiție
Testați un flux pe date reale, măsurați cât de bine merge și abia apoi decideți dacă treceți la o treaptă mai mare.
- Ce rulează
- Modele open-source diverse
- Evaluare pe datele firmei
- Configurația potrivită
- Atelier.
Model adaptat pe tonul firmei
Un model mic, adaptat peste noapte pe e-mailurile și textele firmei, scrie ciorne în stilul vostru.
- Ce rulează
- Adaptare LoRA pe 7–13B
- Ciorne de e-mailuri
- Configurația potrivită
- Atelier Pro, pentru memoria RAM mai mare.
Asamblat împreună cu The Bit Smith
Rig-urile de intrare le construim împreună cu The Bit Smith, asamblate orientativ ca un PC de gaming de top: componente de consum atent alese, dimensionate pentru AI, la un preț mult sub cel al unei stații de lucru profesionale.
Întrebări frecvente
De ce e asamblat ca un PC de gaming?
Pentru că plăcile video de consum au multă memorie la un preț mic. Asamblăm rig-urile de intrare împreună cu The Bit Smith, cu componente atent alese, și le configurăm noi pentru AI.
Ce nu poate face?
Modele foarte mari (peste ~34B la 4 biți) și mulți utilizatori simultan. Pentru asta e treapta Mid-End. Îți spunem sincer la evaluare dacă îți ajunge.
Pot trece mai târziu la o treaptă mai mare?
Da. Modelele, datele și aplicațiile se mută pe un rig mai mare fără să le refacem. Rig-ul de intrare poate rămâne apoi ca mediu de test.
Cât consumă?
Cât un PC de gaming puternic la sarcină. Merge din priza obișnuită, fără instalație electrică specială.
Nu știi sigur ce treaptă îți trebuie?
Spune-ne ce modele vrei să rulezi și câți oameni le folosesc. Îți recomandăm configurația potrivită și prețul exact, în scris.
