Unde asistentul intern devine unealtă zilnică pentru mai multe departamente.
Pentru cine e treapta Mid-End
Mii de documente pe zi, extrase și trimise automat în ERP.
Care vor fine-tuning pe datele lor, fără să le trimită nicăieri.
Ce modele încap în 96 GB
Mărimea modelului decide treapta. Estimare pentru modele cuantizate la 4 biți, cu loc pentru context și pentru mai mulți utilizatori. „La limită” înseamnă că merge, dar pentru puțini utilizatori deodată.
- 8B~5 GBÎncape
- 14B~9 GBÎncape
- 32B~21 GBÎncape
- 70B~46 GBÎncape
- 120B~78 GBLa limită
- 235B~153 GBNu încape
Pentru modele mai mari: treapta High-End. Pentru memorie foarte mare pe un singur aparat, vezi și Mac Studio M5 Ultra.
Două configurații
Aceeași treaptă, două feluri de a o folosi. Diferența e în ce se întâmplă în jurul plăcii video.
Preț orientativ103.400 lei
- Placă video
- NVIDIA RTX 6000 Pro
- Memorie video
- 96 GB
- Procesor
- AMD Ryzen 9 9950X3D, 16 nuclee
- Memorie RAM
- 128 GB DDR5
- Stocare
- 12 TB NVMe SSD
- Răcire
- Cooler pe aer (AM5)
- Sursă
- 1200 W
- Potrivit pentru
- Fine-tuning 13–34B, inferență pentru mulți utilizatori
Preț orientativ116.950 lei
- Placă video
- NVIDIA RTX 6000 Pro
- Memorie video
- 96 GB
- Procesor
- AMD Threadripper 9960X, 24 de nuclee
- Memorie RAM
- 128 GB DDR5 ECC
- Stocare
- 12 TB NVMe SSD
- Răcire
- Răcire lichidă 360 mm
- Sursă
- 1600 W
- Potrivit pentru
- Fine-tuning pe Threadripper, memorie ECC, volum mare
Producție sau Producție TR?
Trei întrebări care decid de obicei.
ProducțieProducție TR
Antrenați modele ore în șir?
Producție
Producție TR, cu memorie ECC și răcire lichidă
Pregătirea datelor e grea?
Producție, 16 nuclee
Producție TR, 24 de nuclee Threadripper
Vreți loc pentru a doua placă video?
Producție
Producție TR, cu platformă și sursă pentru upgrade
La ce îl folosesc firmele
Asistent pentru toată firma
Un model de 32–70B răspunde simultan pentru suport, vânzări și juridic, fiecare pe documentele la care are acces.
- Ce rulează
- Modele de 32–70B
- Permisiuni pe utilizator
- Context lung
- Configurația potrivită
- Producție.
Fine-tuning pe datele firmei
Un model de 13–34B adaptat pe tichete, contracte și corespondență. Datele de antrenare nu pleacă din firmă.
- Ce rulează
- Fine-tuning 13–34B
- Evaluare pe setul firmei
- Configurația potrivită
- Producție TR, pentru memoria ECC la rulări lungi.
Documente la volum mare
Mii de facturi și comenzi pe zi, extrase automat, cu cazurile nesigure trimise la un om.
- Ce rulează
- Clasificare și extragere
- Integrare ERP
- Configurația potrivită
- Producție.
Predicții pe datele interne
Prognoze de vânzări și clienți care pleacă, reantrenate periodic pe același rig.
- Ce rulează
- Forecasting
- Analiză predictivă
- Configurația potrivită
- Producție TR.
Direct de la Lenovo, prin partenerii noștri
Treptele de producție și de capacitate mare vin ca stații de lucru profesionale Lenovo, cu garanție și service de la producător. Noi le configurăm pentru AI, le instalăm și le legăm de aplicațiile voastre.
Întrebări frecvente
De ce Lenovo?
Pentru treptele de producție lucrăm direct cu Lenovo, prin partenerii noștri: stații de lucru profesionale, cu garanție și service de la producător. Modelul exact îl stabilim în ofertă.
Câți oameni îl pot folosi?
Zeci de colegi simultan pe un model de mărime medie. Numărul exact depinde de model și de lungimea documentelor; îl estimăm la evaluare.
Pot face fine-tuning pe el?
Da, pe modele de până la ~34B. Pentru modele mai mari e treapta High-End.
Unde îl punem?
Într-un birou sau într-o cameră cu ventilație. Nu are nevoie de rack, dar îți recomandăm un loc unde zgomotul nu deranjează.
Nu știi sigur ce treaptă îți trebuie?
Spune-ne ce modele vrei să rulezi și câți oameni le folosesc. Îți recomandăm configurația potrivită și prețul exact, în scris.
