# Fine-tuning LLM open-source pe tonul și termenii firmei | e-data > Adaptăm un model de limbaj open-source pe tonul, termenii și formatul firmei. Rulează pe serverele voastre și scrie cum scrieți voi. Adresa: https://www.e-data.ro/servicii/fine-tuning-llm # Un LLM care vorbește limba firmei. Tonul, termenii și formatul vostru. Un model general scrie corect, dar nu ca voi. Îl adaptăm pe exemplele bune ale echipei, ca e-mailurile, ofertele și notele să iasă din prima în stilul casei. Rulează pe serverele firmei. [Cere o evaluare gratuită](https://www.e-data.ro/contact?serviciu=fine-tuning-llm#formular) [Vezi înainte și după](#inainte-dupa) - Modele open-source - Pe serverele firmei - Comparat cu modelul de bază 1. **Exemple reale** E-mailurile bune ale echipei. 2. **Stilul casei** Ton, termeni, format. 3. **Adaptare** Pe un model open-source. 4. **Vocea firmei** Scrie cum scrieți voi. 5. **Pe serverul vostru** Nimic nu pleacă afară. ## Pe scurt e-data adaptează un model de limbaj open-source, de exemplu Llama, Mistral sau Qwen, pe exemplele bune ale echipei, ca e-mailurile, ofertele și notele să iasă în tonul, termenii și formatul firmei. Modelul rulează pe serverele voastre, cu un API compatibil OpenAI, și e comparat orb cu modelul de bază pe cereri reale. - **Pentru cine:** Firme care vor e-mailuri, oferte și note scrise în stilul casei - **Ce primești:** Modelul adaptat, comparația cu modelul de bază și readaptare la nevoie - **Unde rulează:** Pe serverele firmei, cu un API compatibil OpenAI - **Tehnologii:** Modele open-source: Llama, Mistral sau Qwen - **Preț:** Fix, în scris, după evaluarea gratuită ## Corect, dar nu sună a voi Un model general a învățat să scrie ca toată lumea. Pentru clienții voștri, asta se simte din primul rând. - **Sună a traducere** „Nu ezitați să ne contactați”, „inconveniența creată”, „Best regards”. Clienții recunosc imediat un text generat. - **Nu vă știe termenii** Spune „ticket” unde voi spuneți „lucrare” și „vizită” unde voi spuneți „intervenție în garanție”. Colegii corectează de mână. - **Promptul crește, rezultatul nu** Adăugați reguli de stil în prompt până ajung la o pagină. Modelul le respectă pe jumătate și costă mai mult la fiecare cerere. ## Același e-mail, înainte și după Ambele modele primesc exact aceleași informații. Faptele nu se schimbă, se schimbă felul în care scrie. Alege un text și vezi fiecare modificare, cu motivul ei pe margine. Răspuns la o reclamație Ofertă scurtă Notă internă Model de bază Diferențe Model adaptat Exemplu **Ce știu ambele modele:** Clientul se plânge că tehnicianul nu a venit joi. Vizita e reprogramată luni, 9–12, lucrarea SRV-2418. ~~Dear~~Bună ziua,1 domnule Popescu, ~~Vă mulțumim pentru feedback-ul dumneavoastră și ne cerem scuze pentru inconveniența creată.~~Aveți dreptate: tehnicianul trebuia să vină joi și nu a venit. Îmi pare rău.2 Am reprogramat ~~vizita tehnicianului~~intervenția în garanție3 pentru luni, între ~~orele~~ 9 și 12\. ~~Numărul ticketului dvs. este~~Lucrarea are numărul4 SRV-2418. ~~Nu ezitați să ne contactați pentru orice altă întrebare!~~Dacă ora nu vă convine, răspundeți la acest e-mail cu alt interval.5 ~~Cu stimă, Echipa de suport~~Andrei Stan Dispecerat service6 1. 1 _Ton_ Salutul obișnuit în firmă, nu un calc din engleză. 2. 2 _Ton_ Recunoaște concret ce s-a întâmplat, în loc de scuze de formular. 3. 3 _Termeni_ „Intervenție în garanție”, cum îi spune echipa, nu „vizită”. 4. 4 _Termeni_ „Lucrare”, nu „ticket”. Așa o caută colegii în sistem. 5. 5 _Ton_ Un pas următor clar, în loc de o formulă de politețe. 6. 6 _Format_ Semnătura cu nume și departament, ca în toate e-mailurile firmei. Exemplu **Ce știu ambele modele:** Doamna Marinescu cere o ofertă pentru revizia a 4 centrale. Prețul din listă: 340 lei pe centrală, cu TVA. ~~Hi~~Bună ziua,1 doamna Marinescu, ~~Thank you for reaching out! Suntem încântați să vă prezentăm oferta noastră personalizată pentru~~Vă trimit oferta pentru2 revizia anuală3 a ~~4 centrale termice.~~celor 4 centrale: ~~Prețul total este de 1.360 lei cu TVA. Această ofertă este valabilă 30 de zile.~~Revizie anuală: 4 × 340 lei Total: 1.360 lei, cu TVA Valabilitate: 30 de zile4 ~~Sperăm să colaborăm!~~Confirmați printr-un răspuns și vă sunăm pentru programare.5 ~~Best regards, Echipa de vânzări~~Mihaela Dobre Vânzări6 1. 1 _Ton_ Fără englezisme în salut. 2. 2 _Ton_ Direct la subiect, fără „suntem încântați” și „personalizată”. 3. 3 _Termeni_ „Revizie anuală”, numele serviciului din lista de prețuri. 4. 4 _Format_ Prețul pe rânduri, cu calculul la vedere, ca în ofertele firmei. 5. 5 _Ton_ Spune ce urmează, nu ce speră. 6. 6 _Format_ Semnătura standard: nume și departament. Exemplu **Ce știu ambele modele:** Din 1 noiembrie, dispeceratul lucrează între 8:00 și 18:00\. Întrebările merg la Mihai D., operațiuni. ~~Subject: Important Update!!!~~Subiect: Dispecerat, program nou din 1 noiembrie1 ~~Dragi colegi, vrem să vă informăm că începând cu data de~~Pe scurt: din2 1 noiembrie, ~~programul dispeceratului se va schimba la 8:00-18:00~~dispeceratul lucrează între 8:00 și 18:00. ~~Vă rugăm să luați la cunoștință această schimbare și să vă ajustați activitățile în consecință.~~Ce faceți: programați intervențiile doar în acest interval.3 ~~Mulțumim pentru înțelegere! Management Team~~Întrebări: Mihai D., operațiuni4 1. 1 _Format_ Subiectul spune despre ce e, fără majuscule și semne de exclamare. 2. 2 _Format_ Începe cu „Pe scurt”, ca toate notele interne. 3. 3 _Termeni_ „Intervenții” și o instrucțiune clară, nu o rugăminte vagă. 4. 4 _Format_ Se încheie cu omul la care mergi cu întrebări. - ~~Scos~~ formulări generice sau traduse - Ton - Format - Termeni Exemplu ilustrativ, pentru o firmă fictivă de service pentru centrale termice. Numele, cifrele și textele sunt inventate. ## Ce învață și ce nu învață Fine-tuning-ul e bun la stil și comportament. Pentru fapte care se schimbă, există unelte mai potrivite, și vă spunem când e cazul. **Învață bine** - **Tonul:** Cât de formal, cât de direct, cum își cere scuze și cum refuză. - **Termenii:** Cuvintele firmei: servicii, produse, departamente, prescurtări interne. - **Formatul:** Structura ofertelor, a notelor și a răspunsurilor, lungimea lor, semnătura. - **Comportamentul:** Când cere detalii, când trimite la un coleg, ce nu promite niciodată. **Nu e locul lui** - **Prețuri și stocuri de azi:** Se schimbă prea des ca să fie „învățate”. Modelul le primește din sistem, la fiecare cerere. - **Documente și proceduri:** Pentru răspunsuri din documente, cu sursa citată, e mai potrivită o aplicație RAG. Pentru răspunsuri din documentele firmei, vezi [aplicațiile RAG](https://www.e-data.ro/servicii/aplicatii-rag) . Adesea le combinăm: RAG aduce faptele, modelul adaptat le scrie în stilul casei. ## Ce primiți Un model pe care îl puteți verifica, rula și readapta singuri, nu o cutie neagră la un furnizor. **Modelul adaptat** Un model open-source (Llama, Mistral sau Qwen), adaptat pe exemplele voastre. **Comparația** Același set de cereri reale, trecut prin modelul de bază și prin cel adaptat, evaluat de echipa voastră. **Rularea** Pe serverele firmei, cu un API compatibil OpenAI, ca aplicațiile să-l folosească imediat. **Readaptarea** Când se schimbă stilul sau apar exemple noi, modelul se readaptează fără să pornim de la zero. ## Din ce învață: exemplele voastre bune Nu reguli scrise într-un prompt, ci răspunsuri reale pe care echipa le-ar trimite oricând. Restul e metodă. 1. 1**Exemplele** Alegem împreună răspunsurile bune ale echipei: e-mailuri, oferte, note. 2. 2**Curățarea** Scoatem datele personale și exemplele slabe. Calitatea lor decide rezultatul. 3. 3**Adaptarea** Adaptăm modelul open-source pe serverele voastre, eficient, fără să-l reantrenăm de la zero. 4. 4**Comparația** Colegii voștri compară orb răspunsurile celor două modele pe cereri reale. 5. 5**În lucru** Modelul intră în aplicațiile voastre, cu readaptare când e nevoie. ## Întrebări frecvente Fine-tuning sau RAG? Fine-tuning-ul schimbă felul în care scrie modelul: ton, termeni, format, comportament. RAG îi dă acces la documente și date care se schimbă. Pentru un asistent care răspunde în stilul firmei din documentele firmei, de obicei le combinăm. Câte exemple ne trebuie? Pentru ton și format, de obicei câteva sute de exemple bune ajung. Pentru comportament mai complex, mai multe. Ne uităm la ce aveți la evaluare și vă spunem concret. Pe ce model pornim? Pe un model open-source, de exemplu Llama, Mistral sau Qwen, ales după sarcină, după cât de bine scrie în română și după hardware-ul vostru. Nu sunteți legați de un furnizor. Modelul adaptat devine mai prost la altele? Se poate întâmpla dacă adaptarea e făcută greșit. De aceea îl măsurăm și pe sarcini generale, nu doar pe cele noi, înainte să-l predăm. Datele din exemple ajung undeva? Nu. Adaptarea și rularea se fac pe serverele firmei. Datele personale din exemple le scoatem înainte de adaptare. Cât costă? Depinde de model, de numărul de exemple și de hardware. După evaluarea gratuită primiți un preț fix, în scris. ## Trimite-ne trei e-mailuri bune. Vă arătăm cum le-ar scrie un model general și cum le-ar scrie unul adaptat pe stilul vostru. Evaluarea e gratuită, prețul e fix și în scris. [Cere o evaluare gratuită](https://www.e-data.ro/contact?serviciu=fine-tuning-llm#formular) [Sună-ne: 0750 214 446](tel:+40750214446) ## Servicii înrudite - [**Aplicații RAG** Întrebări în limbaj natural peste documentele tale](https://www.e-data.ro/servicii/aplicatii-rag) - [**Evaluare și benchmarking** Măsurăm cât de bine merge, nu ghicim](https://www.e-data.ro/servicii/evaluare-benchmarking) - [**Distilare și cuantizare** Modele mici, pe hardware modest](https://www.e-data.ro/servicii/distilare-cuantizare) - [**API-uri de inferență** Modelele tale, accesibile printr-un API intern](https://www.e-data.ro/servicii/api-inferenta) --- Sursa: e-data (E-DATA S.R.L.), https://www.e-data.ro/servicii/fine-tuning-llm. Contact: contact@e-data.ro, 0750 214 446.