Lumea LLM-urilor open-source este captivantă și în continuă evoluție. Această lecție își propune să ofere o privire detaliată asupra modelelor open-source. Dacă dorești informații despre cum se compară modelele proprietare cu cele open-source, accesează lecția "Explorarea și Compararea Diferitelor LLM-uri". Această lecție va aborda și subiectul ajustării fine, dar o explicație mai detaliată poate fi găsită în lecția "Ajustarea Fină a LLM-urilor".
- Înțelegerea modelelor open-source
- Înțelegerea beneficiilor lucrului cu modele open-source
- Explorarea modelelor open disponibile pe Hugging Face și Azure AI Studio
Software-ul open-source a jucat un rol crucial în creșterea tehnologiei în diverse domenii. Open Source Initiative (OSI) a definit 10 criterii pentru software pentru a fi clasificat ca open-source. Codul sursă trebuie să fie distribuit public sub o licență aprobată de OSI.
Deși dezvoltarea LLM-urilor are elemente similare cu dezvoltarea software-ului, procesul nu este exact același. Acest lucru a generat multe discuții în comunitate despre definiția open-source în contextul LLM-urilor. Pentru ca un model să fie aliniat cu definiția tradițională de open-source, următoarele informații ar trebui să fie disponibile public:
- Seturile de date utilizate pentru antrenarea modelului.
- Greutățile complete ale modelului ca parte a antrenamentului.
- Codul de evaluare.
- Codul de ajustare fină.
- Greutățile complete ale modelului și metricele de antrenament.
În prezent, există doar câteva modele care îndeplinesc aceste criterii. Modelul OLMo creat de Allen Institute for Artificial Intelligence (AllenAI) se încadrează în această categorie.
Pentru această lecție, vom face referire la modele ca "modele open" de acum înainte, deoarece este posibil să nu îndeplinească criteriile de mai sus la momentul redactării.
Foarte personalizabile - Deoarece modelele open sunt lansate cu informații detaliate despre antrenament, cercetătorii și dezvoltatorii pot modifica structura internă a modelului. Acest lucru permite crearea de modele extrem de specializate, ajustate fin pentru o anumită sarcină sau domeniu de studiu. Unele exemple includ generarea de cod, operații matematice și biologie.
Cost - Costul per token pentru utilizarea și implementarea acestor modele este mai mic decât cel al modelelor proprietare. Când construiești aplicații Generative AI, ar trebui să analizezi performanța versus prețul în funcție de cazul tău de utilizare.
Sursa: Artificial Analysis
Flexibilitate - Lucrul cu modele open îți permite să fii flexibil în utilizarea diferitelor modele sau combinarea lor. Un exemplu este HuggingChat Assistants, unde utilizatorul poate selecta modelul utilizat direct din interfața utilizatorului:
LLama2, dezvoltat de Meta, este un model open optimizat pentru aplicații bazate pe chat. Acest lucru se datorează metodei de ajustare fină, care a inclus o cantitate mare de dialoguri și feedback uman. Prin această metodă, modelul produce mai multe rezultate aliniate așteptărilor umane, oferind o experiență mai bună utilizatorului.
Unele exemple de versiuni ajustate fin ale Llama includ Japanese Llama, care se specializează în japoneză, și Llama Pro, care este o versiune îmbunătățită a modelului de bază.
Mistral este un model open cu un accent puternic pe performanță și eficiență. Utilizează abordarea Mixture-of-Experts, care combină un grup de modele experte specializate într-un singur sistem, unde, în funcție de input, anumite modele sunt selectate pentru utilizare. Acest lucru face calculul mai eficient, deoarece modelele abordează doar inputurile în care sunt specializate.
Unele exemple de versiuni ajustate fin ale Mistral includ BioMistral, care se concentrează pe domeniul medical, și OpenMath Mistral, care efectuează calcule matematice.
Falcon este un LLM creat de Technology Innovation Institute (TII). Falcon-40B a fost antrenat pe 40 de miliarde de parametri, ceea ce s-a demonstrat că oferă performanțe mai bune decât GPT-3 cu un buget de calcul mai mic. Acest lucru se datorează utilizării algoritmului FlashAttention și atenției multiquery, care îi permite să reducă cerințele de memorie în timpul inferenței. Cu acest timp redus de inferență, Falcon-40B este potrivit pentru aplicații de chat.
Unele exemple de versiuni ajustate fin ale Falcon sunt OpenAssistant, un asistent construit pe modele open, și GPT4ALL, care oferă performanțe mai ridicate decât modelul de bază.
Nu există un răspuns unic pentru alegerea unui model open. Un loc bun pentru a începe este utilizarea funcției de filtrare după sarcină din Azure AI Studio. Acest lucru te va ajuta să înțelegi ce tipuri de sarcini au fost antrenate modelele. Hugging Face menține, de asemenea, un LLM Leaderboard care îți arată cele mai performante modele pe baza anumitor metrici.
Când dorești să compari LLM-uri între diferite tipuri, Artificial Analysis este o altă resursă excelentă:
Sursa: Artificial Analysis
Dacă lucrezi la un caz de utilizare specific, căutarea versiunilor ajustate fin care se concentrează pe același domeniu poate fi eficientă. Experimentarea cu mai multe modele open pentru a vedea cum performează în funcție de așteptările tale și ale utilizatorilor este o altă practică bună.
Partea cea mai bună despre modelele open este că poți începe să lucrezi cu ele destul de rapid. Consultă Catalogul de Modele Azure AI Foundry, care include o colecție specifică Hugging Face cu modelele discutate aici.
După finalizarea acestei lecții, consultă Colecția de Învățare Generative AI pentru a continua să îți dezvolți cunoștințele despre Generative AI!
Declinare de responsabilitate:
Acest document a fost tradus folosind serviciul de traducere AI Co-op Translator. Deși ne străduim să asigurăm acuratețea, vă rugăm să rețineți că traducerile automate pot conține erori sau inexactități. Documentul original în limba sa natală ar trebui considerat sursa autoritară. Pentru informații critice, se recomandă traducerea profesională realizată de un specialist uman. Nu ne asumăm responsabilitatea pentru eventualele neînțelegeri sau interpretări greșite care pot apărea din utilizarea acestei traduceri.