Lekcija je izrađena koristeći niz ključnih resursa iz OpenAI i Azure OpenAI kao referenci za terminologiju i tutorijale. Evo nepotpune liste za vaše samostalno učenje.
| Naslov/Link | Opis |
|---|---|
| Fine-tuning with OpenAI Models | Fine-tuning poboljšava few-shot učenje treniranjem na mnogo većem broju primjera nego što stane u prompt, štedi troškove, poboljšava kvalitetu odgovora i omogućuje brže zahtjeve. Pregledajte fine-tuning iz OpenAI izvora. |
| What is Fine-Tuning with Azure OpenAI? | Razumite što je fine-tuning (pojam), zašto ga trebate razmotriti (motivacijski problem), koje podatke koristiti (trening) i kako mjeriti kvalitetu |
| Customize a model with fine-tuning | Azure OpenAI Service omogućuje prilagodbu modela vašim osobnim skupovima podataka pomoću fine-tuninga. Naučite kako provesti fine-tuning (proces) odabirom modela koristeći Azure AI Studio, Python SDK ili REST API. |
| Recommendations for LLM fine-tuning | LLM modeli možda neće dobro raditi na specifičnim domenama, zadacima ili skupovima podataka, ili mogu davati netočne ili zavaravajuće rezultate. Kada biste trebali razmotriti fine-tuning kao moguću soluciju? |
| Continuous Fine Tuning | Kontinuirani fine-tuning je iterativni proces odabira već fino podešenog modela kao osnovnog i daljnjeg podešavanja na novim skupovima primjera za trening. |
| Fine-tuning and function calling | Fine-tuning vašeg modela s primjerima poziva funkcija može poboljšati izlaz modela dajući točnije i konzistentnije rezultate - s odgovorima sličnog formata i uštedom troškova |
| Fine-tuning Models: Azure OpenAI Guidance | Pogledajte ovu tablicu da biste razumjeli koji se modeli mogu fino podešavati u Azure OpenAI i u kojim su regijama dostupni. Provjerite njihove limite tokena i datume isteka podataka za trening ako je potrebno. |
| To Fine Tune or Not To Fine Tune? That is the Question | Ova 30-minutna epizoda AI Show iz listopada 2023. raspravlja o prednostima, nedostacima i praktičnim uvidima koji vam pomažu donijeti odluku. |
| Getting Started With LLM Fine-Tuning | Ovaj AI Playbook vodi vas kroz zahtjeve za podatke, formatiranje, podešavanje hiperparametara i izazove/ograničenja koje trebate znati. |
| Tutorial: Azure OpenAI GPT3.5 Turbo Fine-Tuning | Naučite kako kreirati uzorak skupa podataka za fine-tuning, pripremiti se za fine-tuning, pokrenuti posao fine-tuninga i implementirati fino podešeni model na Azure. |
| Tutorial: Fine-tune a Llama 2 model in Azure AI Studio | Azure AI Studio omogućuje prilagodbu velikih jezičnih modela vašim osobnim skupovima podataka korištenjem UI-based workflowa pogodnog za low-code developere. Pogledajte ovaj primjer. |
| Tutorial: Fine-tune Hugging Face models for a single GPU on Azure | Ovaj članak opisuje kako fino podesiti Hugging Face model koristeći Hugging Face transformers biblioteku na jednoj GPU jedinici s Azure DataBricks i Hugging Face Trainer bibliotekama. |
| Training: Fine-tune a foundation model with Azure Machine Learning | Katalog modela u Azure Machine Learning nudi mnoge open source modele koje možete fino podesiti za svoj specifični zadatak. Isprobajte ovaj modul iz AzureML Generative AI Learning Path. |
| Tutorial: Azure OpenAI Fine-Tuning | Fine-tuning GPT-3.5 ili GPT-4 modela na Microsoft Azure koristeći W&B omogućuje detaljno praćenje i analizu performansi modela. Ovaj vodič proširuje koncepte iz OpenAI Fine-Tuning vodiča s posebnim koracima i značajkama za Azure OpenAI. |
Ovaj odjeljak sadrži dodatne resurse koje vrijedi istražiti, ali za koje nismo imali vremena u ovoj lekciji. Mogu biti obrađeni u budućim lekcijama ili kao sekundarni zadatak. Za sada ih koristite za izgradnju vlastitog znanja i stručnosti o ovoj temi.
| Naslov/Link | Opis |
|---|---|
| OpenAI Cookbook: Priprema i analiza podataka za fine-tuning chat modela | Ovaj notebook služi kao alat za predobradu i analizu chat skupa podataka korištenog za fine-tuning chat modela. Provjerava greške u formatu, daje osnovne statistike i procjenjuje broj tokena za troškove fine-tuninga. Pogledajte: Fine-tuning metoda za gpt-3.5-turbo. |
| OpenAI Cookbook: Fine-Tuning za Retrieval Augmented Generation (RAG) s Qdrantom | Cilj ovog notebooka je prikazati detaljan primjer kako fino podesiti OpenAI modele za Retrieval Augmented Generation (RAG). Također ćemo integrirati Qdrant i Few-Shot Learning za poboljšanje performansi modela i smanjenje izmišljotina. |
| OpenAI Cookbook: Fine-tuning GPT s Weights & Biases | Weights & Biases (W&B) je platforma za AI developere s alatima za treniranje modela, fine-tuning i korištenje osnovnih modela. Prvo pročitajte njihov vodič za OpenAI Fine-Tuning, a zatim isprobajte vježbu iz Cookbooka. |
| Community Tutorial Phinetuning 2.0 - fine-tuning za male jezične modele | Upoznajte Phi-2, Microsoftov novi mali model, iznimno moćan, a kompaktan. Ovaj tutorial vodi vas kroz fine-tuning Phi-2, pokazujući kako izgraditi jedinstveni skup podataka i fino podesiti model koristeći QLoRA. |
| Hugging Face Tutorial Kako fino podesiti LLM modele u 2024. s Hugging Face | Ovaj blog vodi vas kroz proces fine-tuninga otvorenih LLM modela koristeći Hugging Face TRL, Transformers i datasets u 2024. Definirate slučaj upotrebe, postavite razvojno okruženje, pripremite skup podataka, fino podesite model, testirate i evaluirate ga, a zatim implementirate u produkciju. |
| Hugging Face: AutoTrain Advanced | Omogućuje brže i lakše treniranje i implementaciju najmodernijih modela strojnog učenja. Repo sadrži tutorijale prilagođene Colabu s YouTube video uputama za fine-tuning. Odražava nedavnu local-first nadogradnju. Pročitajte AutoTrain dokumentaciju. |
Odricanje od odgovornosti:
Ovaj dokument je preveden korištenjem AI usluge za prevođenje Co-op Translator. Iako težimo točnosti, imajte na umu da automatski prijevodi mogu sadržavati pogreške ili netočnosti. Izvorni dokument na izvornom jeziku treba smatrati autoritativnim izvorom. Za kritične informacije preporučuje se profesionalni ljudski prijevod. Ne snosimo odgovornost za bilo kakva nesporazuma ili pogrešna tumačenja koja proizlaze iz korištenja ovog prijevoda.