Táto lekcia bola vytvorená na základe viacerých kľúčových zdrojov od OpenAI a Azure OpenAI, ktoré slúžili ako referencie pre terminológiu a návody. Tu je neúplný zoznam, ktorý vám pomôže na vašej ceste samostatného učenia.
| Názov/Odkaz | Popis |
|---|---|
| Fine-tuning with OpenAI Models | Fine-tuning zlepšuje učenie na základe niekoľkých príkladov tým, že trénuje na oveľa väčšom množstve dát, než sa zmestí do promptu, čím šetrí náklady, zvyšuje kvalitu odpovedí a umožňuje rýchlejšie spracovanie požiadaviek. Získajte prehľad o fine-tuningu od OpenAI. |
| What is Fine-Tuning with Azure OpenAI? | Pochopte čo je fine-tuning (koncept), prečo by ste ho mali zvážiť (motivujúci problém), aké dáta použiť (tréning) a ako merať kvalitu výsledkov. |
| Customize a model with fine-tuning | Azure OpenAI Service vám umožňuje prispôsobiť modely na základe vašich vlastných dát pomocou fine-tuningu. Naučte sa ako vykonať fine-tuning (proces) vybraných modelov cez Azure AI Studio, Python SDK alebo REST API. |
| Recommendations for LLM fine-tuning | Veľké jazykové modely (LLM) nemusia dobre fungovať na špecifických doménach, úlohách alebo dátach, alebo môžu produkovať nepresné či zavádzajúce výstupy. Kedy by ste mali zvážiť fine-tuning ako riešenie? |
| Continuous Fine Tuning | Kontinuálny fine-tuning je iteratívny proces, pri ktorom sa už existujúci fine-tuned model používa ako základ a ďalej sa doladí na nových tréningových dátach. |
| Fine-tuning and function calling | Fine-tuning modelu s príkladmi volania funkcií môže zlepšiť výstupy modelu tým, že zabezpečí presnejšie a konzistentnejšie odpovede – s podobným formátovaním a zároveň úsporou nákladov. |
| Fine-tuning Models: Azure OpenAI Guidance | Pozrite si túto tabuľku, aby ste pochopili, ktoré modely je možné fine-tunovať v Azure OpenAI a v ktorých regiónoch sú dostupné. Ak je potrebné, skontrolujte limity tokenov a dátum vypršania platnosti tréningových dát. |
| To Fine Tune or Not To Fine Tune? That is the Question | Tento 30-minútový diel AI Show z októbra 2023 rozoberá výhody, nevýhody a praktické poznatky, ktoré vám pomôžu rozhodnúť sa, či fine-tuning použiť. |
| Getting Started With LLM Fine-Tuning | Tento zdroj z AI Playbook vás prevedie požiadavkami na dáta, formátovaním, doladením hyperparametrov a výzvami či obmedzeniami, ktoré by ste mali poznať. |
| Tutorial: Azure OpenAI GPT3.5 Turbo Fine-Tuning | Naučte sa vytvoriť ukážkový dataset pre fine-tuning, pripraviť sa na fine-tuning, spustiť fine-tuning úlohu a nasadiť doladený model na Azure. |
| Tutorial: Fine-tune a Llama 2 model in Azure AI Studio | Azure AI Studio vám umožňuje prispôsobiť veľké jazykové modely na základe vašich dát pomocou UI workflow vhodného pre low-code vývojárov. Pozrite si tento príklad. |
| Tutorial: Fine-tune Hugging Face models for a single GPU on Azure | Tento článok popisuje, ako doladiť model Hugging Face pomocou knižnice transformers na jednom GPU s využitím Azure DataBricks a Hugging Face Trainer knižníc. |
| Training: Fine-tune a foundation model with Azure Machine Learning | Katalóg modelov v Azure Machine Learning ponúka množstvo open source modelov, ktoré môžete doladiť pre svoju konkrétnu úlohu. Vyskúšajte tento modul z AzureML Generative AI Learning Path. |
| Tutorial: Azure OpenAI Fine-Tuning | Fine-tuning modelov GPT-3.5 alebo GPT-4 na Microsoft Azure pomocou W&B umožňuje detailné sledovanie a analýzu výkonu modelu. Tento návod rozširuje koncepty z OpenAI Fine-Tuning príručky o špecifické kroky a funkcie pre Azure OpenAI. |
Táto sekcia obsahuje ďalšie zdroje, ktoré stoja za preskúmanie, no v tejto lekcii sme ich nestihli pokryť. Môžu byť zahrnuté v budúcich lekciách alebo ako doplnkové úlohy. Zatiaľ ich využite na rozšírenie svojich znalostí a odbornosti v tejto oblasti.
| Názov/Odkaz | Popis |
|---|---|
| OpenAI Cookbook: Príprava a analýza dát pre fine-tuning chat modelu | Tento notebook slúži ako nástroj na predspracovanie a analýzu datasetu pre fine-tuning chat modelu. Kontroluje formátové chyby, poskytuje základné štatistiky a odhaduje počet tokenov pre výpočet nákladov na fine-tuning. Pozrite si: Fine-tuning method for gpt-3.5-turbo. |
| OpenAI Cookbook: Fine-tuning pre Retrieval Augmented Generation (RAG) s Qdrant | Cieľom tohto notebooku je ukázať komplexný príklad, ako doladiť OpenAI modely pre Retrieval Augmented Generation (RAG). Zároveň integrujeme Qdrant a Few-Shot Learning na zvýšenie výkonu modelu a zníženie nepresností. |
| OpenAI Cookbook: Fine-tuning GPT s Weights & Biases | Weights & Biases (W&B) je platforma pre AI vývojárov s nástrojmi na trénovanie modelov, fine-tuning a využívanie základných modelov. Najprv si prečítajte ich OpenAI Fine-Tuning príručku a potom vyskúšajte cvičenie z Cookbooku. |
| Community Tutorial Phinetuning 2.0 - fine-tuning pre malé jazykové modely | Spoznajte Phi-2, nový malý model od Microsoftu, ktorý je prekvapivo výkonný a zároveň kompaktný. Tento tutoriál vás prevedie fine-tuningom Phi-2, ukáže, ako vytvoriť jedinečný dataset a doladiť model pomocou QLoRA. |
| Hugging Face Tutorial Ako doladiť LLM v roku 2024 s Hugging Face | Tento blogový príspevok vás prevedie procesom doladenia otvorených LLM pomocou Hugging Face TRL, Transformers a datasetov v roku 2024. Definujete si prípad použitia, nastavíte vývojové prostredie, pripravíte dataset, doladíte model, otestujete a vyhodnotíte ho a nakoniec nasadíte do produkcie. |
| Hugging Face: AutoTrain Advanced | Prináša rýchlejšie a jednoduchšie trénovanie a nasadzovanie najmodernejších modelov strojového učenia. Repo obsahuje tutoriály priateľské k Colab s video návodmi na YouTube pre fine-tuning. Zohľadňuje nedávnu local-first aktualizáciu. Prečítajte si dokumentáciu AutoTrain. |
Vyhlásenie o zodpovednosti:
Tento dokument bol preložený pomocou AI prekladateľskej služby Co-op Translator. Aj keď sa snažíme o presnosť, prosím, majte na pamäti, že automatizované preklady môžu obsahovať chyby alebo nepresnosti. Originálny dokument v jeho pôvodnom jazyku by mal byť považovaný za autoritatívny zdroj. Pre kritické informácie sa odporúča profesionálny ľudský preklad. Nie sme zodpovední za akékoľvek nedorozumenia alebo nesprávne interpretácie vyplývajúce z použitia tohto prekladu.