Lekce byla vytvořena s využitím řady klíčových zdrojů od OpenAI a Azure OpenAI jako referencí pro terminologii a návody. Zde je nevyčerpávající seznam pro vaše vlastní samostatné studium.
| Název/Odkaz | Popis |
|---|---|
| Fine-tuning with OpenAI Models | Fine-tuning zlepšuje few-shot learning tím, že trénuje na mnohem větším množství příkladů, než kolik se vejde do promptu, což šetří náklady, zvyšuje kvalitu odpovědí a umožňuje rychlejší odezvy. Získejte přehled o fine-tuningu od OpenAI. |
| What is Fine-Tuning with Azure OpenAI? | Pochopte co je fine-tuning (koncept), proč byste ho měli zvážit (motivující problém), jaká data použít (trénink) a jak měřit kvalitu. |
| Customize a model with fine-tuning | Azure OpenAI Service vám umožňuje přizpůsobit modely vašim vlastním datovým sadám pomocí fine-tuningu. Naučte se jak provést fine-tuning (proces) vybraných modelů pomocí Azure AI Studia, Python SDK nebo REST API. |
| Recommendations for LLM fine-tuning | LLM nemusí dobře fungovat na specifických doménách, úlohách nebo datech, nebo mohou produkovat nepřesné či zavádějící výstupy. Kdy byste měli zvážit fine-tuning jako možné řešení? |
| Continuous Fine Tuning | Kontinuální fine-tuning je iterativní proces, kdy se již jednou doladěný model použije jako základ a dále se doladí na nových sadách tréninkových příkladů. |
| Fine-tuning and function calling | Fine-tuning modelu s příklady volání funkcí může zlepšit výstupy modelu tím, že zajistí přesnější a konzistentnější odpovědi – s podobně formátovanými reakcemi a úsporou nákladů. |
| Fine-tuning Models: Azure OpenAI Guidance | Podívejte se na tuto tabulku, abyste pochopili, které modely lze v Azure OpenAI doladit, a ve kterých regionech jsou dostupné. Zjistěte jejich limity tokenů a data expirace tréninkových dat, pokud je to potřeba. |
| To Fine Tune or Not To Fine Tune? That is the Question | Tento 30minutový díl AI Show z října 2023 rozebírá výhody, nevýhody a praktické poznatky, které vám pomohou rozhodnout se. |
| Getting Started With LLM Fine-Tuning | Tento AI Playbook vás provede požadavky na data, formátováním, laděním hyperparametrů a výzvami/omezeními, která byste měli znát. |
| Tutorial: Azure OpenAI GPT3.5 Turbo Fine-Tuning | Naučte se vytvořit ukázkovou datovou sadu pro fine-tuning, připravit se na fine-tuning, vytvořit úlohu fine-tuningu a nasadit doladěný model na Azure. |
| Tutorial: Fine-tune a Llama 2 model in Azure AI Studio | Azure AI Studio vám umožňuje přizpůsobit velké jazykové modely vašim vlastním datům pomocí uživatelského rozhraní vhodného pro low-code vývojáře. Podívejte se na tento příklad. |
| Tutorial:Fine-tune Hugging Face models for a single GPU on Azure | Tento článek popisuje, jak doladit model Hugging Face pomocí knihovny Hugging Face transformers na jednom GPU s Azure DataBricks a knihovnami Hugging Face Trainer. |
| Training: Fine-tune a foundation model with Azure Machine Learning | Katalog modelů v Azure Machine Learning nabízí mnoho open source modelů, které můžete doladit pro svůj konkrétní úkol. Vyzkoušejte tento modul z AzureML Generative AI Learning Path. |
| Tutorial: Azure OpenAI Fine-Tuning | Fine-tuning modelů GPT-3.5 nebo GPT-4 na Microsoft Azure pomocí W&B umožňuje podrobné sledování a analýzu výkonu modelu. Tento průvodce rozšiřuje koncepty z OpenAI Fine-Tuning průvodce o specifické kroky a funkce pro Azure OpenAI. |
Tato sekce obsahuje další zdroje, které stojí za to prozkoumat, ale na které jsme v této lekci neměli čas. Mohou být zahrnuty v budoucí lekci nebo jako volitelný úkol později. Prozatím je využijte k rozšíření svých znalostí a dovedností v této oblasti.
| Název/Odkaz | Popis |
|---|---|
| OpenAI Cookbook: Příprava a analýza dat pro fine-tuning chat modelu | Tento notebook slouží jako nástroj pro předzpracování a analýzu datové sady chatu používané pro fine-tuning chat modelu. Kontroluje formátové chyby, poskytuje základní statistiky a odhaduje počet tokenů pro náklady na fine-tuning. Viz: Metoda fine-tuningu pro gpt-3.5-turbo. |
| OpenAI Cookbook: Fine-Tuning pro Retrieval Augmented Generation (RAG) s Qdrant | Cílem tohoto notebooku je provést komplexní příklad, jak doladit OpenAI modely pro Retrieval Augmented Generation (RAG). Také integrujeme Qdrant a Few-Shot Learning pro zvýšení výkonu modelu a snížení falešných informací. |
| OpenAI Cookbook: Fine-tuning GPT s Weights & Biases | Weights & Biases (W&B) je platforma pro AI vývojáře s nástroji pro trénink modelů, fine-tuning a využití základních modelů. Nejprve si přečtěte jejich průvodce OpenAI Fine-Tuning, poté vyzkoušejte cvičení v Cookbooku. |
| Community Tutorial Phinetuning 2.0 - fine-tuning pro malé jazykové modely | Seznamte se s Phi-2, novým malým modelem od Microsoftu, který je překvapivě výkonný a zároveň kompaktní. Tento tutoriál vás provede fine-tuningem Phi-2, ukáže, jak vytvořit unikátní datovou sadu a doladit model pomocí QLoRA. |
| Hugging Face Tutorial Jak doladit LLM v roce 2024 s Hugging Face | Tento blogový příspěvek vás provede, jak doladit otevřené LLM pomocí Hugging Face TRL, Transformers a datasetů v roce 2024. Definujete případ použití, nastavíte vývojové prostředí, připravíte datovou sadu, doladíte model, otestujete a vyhodnotíte ho a nakonec nasadíte do produkce. |
| Hugging Face: AutoTrain Advanced | Přináší rychlejší a jednodušší trénink a nasazení nejmodernějších modelů strojového učení. Repo obsahuje tutoriály přátelské k Colab s video návody na YouTube pro fine-tuning. Zohledňuje nedávnou local-first aktualizaci. Přečtěte si dokumentaci AutoTrain. |
Prohlášení o vyloučení odpovědnosti:
Tento dokument byl přeložen pomocí AI překladatelské služby Co-op Translator. I když usilujeme o přesnost, mějte prosím na paměti, že automatické překlady mohou obsahovat chyby nebo nepřesnosti. Původní dokument v jeho mateřském jazyce by měl být považován za autoritativní zdroj. Pro důležité informace se doporučuje profesionální lidský překlad. Nejsme odpovědní za jakékoliv nedorozumění nebo nesprávné výklady vyplývající z použití tohoto překladu.