Tämä oppitunti on rakennettu käyttäen useita OpenAI:n ja Azure OpenAI:n ydintason resursseja terminologian ja opetusmateriaalien pohjana. Tässä on ei-kattava lista, jota voit hyödyntää omissa itseopiskeluprojekteissasi.
| Otsikko/Linkki | Kuvaus |
|---|---|
| Fine-tuning with OpenAI Models | Fine-tuning parantaa few-shot-oppimista kouluttamalla mallia paljon useammilla esimerkeillä kuin mitä promptiin mahtuu, mikä säästää kustannuksia, parantaa vastausten laatua ja mahdollistaa nopeammat vastaukset. Tutustu OpenAI:n fine-tuningin yleiskatsaukseen. |
| What is Fine-Tuning with Azure OpenAI? | Ymmärrä mikä fine-tuning on (käsite), miksi sitä kannattaa harkita (ongelman motivaatio), mitä dataa käyttää (koulutus) ja miten laatua mitataan |
| Customize a model with fine-tuning | Azure OpenAI Service antaa mahdollisuuden räätälöidä malleja omien datasetiesi pohjalta fine-tuningin avulla. Opi miten fine-tuning tehdään (prosessi) valitsemalla malleja Azure AI Studion, Python SDK:n tai REST API:n kautta. |
| Recommendations for LLM fine-tuning | LLM-mallit eivät välttämättä toimi hyvin tietyillä aloilla, tehtävissä tai dataseteissä, tai ne voivat tuottaa epätarkkoja tai harhaanjohtavia vastauksia. Milloin kannattaa harkita fine-tuningia ratkaisuna tähän? |
| Continuous Fine Tuning | Jatkuva fine-tuning on iteratiivinen prosessi, jossa jo fine-tunattu malli valitaan pohjamalliksi ja sitä fine-tunataan edelleen uusilla koulutusesimerkeillä. |
| Fine-tuning and function calling | Mallin fine-tuning funktiokutsuesimerkkien avulla voi parantaa mallin tuottamia vastauksia tekemällä niistä tarkempia ja johdonmukaisempia – samalla saadaan samankaltaisesti muotoiltuja vastauksia ja kustannussäästöjä |
| Fine-tuning Models: Azure OpenAI Guidance | Tarkista tämä taulukko ymmärtääksesi mitä malleja voi fine-tunata Azure OpenAI:ssa ja missä alueilla ne ovat saatavilla. Tarkista myös niiden token-rajoitukset ja koulutusdatan vanhenemispäivät tarvittaessa. |
| To Fine Tune or Not To Fine Tune? That is the Question | Tämä 30 minuutin lokakuun 2023 AI Show -jakso käsittelee fine-tuningin hyötyjä, haittoja ja käytännön näkemyksiä, jotka auttavat sinua tekemään päätöksen. |
| Getting Started With LLM Fine-Tuning | Tämä AI Playbook -resurssi opastaa sinua datavaatimuksissa, muotoilussa, hyperparametrien hienosäädössä sekä haasteissa ja rajoituksissa, jotka on hyvä tietää. |
| Tutorial: Azure OpenAI GPT3.5 Turbo Fine-Tuning | Opi luomaan esimerkkidatasetti fine-tuningia varten, valmistautumaan fine-tuningiin, luomaan fine-tuning-tehtävä ja ottamaan käyttöön fine-tunattu malli Azure-ympäristössä. |
| Tutorial: Fine-tune a Llama 2 model in Azure AI Studio | Azure AI Studio mahdollistaa suurten kielimallien räätälöinnin omiin datasettiisi käyttöliittymäpohjaisen työnkulun avulla, joka sopii vähäkoodisille kehittäjille. Katso tämä esimerkki. |
| Tutorial:Fine-tune Hugging Face models for a single GPU on Azure | Tässä artikkelissa kuvataan, miten Hugging Face -mallia voi fine-tunata Hugging Face transformers -kirjastolla yhdellä GPU:lla Azure DataBricksin ja Hugging Face Trainer -kirjastojen avulla. |
| Training: Fine-tune a foundation model with Azure Machine Learning | Azure Machine Learningin mallikatalogista löytyy monia avoimen lähdekoodin malleja, joita voit fine-tunata omaan tehtävääsi sopiviksi. Kokeile tätä moduulia osana AzureML Generative AI Learning Path -opintopolkua. |
| Tutorial: Azure OpenAI Fine-Tuning | GPT-3.5- tai GPT-4-mallien fine-tuning Microsoft Azuren päällä W&B:n avulla mahdollistaa mallin suorituskyvyn yksityiskohtaisen seurannan ja analyysin. Tämä opas laajentaa OpenAI:n fine-tuning -oppaan käsitteitä Azure OpenAI:n erityisillä vaiheilla ja ominaisuuksilla. |
Tässä osiossa on lisäresursseja, joita kannattaa tutkia, vaikka emme ehtineet käsitellä niitä tässä oppitunnissa. Ne voivat tulla esille tulevissa oppitunneissa tai vaihtoehtoisina lisätehtävinä myöhemmin. Käytä niitä nyt oman asiantuntemuksesi ja tietämyksesi rakentamiseen aiheesta.
| Otsikko/Linkki | Kuvaus |
|---|---|
| OpenAI Cookbook: Data preparation and analysis for chat model fine-tuning | Tämä muistikirja toimii työkaluna chat-mallin fine-tuningia varten käytetyn chat-datan esikäsittelyyn ja analysointiin. Se tarkistaa muotoiluvirheitä, tarjoaa perusstatistiikkaa ja arvioi token-määriä fine-tuning-kustannuksia varten. Katso: Fine-tuning method for gpt-3.5-turbo. |
| OpenAI Cookbook: Fine-Tuning for Retrieval Augmented Generation (RAG) with Qdrant | Tämän muistikirjan tavoitteena on käydä läpi kattava esimerkki siitä, miten OpenAI-malleja voi fine-tunata Retrieval Augmented Generation (RAG) -menetelmällä. Integroimme myös Qdrantin ja Few-Shot Learningin parantaaksemme mallin suorituskykyä ja vähentääksemme virheellisiä vastauksia. |
| OpenAI Cookbook: Fine-tuning GPT with Weights & Biases | Weights & Biases (W&B) on tekoälykehittäjien alusta, joka tarjoaa työkaluja mallien koulutukseen, fine-tuningiin ja perustamallien hyödyntämiseen. Lue ensin heidän OpenAI Fine-Tuning -oppaansa ja kokeile sitten Cookbookin harjoitusta. |
| Community Tutorial Phinetuning 2.0 - fine-tuning for Small Language Models | Tutustu Phi-2, Microsoftin uuteen pieneen malliin, joka on yllättävän tehokas ja kompakti. Tämä opas ohjaa sinut Phi-2:n fine-tuning-prosessin läpi, näyttää miten rakennetaan ainutlaatuinen datasetti ja miten mallia hienosäädetään QLoRA:n avulla. |
| Hugging Face Tutorial How to Fine-Tune LLMs in 2024 with Hugging Face | Tämä blogikirjoitus opastaa sinua, miten fine-tunata avoimia LLM-malleja Hugging Face TRL:n, Transformers-kirjaston ja datasetien avulla vuonna 2024. Määrittelet käyttötapauksen, luot kehitysympäristön, valmistelet datasetin, hienosäädät mallin, testaat ja arvioit sen, ja lopuksi otat sen käyttöön tuotannossa. |
| Hugging Face: AutoTrain Advanced | Tarjoaa nopeamman ja helpomman tavan kouluttaa ja ottaa käyttöön huippuluokan koneoppimismalleja. Repo sisältää Colab-ystävällisiä tutoriaaleja YouTube-video-opastuksilla fine-tuningia varten. Heijastaa viimeisintä local-first -päivitystä. Lue AutoTrain-dokumentaatio. |
Vastuuvapauslauseke:
Tämä asiakirja on käännetty käyttämällä tekoälypohjaista käännöspalvelua Co-op Translator. Vaikka pyrimme tarkkuuteen, huomioithan, että automaattikäännöksissä saattaa esiintyä virheitä tai epätarkkuuksia. Alkuperäistä asiakirjaa sen alkuperäiskielellä tulee pitää virallisena lähteenä. Tärkeissä tiedoissa suositellaan ammattimaista ihmiskäännöstä. Emme ole vastuussa tämän käännöksen käytöstä aiheutuvista väärinymmärryksistä tai tulkinnoista.