Овај час је направљен користећи низ кључних ресурса из OpenAI и Azure OpenAI као референце за терминологију и туторијале. Ево непотпуног списка за ваше самостално учење.
| Наслов/Линк | Опис |
|---|---|
| Fine-tuning with OpenAI Models | Фајн-тунинг побољшава few-shot учење тако што тренира на много више примера него што може да стане у упит, штедећи вам трошкове, побољшавајући квалитет одговора и омогућавајући захтеве са мањом латенцијом. Прегледајте фајн-тунинг из OpenAI. |
| What is Fine-Tuning with Azure OpenAI? | Разумите шта је фајн-тунинг (концепт), зашто би требало да га размотрите (мотивациони проблем), које податке користити (тренинг) и како мерити квалитет |
| Customize a model with fine-tuning | Azure OpenAI Service вам омогућава да прилагодите моделе својим личним скупом података користећи фајн-тунинг. Сазнајте како да извршите фајн-тунинг (процес) одабиром модела преко Azure AI Studio, Python SDK или REST API. |
| Recommendations for LLM fine-tuning | LLM модели можда неће добро радити на специфичним доменима, задацима или скупу података, или могу произвести нетачне или обмањујуће резултате. Када треба размотрити фајн-тунинг као могуће решење? |
| Continuous Fine Tuning | Континуирани фајн-тунинг је итеративни процес у коме се већ фајн-тунирани модел користи као основа и даље се фајн-тунира на новим скупова примера за тренирање. |
| Fine-tuning and function calling | Фајн-тунинг вашег модела са примерима позива функција може побољшати излаз модела добијањем прецизнијих и конзистентнијих одговора - са слично форматираним реакцијама и уштедом трошкова |
| Fine-tuning Models: Azure OpenAI Guidance | Погледајте ову табелу да бисте разумели које моделе је могуће фајн-тунирати у Azure OpenAI и у којим регионима су доступни. Погледајте и њихове лимите за токене и рокове важења података за тренирање ако је потребно. |
| To Fine Tune or Not To Fine Tune? That is the Question | Ова 30-минутна епизода AI Show из октобра 2023. године говори о предностима, манама и практичним увидима који ће вам помоћи да донесете одлуку. |
| Getting Started With LLM Fine-Tuning | Овај AI Playbook ресурс вас води кроз захтеве за податке, форматирање, подешавање хиперпараметара и изазове/ограничења које треба да знате. |
| Tutorial: Azure OpenAI GPT3.5 Turbo Fine-Tuning | Научите како да направите пример сета података за фајн-тунинг, припремите се за фајн-тунинг, креирате посао фајн-тунинга и имплементирате фајн-тунирани модел на Azure. |
| Tutorial: Fine-tune a Llama 2 model in Azure AI Studio | Azure AI Studio вам омогућава да прилагодите велике језичке моделе својим личним скупом података користећи UI-оријентисан радни ток погодан за програмере са мало кода. Погледајте овај пример. |
| Tutorial:Fine-tune Hugging Face models for a single GPU on Azure | Овај чланак описује како да фајн-тунирате Hugging Face модел користећи Hugging Face transformers библиотеку на једном GPU-у са Azure DataBricks и Hugging Face Trainer библиотекама. |
| Training: Fine-tune a foundation model with Azure Machine Learning | Каталог модела у Azure Machine Learning нуди много open source модела које можете фајн-тунирати за свој специфичан задатак. Испробајте овај модул из AzureML Generative AI Learning Path. |
| Tutorial: Azure OpenAI Fine-Tuning | Фајн-тунинг GPT-3.5 или GPT-4 модела на Microsoft Azure уз помоћ W&B омогућава детаљно праћење и анализу перформанси модела. Овај водич проширује концепте из OpenAI Fine-Tuning водича са специфичним корацима и функцијама за Azure OpenAI. |
Овај одељак садржи додатне ресурсе које вреди истражити, али нисмо имали времена да их обрадимо у овом часу. Могу бити обрађени у неком будућем часу или као секундарна опција задатка. За сада их користите да изградите своје знање и експертизу о овој теми.
| Наслов/Линк | Опис |
|---|---|
| OpenAI Cookbook: Data preparation and analysis for chat model fine-tuning | Овај notebook служи као алат за претходну обраду и анализу сета података за фајн-тунинг chat модела. Проверава грешке у формату, пружа основне статистике и процењује број токена за трошкове фајн-тунинга. Погледајте: Fine-tuning method for gpt-3.5-turbo. |
| OpenAI Cookbook: Fine-Tuning for Retrieval Augmented Generation (RAG) with Qdrant | Циљ овог notebook-а је да вас проведе кроз свеобухватан пример како фајн-тунирати OpenAI моделе за Retrieval Augmented Generation (RAG). Такође ћемо интегрисати Qdrant и Few-Shot Learning како бисмо побољшали перформансе модела и смањили измишљене одговоре. |
| OpenAI Cookbook: Fine-tuning GPT with Weights & Biases | Weights & Biases (W&B) је платформа за AI програмере са алатима за тренирање модела, фајн-тунинг и коришћење основних модела. Прво прочитајте њихов OpenAI Fine-Tuning водич, а затим испробајте вежбу из Cookbook-а. |
| Community Tutorial Phinetuning 2.0 - фајн-тунинг за мале језичке моделе | Упознајте Phi-2, Microsoft-ов нови мали модел, изузетно моћан али компактног формата. Овај туторијал ће вас провести кроз фајн-тунинг Phi-2, показујући како да направите јединствени скуп података и фајн-тунирате модел користећи QLoRA. |
| Hugging Face Tutorial How to Fine-Tune LLMs in 2024 with Hugging Face | Овај блог пост вас води кроз процес фајн-тунинга отворених LLM модела користећи Hugging Face TRL, Transformers и скупове података у 2024. Дефинишете случај употребе, подешавате развојно окружење, припремате скуп података, фајн-тунирате модел, тестирајте и процењујете, а затим га имплементирате у продукцију. |
| Hugging Face: AutoTrain Advanced | Омогућава брже и лакше тренирање и имплементацију најсавременијих модела машинског учења. Репозиторијум садржи туторијале прилагођене Colab-у са YouTube видео упутствима за фајн-тунинг. Одражава недавну local-first надоградњу. Прочитајте AutoTrain документацију |
Одрицање од одговорности:
Овај документ је преведен коришћењем AI преводилачке услуге Co-op Translator. Иако се трудимо да превод буде тачан, молимо вас да имате у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитетним извором. За критичне информације препоручује се професионални људски превод. Нисмо одговорни за било каква неспоразума или погрешна тумачења која произилазе из коришћења овог превода.