Skip to content

Latest commit

 

History

History
49 lines (42 loc) · 21.7 KB

File metadata and controls

49 lines (42 loc) · 21.7 KB

Ресурси за самостоятелно обучение

Урокът е създаден с помощта на няколко основни ресурса от OpenAI и Azure OpenAI като референции за терминологията и уроците. Ето един непълен списък, който може да използвате за вашето самостоятелно обучение.

1. Основни ресурси

Заглавие/Линк Описание
Fine-tuning with OpenAI Models Фината настройка подобрява обучението с малко примери, като тренира върху много повече примери, отколкото могат да се поберат в подсказката, което ви спестява разходи, подобрява качеството на отговорите и позволява по-ниска латентност на заявките. Вижте общ преглед на фината настройка от OpenAI.
What is Fine-Tuning with Azure OpenAI? Разберете какво представлява фината настройка (концепция), защо да я разгледате (мотивация), какви данни да използвате (обучение) и как да измервате качеството.
Customize a model with fine-tuning Azure OpenAI Service ви позволява да персонализирате моделите според вашите лични набори от данни чрез фина настройка. Научете как да извършите фината настройка (процес), като изберете модели чрез Azure AI Studio, Python SDK или REST API.
Recommendations for LLM fine-tuning Големите езикови модели (LLM) може да не се представят добре в специфични области, задачи или набори от данни, или да генерират неточни или подвеждащи резултати. Кога трябва да обмислите фината настройка като възможно решение?
Continuous Fine Tuning Непрекъснатата фина настройка е итеративен процес, при който вече финно настроен модел се използва като базов модел и се настройва допълнително върху нови набори от тренировъчни примери.
Fine-tuning and function calling Фината настройка на вашия модел с примери за извикване на функции може да подобри изхода на модела, като осигури по-точни и последователни отговори - с подобен формат и спестяване на разходи.
Fine-tuning Models: Azure OpenAI Guidance Вижте тази таблица, за да разберете кои модели могат да бъдат финно настроени в Azure OpenAI и в кои региони са налични. Проверете техните лимити за токени и срокове на валидност на тренировъчните данни, ако е необходимо.
To Fine Tune or Not To Fine Tune? That is the Question Този 30-минутен епизод от AI Show от октомври 2023 г. разглежда ползите, недостатъците и практическите прозрения, които ще ви помогнат да вземете това решение.
Getting Started With LLM Fine-Tuning Този ресурс от AI Playbook ви превежда през изискванията за данни, форматиране, настройка на хиперпараметри и предизвикателствата/ограниченията, които трябва да знаете.
Tutorial: Azure OpenAI GPT3.5 Turbo Fine-Tuning Научете как да създадете примерен набор от данни за фина настройка, да се подготвите за финна настройка, да създадете задача за финна настройка и да разположите финно настроения модел в Azure.
Tutorial: Fine-tune a Llama 2 model in Azure AI Studio Azure AI Studio ви позволява да персонализирате големи езикови модели спрямо вашите лични набори от данни чрез UI-базиран работен процес, подходящ за разработчици с малко код. Вижте този пример.
Tutorial:Fine-tune Hugging Face models for a single GPU on Azure Тази статия описва как да финно настроите модел на Hugging Face с библиотеката Hugging Face transformers на един GPU с помощта на Azure DataBricks и Hugging Face Trainer библиотеки.
Training: Fine-tune a foundation model with Azure Machine Learning Каталогът с модели в Azure Machine Learning предлага много отворени модели, които можете да финно настроите за вашата конкретна задача. Опитайте този модул от AzureML Generative AI Learning Path.
Tutorial: Azure OpenAI Fine-Tuning Финната настройка на GPT-3.5 или GPT-4 модели в Microsoft Azure с помощта на W&B позволява детайлно проследяване и анализ на представянето на модела. Това ръководство разширява концепциите от OpenAI Fine-Tuning с конкретни стъпки и функции за Azure OpenAI.

2. Допълнителни ресурси

Този раздел съдържа допълнителни ресурси, които си заслужава да разгледате, но за които не ни остана време в този урок. Те може да бъдат включени в бъдещ урок или като опция за допълнително задание по-късно. За момента ги използвайте, за да развиете собствените си знания и умения по темата.

Заглавие/Линк Описание
OpenAI Cookbook: Подготовка и анализ на данни за фина настройка на чат модел Този ноутбук служи като инструмент за предварителна обработка и анализ на чат набора от данни, използван за фина настройка на чат модел. Проверява за грешки във формата, предоставя основна статистика и оценява броя на токените за разходите по финна настройка. Вижте: Метод за фина настройка на gpt-3.5-turbo.
OpenAI Cookbook: Фина настройка за Retrieval Augmented Generation (RAG) с Qdrant Целта на този ноутбук е да ви преведе през цялостен пример как да финно настроите OpenAI модели за Retrieval Augmented Generation (RAG). Ще интегрираме и Qdrant и Few-Shot Learning, за да подобрим представянето на модела и да намалим грешките.
OpenAI Cookbook: Фина настройка на GPT с Weights & Biases Weights & Biases (W&B) е платформа за AI разработчици с инструменти за обучение на модели, фина настройка и използване на основни модели. Прочетете първо тяхното ръководство за OpenAI Fine-Tuning, след което опитайте упражнението от Cookbook.
Community Tutorial Phinetuning 2.0 - фина настройка за малки езикови модели Запознайте се с Phi-2, новия малък модел на Microsoft, изненадващо мощен и компактен. Този урок ще ви преведе през фината настройка на Phi-2, показвайки как да създадете уникален набор от данни и да настроите модела с помощта на QLoRA.
Hugging Face Tutorial Как да финно настроим LLM през 2024 с Hugging Face Този блог пост ви показва как да финно настроите отворени големи езикови модели с Hugging Face TRL, Transformers и datasets през 2024 г. Определяте случай на употреба, настройвате среда за разработка, подготвяте набор от данни, финно настройвате модела, тествате и оценявате, след което го внедрявате в продукция.
Hugging Face: AutoTrain Advanced Предлага по-бързо и лесно обучение и внедряване на най-съвременни модели за машинно обучение. Репозиторият съдържа Colab-приятелски уроци с видео ръководства в YouTube за фина настройка. Отразява последната local-first актуализация. Прочетете документацията на AutoTrain.

Отказ от отговорност:
Този документ е преведен с помощта на AI преводаческа услуга Co-op Translator. Въпреки че се стремим към точност, моля, имайте предвид, че автоматизираните преводи могат да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Ние не носим отговорност за каквито и да е недоразумения или неправилни тълкувания, произтичащи от използването на този превод.