Урок був створений на основі низки ключових ресурсів від OpenAI та Azure OpenAI, які використовувалися як довідкові матеріали для термінології та навчальних посібників. Ось неповний список для вашого самостійного вивчення.
| Назва/Посилання | Опис |
|---|---|
| Fine-tuning with OpenAI Models | Тонке налаштування покращує навчання з кількох прикладів, тренуючись на значно більшій кількості прикладів, ніж поміщається у запит, що дозволяє зекономити кошти, покращити якість відповідей і знизити затримки. Ознайомтеся з оглядом тонкого налаштування від OpenAI. |
| What is Fine-Tuning with Azure OpenAI? | Зрозумійте що таке тонке налаштування (концепція), чому варто його розглядати (мотиваційна проблема), які дані використовувати (тренування) та як оцінювати якість. |
| Customize a model with fine-tuning | Сервіс Azure OpenAI дозволяє налаштовувати моделі під ваші особисті набори даних за допомогою тонкого налаштування. Дізнайтеся як виконувати тонке налаштування (процес), обирати моделі через Azure AI Studio, Python SDK або REST API. |
| Recommendations for LLM fine-tuning | Великі мовні моделі (LLM) можуть працювати не дуже добре у певних доменах, завданнях або на конкретних наборах даних, або видавати неточні чи оманливі результати. Коли варто розглядати тонке налаштування як можливе рішення? |
| Continuous Fine Tuning | Безперервне тонке налаштування — це ітеративний процес вибору вже тонко налаштованої моделі як базової та подальшого її налаштування на нових наборах тренувальних прикладів. |
| Fine-tuning and function calling | Тонке налаштування моделі з прикладами виклику функцій може покращити результати, забезпечуючи більш точні та послідовні відповіді — з подібним форматом відповідей і економією коштів. |
| Fine-tuning Models: Azure OpenAI Guidance | Ознайомтеся з цією таблицею, щоб зрозуміти, які моделі можна тонко налаштовувати в Azure OpenAI, та в яких регіонах вони доступні. За потреби перевірте обмеження на кількість токенів і терміни дії тренувальних даних. |
| To Fine Tune or Not To Fine Tune? That is the Question | Цей 30-хвилинний епізод AI Show жовтень 2023 обговорює переваги, недоліки та практичні поради, які допоможуть вам прийняти рішення. |
| Getting Started With LLM Fine-Tuning | Цей ресурс AI Playbook проведе вас через вимоги до даних, форматування, налаштування гіперпараметрів та виклики/обмеження, які варто враховувати. |
| Tutorial: Azure OpenAI GPT3.5 Turbo Fine-Tuning | Навчіться створювати приклад набору даних для тонкого налаштування, готуватися до налаштування, запускати завдання тонкого налаштування та розгортати тонко налаштовану модель в Azure. |
| Tutorial: Fine-tune a Llama 2 model in Azure AI Studio | Azure AI Studio дозволяє налаштовувати великі мовні моделі під ваші особисті набори даних за допомогою інтерфейсу, зручного для розробників з мінімальним кодуванням. Перегляньте цей приклад. |
| Tutorial:Fine-tune Hugging Face models for a single GPU on Azure | У цій статті описано, як тонко налаштувати модель Hugging Face з бібліотекою Hugging Face transformers на одному GPU за допомогою Azure DataBricks та бібліотек Hugging Face Trainer. |
| Training: Fine-tune a foundation model with Azure Machine Learning | Каталог моделей в Azure Machine Learning пропонує багато відкритих моделей, які можна тонко налаштувати для вашого конкретного завдання. Спробуйте цей модуль з AzureML Generative AI Learning Path. |
| Tutorial: Azure OpenAI Fine-Tuning | Тонке налаштування моделей GPT-3.5 або GPT-4 на Microsoft Azure з використанням W&B дозволяє детально відстежувати та аналізувати продуктивність моделі. Цей посібник розширює концепції з OpenAI Fine-Tuning, додаючи конкретні кроки та функції для Azure OpenAI. |
Цей розділ містить додаткові ресурси, які варто вивчити, але на які не вистачило часу в цьому уроці. Вони можуть бути розглянуті в майбутніх уроках або як додаткове завдання. Наразі використовуйте їх для поглиблення своїх знань і навичок з цієї теми.
| Назва/Посилання | Опис |
|---|---|
| OpenAI Cookbook: Підготовка та аналіз даних для тонкого налаштування чат-моделі | Цей ноутбук служить інструментом для попередньої обробки та аналізу набору даних для тонкого налаштування чат-моделі. Він перевіряє форматування, надає базову статистику та оцінює кількість токенів для розрахунку вартості тонкого налаштування. Див. також: Fine-tuning method for gpt-3.5-turbo. |
| OpenAI Cookbook: Тонке налаштування для Retrieval Augmented Generation (RAG) з Qdrant | Мета цього ноутбука — покроково показати, як тонко налаштувати моделі OpenAI для Retrieval Augmented Generation (RAG). Також буде інтегровано Qdrant і Few-Shot Learning для підвищення продуктивності моделі та зменшення вигадок. |
| OpenAI Cookbook: Тонке налаштування GPT з Weights & Biases | Weights & Biases (W&B) — це платформа для розробників ШІ з інструментами для тренування моделей, тонкого налаштування та використання базових моделей. Спочатку ознайомтеся з їхнім посібником OpenAI Fine-Tuning, а потім спробуйте вправу з Cookbook. |
| Community Tutorial Phinetuning 2.0 - тонке налаштування для малих мовних моделей | Познайомтеся з Phi-2, новою компактною, але потужною малою моделлю від Microsoft. Цей посібник проведе вас через процес тонкого налаштування Phi-2, показуючи, як створити унікальний набір даних і налаштувати модель за допомогою QLoRA. |
| Hugging Face Tutorial Як тонко налаштувати LLM у 2024 році з Hugging Face | У цьому блозі описано, як тонко налаштувати відкриті великі мовні моделі за допомогою Hugging Face TRL, Transformers і datasets у 2024 році. Ви визначаєте кейс використання, налаштовуєте середовище розробки, готуєте набір даних, тонко налаштовуєте модель, тестуєте та оцінюєте її, а потім розгортаєте у продакшн. |
| Hugging Face: AutoTrain Advanced | Забезпечує швидше та простіше тренування і розгортання сучасних моделей машинного навчання. Репозиторій містить навчальні посібники, дружні до Colab, з відеоінструкціями на YouTube для тонкого налаштування. Відображає нещодавнє оновлення local-first. Ознайомтеся з документацією AutoTrain. |
Відмова від відповідальності:
Цей документ було перекладено за допомогою сервісу автоматичного перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ рідною мовою слід вважати авторитетним джерелом. Для критично важливої інформації рекомендується звертатися до професійного людського перекладу. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникли внаслідок використання цього перекладу.