La lección fue construida utilizando varios recursos fundamentales de OpenAI y Azure OpenAI como referencias para la terminología y los tutoriales. Aquí hay una lista no exhaustiva para tus propios viajes de aprendizaje autodidacta.
| Título/Enlace | Descripción |
|---|---|
| Fine-tuning con Modelos de OpenAI | El ajuste fino mejora el aprendizaje de pocos ejemplos entrenando con muchos más ejemplos de los que caben en el prompt, ahorrando costos, mejorando la calidad de las respuestas y permitiendo solicitudes de menor latencia. Obtén una visión general del ajuste fino de OpenAI. |
| ¿Qué es el Fine-Tuning con Azure OpenAI? | Comprende qué es el ajuste fino (concepto), por qué deberías considerarlo (problema motivador), qué datos usar (entrenamiento) y cómo medir la calidad. |
| Personaliza un modelo con ajuste fino | El Servicio de Azure OpenAI te permite adaptar nuestros modelos a tus conjuntos de datos personales utilizando el ajuste fino. Aprende cómo ajustar finamente (proceso) seleccionar modelos usando Azure AI Studio, Python SDK o REST API. |
| Recomendaciones para el ajuste fino de LLM | Los LLMs pueden no rendir bien en dominios específicos, tareas o conjuntos de datos, o pueden producir resultados inexactos o engañosos. ¿Cuándo deberías considerar el ajuste fino como una posible solución a esto? |
| Ajuste Fino Continuo | El ajuste fino continuo es el proceso iterativo de seleccionar un modelo ya ajustado finamente como modelo base y ajustarlo aún más con nuevos conjuntos de ejemplos de entrenamiento. |
| Ajuste fino y llamada de funciones | Ajustar finamente tu modelo con ejemplos de llamada de funciones puede mejorar la salida del modelo obteniendo resultados más precisos y consistentes, con respuestas formateadas de manera similar y ahorro de costos. |
| Modelos de ajuste fino: Guía de Azure OpenAI | Consulta esta tabla para entender qué modelos se pueden ajustar finamente en Azure OpenAI y en qué regiones están disponibles. Consulta sus límites de tokens y fechas de expiración de los datos de entrenamiento si es necesario. |
| ¿Ajustar finamente o no ajustar finamente? Esa es la cuestión | Este episodio de octubre de 2023 del AI Show discute beneficios, desventajas e ideas prácticas que te ayudarán a tomar esta decisión. |
| Comenzando con el ajuste fino de LLM | Este recurso de AI Playbook te guía a través de los requisitos de datos, el formato, el ajuste fino de hiperparámetros y los desafíos/limitaciones que deberías conocer. |
| Tutorial: Ajuste fino de Azure OpenAI GPT3.5 Turbo | Aprende a crear un conjunto de datos de ajuste fino de muestra, prepararte para el ajuste fino, crear un trabajo de ajuste fino y desplegar el modelo ajustado finamente en Azure. |
| Tutorial: Ajuste fino de un modelo Llama 2 en Azure AI Studio | Azure AI Studio te permite adaptar modelos de lenguaje grande a tus conjuntos de datos personales usando un flujo de trabajo basado en UI adecuado para desarrolladores de bajo código. Mira este ejemplo. |
| Tutorial:Ajuste fino de modelos de Hugging Face para una sola GPU en Azure | Este artículo describe cómo ajustar finamente un modelo de Hugging Face con la biblioteca de transformadores de Hugging Face en una sola GPU con Azure DataBricks + bibliotecas Hugging Face Trainer. |
| Entrenamiento: Ajuste fino de un modelo de fundación con Azure Machine Learning | El catálogo de modelos en Azure Machine Learning ofrece muchos modelos de código abierto que puedes ajustar finamente para tu tarea específica. Prueba este módulo de la ruta de aprendizaje de AzureML Generative AI |
| Tutorial: Ajuste fino de Azure OpenAI | Ajustar finamente los modelos GPT-3.5 o GPT-4 en Microsoft Azure usando W&B permite un seguimiento detallado y análisis del rendimiento del modelo. Esta guía extiende los conceptos de la guía de ajuste fino de OpenAI con pasos y características específicas para Azure OpenAI. |
Esta sección captura recursos adicionales que vale la pena explorar, pero que no tuvimos tiempo de cubrir en esta lección. Pueden ser cubiertos en una lección futura, o como una opción de tarea secundaria, en una fecha posterior. Por ahora, úsalos para construir tu propia experiencia y conocimiento sobre este tema.
| Título/Enlace | Descripción |
|---|---|
| OpenAI Cookbook: Preparación y análisis de datos para el ajuste fino de modelos de chat | Este cuaderno sirve como una herramienta para preprocesar y analizar el conjunto de datos de chat utilizado para el ajuste fino de un modelo de chat. Verifica errores de formato, proporciona estadísticas básicas y estima el conteo de tokens para los costos de ajuste fino. Ver: Método de ajuste fino para gpt-3.5-turbo. |
| OpenAI Cookbook: Ajuste fino para Generación Aumentada por Recuperación (RAG) con Qdrant | El objetivo de este cuaderno es recorrer un ejemplo completo de cómo ajustar finamente los modelos de OpenAI para Generación Aumentada por Recuperación (RAG). También integraremos Qdrant y el Aprendizaje de Pocos Ejemplos para mejorar el rendimiento del modelo y reducir las fabricaciones. |
| OpenAI Cookbook: Ajuste fino de GPT con Weights & Biases | Weights & Biases (W&B) es la plataforma de desarrollo de IA, con herramientas para entrenar modelos, ajustar modelos y aprovechar modelos de fundación. Lee su guía de Ajuste fino de OpenAI primero, luego intenta el ejercicio del Cookbook. |
| Tutorial Comunitario Phinetuning 2.0 - ajuste fino para Modelos de Lenguaje Pequeños | Conoce a Phi-2, el nuevo modelo pequeño de Microsoft, notablemente poderoso pero compacto. Este tutorial te guiará a través del ajuste fino de Phi-2, demostrando cómo construir un conjunto de datos único y ajustar el modelo usando QLoRA. |
| Tutorial de Hugging Face Cómo ajustar finamente LLMs en 2024 con Hugging Face | Esta publicación en el blog te guía sobre cómo ajustar finamente LLMs abiertos usando Hugging Face TRL, Transformers y conjuntos de datos en 2024. Defines un caso de uso, configuras un entorno de desarrollo, preparas un conjunto de datos, ajustas el modelo, lo pruebas y evalúas, luego lo despliegas en producción. |
| Hugging Face: AutoTrain Advanced | Ofrece entrenamiento y despliegues más rápidos y fáciles de modelos de aprendizaje automático de última generación. El repositorio tiene tutoriales amigables para Colab con orientación en video de YouTube, para el ajuste fino. Refleja la reciente actualización local-first. Lee la documentación de AutoTrain |
Descargo de responsabilidad:
Este documento ha sido traducido utilizando el servicio de traducción automática Co-op Translator. Aunque nos esforzamos por lograr precisión, tenga en cuenta que las traducciones automáticas pueden contener errores o imprecisiones. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No somos responsables de ningún malentendido o interpretación errónea que surja del uso de esta traducción.