Una pregunta importante para todas las aplicaciones de IA es la relevancia de las características de IA, ya que la IA es un campo que evoluciona rápidamente. Para asegurar que tu aplicación siga siendo relevante, confiable y robusta, necesitas monitorearla, evaluarla y mejorarla continuamente. Aquí es donde entra el ciclo de vida de la IA generativa.
El ciclo de vida de la IA generativa es un marco que te guía a través de las etapas de desarrollo, despliegue y mantenimiento de una aplicación de IA generativa. Te ayuda a definir tus objetivos, medir tu desempeño, identificar tus desafíos e implementar tus soluciones. También te ayuda a alinear tu aplicación con los estándares éticos y legales de tu dominio y tus partes interesadas. Siguiendo el ciclo de vida de la IA generativa, puedes asegurar que tu aplicación siempre entregue valor y satisfaga a tus usuarios.
En este capítulo, aprenderás a:
- Entender el cambio de paradigma de MLOps a LLMOps
- El ciclo de vida de LLM
- Herramientas para el ciclo de vida
- Métricas y evaluación del ciclo de vida
Los LLMs son una nueva herramienta en el arsenal de la Inteligencia Artificial, son increíblemente poderosos en tareas de análisis y generación para aplicaciones, sin embargo, este poder tiene algunas consecuencias en cómo optimizamos las tareas de IA y Aprendizaje Automático Clásico.
Con esto, necesitamos un nuevo paradigma para adaptar esta herramienta de manera dinámica, con los incentivos correctos. Podemos categorizar las aplicaciones de IA antiguas como "Apps de ML" y las aplicaciones de IA más nuevas como "Apps de GenAI" o simplemente "Apps de IA", reflejando la tecnología y técnicas predominantes usadas en ese momento. Esto cambia nuestra narrativa en múltiples formas, observa la siguiente comparación.
Observa que en LLMOps, nos enfocamos más en los desarrolladores de aplicaciones, usando integraciones como un punto clave, utilizando "Modelos como Servicio" y pensando en los siguientes puntos para métricas.
- Calidad: Calidad de la respuesta
- Daño: IA responsable
- Honestidad: Fundamentación de la respuesta (¿Tiene sentido? ¿Es correcta?)
- Costo: Presupuesto de la solución
- Latencia: Tiempo promedio para la respuesta de un token
Primero, para entender el ciclo de vida y las modificaciones, observemos la siguiente infografía.
Como puedes notar, esto es diferente de los ciclos de vida usuales de MLOps. Los LLMs tienen muchos requisitos nuevos, como el prompting, diferentes técnicas para mejorar la calidad (Fine-Tuning, RAG, Meta-Prompts), diferentes evaluaciones y responsabilidad con IA responsable, y finalmente, nuevas métricas de evaluación (Calidad, Daño, Honestidad, Costo y Latencia).
Por ejemplo, observa cómo ideamos. Usando ingeniería de prompts para experimentar con varios LLMs y explorar posibilidades para probar si su hipótesis podría ser correcta.
Nota que esto no es lineal, sino bucles integrados, iterativos y con un ciclo general.
¿Cómo podríamos explorar esos pasos? Vamos a detallar cómo podríamos construir un ciclo de vida.
Esto puede parecer un poco complicado, enfoquémonos primero en los tres grandes pasos.
- Idear/Explorar: Exploración, aquí podemos explorar según nuestras necesidades de negocio. Prototipar, crear un PromptFlow y probar si es lo suficientemente eficiente para nuestra hipótesis.
- Construir/Aumentar: Implementación, ahora, comenzamos a evaluar con conjuntos de datos más grandes, implementamos técnicas como Fine-tuning y RAG para verificar la robustez de nuestra solución. Si no funciona, reimplementarla, agregar nuevos pasos en nuestro flujo o reestructurar los datos puede ayudar. Después de probar nuestro flujo y escala, si funciona y revisamos nuestras métricas, está listo para el siguiente paso.
- Operacionalizar: Integración, ahora agregando sistemas de monitoreo y alertas a nuestro sistema, despliegue e integración de la aplicación a nuestra aplicación.
Luego, tenemos el ciclo general de gestión, enfocándose en seguridad, cumplimiento y gobernanza.
Felicidades, ahora tienes tu aplicación de IA lista para funcionar y operativa. Para una experiencia práctica, echa un vistazo a la Demostración de Contoso Chat.
Ahora, ¿qué herramientas podríamos usar?
Para herramientas, Microsoft proporciona la Plataforma Azure AI y PromptFlow que facilitan y hacen que tu ciclo sea fácil de implementar y listo para usar.
La Plataforma Azure AI, te permite usar AI Studio. AI Studio es un portal web que te permite explorar modelos, ejemplos y herramientas. Gestionar tus recursos, flujos de desarrollo UI y opciones SDK/CLI para desarrollo Code-First.
Azure AI, te permite usar múltiples recursos para gestionar tus operaciones, servicios, proyectos, búsqueda vectorial y necesidades de bases de datos.
Construye, desde prueba de concepto (POC) hasta aplicaciones a gran escala con PromptFlow:
- Diseña y construye aplicaciones desde VS Code, con herramientas visuales y funcionales
- Prueba y ajusta tus aplicaciones para una IA de calidad, con facilidad.
- Usa Azure AI Studio para integrar e iterar con la nube, push y despliegue para una integración rápida.
Increíble, ahora aprende más sobre cómo estructuramos una aplicación para usar los conceptos con la Aplicación Contoso Chat, para ver cómo Cloud Advocacy añade esos conceptos en demostraciones. Para más contenido, revisa nuestra sesión de Ignite!
Ahora, revisa la Lección 15, para entender cómo Generación Aumentada por Recuperación y Bases de Datos Vectoriales impactan la IA generativa y para crear aplicaciones más atractivas!
Aviso Legal: Este documento ha sido traducido utilizando el servicio de traducción automática Co-op Translator. Aunque nos esforzamos por la precisión, tenga en cuenta que las traducciones automáticas pueden contener errores o inexactitudes. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No nos hacemos responsables de malentendidos o interpretaciones erróneas derivadas del uso de esta traducción.