(Haz clic en la imagen de arriba para ver el video de esta lección)
Ahora que hemos visto cómo construir aplicaciones de generación de texto, exploremos las aplicaciones de chat.
Las aplicaciones de chat se han integrado en nuestra vida diaria, ofreciendo más que solo un medio de conversación casual. Son partes fundamentales del servicio al cliente, soporte técnico e incluso sistemas de asesoramiento sofisticados. Es probable que hayas recibido ayuda de una aplicación de chat no hace mucho tiempo. A medida que integramos tecnologías más avanzadas como la IA generativa en estas plataformas, la complejidad aumenta, al igual que los desafíos.
Algunas preguntas que necesitamos responder son:
- Construcción de la aplicación. ¿Cómo construimos e integramos eficientemente estas aplicaciones potenciadas por IA para casos de uso específicos?
- Monitoreo. Una vez desplegadas, ¿cómo podemos monitorear y garantizar que las aplicaciones operen con el más alto nivel de calidad, tanto en términos de funcionalidad como de adherencia a los seis principios de IA responsable?
A medida que avanzamos hacia una era definida por la automatización y las interacciones fluidas entre humanos y máquinas, comprender cómo la IA generativa transforma el alcance, la profundidad y la adaptabilidad de las aplicaciones de chat se vuelve esencial. Esta lección investigará los aspectos de la arquitectura que respaldan estos sistemas complejos, profundizará en las metodologías para ajustarlos a tareas específicas de dominio y evaluará las métricas y consideraciones pertinentes para garantizar un despliegue responsable de la IA.
Esta lección cubre:
- Técnicas para construir e integrar aplicaciones de chat de manera eficiente.
- Cómo aplicar personalización y ajuste fino a las aplicaciones.
- Estrategias y consideraciones para monitorear eficazmente las aplicaciones de chat.
Al final de esta lección, podrás:
- Describir consideraciones para construir e integrar aplicaciones de chat en sistemas existentes.
- Personalizar aplicaciones de chat para casos de uso específicos.
- Identificar métricas clave y consideraciones para monitorear y mantener la calidad de las aplicaciones de chat potenciadas por IA.
- Garantizar que las aplicaciones de chat utilicen la IA de manera responsable.
Elevar las aplicaciones de chat mediante IA generativa no solo se centra en hacerlas más inteligentes; se trata de optimizar su arquitectura, rendimiento e interfaz de usuario para ofrecer una experiencia de calidad. Esto implica investigar las bases arquitectónicas, integraciones de API y consideraciones de interfaz de usuario. Esta sección tiene como objetivo ofrecerte una hoja de ruta completa para navegar por estos paisajes complejos, ya sea que las estés integrando en sistemas existentes o construyéndolas como plataformas independientes.
Al final de esta sección, estarás equipado con la experiencia necesaria para construir e incorporar aplicaciones de chat de manera eficiente.
Antes de profundizar en la construcción de aplicaciones de chat, comparemos los 'chatbots' con las 'aplicaciones de chat potenciadas por IA', que cumplen roles y funcionalidades distintas. El propósito principal de un chatbot es automatizar tareas conversacionales específicas, como responder preguntas frecuentes o rastrear un paquete. Generalmente está gobernado por lógica basada en reglas o algoritmos de IA complejos. En contraste, una aplicación de chat potenciada por IA es un entorno mucho más amplio diseñado para facilitar diversas formas de comunicación digital, como chats de texto, voz y video entre usuarios humanos. Su característica definitoria es la integración de un modelo de IA generativa que simula conversaciones matizadas y similares a las humanas, generando respuestas basadas en una amplia variedad de entradas y señales contextuales. Una aplicación de chat potenciada por IA puede participar en discusiones de dominio abierto, adaptarse a contextos conversacionales en evolución e incluso producir diálogos creativos o complejos.
La tabla a continuación describe las diferencias y similitudes clave para ayudarnos a entender sus roles únicos en la comunicación digital.
| Chatbot | Aplicación de Chat Potenciada por IA Generativa |
|---|---|
| Enfocado en tareas y basado en reglas | Consciente del contexto |
| A menudo integrado en sistemas más grandes | Puede alojar uno o varios chatbots |
| Limitado a funciones programadas | Incorpora modelos de IA generativa |
| Interacciones especializadas y estructuradas | Capaz de discusiones de dominio abierto |
Al construir una aplicación de chat, un excelente primer paso es evaluar lo que ya existe. Usar SDKs y APIs para construir aplicaciones de chat es una estrategia ventajosa por varias razones. Al integrar SDKs y APIs bien documentados, estás posicionando estratégicamente tu aplicación para el éxito a largo plazo, abordando preocupaciones de escalabilidad y mantenimiento.
- Acelera el proceso de desarrollo y reduce costos: Confiar en funcionalidades preconstruidas en lugar del costoso proceso de construirlas tú mismo te permite enfocarte en otros aspectos de tu aplicación que consideres más importantes, como la lógica empresarial.
- Mejor rendimiento: Al construir funcionalidades desde cero, eventualmente te preguntarás "¿Cómo escala? ¿Es esta aplicación capaz de manejar una afluencia repentina de usuarios?" Los SDKs y APIs bien mantenidos suelen tener soluciones integradas para estas preocupaciones.
- Mantenimiento más sencillo: Las actualizaciones y mejoras son más fáciles de gestionar, ya que la mayoría de los APIs y SDKs simplemente requieren una actualización de la biblioteca cuando se lanza una versión más reciente.
- Acceso a tecnología de vanguardia: Aprovechar modelos que han sido ajustados y entrenados con conjuntos de datos extensos proporciona a tu aplicación capacidades de lenguaje natural.
Acceder a la funcionalidad de un SDK o API generalmente implica obtener permiso para usar los servicios proporcionados, lo que a menudo se realiza mediante el uso de una clave única o un token de autenticación. Usaremos la Biblioteca de Python de OpenAI para explorar cómo se ve esto. También puedes probarlo por tu cuenta en el siguiente notebook para OpenAI o notebook para Azure OpenAI Services para esta lección.
import os
from openai import OpenAI
API_KEY = os.getenv("OPENAI_API_KEY","")
client = OpenAI(
api_key=API_KEY
)
chat_completion = client.chat.completions.create(model="gpt-3.5-turbo", messages=[{"role": "user", "content": "Suggest two titles for an instructional lesson on chat applications for generative AI."}])El ejemplo anterior utiliza el modelo GPT-3.5 Turbo para completar el prompt, pero nota que la clave de API se establece antes de hacerlo. Recibirías un error si no estableces la clave.
Los principios generales de UX se aplican a las aplicaciones de chat, pero aquí hay algunas consideraciones adicionales que se vuelven particularmente importantes debido a los componentes de aprendizaje automático involucrados.
- Mecanismo para abordar la ambigüedad: Los modelos de IA generativa ocasionalmente generan respuestas ambiguas. Una función que permita a los usuarios pedir aclaraciones puede ser útil si se encuentran con este problema.
- Retención de contexto: Los modelos avanzados de IA generativa tienen la capacidad de recordar el contexto dentro de una conversación, lo cual puede ser un activo necesario para la experiencia del usuario. Dar a los usuarios la capacidad de controlar y gestionar el contexto mejora la experiencia del usuario, pero introduce el riesgo de retener información sensible del usuario. Las consideraciones sobre cuánto tiempo se almacena esta información, como la introducción de una política de retención, pueden equilibrar la necesidad de contexto con la privacidad.
- Personalización: Con la capacidad de aprender y adaptarse, los modelos de IA ofrecen una experiencia individualizada para un usuario. Personalizar la experiencia del usuario mediante funciones como perfiles de usuario no solo hace que el usuario se sienta comprendido, sino que también ayuda en su búsqueda de respuestas específicas, creando una interacción más eficiente y satisfactoria.
Un ejemplo de personalización es la configuración de "Instrucciones personalizadas" en ChatGPT de OpenAI. Permite proporcionar información sobre ti que puede ser un contexto importante para tus prompts. Aquí hay un ejemplo de una instrucción personalizada.
Este "perfil" solicita a ChatGPT que cree un plan de lección sobre listas enlazadas. Nota que ChatGPT toma en cuenta que el usuario puede querer un plan de lección más detallado basado en su experiencia.
Microsoft ha proporcionado orientación para redactar mensajes de sistema efectivos al generar respuestas de LLMs, desglosada en 4 áreas:
- Definir para quién es el modelo, así como sus capacidades y limitaciones.
- Definir el formato de salida del modelo.
- Proporcionar ejemplos específicos que demuestren el comportamiento esperado del modelo.
- Proporcionar límites adicionales de comportamiento.
Ya sea que un usuario tenga discapacidades visuales, auditivas, motoras o cognitivas, una aplicación de chat bien diseñada debe ser utilizable por todos. La siguiente lista desglosa características específicas destinadas a mejorar la accesibilidad para diversas discapacidades de los usuarios.
- Características para discapacidad visual: Temas de alto contraste y texto redimensionable, compatibilidad con lectores de pantalla.
- Características para discapacidad auditiva: Funciones de texto a voz y voz a texto, señales visuales para notificaciones de audio.
- Características para discapacidad motora: Soporte de navegación por teclado, comandos de voz.
- Características para discapacidad cognitiva: Opciones de lenguaje simplificado.
Imagina una aplicación de chat que entienda el lenguaje técnico de tu empresa y anticipe las consultas específicas que su base de usuarios comúnmente tiene. Hay un par de enfoques que vale la pena mencionar:
- Aprovechar modelos DSL. DSL significa lenguaje específico de dominio. Puedes aprovechar un modelo DSL entrenado en un dominio específico para entender sus conceptos y escenarios.
- Aplicar ajuste fino. El ajuste fino es el proceso de entrenar aún más tu modelo con datos específicos.
Aprovechar modelos de lenguaje específicos de dominio (Modelos DSL) puede mejorar la interacción del usuario al proporcionar interacciones especializadas y contextualmente relevantes. Es un modelo que está entrenado o ajustado para entender y generar texto relacionado con un campo, industria o tema específico. Las opciones para usar un modelo DSL pueden variar desde entrenar uno desde cero, hasta usar modelos preexistentes a través de SDKs y APIs. Otra opción es el ajuste fino, que implica tomar un modelo preentrenado existente y adaptarlo para un dominio específico.
El ajuste fino se considera a menudo cuando un modelo preentrenado no cumple en un dominio especializado o tarea específica.
Por ejemplo, las consultas médicas son complejas y requieren mucho contexto. Cuando un profesional médico diagnostica a un paciente, se basa en una variedad de factores como el estilo de vida o condiciones preexistentes, e incluso puede depender de revistas médicas recientes para validar su diagnóstico. En escenarios tan matizados, una aplicación de chat de IA de propósito general no puede ser una fuente confiable.
Considera una aplicación de chat diseñada para asistir a médicos proporcionando referencias rápidas a guías de tratamiento, interacciones de medicamentos o hallazgos de investigaciones recientes.
Un modelo de propósito general podría ser adecuado para responder preguntas médicas básicas o proporcionar consejos generales, pero podría tener dificultades con lo siguiente:
- Casos altamente específicos o complejos. Por ejemplo, un neurólogo podría preguntar a la aplicación: "¿Cuáles son las mejores prácticas actuales para manejar la epilepsia resistente a medicamentos en pacientes pediátricos?"
- Falta de avances recientes. Un modelo de propósito general podría tener dificultades para proporcionar una respuesta actual que incorpore los avances más recientes en neurología y farmacología.
En casos como estos, ajustar el modelo con un conjunto de datos médicos especializado puede mejorar significativamente su capacidad para manejar estas consultas médicas intrincadas de manera más precisa y confiable. Esto requiere acceso a un conjunto de datos grande y relevante que represente los desafíos y preguntas específicas del dominio que necesitan abordarse.
Esta sección describe los criterios para aplicaciones de chat "de alta calidad", que incluyen la captura de métricas accionables y la adherencia a un marco que aproveche la tecnología de IA de manera responsable.
Para mantener el rendimiento de alta calidad de una aplicación, es esencial realizar un seguimiento de métricas clave y consideraciones. Estas mediciones no solo garantizan la funcionalidad de la aplicación, sino que también evalúan la calidad del modelo de IA y la experiencia del usuario. A continuación, se presenta una lista que cubre métricas básicas, de IA y de experiencia del usuario a considerar.
| Métrica | Definición | Consideraciones para el Desarrollador de Chat |
|---|---|---|
| Tiempo de actividad | Mide el tiempo en que la aplicación está operativa y accesible para los usuarios. | ¿Cómo minimizarás el tiempo de inactividad? |
| Tiempo de respuesta | El tiempo que tarda la aplicación en responder a la consulta de un usuario. | ¿Cómo puedes optimizar el procesamiento de consultas para mejorar el tiempo de respuesta? |
| Precisión | La proporción de predicciones positivas verdaderas respecto al número total de predicciones positivas. | ¿Cómo validarás la precisión de tu modelo? |
| Recall (Sensibilidad) | La proporción de predicciones positivas verdaderas respecto al número real de positivos. | ¿Cómo medirás y mejorarás el recall? |
| Puntaje F1 | La media armónica de precisión y recall, que equilibra el compromiso entre ambos. | ¿Cuál es tu objetivo de puntaje F1? ¿Cómo equilibrarás precisión y recall? |
| Perplejidad | Mide qué tan bien la distribución de probabilidad predicha por el modelo se alinea con la distribución real de los datos. | ¿Cómo minimizarás la perplejidad? |
| Métricas de satisfacción del usuario | Mide la percepción del usuario sobre la aplicación. A menudo se capturan mediante encuestas. | ¿Con qué frecuencia recopilarás comentarios de los usuarios? ¿Cómo te adaptarás según ellos? |
| Tasa de error | La tasa a la que el modelo comete errores al comprender o generar respuestas. | ¿Qué estrategias tienes para reducir las tasas de error? |
| Ciclos de reentrenamiento | La frecuencia con la que se actualiza el modelo para incorporar nuevos datos e ideas. | ¿Con qué frecuencia reentrenarás el modelo? ¿Qué desencadena un ciclo de reentrenamiento? |
| Detección de anomalías | Herramientas y técnicas para identificar patrones inusuales que no se ajustan al comportamiento esperado. | ¿Cómo responderás a las anomalías? |
El enfoque de Microsoft hacia la IA responsable ha identificado seis principios que deben guiar el desarrollo y uso de la IA. A continuación se presentan los principios, su definición y las cosas que un desarrollador de chat debe considerar y por qué deberían tomarse en serio.
| Principios | Definición de Microsoft | Consideraciones para el desarrollador de chat | Por qué es importante |
|---|---|---|---|
| Equidad | Los sistemas de IA deben tratar a todas las personas de manera justa. | Asegúrate de que la aplicación de chat no discrimine en función de los datos del usuario. | Para generar confianza e inclusión entre los usuarios; evita repercusiones legales. |
| Fiabilidad y seguridad | Los sistemas de IA deben funcionar de manera fiable y segura. | Implementa pruebas y medidas de seguridad para minimizar errores y riesgos. | Garantiza la satisfacción del usuario y previene posibles daños. |
| Privacidad y seguridad | Los sistemas de IA deben ser seguros y respetar la privacidad. | Implementa medidas sólidas de cifrado y protección de datos. | Para proteger datos sensibles de los usuarios y cumplir con las leyes de privacidad. |
| Inclusión | Los sistemas de IA deben empoderar a todos y comprometer a las personas. | Diseña una interfaz de usuario/experiencia de usuario accesible y fácil de usar para audiencias diversas. | Garantiza que un rango más amplio de personas pueda usar la aplicación de manera efectiva. |
| Transparencia | Los sistemas de IA deben ser comprensibles. | Proporciona documentación clara y razonamientos para las respuestas de la IA. | Los usuarios son más propensos a confiar en un sistema si pueden entender cómo se toman las decisiones. |
| Responsabilidad | Las personas deben ser responsables de los sistemas de IA. | Establece un proceso claro para auditar y mejorar las decisiones de la IA. | Permite mejoras continuas y medidas correctivas en caso de errores. |
Consulta la tarea. Te llevará a través de una serie de ejercicios desde ejecutar tus primeros prompts de chat, hasta clasificar y resumir texto y más. ¡Nota que las tareas están disponibles en diferentes lenguajes de programación!
Después de completar esta lección, consulta nuestra colección de aprendizaje de IA generativa para seguir ampliando tus conocimientos sobre IA generativa.
Dirígete a la Lección 8 para ver cómo puedes empezar a crear aplicaciones de búsqueda.
Descargo de responsabilidad:
Este documento ha sido traducido utilizando el servicio de traducción automática Co-op Translator. Aunque nos esforzamos por garantizar la precisión, tenga en cuenta que las traducciones automáticas pueden contener errores o imprecisiones. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No nos hacemos responsables de malentendidos o interpretaciones erróneas que puedan surgir del uso de esta traducción.