(Haz clic en la imagen de arriba para ver el video de esta lecci贸n)
Ahora que hemos visto c贸mo podemos construir aplicaciones de generaci贸n de texto, analicemos las aplicaciones de chat.
Las aplicaciones de chat se han integrado en nuestra vida diaria, ofreciendo m谩s que solo un medio para conversaciones casuales. Son partes integrales del servicio al cliente, soporte t茅cnico e incluso sistemas sofisticados de asesoramiento. Probablemente hayas recibido ayuda de una aplicaci贸n de chat no hace mucho tiempo. A medida que integramos tecnolog铆as m谩s avanzadas como la IA generativa en estas plataformas, la complejidad aumenta y tambi茅n los desaf铆os.
Algunas preguntas que debemos responder son:
- Construir la aplicaci贸n. 驴C贸mo construimos de manera eficiente e integramos sin problemas estas aplicaciones impulsadas por IA para casos de uso espec铆ficos?
- Monitoreo. Una vez implementadas, 驴c贸mo podemos monitorear y asegurar que las aplicaciones est茅n operando al m谩s alto nivel de calidad, tanto en funcionalidad como en adherencia a los seis principios de IA responsable?
A medida que avanzamos hacia una era definida por la automatizaci贸n e interacciones fluidas entre humanos y m谩quinas, entender c贸mo la IA generativa transforma el alcance, profundidad y adaptabilidad de las aplicaciones de chat se vuelve esencial. Esta lecci贸n investigar谩 los aspectos de arquitectura que respaldan estos sistemas intrincados, profundizar谩 en las metodolog铆as para ajustarlos finamente para tareas espec铆ficas de dominio y evaluar谩 las m茅tricas y consideraciones pertinentes para garantizar un despliegue responsable de IA.
Esta lecci贸n cubre:
- T茅cnicas para construir e integrar eficientemente aplicaciones de chat.
- C贸mo aplicar personalizaci贸n y ajuste fino a las aplicaciones.
- Estrategias y consideraciones para monitorear eficazmente las aplicaciones de chat.
Al final de esta lecci贸n, podr谩s:
- Describir las consideraciones para construir e integrar aplicaciones de chat en sistemas existentes.
- Personalizar aplicaciones de chat para casos de uso espec铆ficos.
- Identificar m茅tricas clave y consideraciones para monitorear y mantener eficazmente la calidad de las aplicaciones de chat impulsadas por IA.
- Asegurar que las aplicaciones de chat aprovechen la IA de manera responsable.
Elevar las aplicaciones de chat mediante IA generativa no solo se centra en hacerlas m谩s inteligentes; se trata de optimizar su arquitectura, rendimiento e interfaz de usuario para ofrecer una experiencia de usuario de calidad. Esto implica investigar los fundamentos arquitect贸nicos, integraciones de API y consideraciones de interfaz de usuario. Esta secci贸n tiene como objetivo ofrecerte una hoja de ruta integral para navegar estos paisajes complejos, ya sea integr谩ndolos en sistemas existentes o construy茅ndolos como plataformas independientes.
Al final de esta secci贸n, estar谩s equipado con la experiencia necesaria para construir e incorporar aplicaciones de chat de manera eficiente.
Antes de sumergirnos en la construcci贸n de aplicaciones de chat, comparemos los 'chatbots' con las 'aplicaciones de chat impulsadas por IA', que sirven para roles y funcionalidades distintas. El prop贸sito principal de un chatbot es automatizar tareas espec铆ficas de conversaci贸n, como responder preguntas frecuentes o rastrear un paquete. Generalmente est谩 gobernado por l贸gica basada en reglas o algoritmos complejos de IA. En contraste, una aplicaci贸n de chat impulsada por IA es un entorno mucho m谩s amplio dise帽ado para facilitar diversas formas de comunicaci贸n digital, como chats de texto, voz y video entre usuarios humanos. Su caracter铆stica definitoria es la integraci贸n de un modelo de IA generativo que simula conversaciones matizadas similares a las humanas, generando respuestas basadas en una amplia variedad de entradas y se帽ales contextuales. Una aplicaci贸n de chat impulsada por IA generativa puede participar en discusiones de dominio abierto, adaptarse a contextos conversacionales en evoluci贸n e incluso producir di谩logos creativos o complejos.
La tabla a continuaci贸n describe las diferencias clave y similitudes para ayudarnos a entender sus roles 煤nicos en la comunicaci贸n digital.
| Chatbot | Aplicaci贸n de chat impulsada por IA generativa |
|---|---|
| Centrada en tareas y basada en reglas | Consciente del contexto |
| A menudo integrada en sistemas m谩s grandes | Puede alojar uno o m煤ltiples chatbots |
| Limitada a funciones programadas | Incorpora modelos de IA generativos |
| Interacciones especializadas y estructuradas | Capaz de discusiones de dominio abierto |
Al construir una aplicaci贸n de chat, un gran primer paso es evaluar lo que ya existe. Usar SDKs y APIs para construir aplicaciones de chat es una estrategia ventajosa por varias razones. Al integrar SDKs y APIs bien documentados, posicionas estrat茅gicamente tu aplicaci贸n para un 茅xito a largo plazo, abordando preocupaciones de escalabilidad y mantenimiento.
- Agiliza el proceso de desarrollo y reduce la sobrecarga: Confiar en funcionalidades preconstruidas en lugar del costoso proceso de construirlas t煤 mismo te permite enfocarte en otros aspectos de tu aplicaci贸n que pueden ser m谩s importantes, como la l贸gica de negocio.
- Mejor rendimiento: Cuando construyes funcionalidades desde cero, eventualmente te preguntar谩s "驴C贸mo escala? 驴Esta aplicaci贸n es capaz de manejar un aumento repentino de usuarios?" Los SDK y APIs bien mantenidos suelen tener soluciones integradas para estas preocupaciones.
- Mantenimiento m谩s sencillo: Las actualizaciones y mejoras son m谩s f谩ciles de gestionar ya que la mayor铆a de las APIs y SDKs simplemente requieren actualizar una biblioteca cuando se lanza una versi贸n m谩s nueva.
- Acceso a tecnolog铆a de punta: Aprovechar modelos que han sido finamente ajustados y entrenados en conjuntos de datos extensos proporciona a tu aplicaci贸n capacidades de lenguaje natural.
Acceder a la funcionalidad de un SDK o API t铆picamente implica obtener permiso para usar los servicios proporcionados, lo que se facilita mediante una clave 煤nica o token de autenticaci贸n. Usaremos la biblioteca de OpenAI para Python para explorar c贸mo es esto. Tambi茅n puedes probarlo por tu cuenta en el siguiente notebook para OpenAI o notebook para Azure OpenAI Services para esta lecci贸n.
import os
from openai import OpenAI
API_KEY = os.getenv("OPENAI_API_KEY","")
client = OpenAI(
api_key=API_KEY
)
response = client.responses.create(model="gpt-5-mini", input="Suggest two titles for an instructional lesson on chat applications for generative AI.", store=False)
print(response.output_text)El ejemplo anterior usa el modelo GPT-5 mini con la API Responses para completar el prompt, pero observa que la clave API se establece antes de hacerlo. Recibir铆as un error si no configuraras la clave.
Los principios generales de UX aplican a las aplicaciones de chat, pero aqu铆 hay algunas consideraciones adicionales que se vuelven particularmente importantes debido a los componentes de aprendizaje autom谩tico involucrados.
- Mecanismo para abordar la ambig眉edad: Los modelos de IA generativa ocasionalmente generan respuestas ambiguas. Una funci贸n que permita a los usuarios solicitar aclaraciones puede ser 煤til si encuentran este problema.
- Retenci贸n de contexto: Los modelos avanzados de IA generativa tienen la capacidad de recordar contexto dentro de una conversaci贸n, lo cual puede ser un activo necesario para la experiencia de usuario. Dar a los usuarios la capacidad de controlar y administrar el contexto mejora la experiencia del usuario, pero introduce el riesgo de retener informaci贸n sensible. Consideraciones sobre cu谩nto tiempo se almacena esta informaci贸n, como introducir una pol铆tica de retenci贸n, pueden equilibrar la necesidad de contexto frente a la privacidad.
- Personalizaci贸n: Con la capacidad de aprender y adaptarse, los modelos de IA ofrecen una experiencia individualizada para un usuario. Personalizar la experiencia del usuario a trav茅s de funciones como perfiles de usuario no solo hace que el usuario se sienta comprendido, sino que tambi茅n ayuda en su b煤squeda de encontrar respuestas espec铆ficas, creando una interacci贸n m谩s eficiente y satisfactoria.
Un ejemplo de personalizaci贸n es la configuraci贸n de "Instrucciones personalizadas" en ChatGPT de OpenAI. Te permite proporcionar informaci贸n sobre ti que puede ser un contexto importante para tus prompts. Aqu铆 hay un ejemplo de una instrucci贸n personalizada.
Este "perfil" le indica a ChatGPT que cree un plan de lecci贸n sobre listas enlazadas. Observa que ChatGPT tiene en cuenta que el usuario puede querer un plan de lecci贸n m谩s profundo basado en su experiencia.
Microsoft ha proporcionado orientaci贸n para redactar mensajes de sistema efectivos al generar respuestas de modelos LLM dividida en 4 谩reas:
- Definir para qui茅n es el modelo, as铆 como sus capacidades y limitaciones.
- Definir el formato de salida del modelo.
- Proporcionar ejemplos espec铆ficos que demuestren el comportamiento previsto del modelo.
- Proveer pautas adicionales de comportamiento.
Ya sea que un usuario tenga discapacidades visuales, auditivas, motoras o cognitivas, una aplicaci贸n de chat bien dise帽ada deber铆a ser usable por todos. La siguiente lista desglosa caracter铆sticas espec铆ficas dirigidas a mejorar la accesibilidad para varias discapacidades de usuarios.
- Caracter铆sticas para discapacidad visual: Temas de alto contraste y texto ajustable, compatibilidad con lectores de pantalla.
- Caracter铆sticas para discapacidad auditiva: Funciones de texto a voz y voz a texto, se帽ales visuales para notificaciones de audio.
- Caracter铆sticas para discapacidad motora: Soporte para navegaci贸n por teclado, comandos de voz.
- Caracter铆sticas para discapacidad cognitiva: Opciones de lenguaje simplificado.
Imagina una aplicaci贸n de chat que entiende la jerga de tu empresa y anticipa las consultas espec铆ficas que su base de usuarios tiene com煤nmente. Hay un par de enfoques que vale la pena mencionar:
- Aprovechar modelos DSL. DSL significa lenguaje espec铆fico de dominio. Puedes aprovechar un llamado modelo DSL entrenado en un dominio espec铆fico para entender sus conceptos y escenarios.
- Aplicar ajuste fino. El ajuste fino es el proceso de entrenar a煤n m谩s tu modelo con datos espec铆ficos.
Aprovechar modelos de lenguaje espec铆ficos de dominio (Modelos DSL) puede mejorar la interacci贸n del usuario al proporcionar interacciones especializadas y contextualmente relevantes. Es un modelo que se entrena o ajusta finamente para entender y generar texto relacionado con un campo, industria o sujeto espec铆fico. Las opciones para usar un modelo DSL pueden variar desde entrenar uno desde cero, hasta usar los preexistentes a trav茅s de SDKs y APIs. Otra opci贸n es el ajuste fino, que implica tomar un modelo pre-entrenado existente y adaptarlo para un dominio espec铆fico.
El ajuste fino se considera frecuentemente cuando un modelo preentrenado no es suficiente en un dominio especializado o tarea espec铆fica.
Por ejemplo, las consultas m茅dicas son complejas y requieren mucho contexto. Cuando un profesional m茅dico diagnostica un paciente, se basa en una variedad de factores como el estilo de vida o condiciones preexistentes, y puede incluso apoyarse en revistas m茅dicas recientes para validar su diagn贸stico. En escenarios tan matizados, una aplicaci贸n de chat AI de prop贸sito general no puede ser una fuente confiable.
Considera una aplicaci贸n de chat dise帽ada para asistir a profesionales m茅dicos proporcionando referencias r谩pidas a gu铆as de tratamiento, interacciones medicamentosas o hallazgos de investigaciones recientes.
Un modelo de prop贸sito general puede ser adecuado para responder preguntas m茅dicas b谩sicas o proporcionar consejos generales, pero puede tener dificultades con lo siguiente:
- Casos muy espec铆ficos o complejos. Por ejemplo, un neur贸logo podr铆a preguntar a la aplicaci贸n, "驴Cu谩les son las mejores pr谩cticas actuales para manejar la epilepsia resistente a medicamentos en pacientes pedi谩tricos?"
- Falta de avances recientes. Un modelo de prop贸sito general podr铆a tener dificultades para proporcionar una respuesta actual que incorpore los avances m谩s recientes en neurolog铆a y farmacolog铆a.
En casos como estos, ajustar finamente el modelo con un conjunto de datos m茅dicos especializado puede mejorar significativamente su capacidad para manejar estas consultas m茅dicas intrincadas con mayor precisi贸n y fiabilidad. Esto requiere acceso a un conjunto de datos grande y relevante que represente los desaf铆os y preguntas espec铆ficos del dominio que deben abordarse.
Esta secci贸n describe los criterios para aplicaciones de chat de "alta calidad", que incluyen la captura de m茅tricas accionables y la adherencia a un marco que aprovecha responsablemente la tecnolog铆a de IA.
Para mantener un rendimiento de alta calidad en una aplicaci贸n, es esencial hacer un seguimiento de m茅tricas y consideraciones clave. Estas mediciones no solo aseguran la funcionalidad de la aplicaci贸n sino que tambi茅n eval煤an la calidad del modelo de IA y la experiencia del usuario. A continuaci贸n hay una lista que cubre m茅tricas b谩sicas, de IA y de experiencia del usuario a considerar.
| M茅trica | Definici贸n | Consideraciones para el desarrollador de chat |
|---|---|---|
| Tiempo en l铆nea (Uptime) | Mide el tiempo durante el cual la aplicaci贸n est谩 operativa y accesible por los usuarios. | 驴C贸mo minimizar谩s el tiempo de inactividad? |
| Tiempo de respuesta | El tiempo que tarda la aplicaci贸n en responder a la consulta de un usuario. | 驴C贸mo optimizar谩s el procesamiento de consultas para mejorar el tiempo de respuesta? |
| Precisi贸n | La proporci贸n de predicciones verdaderas positivas frente al total de predicciones positivas | 驴C贸mo validar谩s la precisi贸n de tu modelo? |
| Recall (Sensibilidad) | La proporci贸n de predicciones verdaderas positivas frente al n煤mero real de positivos | 驴C贸mo medir谩s y mejorar谩s el recall? |
| Puntuaci贸n F1 | La media arm贸nica de precisi贸n y recall, que equilibra la compensaci贸n entre ambos. | 驴Cu谩l es tu objetivo en la puntuaci贸n F1? 驴C贸mo equilibrar谩s precisi贸n y recall? |
| Perplejidad | Mide qu茅 tan bien la distribuci贸n de probabilidad predicha por el modelo se alinea con la distribuci贸n real de los datos. | 驴C贸mo minimizar谩s la perplejidad? |
| M茅tricas de satisfacci贸n del usuario | Mide la percepci贸n del usuario sobre la aplicaci贸n. A menudo capturada a trav茅s de encuestas. | 驴Con qu茅 frecuencia recopilar谩s retroalimentaci贸n del usuario? 驴C贸mo te adaptar谩s en base a ella? |
| Tasa de error | La tasa en la cual el modelo comete errores en comprensi贸n o salida. | 驴Qu茅 estrategias tienes para reducir las tasas de error? |
| Ciclos de reentrenamiento | La frecuencia con que el modelo es actualizado para incorporar nuevos datos e insights. | 驴Con qu茅 frecuencia reentrenar谩s el modelo? 驴Qu茅 desencadena un ciclo de reentrenamiento? |
| Detecci贸n de anomal铆as | Herramientas y t茅cnicas para identificar patrones inusuales que no se ajustan al comportamiento esperado. | 驴C贸mo responder谩s a las anomal铆as? |
El enfoque de Microsoft hacia la IA responsable ha identificado seis principios que deben guiar el desarrollo y uso de la IA. A continuaci贸n se presentan los principios, su definici贸n y aspectos que un desarrollador de chat debe considerar y por qu茅 deben tomarlos en serio.
| Principios | Definici贸n de Microsoft | Consideraciones para el desarrollador de chat | Por qu茅 es importante |
|---|---|---|---|
| Equidad | Los sistemas de IA deben tratar a todas las personas con equidad. | Asegurar que la aplicaci贸n de chat no discrimine en base a datos del usuario. | Para generar confianza e inclusi贸n entre los usuarios; evita consecuencias legales. |
| Fiabilidad y Seguridad | Los sistemas de IA deben funcionar de manera confiable y segura. | Implementar pruebas y medidas de seguridad para minimizar errores y riesgos. | Asegura la satisfacci贸n del usuario y previene da帽os potenciales. |
| Privacidad y Seguridad | Los sistemas de IA deben ser seguros y respetar la privacidad. | Implementar cifrado fuerte y medidas de protecci贸n de datos. | Para proteger datos sensibles de usuarios y cumplir con leyes de privacidad. |
| Inclusividad | Los sistemas de IA deben empoderar a todos y comprometer a las personas. | Dise帽ar UI/UX accesible y f谩cil de usar para audiencias diversas. | Garantiza que un rango m谩s amplio de personas pueda usar la aplicaci贸n efectivamente. |
| Transparencia | Los sistemas de IA deben ser comprensibles. | Proveer documentaci贸n clara y razonamiento para las respuestas de IA. | Los usuarios confi谩n m谩s en un sistema si pueden entender c贸mo se toman las decisiones. |
| Responsabilidad | Las personas deben ser responsables de los sistemas de IA. | Establecer un proceso claro para auditar y mejorar las decisiones de IA. | Permite mejoras continuas y medidas correctivas en caso de errores. |
Consulta la asignaci贸n. Te guiar谩 a trav茅s de una serie de ejercicios, desde ejecutar tus primeros mensajes de chat, clasificar y resumir texto, 隆y m谩s! 隆Observa que las asignaciones est谩n disponibles en diferentes lenguajes de programaci贸n!
Despu茅s de completar esta lecci贸n, revisa nuestra colecci贸n de aprendizaje de IA generativa para continuar mejorando tu conocimiento en IA Generativa.
Dir铆gete a la Lecci贸n 8 para ver c贸mo puedes comenzar a construir aplicaciones de b煤squeda.
Descargo de responsabilidad: Este documento ha sido traducido utilizando el servicio de traducci贸n autom谩tica Co-op Translator. Aunque nos esforzamos por la precisi贸n, tenga en cuenta que las traducciones automatizadas pueden contener errores o inexactitudes. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para informaci贸n cr铆tica, se recomienda una traducci贸n profesional humana. No somos responsables de cualquier malentendido o interpretaci贸n err贸nea que surja del uso de esta traducci贸n.