README.md

Construcción de Aplicaciones de Generación de Texto

(Haz clic en la imagen de arriba para ver el video de esta lección)

Hasta ahora, has visto a lo largo de este programa que hay conceptos fundamentales como los prompts e incluso toda una disciplina llamada "ingeniería de prompts". Muchas herramientas con las que puedes interactuar, como ChatGPT, Office 365, Microsoft Power Platform y más, te permiten usar prompts para lograr algo.

Para que puedas agregar una experiencia similar a una aplicación, necesitas entender conceptos como prompts, completaciones y elegir una biblioteca con la que trabajar. Eso es exactamente lo que aprenderás en este capítulo.

Introducción

En este capítulo, aprenderás:

• Sobre la biblioteca openai y sus conceptos fundamentales.
• Cómo construir una aplicación de generación de texto usando openai.
• A entender cómo usar conceptos como prompt, temperatura y tokens para construir una aplicación de generación de texto.

Objetivos de aprendizaje

Al final de esta lección, serás capaz de:

• Explicar qué es una aplicación de generación de texto.
• Construir una aplicación de generación de texto usando openai.
• Configurar tu aplicación para usar más o menos tokens y también cambiar la temperatura, para obtener resultados variados.

¿Qué es una aplicación de generación de texto?

Normalmente, cuando construyes una aplicación, tiene algún tipo de interfaz como las siguientes:

• Basada en comandos. Las aplicaciones de consola son típicas donde escribes un comando y realiza una tarea. Por ejemplo, git es una aplicación basada en comandos.
• Interfaz de usuario (UI). Algunas aplicaciones tienen interfaces gráficas de usuario (GUIs) donde haces clic en botones, ingresas texto, seleccionas opciones y más.

Las aplicaciones de consola y UI son limitadas

Compáralo con una aplicación basada en comandos donde escribes un comando:

• Es limitada. No puedes simplemente escribir cualquier comando, solo los que la aplicación soporta.
• Específica del idioma. Algunas aplicaciones soportan muchos idiomas, pero por defecto la aplicación está diseñada para un idioma específico, incluso si puedes agregar soporte para más idiomas.

Beneficios de las aplicaciones de generación de texto

Entonces, ¿en qué se diferencia una aplicación de generación de texto?

En una aplicación de generación de texto, tienes más flexibilidad, no estás limitado a un conjunto de comandos o a un idioma de entrada específico. En cambio, puedes usar lenguaje natural para interactuar con la aplicación. Otro beneficio es que ya estás interactuando con una fuente de datos que ha sido entrenada en un vasto corpus de información, mientras que una aplicación tradicional podría estar limitada a lo que hay en una base de datos.

¿Qué puedo construir con una aplicación de generación de texto?

Hay muchas cosas que puedes construir. Por ejemplo:

• Un chatbot. Un chatbot que responda preguntas sobre temas, como tu empresa y sus productos, podría ser una buena opción.
• Asistente. Los LLMs son excelentes para cosas como resumir texto, obtener ideas de texto, producir texto como currículums y más.
• Asistente de código. Dependiendo del modelo de lenguaje que uses, puedes construir un asistente de código que te ayude a escribir código. Por ejemplo, puedes usar un producto como GitHub Copilot, así como ChatGPT, para ayudarte a escribir código.

¿Cómo puedo empezar?

Bueno, necesitas encontrar una forma de integrarte con un LLM, lo que generalmente implica los siguientes dos enfoques:

• Usar una API. Aquí estás construyendo solicitudes web con tu prompt y obtienes texto generado como respuesta.
• Usar una biblioteca. Las bibliotecas ayudan a encapsular las llamadas a la API y las hacen más fáciles de usar.

Bibliotecas/SDKs

Hay algunas bibliotecas bien conocidas para trabajar con LLMs como:

• openai, esta biblioteca facilita la conexión con tu modelo y el envío de prompts.

Luego hay bibliotecas que operan a un nivel más alto como:

• Langchain. Langchain es bien conocida y soporta Python.
• Semantic Kernel. Semantic Kernel es una biblioteca de Microsoft que soporta los lenguajes C#, Python y Java.

Primera aplicación usando openai

Veamos cómo podemos construir nuestra primera aplicación, qué bibliotecas necesitamos, cuánto se requiere y más.

Instalar openai

Hay muchas bibliotecas disponibles para interactuar con OpenAI o Azure OpenAI. Es posible usar numerosos lenguajes de programación como C#, Python, JavaScript, Java y más. Hemos elegido usar la biblioteca de Python openai, así que usaremos pip para instalarla.

pip install openai

Crear un recurso

Debes realizar los siguientes pasos:

• Crear una cuenta en Azure https://azure.microsoft.com/free/.

• Obtener acceso a Azure OpenAI. Ve a https://learn.microsoft.com/azure/ai-services/openai/overview#how-do-i-get-access-to-azure-openai y solicita acceso.

  [!NOTE] En el momento de escribir esto, necesitas solicitar acceso a Azure OpenAI.

• Instalar Python https://www.python.org/

• Haber creado un recurso de Azure OpenAI Service. Consulta esta guía sobre cómo crear un recurso.

Localizar clave API y punto de conexión

En este punto, necesitas decirle a tu biblioteca openai qué clave API usar. Para encontrar tu clave API, ve a la sección "Keys and Endpoint" de tu recurso de Azure OpenAI y copia el valor de "Key 1".

Ahora que tienes esta información copiada, vamos a instruir a las bibliotecas para que la usen.

Note

Vale la pena separar tu clave API de tu código. Puedes hacerlo usando variables de entorno.

• Establece la variable de entorno OPENAI_API_KEY con tu clave API. export OPENAI_API_KEY='sk-...'

Configuración de Azure

Si estás usando Azure OpenAI, aquí te mostramos cómo configurar la biblioteca:

openai.api_type = 'azure'
openai.api_key = os.environ["OPENAI_API_KEY"]
openai.api_version = '2023-05-15'
openai.api_base = os.getenv("API_BASE")

Arriba estamos configurando lo siguiente:

• api_type como azure. Esto le dice a la biblioteca que use Azure OpenAI y no OpenAI.
• api_key, esta es tu clave API que se encuentra en el Portal de Azure.
• api_version, esta es la versión de la API que deseas usar. En el momento de escribir esto, la última versión es 2023-05-15.
• api_base, este es el punto de conexión de la API. Puedes encontrarlo en el Portal de Azure junto a tu clave API.

[!NOTE] > os.getenv es una función que lee variables de entorno. Puedes usarla para leer variables de entorno como OPENAI_API_KEY y API_BASE. Establece estas variables de entorno en tu terminal o usando una biblioteca como dotenv.

Generar texto

La forma de generar texto es usar la clase Completion. Aquí tienes un ejemplo:

prompt = "Complete the following: Once upon a time there was a"

completion = openai.Completion.create(model="davinci-002", prompt=prompt)
print(completion.choices[0].text)

En el código anterior, creamos un objeto de completación y pasamos el modelo que queremos usar y el prompt. Luego imprimimos el texto generado.

Completaciones de chat

Hasta ahora, has visto cómo hemos estado usando Completion para generar texto. Pero hay otra clase llamada ChatCompletion que es más adecuada para chatbots. Aquí tienes un ejemplo de cómo usarla:

import openai

openai.api_key = "sk-..."

completion = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=[{"role": "user", "content": "Hello world"}])
print(completion.choices[0].message.content)

Más sobre esta funcionalidad en un capítulo próximo.

Ejercicio - tu primera aplicación de generación de texto

Ahora que hemos aprendido cómo configurar y configurar openai, es hora de construir tu primera aplicación de generación de texto. Para construir tu aplicación, sigue estos pasos:

1. Crea un entorno virtual e instala openai:

   python -m venv venv
   source venv/bin/activate
   pip install openai

   [!NOTE] Si estás usando Windows, escribe venv\Scripts\activate en lugar de source venv/bin/activate.

   [!NOTE] Localiza tu clave de Azure OpenAI yendo a https://portal.azure.com/, busca Open AI, selecciona el recurso Open AI y luego selecciona Keys and Endpoint y copia el valor de Key 1.

2. Crea un archivo app.py y dale el siguiente código:

   import openai
   
   openai.api_key = "<replace this value with your open ai key or Azure OpenAI key>"
   
   openai.api_type = 'azure'
   openai.api_version = '2023-05-15'
   openai.api_base = "<endpoint found in Azure Portal where your API key is>"
   deployment_name = "<deployment name>"
   
   # add your completion code
   prompt = "Complete the following: Once upon a time there was a"
   messages = [{"role": "user", "content": prompt}]
   
   # make completion
   completion = openai.chat.completions.create(model=deployment_name, messages=messages)
   
   # print response
   print(completion.choices[0].message.content)

   [!NOTE] Si estás usando Azure OpenAI, necesitas establecer el api_type como azure y configurar el api_key con tu clave de Azure OpenAI.

   Deberías ver un resultado como el siguiente:

    very unhappy _____.
   
   Once upon a time there was a very unhappy mermaid.
   

Diferentes tipos de prompts para diferentes cosas

Ahora has visto cómo generar texto usando un prompt. Incluso tienes un programa en funcionamiento que puedes modificar y cambiar para generar diferentes tipos de texto.

Los prompts pueden usarse para todo tipo de tareas. Por ejemplo:

• Generar un tipo de texto. Por ejemplo, puedes generar un poema, preguntas para un cuestionario, etc.
• Buscar información. Puedes usar prompts para buscar información como el siguiente ejemplo: "¿Qué significa CORS en el desarrollo web?".
• Generar código. Puedes usar prompts para generar código, por ejemplo, desarrollar una expresión regular para validar correos electrónicos o incluso generar un programa completo, como una aplicación web.

Un caso práctico: generador de recetas

Imagina que tienes ingredientes en casa y quieres cocinar algo. Para eso, necesitas una receta. Una forma de encontrar recetas es usar un motor de búsqueda o podrías usar un LLM para hacerlo.

Podrías escribir un prompt como este:

"Muéstrame 5 recetas para un plato con los siguientes ingredientes: pollo, papas y zanahorias. Por receta, enumera todos los ingredientes utilizados."

Dado el prompt anterior, podrías obtener una respuesta similar a esta:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 2 cloves garlic, minced
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano

Este resultado es genial, ya sé qué cocinar. En este punto, lo que podría ser útil mejorar es:

• Filtrar los ingredientes que no me gustan o a los que soy alérgico.
• Generar una lista de compras, en caso de que no tenga todos los ingredientes en casa.

Para los casos anteriores, agreguemos un prompt adicional:

"Por favor, elimina las recetas con ajo ya que soy alérgico y reemplázalo con otra cosa. Además, por favor genera una lista de compras para las recetas, considerando que ya tengo pollo, papas y zanahorias en casa."

Ahora tienes un nuevo resultado, es decir:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano

Shopping List:
- Olive oil
- Onion
- Thyme
- Oregano
- Salt
- Pepper

Esas son tus cinco recetas, sin mencionar el ajo, y también tienes una lista de compras considerando lo que ya tienes en casa.

Ejercicio - construir un generador de recetas

Ahora que hemos desarrollado un escenario, escribamos el código para que coincida con el escenario demostrado. Para hacerlo, sigue estos pasos:

1. Usa el archivo app.py existente como punto de partida.

2. Localiza la variable prompt y cambia su código por el siguiente:

   prompt = "Show me 5 recipes for a dish with the following ingredients: chicken, potatoes, and carrots. Per recipe, list all the ingredients used"

   Si ahora ejecutas el código, deberías ver un resultado similar a:

   -Chicken Stew with Potatoes and Carrots: 3 tablespoons oil, 1 onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 1/2 cups chicken broth, 1/2 cup dry white wine, 2 tablespoons chopped fresh parsley, 2 tablespoons unsalted butter, 1 1/2 pounds boneless, skinless chicken thighs, cut into 1-inch pieces
   -Oven-Roasted Chicken with Potatoes and Carrots: 3 tablespoons extra-virgin olive oil, 1 tablespoon Dijon mustard, 1 tablespoon chopped fresh rosemary, 1 tablespoon chopped fresh thyme, 4 cloves garlic, minced, 1 1/2 pounds small red potatoes, quartered, 1 1/2 pounds carrots, quartered lengthwise, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 (4-pound) whole chicken
   -Chicken, Potato, and Carrot Casserole: cooking spray, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and shredded, 1 potato, peeled and shredded, 1/2 teaspoon dried thyme leaves, 1/4 teaspoon salt, 1/4 teaspoon black pepper, 2 cups fat-free, low-sodium chicken broth, 1 cup frozen peas, 1/4 cup all-purpose flour, 1 cup 2% reduced-fat milk, 1/4 cup grated Parmesan cheese
   
   -One Pot Chicken and Potato Dinner: 2 tablespoons olive oil, 1 pound boneless, skinless chicken thighs, cut into 1-inch pieces, 1 large onion, chopped, 3 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 2 cups chicken broth, 1/2 cup dry white wine
   
   -Chicken, Potato, and Carrot Curry: 1 tablespoon vegetable oil, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 teaspoon ground coriander, 1 teaspoon ground cumin, 1/2 teaspoon ground turmeric, 1/2 teaspoon ground ginger, 1/4 teaspoon cayenne pepper, 2 cups chicken broth, 1/2 cup dry white wine, 1 (15-ounce) can chickpeas, drained and rinsed, 1/2 cup raisins, 1/2 cup chopped fresh cilantro
   

   NOTA, tu LLM es no determinista, por lo que podrías obtener resultados diferentes cada vez que ejecutes el programa.

   Genial, veamos cómo podemos mejorar las cosas. Para mejorar las cosas, queremos asegurarnos de que el código sea flexible, de modo que los ingredientes y el número de recetas puedan mejorarse y cambiarse.

3. Cambiemos el código de la siguiente manera:

   no_recipes = input("No of recipes (for example, 5): ")
   
   ingredients = input("List of ingredients (for example, chicken, potatoes, and carrots): ")
   
   # interpolate the number of recipes into the prompt an ingredients
   prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used"

   Ejecutar el código de prueba podría verse así:

   No of recipes (for example, 5): 3
   List of ingredients (for example, chicken, potatoes, and carrots): milk,strawberries
   
   -Strawberry milk shake: milk, strawberries, sugar, vanilla extract, ice cubes
   -Strawberry shortcake: milk, flour, baking powder, sugar, salt, unsalted butter, strawberries, whipped cream
   -Strawberry milk: milk, strawberries, sugar, vanilla extract
   

Mejorar añadiendo filtro y lista de compras

Ahora tenemos una aplicación funcional capaz de producir recetas y es flexible, ya que depende de las entradas del usuario, tanto en el número de recetas como en los ingredientes utilizados.

Para mejorarlo aún más, queremos agregar lo siguiente:

• Filtrar ingredientes. Queremos poder filtrar los ingredientes que no nos gustan o a los que somos alérgicos. Para realizar este cambio, podemos editar nuestro prompt existente y agregar una condición de filtro al final, como se muestra a continuación:

  filter = input("Filter (for example, vegetarian, vegan, or gluten-free): ")
  
  prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used, no {filter}"

  Arriba, agregamos {filter} al final del prompt y también capturamos el valor del filtro del usuario.

  Un ejemplo de entrada al ejecutar el programa ahora podría verse así:

  No of recipes (for example, 5): 3
  List of ingredients (for example, chicken, potatoes, and carrots): onion,milk
  Filter (for example, vegetarian, vegan, or gluten-free): no milk
  
  1. French Onion Soup
  
  Ingredients:
  
  -1 large onion, sliced
  -3 cups beef broth
  -1 cup milk
  -6 slices french bread
  -1/4 cup shredded Parmesan cheese
  -1 tablespoon butter
  -1 teaspoon dried thyme
  -1/4 teaspoon salt
  -1/4 teaspoon black pepper
  
  Instructions:
  
  1. In a large pot, sauté onions in butter until golden brown.
  2. Add beef broth, milk, thyme, salt, and pepper. Bring to a boil.
  3. Reduce heat and simmer for 10 minutes.
  4. Place french bread slices on soup bowls.
  5. Ladle soup over bread.
  6. Sprinkle with Parmesan cheese.
  
  2. Onion and Potato Soup
  
  Ingredients:
  
  -1 large onion, chopped
  -2 cups potatoes, diced
  -3 cups vegetable broth
  -1 cup milk
  -1/4 teaspoon black pepper
  
  Instructions:
  
  1. In a large pot, sauté onions in butter until golden brown.
  2. Add potatoes, vegetable broth, milk, and pepper. Bring to a boil.
  3. Reduce heat and simmer for 10 minutes.
  4. Serve hot.
  
  3. Creamy Onion Soup
  
  Ingredients:
  
  -1 large onion, chopped
  -3 cups vegetable broth
  -1 cup milk
  -1/4 teaspoon black pepper
  -1/4 cup all-purpose flour
  -1/2 cup shredded Parmesan cheese
  
  Instructions:
  
  1. In a large pot, sauté onions in butter until golden brown.
  2. Add vegetable broth, milk, and pepper. Bring to a boil.
  3. Reduce heat and simmer for 10 minutes.
  4. In a small bowl, whisk together flour and Parmesan cheese until smooth.
  5. Add to soup and simmer for an additional 5 minutes, or until soup has thickened.
  

  Como puedes ver, se han filtrado todas las recetas con leche. Pero, si eres intolerante a la lactosa, podrías querer filtrar también las recetas con queso, por lo que es necesario ser claro.

• Generar una lista de compras. Queremos generar una lista de compras, considerando lo que ya tenemos en casa.

  Para esta funcionalidad, podríamos intentar resolver todo en un solo prompt o podríamos dividirlo en dos prompts. Probemos el último enfoque. Aquí sugerimos agregar un prompt adicional, pero para que funcione, necesitamos agregar el resultado del primer prompt como contexto al segundo prompt.

  Localiza la parte del código que imprime el resultado del primer prompt y agrega el siguiente código debajo:

  old_prompt_result = completion.choices[0].message.content
  prompt = "Produce a shopping list for the generated recipes and please don't include ingredients that I already have."
  
  new_prompt = f"{old_prompt_result} {prompt}"
  messages = [{"role": "user", "content": new_prompt}]
  completion = openai.Completion.create(engine=deployment_name, messages=messages, max_tokens=1200)
  
  # print response
  print("Shopping list:")
  print(completion.choices[0].message.content)

  Ten en cuenta lo siguiente:

  1. Estamos construyendo un nuevo prompt añadiendo el resultado del primer prompt al nuevo prompt:

     new_prompt = f"{old_prompt_result} {prompt}"

  2. Hacemos una nueva solicitud, pero también considerando el número de tokens que pedimos en el primer prompt, así que esta vez decimos que max_tokens es 1200.

     completion = openai.Completion.create(engine=deployment_name, prompt=new_prompt, max_tokens=1200)

     Probando este código, ahora llegamos al siguiente resultado:

     No of recipes (for example, 5): 2
     List of ingredients (for example, chicken, potatoes, and carrots): apple,flour
     Filter (for example, vegetarian, vegan, or gluten-free): sugar
     
     
     -Apple and flour pancakes: 1 cup flour, 1/2 tsp baking powder, 1/2 tsp baking soda, 1/4 tsp salt, 1 tbsp sugar, 1 egg, 1 cup buttermilk or sour milk, 1/4 cup melted butter, 1 Granny Smith apple, peeled and grated
     -Apple fritters: 1-1/2 cups flour, 1 tsp baking powder, 1/4 tsp salt, 1/4 tsp baking soda, 1/4 tsp nutmeg, 1/4 tsp cinnamon, 1/4 tsp allspice, 1/4 cup sugar, 1/4 cup vegetable shortening, 1/4 cup milk, 1 egg, 2 cups shredded, peeled apples
     Shopping list:
     -Flour, baking powder, baking soda, salt, sugar, egg, buttermilk, butter, apple, nutmeg, cinnamon, allspice
     

Mejora tu configuración

Lo que tenemos hasta ahora es un código que funciona, pero hay algunos ajustes que deberíamos hacer para mejorar aún más. Algunas cosas que deberíamos hacer son:

• Separar secretos del código, como la clave de la API. Los secretos no deben estar en el código y deben almacenarse en un lugar seguro. Para separar secretos del código, podemos usar variables de entorno y bibliotecas como python-dotenv para cargarlos desde un archivo. Así es como se vería en el código:

  1. Crea un archivo .env con el siguiente contenido:

     OPENAI_API_KEY=sk-...

     Nota, para Azure, necesitas configurar las siguientes variables de entorno:

     OPENAI_API_TYPE=azure
     OPENAI_API_VERSION=2023-05-15
     OPENAI_API_BASE=<replace>

     En el código, cargarías las variables de entorno de esta manera:

     from dotenv import load_dotenv
     
     load_dotenv()
     
     openai.api_key = os.environ["OPENAI_API_KEY"]

• Una palabra sobre la longitud de los tokens. Deberíamos considerar cuántos tokens necesitamos para generar el texto que queremos. Los tokens tienen un costo, así que, cuando sea posible, deberíamos intentar ser económicos con la cantidad de tokens que usamos. Por ejemplo, ¿podemos formular el prompt de manera que usemos menos tokens?

  Para cambiar los tokens utilizados, puedes usar el parámetro max_tokens. Por ejemplo, si quieres usar 100 tokens, harías lo siguiente:

  completion = client.chat.completions.create(model=deployment, messages=messages, max_tokens=100)

• Experimentar con la temperatura. La temperatura es algo que no hemos mencionado hasta ahora, pero es un contexto importante para cómo funciona nuestro programa. Cuanto mayor sea el valor de la temperatura, más aleatorio será el resultado. Por el contrario, cuanto menor sea el valor de la temperatura, más predecible será el resultado. Considera si deseas variación en tu resultado o no.

  Para alterar la temperatura, puedes usar el parámetro temperature. Por ejemplo, si quieres usar una temperatura de 0.5, harías lo siguiente:

  completion = client.chat.completions.create(model=deployment, messages=messages, temperature=0.5)

  Nota, cuanto más cerca de 1.0, más variado será el resultado.

Tarea

Para esta tarea, puedes elegir qué construir.

Aquí hay algunas sugerencias:

• Ajusta la aplicación generadora de recetas para mejorarla aún más. Juega con los valores de temperatura y los prompts para ver qué puedes lograr.
• Crea un "compañero de estudio". Esta aplicación debería ser capaz de responder preguntas sobre un tema, por ejemplo, Python. Podrías tener prompts como "¿Qué es un tema específico en Python?", o podrías tener un prompt que diga, muéstrame código sobre un tema específico, etc.
• Bot de historia, haz que la historia cobre vida, instruye al bot para que interprete a un personaje histórico y hazle preguntas sobre su vida y época.

Solución

Compañero de estudio

A continuación, se muestra un prompt inicial, mira cómo puedes usarlo y ajustarlo a tu gusto.

- "You're an expert on the Python language

    Suggest a beginner lesson for Python in the following format:

    Format:
    - concepts:
    - brief explanation of the lesson:
    - exercise in code with solutions"

Bot de historia

Aquí hay algunos prompts que podrías usar:

- "You are Abe Lincoln, tell me about yourself in 3 sentences, and respond using grammar and words like Abe would have used"
- "You are Abe Lincoln, respond using grammar and words like Abe would have used:

   Tell me about your greatest accomplishments, in 300 words"

Verificación de conocimientos

¿Qué hace el concepto de temperatura?

1. Controla qué tan aleatorio es el resultado.
2. Controla qué tan grande es la respuesta.
3. Controla cuántos tokens se utilizan.

🚀 Desafío

Al trabajar en la tarea, intenta variar la temperatura, prueba configurarla en 0, 0.5 y 1. Recuerda que 0 es el menos variado y 1 es el más variado. ¿Qué valor funciona mejor para tu aplicación?

¡Buen trabajo! Continúa aprendiendo

Después de completar esta lección, consulta nuestra colección de aprendizaje de IA generativa para seguir mejorando tus conocimientos sobre IA generativa.

Dirígete a la Lección 7 donde veremos cómo crear aplicaciones de chat!

---

Descargo de responsabilidad:
Este documento ha sido traducido utilizando el servicio de traducción automática Co-op Translator. Aunque nos esforzamos por lograr precisión, tenga en cuenta que las traducciones automáticas pueden contener errores o imprecisiones. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No nos hacemos responsables de malentendidos o interpretaciones erróneas que surjan del uso de esta traducción.