Construindo Aplicações de Geração de Texto

(Clique na imagem acima para assistir ao vídeo desta lição)

Até agora, você viu neste currículo que existem conceitos fundamentais como prompts e até uma disciplina inteira chamada "engenharia de prompts". Muitas ferramentas com as quais você pode interagir, como ChatGPT, Office 365, Microsoft Power Platform e outras, te ajudam usando prompts para realizar algo.

Para você adicionar essa experiência a um app, é preciso entender conceitos como prompts, completions e escolher uma biblioteca para trabalhar. É exatamente isso que você vai aprender neste capítulo.

Introdução

Neste capítulo, você vai:

Conhecer a biblioteca openai e seus conceitos principais.
Construir um app de geração de texto usando openai.
Entender como usar conceitos como prompt, temperatura e tokens para criar um app de geração de texto.

Objetivos de aprendizado

Ao final desta lição, você será capaz de:

Explicar o que é um app de geração de texto.
Construir um app de geração de texto usando openai.
Configurar seu app para usar mais ou menos tokens e também alterar a temperatura, para obter resultados variados.

O que é um app de geração de texto?

Normalmente, quando você constrói um app, ele tem algum tipo de interface como as seguintes:

Baseado em comandos. Apps de console são típicos apps onde você digita um comando e ele executa uma tarefa. Por exemplo, git é um app baseado em comandos.
Interface de usuário (UI). Alguns apps têm interfaces gráficas (GUIs) onde você clica em botões, digita texto, seleciona opções e mais.

Apps de console e UI são limitados

Compare com um app baseado em comandos onde você digita um comando:

É limitado. Você não pode digitar qualquer comando, apenas os que o app suporta.
Idioma específico. Alguns apps suportam vários idiomas, mas por padrão o app é construído para um idioma específico, mesmo que você possa adicionar suporte para mais idiomas.

Benefícios dos apps de geração de texto

Então, como um app de geração de texto é diferente?

Em um app de geração de texto, você tem mais flexibilidade, não está limitado a um conjunto de comandos ou a um idioma específico de entrada. Em vez disso, você pode usar linguagem natural para interagir com o app. Outro benefício é que, como você já está interagindo com uma fonte de dados treinada em um vasto corpus de informações, enquanto um app tradicional pode ser limitado ao que está em um banco de dados.

O que posso construir com um app de geração de texto?

Há muitas coisas que você pode construir. Por exemplo:

Um chatbot. Um chatbot que responde perguntas sobre temas, como sua empresa e seus produtos, pode ser uma boa opção.
Assistente. LLMs são ótimos para coisas como resumir textos, extrair insights de textos, produzir textos como currículos e mais.
Assistente de código. Dependendo do modelo de linguagem que você usar, pode construir um assistente de código que te ajuda a escrever código. Por exemplo, você pode usar um produto como GitHub Copilot, assim como o ChatGPT, para ajudar a escrever código.

Como posso começar?

Bem, você precisa encontrar uma forma de integrar com um LLM, o que geralmente envolve as duas abordagens a seguir:

Usar uma API. Aqui você constrói requisições web com seu prompt e recebe o texto gerado de volta.
Usar uma biblioteca. Bibliotecas ajudam a encapsular as chamadas da API e tornam o uso mais fácil.

Bibliotecas/SDKs

Existem algumas bibliotecas bem conhecidas para trabalhar com LLMs, como:

openai, essa biblioteca facilita a conexão com seu modelo e o envio de prompts.

Depois, há bibliotecas que operam em um nível mais alto, como:

Langchain. Langchain é bem conhecida e suporta Python.
Semantic Kernel. Semantic Kernel é uma biblioteca da Microsoft que suporta as linguagens C#, Python e Java.

Primeiro app usando openai

Vamos ver como construir nosso primeiro app, quais bibliotecas precisamos, o que é necessário e assim por diante.

Instalar openai

Existem muitas bibliotecas para interagir com OpenAI ou Azure OpenAI. É possível usar várias linguagens de programação também, como C#, Python, JavaScript, Java e outras. Escolhemos usar a biblioteca Python openai, então usaremos o pip para instalá-la.

pip install openai

Criar um recurso

Você precisa seguir os seguintes passos:

Crie uma conta no Azure https://azure.microsoft.com/free/.
Obtenha acesso ao Azure OpenAI. Vá para https://learn.microsoft.com/azure/ai-services/openai/overview#how-do-i-get-access-to-azure-openai e solicite acesso.

[!NOTE] No momento da escrita, é necessário solicitar acesso ao Azure OpenAI.
Instale o Python https://www.python.org/
Crie um recurso do Azure OpenAI Service. Veja este guia para saber como criar um recurso.

Localizar chave da API e endpoint

Neste ponto, você precisa informar à sua biblioteca openai qual chave da API usar. Para encontrar sua chave da API, vá para a seção "Keys and Endpoint" do seu recurso Azure OpenAI e copie o valor de "Key 1".

Agora que você copiou essa informação, vamos instruir as bibliotecas a usá-la.

Note

Vale a pena separar sua chave da API do seu código. Você pode fazer isso usando variáveis de ambiente.

Defina a variável de ambiente OPENAI_API_KEY com sua chave da API. export OPENAI_API_KEY='sk-...'

Configuração para Azure

Se você estiver usando Azure OpenAI, veja como configurar:

openai.api_type = 'azure'
openai.api_key = os.environ["OPENAI_API_KEY"]
openai.api_version = '2023-05-15'
openai.api_base = os.getenv("API_BASE")

Acima estamos definindo o seguinte:

api_type para azure. Isso indica à biblioteca para usar Azure OpenAI e não OpenAI.
api_key, essa é sua chave da API encontrada no portal Azure.
api_version, essa é a versão da API que você quer usar. No momento da escrita, a versão mais recente é 2023-05-15.
api_base, esse é o endpoint da API. Você pode encontrá-lo no portal Azure ao lado da sua chave da API.

[!NOTE] > os.getenv é uma função que lê variáveis de ambiente. Você pode usá-la para ler variáveis como OPENAI_API_KEY e API_BASE. Defina essas variáveis no seu terminal ou usando uma biblioteca como dotenv.

Gerar texto

A forma de gerar texto é usar a classe Completion. Veja um exemplo:

prompt = "Complete o seguinte: Era uma vez um"

completion = openai.Completion.create(model="davinci-002", prompt=prompt)
print(completion.choices[0].text)

No código acima, criamos um objeto completion e passamos o modelo que queremos usar e o prompt. Depois imprimimos o texto gerado.

Completions de chat

Até agora, você viu como usamos Completion para gerar texto. Mas existe outra classe chamada ChatCompletion que é mais adequada para chatbots. Veja um exemplo de uso:

import openai

openai.api_key = "sk-..."

completion = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=[{"role": "user", "content": "Hello world"}])
print(completion.choices[0].message.content)

Mais sobre essa funcionalidade em um capítulo futuro.

Exercício - seu primeiro app de geração de texto

Agora que aprendemos como configurar e usar openai, é hora de construir seu primeiro app de geração de texto. Para construir seu app, siga estes passos:

Crie um ambiente virtual e instale openai:
```
python -m venv venv
source venv/bin/activate
pip install openai
```
[!NOTE] Se estiver usando Windows, digite venv\Scripts\activate em vez de source venv/bin/activate.

[!NOTE] Localize sua chave Azure OpenAI acessando https://portal.azure.com/, pesquise por Open AI, selecione o recurso Open AI e depois Keys and Endpoint e copie o valor de Key 1.

Crie um arquivo app.py e coloque o seguinte código:

import openai

openai.api_key = "<replace this value with your open ai key or Azure OpenAI key>"

openai.api_type = 'azure'
openai.api_version = '2023-05-15'
openai.api_base = "<endpoint found in Azure Portal where your API key is>"
deployment_name = "<deployment name>"

# adicione seu código de conclusão
prompt = "Complete o seguinte: Era uma vez um"
messages = [{"role": "user", "content": prompt}]

# make completion
completion = openai.chat.completions.create(model=deployment_name, messages=messages)

# print response
print(completion.choices[0].message.content)

[!NOTE] Se estiver usando Azure OpenAI, você precisa definir api_type como azure e configurar api_key com sua chave Azure OpenAI.

Você deve ver uma saída parecida com esta:

 muito infeliz _____.

 Era uma vez uma sereia muito infeliz.

Diferentes tipos de prompts, para diferentes propósitos

Agora você viu como gerar texto usando um prompt. Você até tem um programa funcionando que pode modificar para gerar diferentes tipos de texto.

Prompts podem ser usados para todo tipo de tarefa. Por exemplo:

Gerar um tipo de texto. Por exemplo, você pode gerar um poema, perguntas para um quiz etc.
Buscar informações. Você pode usar prompts para buscar informações, como no exemplo: 'O que significa CORS no desenvolvimento web?'.
Gerar código. Você pode usar prompts para gerar código, por exemplo, desenvolver uma expressão regular para validar emails ou até gerar um programa inteiro, como um app web.

Um caso de uso mais prático: um gerador de receitas

Imagine que você tem ingredientes em casa e quer cozinhar algo. Para isso, precisa de uma receita. Uma forma de encontrar receitas é usar um motor de busca ou você pode usar um LLM para isso.

Você poderia escrever um prompt assim:

"Mostre 5 receitas para um prato com os seguintes ingredientes: frango, batatas e cenouras. Para cada receita, liste todos os ingredientes usados"

Dado o prompt acima, você pode receber uma resposta parecida com:

1. Frango Assado com Legumes:
Ingredientes:
- 4 coxas de frango
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 2 colheres de sopa de azeite
- 2 dentes de alho picados
- 1 colher de chá de tomilho seco
- 1 colher de chá de orégano seco
- Sal e pimenta a gosto

2. Ensopado de Frango com Batata:
Ingredientes:
- 2 colheres de sopa de azeite
- 1 cebola picada
- 2 dentes de alho picados
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 colher de chá de orégano seco
- 1 colher de chá de tomilho seco
- 1 xícara de caldo de galinha
- Sal e pimenta a gosto

3. Frango e Batata Assados:
Ingredientes:
- 2 colheres de sopa de azeite
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 cebola picada
- 2 dentes de alho picados
- 1 colher de chá de orégano seco
- 1 colher de chá de tomilho seco
- 1 xícara de caldo de galinha
- Sal e pimenta a gosto

4. Sopa de Frango com Batata:
Ingredientes:
- 2 colheres de sopa de azeite
- 1 cebola picada
- 2 dentes de alho picados
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 colher de chá de orégano seco
- 1 colher de chá de tomilho seco
- 4 xícaras de caldo de galinha
- Sal e pimenta a gosto

5. Picadinho de Frango com Batata:
Ingredientes:
- 2 colheres de sopa de azeite
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 cebola picada
- 2 dentes de alho picado
- 1 colher de chá de orégano seco

Esse resultado é ótimo, já sei o que cozinhar. Neste ponto, melhorias úteis poderiam ser:

Filtrar ingredientes que não gosto ou sou alérgico.
Produzir uma lista de compras, caso eu não tenha todos os ingredientes em casa.

Para esses casos, vamos adicionar um prompt adicional:

"Por favor, remova receitas com alho pois sou alérgico e substitua por outro ingrediente. Além disso, por favor, produza uma lista de compras para as receitas, considerando que já tenho frango, batatas e cenouras em casa."

Agora você tem um novo resultado, a saber:

1. Frango Assado com Legumes:
Ingredientes:
- 4 coxas de frango
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 2 colheres de sopa de azeite
- 1 colher de chá de tomilho seco
- 1 colher de chá de orégano seco
- Sal e pimenta a gosto

2. Ensopado de Frango com Batata:
Ingredientes:
- 2 colheres de sopa de azeite
- 1 cebola picada
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 colher de chá de orégano seco
- 1 colher de chá de tomilho seco
- 1 xícara de caldo de galinha
- Sal e pimenta a gosto

3. Frango e Batata Assados:
Ingredientes:
- 2 colheres de sopa de azeite
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 cebola picada
- 1 colher de chá de orégano seco
- 1 colher de chá de tomilho seco
- 1 xícara de caldo de galinha
- Sal e pimenta a gosto

4. Sopa de Frango com Batata:
Ingredientes:
- 2 colheres de sopa de azeite
- 1 cebola picada
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 colher de chá de orégano seco
- 1 colher de chá de tomilho seco
- 4 xícaras de caldo de galinha
- Sal e pimenta a gosto

5. Picadinho de Frango com Batata:
Ingredientes:
- 2 colheres de sopa de azeite
- 2 peitos de frango cortados em cubos
- 2 batatas cortadas em cubos
- 2 cenouras cortadas em cubos
- 1 cebola picada
- 1 colher de chá de orégano seco

Lista de Compras:
- Azeite
- Cebola
- Tomilho
- Orégano
- Sal
- Pimenta

Essas são suas cinco receitas, sem alho mencionado, e você também tem uma lista de compras considerando o que já tem em casa.

Exercício - construa um gerador de receitas

Agora que encenamos um cenário, vamos escrever código para corresponder ao cenário demonstrado. Para isso, siga estes passos:

Use o arquivo app.py existente como ponto de partida
Localize a variável prompt e altere seu código para o seguinte:

   prompt = "Mostre-me 5 receitas de um prato com os seguintes ingredientes: frango, batata e cenoura. Liste todos os ingredientes usados para cada receita."

Se você executar o código agora, deve ver uma saída parecida com:

   - Ensopado de Frango com Batatas e Cenouras: 3 colheres de sopa de azeite, 1 cebola picada, 2 dentes de alho picados, 1 cenoura descascada e picada, 1 batata descascada e picada, 1 folha de louro, 1 ramo de tomilho, 1/2 colher de chá de sal, 1/4 de colher de chá de pimenta-do-reino, 1 1/2 xícaras de caldo de galinha, 1/2 xícara de vinho branco seco, 2 colheres de sopa de salsa fresca picada, 2 colheres de sopa de manteiga sem sal, 1 1/2 libra de coxas de frango desossadas e sem pele, cortadas em pedaços de 2,5 cm.
    - Frango Assado no Forno com Batatas e Cenouras: 3 colheres de sopa de azeite extravirgem, 1 colher de sopa de mostarda Dijon, 1 colher de sopa de alecrim fresco picado, 1 colher de sopa de tomilho fresco picado, 4 dentes de alho picados, 1 1/2 libra de batatas vermelhas pequenas cortadas em quatro, 1 1/2 libra de cenouras cortadas em quatro no sentido do comprimento, 1/2 colher de chá de sal. 1/4 colher de chá de pimenta-do-reino, 1 frango inteiro (1,8 kg)
    - Caçarola de Frango, Batata e Cenoura: spray de cozinha, 1 cebola grande picada, 2 dentes de alho picados, 1 cenoura descascada e ralada, 1 batata descascada e ralada, 1/2 colher de chá de folhas de tomilho secas, 1/4 colher de chá de sal, 1/4 colher de chá de pimenta-do-reino, 2 xícaras de caldo de galinha desnatado com baixo teor de sódio, 1 xícara de ervilhas congeladas, 1/4 xícara de farinha de trigo, 1 xícara de leite com 2% de gordura reduzida, 1/4 xícara de queijo parmesão ralado

    - Jantar de Frango e Batata em Uma Panela: 2 colheres de sopa de azeite, 450 g de coxas de frango desossadas e sem pele, cortadas em pedaços de 2,5 cm, 1 cebola grande picada, 3 dentes de alho picados, 1 cenoura descascada e picada, 1 batata descascada e picada, 1 folha de louro, 1 ramo de tomilho, 1/2 colher de chá Sal, 1/4 colher de chá de pimenta-do-reino, 2 xícaras de caldo de galinha, 1/2 xícara de vinho branco seco

    - Curry de Frango, Batata e Cenoura: 1 colher de sopa de óleo vegetal, 1 cebola grande picada, 2 dentes de alho picados, 1 cenoura descascada e picada, 1 batata descascada e picada, 1 colher de chá de coentro em pó, 1 colher de chá de cominho em pó, 1/2 colher de chá de cúrcuma em pó, 1/2 colher de chá de gengibre em pó, 1/4 colher de chá de pimenta caiena, 2 xícaras de caldo de galinha, 1/2 xícara de vinho branco seco, 1 lata (425 g) de grão-de-bico escorrido e lavado, 1/2 xícara de passas, 1/2 xícara de coentro fresco picado

NOTE, seu LLM é não determinístico, então você pode obter resultados diferentes a cada execução.

Ótimo, vamos ver como podemos melhorar as coisas. Para melhorar, queremos garantir que o código seja flexível, para que ingredientes e número de receitas possam ser alterados facilmente.

Vamos alterar o código da seguinte forma:

   no_recipes = input("Número de receitas (por exemplo, 5):")

   ingredients = input("Lista de ingredientes (por exemplo, frango, batatas e cenouras):")

   # interpolar o número de receitas no prompt e ingredientes
   prompt = f"Mostre-me {no_recipes} receitas para um prato com os seguintes ingredientes: {ingredients}. Por receita, liste todos os ingredientes usadosd"

Um teste rápido com o código poderia ser assim:

    Número de receitas (por exemplo, 5): 3
    Lista de ingredientes (por exemplo, frango, batatas e cenouras): leite, morangos

    - Milkshake de morango: leite, morangos, açúcar, extrato de baunilha, cubos de gelo
    - Torta de morango: leite, farinha, fermento em pó, açúcar, sal, manteiga sem sal, morangos, chantilly
    - Leite de morango: leite, morangos, açúcar, extrato de baunilha

Melhorar adicionando filtro e lista de compras

Agora temos um app funcional capaz de produzir receitas e é flexível, pois depende de entradas do usuário, tanto no número de receitas quanto nos ingredientes usados.

Para melhorar ainda mais, queremos adicionar o seguinte:

Filtrar ingredientes. Queremos poder filtrar ingredientes que não gostamos ou somos alérgicos. Para isso, podemos editar nosso prompt existente e adicionar uma condição de filtro no final, assim:

  filter = input("Filtro (por exemplo, vegetariano, vegano ou sem glúten): ")

  prompt = f"Mostre-me {no_recipes} receitas para um prato com os seguintes ingredientes: {ingredients}. Por receita, liste todos os ingredientes usados, sem {filter}"

Acima, adicionamos {filter} ao final do prompt e também capturamos o valor do filtro do usuário.

Um exemplo de entrada ao rodar o programa pode ser assim:

  Número de receitas (por exemplo, 5): 3
  Lista de ingredientes (por exemplo, frango, batata e cenoura): cebola, leite
  Filtro (por exemplo, vegetariano, vegano ou sem glúten): sem leite
  
  1. Sopa de Cebola Francesa
  
  Ingredientes:
  
  -1 cebola grande fatiada
  -3 xícaras de caldo de carne
  -1 xícara de leite
  -6 fatias de pão francês
  -1/4 de xícara de queijo parmesão ralado
  -1 colher de sopa de manteiga
  -1 colher de chá de tomilho seco
  -1/4 de colher de chá de sal
  -1/4 de colher de chá de pimenta-do-reino
  
  Instruções:
  
  1. Em uma panela grande, refogue a cebola na manteiga até dourar.
  2. Adicione o caldo de carne, o leite, o tomilho, o sal e a pimenta. Deixe ferver.
  3. Reduza o fogo e cozinhe em fogo baixo por 10 minutos.
  4. Coloque as fatias de pão francês em tigelas de sopa.
  5. Coloque a sopa sobre o pão.
  6. Polvilhe com queijo parmesão.
  
  2. Sopa de Cebola e Batata
  
  Ingredientes:
  
  - 1 cebola grande picada
  - 2 xícaras de batatas em cubos
  - 3 xícaras de caldo de legumes
  - 1 xícara de leite
  - 1/4 colher de chá de pimenta-do-reino
  
  Modo de Preparo:
  
  1. Em uma panela grande, refogue a cebola na manteiga até dourar.
  2. Adicione as batatas, o caldo de legumes, o leite e a pimenta. Deixe ferver.
  3. Reduza o fogo e cozinhe em fogo baixo por 10 minutos.
  4. Sirva quente.
  
  3. Sopa Cremosa de Cebola
  
  Ingredientes:
  
  - 1 cebola grande picada
  - 3 xícaras de caldo de legumes
  - 1 xícara de leite
  - 1/4 colher de chá de pimenta-do-reino
  - 1/4 xícara de farinha de trigo
  - 1/2 xícara de queijo parmesão ralado
  
  Modo de Preparo:
  
  1. Em uma panela grande, refogue a cebola na manteiga até dourar.
  2. Adicione o caldo de legumes, o leite e a pimenta. Deixe ferver.
  
  3. Reduza o fogo e cozinhe em fogo baixo por 10 minutos.
  4. Em uma tigela pequena, misture a farinha e o queijo parmesão até obter uma mistura homogênea.
  5. Adicione à sopa e cozinhe em fogo baixo por mais 5 minutos ou até engrossar.

Como você pode ver, qualquer receita com leite foi filtrada. Mas, se você for intolerante à lactose, pode querer filtrar receitas com queijo também, então é importante ser claro.

Produzir uma lista de compras. Queremos gerar uma lista de compras, considerando o que já temos em casa.

Para essa funcionalidade, poderíamos tentar resolver tudo em um único prompt ou dividir em dois prompts. Vamos tentar a segunda abordagem. Aqui sugerimos adicionar um prompt adicional, mas para isso funcionar, precisamos adicionar o resultado do primeiro prompt como contexto para o segundo prompt.

Localize a parte do código que imprime o resultado do primeiro prompt e adicione o seguinte código logo abaixo:

  old_prompt_result = completion.choices[0].message.content
  prompt = "Elabore uma lista de compras para as receitas geradas e, por favor, não inclua ingredientes que eu já tenha."

  new_prompt = f"{old_prompt_result} {prompt}"
  messages = [{"role": "user", "content": new_prompt}]
  completion = openai.Completion.create(engine=deployment_name, messages=messages, max_tokens=1200)

  # print response
  print("Lista de compras:")
  print(completion.choices[0].message.content)

Note o seguinte:

Estamos construindo um novo prompt adicionando o resultado do primeiro prompt ao novo prompt:

  new_prompt = f"{old_prompt_result} {prompt}"

Fazemos uma nova requisição, mas também considerando o número de tokens que pedimos no primeiro prompt, então desta vez definimos max_tokens como 1200.

  completion = openai.Completion.create(engine=deployment_name, prompt=new_prompt, max_tokens=1200)

Testando esse código, chegamos agora à seguinte saída:

  Número de receitas (por exemplo, 5): 2
  Lista de ingredientes (por exemplo, frango, batata e cenoura): maçã, farinha
  Filtro (por exemplo, vegetariano, vegano ou sem glúten): açúcar
  
  - Panquecas de maçã e farinha: 1 xícara de farinha, 1/2 colher de chá de fermento em pó, 1/2 colher de chá de bicarbonato de sódio, 1/4 colher de chá de sal, 1 colher de sopa de açúcar, 1 ovo, 1 xícara de leitelho ou leite azedo, 1/4 xícara de manteiga derretida, 1 maçã Granny Smith descascada e ralada
  - Bolinhos de maçã: 1 1/2 xícaras de farinha, 1 colher de chá de fermento em pó, 1/4 colher de chá de sal, 1/4 colher de chá de bicarbonato de sódio, 1/4 colher de chá de noz-moscada, 1/4 colher de chá de canela, 1/4 colher de chá de pimenta da Jamaica, 1/4 xícara de açúcar, 1/4 xícara de gordura vegetal, 1/4 xícara de leite, 1 ovo, 2 xícaras Maçãs raladas e descascadas
  Lista de compras:
  - Farinha, fermento em pó, bicarbonato de sódio, sal, açúcar, ovo, leitelho, manteiga, maçã, noz-moscada, canela, pimenta-da-jamaica

Melhore sua configuração

O que temos até agora é um código que funciona, mas há alguns ajustes que devemos fazer para melhorar ainda mais. Algumas coisas que devemos fazer são:

Separar segredos do código, como a chave da API. Segredos não pertencem ao código e devem ser armazenados em um local seguro. Para separar segredos do código, podemos usar variáveis de ambiente e bibliotecas como python-dotenv para carregá-las a partir de um arquivo. Veja como isso ficaria no código:
1. Crie um arquivo .env com o seguinte conteúdo:
```
OPENAI_API_KEY=sk-...
```

Note que, para Azure, você precisa definir as seguintes variáveis de ambiente:

     OPENAI_API_TYPE=azure
     OPENAI_API_VERSION=2023-05-15
     OPENAI_API_BASE=<replace>

No código, você carregaria as variáveis de ambiente assim:

     from dotenv import load_dotenv

     load_dotenv()

     openai.api_key = os.environ["OPENAI_API_KEY"]

Uma palavra sobre o comprimento dos tokens. Devemos considerar quantos tokens precisamos para gerar o texto desejado. Tokens custam dinheiro, então, sempre que possível, devemos tentar ser econômicos com a quantidade de tokens usados. Por exemplo, podemos reformular o prompt para usar menos tokens?

Para alterar a quantidade de tokens usados, você pode usar o parâmetro max_tokens. Por exemplo, se quiser usar 100 tokens, você faria:
```
completion = client.chat.completions.create(model=deployment, messages=messages, max_tokens=100)
```
Experimentando com a temperatura. Temperatura é algo que ainda não mencionamos, mas é um contexto importante para o desempenho do nosso programa. Quanto maior o valor da temperatura, mais aleatória será a saída. Por outro lado, quanto menor o valor da temperatura, mais previsível será a saída. Considere se você quer variação na sua saída ou não.

Para alterar a temperatura, você pode usar o parâmetro temperature. Por exemplo, se quiser usar uma temperatura de 0.5, você faria:
```
completion = client.chat.completions.create(model=deployment, messages=messages, temperature=0.5)
```
Note que, quanto mais próximo de 1.0, mais variada será a saída.

Tarefa

Para esta tarefa, você pode escolher o que construir.

Aqui estão algumas sugestões:

Ajuste o app gerador de receitas para melhorá-lo ainda mais. Brinque com os valores de temperatura e os prompts para ver o que consegue criar.
Crie um "companheiro de estudos". Este app deve ser capaz de responder perguntas sobre um tema, por exemplo Python, você poderia ter prompts como "O que é determinado tópico em Python?", ou um prompt que diga, mostre-me código para determinado tópico, etc.
Bot de história, faça a história ganhar vida, instrua o bot a interpretar um personagem histórico e faça perguntas sobre sua vida e época.

Solução

Companheiro de estudos

Abaixo está um prompt inicial, veja como você pode usá-lo e ajustá-lo ao seu gosto.

- "Você é um especialista na linguagem Python

Sugira uma aula para iniciantes em Python no seguinte formato:

Formato:
- conceitos:
- breve explicação da aula:
- exercício de código com soluções"

Bot de história

Aqui estão alguns prompts que você poderia usar:

- "Você é Abe Lincoln, conte-me sobre você em 3 frases e responda usando gramática e palavras que Abe teria usado"
- "Você é Abe Lincoln, responda usando gramática e palavras que Abe teria usado:

Conte-me sobre suas maiores realizações, em 300 palavras"

Verificação de conhecimento

O que o conceito de temperatura faz?

Controla o quão aleatória é a saída.
Controla o tamanho da resposta.
Controla quantos tokens são usados.

🚀 Desafio

Ao trabalhar na tarefa, tente variar a temperatura, definindo-a como 0, 0.5 e 1. Lembre-se que 0 é o menos variado e 1 é o mais. Qual valor funciona melhor para seu app?

Ótimo trabalho! Continue seu aprendizado

Após completar esta lição, confira nossa coleção de Aprendizado em IA Generativa para continuar aprimorando seu conhecimento em IA Generativa!

Siga para a Lição 7, onde veremos como construir aplicações de chat!

Aviso Legal:
Este documento foi traduzido utilizando o serviço de tradução por IA Co-op Translator. Embora nos esforcemos para garantir a precisão, esteja ciente de que traduções automáticas podem conter erros ou imprecisões. O documento original em seu idioma nativo deve ser considerado a fonte autorizada. Para informações críticas, recomenda-se tradução profissional humana. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações incorretas decorrentes do uso desta tradução.

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

Construindo Aplicações de Geração de Texto

Introdução

Objetivos de aprendizado

O que é um app de geração de texto?

Apps de console e UI são limitados

Benefícios dos apps de geração de texto

O que posso construir com um app de geração de texto?

Como posso começar?

Bibliotecas/SDKs

Primeiro app usando openai

Instalar openai

Criar um recurso

Localizar chave da API e endpoint

Configuração para Azure

Gerar texto

Completions de chat

Exercício - seu primeiro app de geração de texto

Diferentes tipos de prompts, para diferentes propósitos

Um caso de uso mais prático: um gerador de receitas

Exercício - construa um gerador de receitas

Melhorar adicionando filtro e lista de compras

Melhore sua configuração

Tarefa

Solução

Companheiro de estudos

Bot de história

Verificação de conhecimento

🚀 Desafio

Ótimo trabalho! Continue seu aprendizado

FilesExpand file tree

README.md

Latest commit

History

README.md

File metadata and controls

Construindo Aplicações de Geração de Texto

Introdução

Objetivos de aprendizado

O que é um app de geração de texto?

Apps de console e UI são limitados

Benefícios dos apps de geração de texto

O que posso construir com um app de geração de texto?

Como posso começar?

Bibliotecas/SDKs

Primeiro app usando openai

Instalar openai

Criar um recurso

Localizar chave da API e endpoint

Configuração para Azure

Gerar texto

Completions de chat

Exercício - seu primeiro app de geração de texto

Diferentes tipos de prompts, para diferentes propósitos

Um caso de uso mais prático: um gerador de receitas

Exercício - construa um gerador de receitas

Melhorar adicionando filtro e lista de compras

Melhore sua configuração

Tarefa

Solução

Companheiro de estudos

Bot de história

Verificação de conhecimento

🚀 Desafio

Ótimo trabalho! Continue seu aprendizado