Creazione di applicazioni per la generazione di testo

(Clicca sull'immagine sopra per vedere il video di questa lezione)

Finora, attraverso questo curriculum, hai visto che ci sono concetti fondamentali come i prompt e persino un'intera disciplina chiamata "ingegneria dei prompt". Molti strumenti con cui puoi interagire, come ChatGPT, Office 365, Microsoft Power Platform e altri, ti permettono di utilizzare i prompt per raggiungere un obiettivo.

Per aggiungere un'esperienza simile a un'app, devi comprendere concetti come i prompt, le completamenti e scegliere una libreria con cui lavorare. È proprio ciò che imparerai in questo capitolo.

Introduzione

In questo capitolo, imparerai:

A conoscere la libreria openai e i suoi concetti fondamentali.
A costruire un'app per la generazione di testo utilizzando openai.
A comprendere come utilizzare concetti come prompt, temperatura e token per costruire un'app per la generazione di testo.

Obiettivi di apprendimento

Alla fine di questa lezione, sarai in grado di:

Spiegare cos'è un'app per la generazione di testo.
Costruire un'app per la generazione di testo utilizzando openai.
Configurare la tua app per utilizzare più o meno token e modificare la temperatura, per ottenere risultati variabili.

Cos'è un'app per la generazione di testo?

Normalmente, quando costruisci un'app, essa ha una sorta di interfaccia come le seguenti:

Basata su comandi. Le app console sono tipiche applicazioni in cui digiti un comando e viene eseguito un compito. Ad esempio, git è un'app basata su comandi.
Interfaccia utente (UI). Alcune app hanno interfacce grafiche (GUI) dove clicchi su pulsanti, inserisci testo, selezioni opzioni e altro.

Le app console e UI sono limitate

Confrontale con un'app basata su comandi in cui digiti un comando:

Sono limitate. Non puoi semplicemente digitare qualsiasi comando, solo quelli supportati dall'app.
Specifiche per lingua. Alcune app supportano molte lingue, ma di default l'app è costruita per una lingua specifica, anche se puoi aggiungere il supporto per altre lingue.

Vantaggi delle app per la generazione di testo

In che modo un'app per la generazione di testo è diversa?

In un'app per la generazione di testo, hai più flessibilità, non sei limitato a un set di comandi o a una lingua di input specifica. Invece, puoi utilizzare il linguaggio naturale per interagire con l'app. Un altro vantaggio è che stai già interagendo con una fonte di dati che è stata addestrata su un vasto corpus di informazioni, mentre un'app tradizionale potrebbe essere limitata a ciò che è presente in un database.

Cosa posso costruire con un'app per la generazione di testo?

Ci sono molte cose che puoi costruire. Ad esempio:

Un chatbot. Un chatbot che risponde a domande su argomenti, come la tua azienda e i suoi prodotti, potrebbe essere una buona soluzione.
Assistente. Gli LLM sono ottimi per cose come riassumere testi, ottenere informazioni dai testi, produrre testi come curriculum e altro.
Assistente per il codice. A seconda del modello linguistico che utilizzi, puoi costruire un assistente per il codice che ti aiuti a scrivere codice. Ad esempio, puoi utilizzare un prodotto come GitHub Copilot così come ChatGPT per aiutarti a scrivere codice.

Come posso iniziare?

Beh, devi trovare un modo per integrarti con un LLM, che di solito comporta i seguenti due approcci:

Utilizzare un'API. Qui stai costruendo richieste web con il tuo prompt e ricevi indietro il testo generato.
Utilizzare una libreria. Le librerie aiutano a incapsulare le chiamate API e renderle più facili da usare.

Librerie/SDK

Ci sono alcune librerie ben conosciute per lavorare con gli LLM, come:

openai, questa libreria rende facile connettersi al tuo modello e inviare prompt.

Poi ci sono librerie che operano a un livello più alto, come:

Langchain. Langchain è ben conosciuta e supporta Python.
Semantic Kernel. Semantic Kernel è una libreria di Microsoft che supporta i linguaggi C#, Python e Java.

Prima app utilizzando openai

Vediamo come possiamo costruire la nostra prima app, quali librerie ci servono, quanto è richiesto e così via.

Installare openai

Ci sono molte librerie là fuori per interagire con OpenAI o Azure OpenAI. È possibile utilizzare numerosi linguaggi di programmazione come C#, Python, JavaScript, Java e altri. Abbiamo scelto di utilizzare la libreria Python openai, quindi useremo pip per installarla.

pip install openai

Creare una risorsa

Devi eseguire i seguenti passaggi:

Creare un account su Azure https://azure.microsoft.com/free/.
Ottenere l'accesso a Azure OpenAI. Vai su https://learn.microsoft.com/azure/ai-services/openai/overview#how-do-i-get-access-to-azure-openai e richiedi l'accesso.

[!NOTE] Al momento della scrittura, è necessario fare richiesta per ottenere l'accesso a Azure OpenAI.
Installare Python https://www.python.org/
Creare una risorsa Azure OpenAI Service. Consulta questa guida su come creare una risorsa.

Individuare la chiave API e l'endpoint

A questo punto, devi dire alla libreria openai quale chiave API utilizzare. Per trovare la tua chiave API, vai alla sezione "Keys and Endpoint" della tua risorsa Azure OpenAI e copia il valore "Key 1".

Ora che hai copiato queste informazioni, istruiamo le librerie a utilizzarle.

Note

Vale la pena separare la tua chiave API dal tuo codice. Puoi farlo utilizzando variabili d'ambiente.

Imposta la variabile d'ambiente OPENAI_API_KEY sulla tua chiave API. export OPENAI_API_KEY='sk-...'

Configurazione di Azure

Se stai utilizzando Azure OpenAI, ecco come configurare:

openai.api_type = 'azure'
openai.api_key = os.environ["OPENAI_API_KEY"]
openai.api_version = '2023-05-15'
openai.api_base = os.getenv("API_BASE")

Qui sopra stiamo impostando quanto segue:

api_type su azure. Questo indica alla libreria di utilizzare Azure OpenAI e non OpenAI.
api_key, questa è la tua chiave API trovata nel portale Azure.
api_version, questa è la versione dell'API che vuoi utilizzare. Al momento della scrittura, l'ultima versione è 2023-05-15.
api_base, questo è l'endpoint dell'API. Puoi trovarlo nel portale Azure accanto alla tua chiave API.

[!NOTE] > os.getenv è una funzione che legge le variabili d'ambiente. Puoi usarla per leggere variabili d'ambiente come OPENAI_API_KEY e API_BASE. Imposta queste variabili d'ambiente nel tuo terminale o utilizzando una libreria come dotenv.

Generare testo

Il modo per generare testo è utilizzare la classe Completion. Ecco un esempio:

prompt = "Complete the following: Once upon a time there was a"

completion = openai.Completion.create(model="davinci-002", prompt=prompt)
print(completion.choices[0].text)

Nel codice sopra, creiamo un oggetto completion e passiamo il modello che vogliamo utilizzare e il prompt. Poi stampiamo il testo generato.

Completamenti per chat

Finora, hai visto come abbiamo utilizzato Completion per generare testo. Ma c'è un'altra classe chiamata ChatCompletion che è più adatta per i chatbot. Ecco un esempio di utilizzo:

import openai

openai.api_key = "sk-..."

completion = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=[{"role": "user", "content": "Hello world"}])
print(completion.choices[0].message.content)

Ulteriori dettagli su questa funzionalità in un capitolo successivo.

Esercizio - la tua prima app per la generazione di testo

Ora che abbiamo imparato come configurare e impostare openai, è il momento di costruire la tua prima app per la generazione di testo. Per costruire la tua app, segui questi passaggi:

Crea un ambiente virtuale e installa openai:
```
python -m venv venv
source venv/bin/activate
pip install openai
```
[!NOTE] Se stai usando Windows, digita venv\Scripts\activate invece di source venv/bin/activate.

[!NOTE] Trova la tua chiave Azure OpenAI andando su https://portal.azure.com/, cerca Open AI, seleziona la risorsa Open AI e poi seleziona Keys and Endpoint e copia il valore Key 1.

Crea un file app.py e inserisci il seguente codice:

import openai

openai.api_key = "<replace this value with your open ai key or Azure OpenAI key>"

openai.api_type = 'azure'
openai.api_version = '2023-05-15'
openai.api_base = "<endpoint found in Azure Portal where your API key is>"
deployment_name = "<deployment name>"

# add your completion code
prompt = "Complete the following: Once upon a time there was a"
messages = [{"role": "user", "content": prompt}]

# make completion
completion = openai.chat.completions.create(model=deployment_name, messages=messages)

# print response
print(completion.choices[0].message.content)

[!NOTE] Se stai utilizzando Azure OpenAI, devi impostare api_type su azure e impostare api_key sulla tua chiave Azure OpenAI.

Dovresti vedere un output simile al seguente:

 very unhappy _____.

Once upon a time there was a very unhappy mermaid.

Diversi tipi di prompt, per diverse esigenze

Ora hai visto come generare testo utilizzando un prompt. Hai persino un programma funzionante che puoi modificare e cambiare per generare diversi tipi di testo.

I prompt possono essere utilizzati per tutti i tipi di compiti. Ad esempio:

Generare un tipo di testo. Ad esempio, puoi generare una poesia, domande per un quiz, ecc.
Ricercare informazioni. Puoi utilizzare i prompt per cercare informazioni, come il seguente esempio: "Cosa significa CORS nello sviluppo web?".
Generare codice. Puoi utilizzare i prompt per generare codice, ad esempio sviluppare un'espressione regolare utilizzata per convalidare email o perché no, generare un intero programma, come un'app web?

Un caso d'uso più pratico: un generatore di ricette

Immagina di avere degli ingredienti a casa e di voler cucinare qualcosa. Per farlo, hai bisogno di una ricetta. Un modo per trovare ricette è utilizzare un motore di ricerca oppure potresti utilizzare un LLM.

Potresti scrivere un prompt come il seguente:

"Mostrami 5 ricette per un piatto con i seguenti ingredienti: pollo, patate e carote. Per ogni ricetta, elenca tutti gli ingredienti utilizzati."

Dato il prompt sopra, potresti ottenere una risposta simile a:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 2 cloves garlic, minced
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano

Questo risultato è ottimo, ora so cosa cucinare. A questo punto, potrebbero essere utili miglioramenti come:

Filtrare gli ingredienti che non mi piacciono o a cui sono allergico.
Produrre una lista della spesa, nel caso non abbia tutti gli ingredienti a casa.

Per i casi sopra, aggiungiamo un prompt aggiuntivo:

"Per favore, rimuovi le ricette con aglio poiché sono allergico e sostituiscilo con qualcos'altro. Inoltre, produci una lista della spesa per le ricette, considerando che ho già pollo, patate e carote a casa."

Ora hai un nuovo risultato, ovvero:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano

Shopping List:
- Olive oil
- Onion
- Thyme
- Oregano
- Salt
- Pepper

Ecco le tue cinque ricette, senza menzione di aglio, e hai anche una lista della spesa considerando ciò che hai già a casa.

Esercizio - costruire un generatore di ricette

Ora che abbiamo simulato uno scenario, scriviamo il codice per corrispondere allo scenario dimostrato. Per farlo, segui questi passaggi:

Usa il file app.py esistente come punto di partenza.

Trova la variabile prompt e cambia il suo codice con il seguente:

prompt = "Show me 5 recipes for a dish with the following ingredients: chicken, potatoes, and carrots. Per recipe, list all the ingredients used"

Se ora esegui il codice, dovresti vedere un output simile a:

-Chicken Stew with Potatoes and Carrots: 3 tablespoons oil, 1 onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 1/2 cups chicken broth, 1/2 cup dry white wine, 2 tablespoons chopped fresh parsley, 2 tablespoons unsalted butter, 1 1/2 pounds boneless, skinless chicken thighs, cut into 1-inch pieces
-Oven-Roasted Chicken with Potatoes and Carrots: 3 tablespoons extra-virgin olive oil, 1 tablespoon Dijon mustard, 1 tablespoon chopped fresh rosemary, 1 tablespoon chopped fresh thyme, 4 cloves garlic, minced, 1 1/2 pounds small red potatoes, quartered, 1 1/2 pounds carrots, quartered lengthwise, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 (4-pound) whole chicken
-Chicken, Potato, and Carrot Casserole: cooking spray, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and shredded, 1 potato, peeled and shredded, 1/2 teaspoon dried thyme leaves, 1/4 teaspoon salt, 1/4 teaspoon black pepper, 2 cups fat-free, low-sodium chicken broth, 1 cup frozen peas, 1/4 cup all-purpose flour, 1 cup 2% reduced-fat milk, 1/4 cup grated Parmesan cheese

-One Pot Chicken and Potato Dinner: 2 tablespoons olive oil, 1 pound boneless, skinless chicken thighs, cut into 1-inch pieces, 1 large onion, chopped, 3 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 2 cups chicken broth, 1/2 cup dry white wine

-Chicken, Potato, and Carrot Curry: 1 tablespoon vegetable oil, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 teaspoon ground coriander, 1 teaspoon ground cumin, 1/2 teaspoon ground turmeric, 1/2 teaspoon ground ginger, 1/4 teaspoon cayenne pepper, 2 cups chicken broth, 1/2 cup dry white wine, 1 (15-ounce) can chickpeas, drained and rinsed, 1/2 cup raisins, 1/2 cup chopped fresh cilantro

NOTA, il tuo LLM è non deterministico, quindi potresti ottenere risultati diversi ogni volta che esegui il programma.

Ottimo, vediamo come possiamo migliorare le cose. Per migliorare le cose, vogliamo assicurarci che il codice sia flessibile, in modo che gli ingredienti e il numero di ricette possano essere migliorati e modificati.

Cambiamo il codice nel seguente modo:

no_recipes = input("No of recipes (for example, 5): ")

ingredients = input("List of ingredients (for example, chicken, potatoes, and carrots): ")

# interpolate the number of recipes into the prompt an ingredients
prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used"

Eseguendo il codice per un test, potrebbe apparire così:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): milk,strawberries

-Strawberry milk shake: milk, strawberries, sugar, vanilla extract, ice cubes
-Strawberry shortcake: milk, flour, baking powder, sugar, salt, unsalted butter, strawberries, whipped cream
-Strawberry milk: milk, strawberries, sugar, vanilla extract

Migliorare aggiungendo filtro e lista della spesa

Ora abbiamo un'app funzionante in grado di produrre ricette ed è flessibile poiché si basa sugli input dell'utente, sia sul numero di ricette che sugli ingredienti utilizzati.

Per migliorare ulteriormente, vogliamo aggiungere quanto segue:

Filtrare gli ingredienti. Vogliamo essere in grado di filtrare gli ingredienti che non ci piacciono o a cui siamo allergici. Per realizzare questa modifica, possiamo modificare il nostro prompt esistente e aggiungere una condizione di filtro alla fine, come segue:

filter = input("Filter (for example, vegetarian, vegan, or gluten-free): ")

prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used, no {filter}"

Sopra, aggiungiamo {filter} alla fine del prompt e catturiamo anche il valore del filtro dall'utente.

Un esempio di input per l'esecuzione del programma potrebbe ora apparire così:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): onion,milk
Filter (for example, vegetarian, vegan, or gluten-free): no milk

1. French Onion Soup

Ingredients:

-1 large onion, sliced
-3 cups beef broth
-1 cup milk
-6 slices french bread
-1/4 cup shredded Parmesan cheese
-1 tablespoon butter
-1 teaspoon dried thyme
-1/4 teaspoon salt
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add beef broth, milk, thyme, salt, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Place french bread slices on soup bowls.
5. Ladle soup over bread.
6. Sprinkle with Parmesan cheese.

2. Onion and Potato Soup

Ingredients:

-1 large onion, chopped
-2 cups potatoes, diced
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add potatoes, vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Serve hot.

3. Creamy Onion Soup

Ingredients:

-1 large onion, chopped
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper
-1/4 cup all-purpose flour
-1/2 cup shredded Parmesan cheese

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. In a small bowl, whisk together flour and Parmesan cheese until smooth.
5. Add to soup and simmer for an additional 5 minutes, or until soup has thickened.

Come puoi vedere, tutte le ricette con latte sono state filtrate. Ma, se sei intollerante al lattosio, potresti voler filtrare anche le ricette con formaggio, quindi è necessario essere chiari.

Produrre una lista della spesa. Vogliamo produrre una lista della spesa, considerando ciò che abbiamo già a casa.

Per questa funzionalità, potremmo provare a risolvere tutto in un unico prompt oppure potremmo suddividerlo in due prompt. Proviamo il secondo approccio. Qui suggeriamo di aggiungere un prompt aggiuntivo, ma per farlo, dobbiamo aggiungere il risultato del primo prompt come contesto al secondo prompt.

Trova la parte del codice che stampa il risultato del primo prompt e aggiungi il seguente codice sotto:

old_prompt_result = completion.choices[0].message.content
prompt = "Produce a shopping list for the generated recipes and please don't include ingredients that I already have."

new_prompt = f"{old_prompt_result} {prompt}"
messages = [{"role": "user", "content": new_prompt}]
completion = openai.Completion.create(engine=deployment_name, messages=messages, max_tokens=1200)

# print response
print("Shopping list:")
print(completion.choices[0].message.content)

Nota quanto segue:

Stiamo costruendo un nuovo prompt aggiungendo il risultato del primo prompt al nuovo prompt:
```
new_prompt = f"{old_prompt_result} {prompt}"
```

Facciamo una nuova richiesta, ma tenendo conto anche del numero di token richiesti nel primo prompt, quindi questa volta impostiamo max_tokens a 1200.

completion = openai.Completion.create(engine=deployment_name, prompt=new_prompt, max_tokens=1200)

Provando questo codice, arriviamo al seguente output:

No of recipes (for example, 5): 2
List of ingredients (for example, chicken, potatoes, and carrots): apple,flour
Filter (for example, vegetarian, vegan, or gluten-free): sugar


-Apple and flour pancakes: 1 cup flour, 1/2 tsp baking powder, 1/2 tsp baking soda, 1/4 tsp salt, 1 tbsp sugar, 1 egg, 1 cup buttermilk or sour milk, 1/4 cup melted butter, 1 Granny Smith apple, peeled and grated
-Apple fritters: 1-1/2 cups flour, 1 tsp baking powder, 1/4 tsp salt, 1/4 tsp baking soda, 1/4 tsp nutmeg, 1/4 tsp cinnamon, 1/4 tsp allspice, 1/4 cup sugar, 1/4 cup vegetable shortening, 1/4 cup milk, 1 egg, 2 cups shredded, peeled apples
Shopping list:
-Flour, baking powder, baking soda, salt, sugar, egg, buttermilk, butter, apple, nutmeg, cinnamon, allspice

Migliora la tua configurazione

Quello che abbiamo finora è un codice funzionante, ma ci sono alcune modifiche che dovremmo fare per migliorare ulteriormente. Alcune cose che dovremmo fare sono:

Separare i segreti dal codice, come la chiave API. I segreti non appartengono al codice e dovrebbero essere conservati in un luogo sicuro. Per separare i segreti dal codice, possiamo utilizzare variabili d'ambiente e librerie come python-dotenv per caricarli da un file. Ecco come apparirebbe nel codice:
1. Crea un file .env con il seguente contenuto:
```
OPENAI_API_KEY=sk-...
```
  Nota, per Azure, è necessario impostare le seguenti variabili d'ambiente:
```
OPENAI_API_TYPE=azure
OPENAI_API_VERSION=2023-05-15
OPENAI_API_BASE=<replace>
```
  Nel codice, caricheresti le variabili d'ambiente in questo modo:
```
from dotenv import load_dotenv

load_dotenv()

openai.api_key = os.environ["OPENAI_API_KEY"]
```
Una parola sulla lunghezza dei token. Dovremmo considerare quanti token sono necessari per generare il testo desiderato. I token hanno un costo, quindi, dove possibile, dovremmo cercare di essere economici con il numero di token utilizzati. Ad esempio, possiamo formulare il prompt in modo da utilizzare meno token?

Per modificare i token utilizzati, puoi usare il parametro max_tokens. Ad esempio, se vuoi utilizzare 100 token, faresti:
```
completion = client.chat.completions.create(model=deployment, messages=messages, max_tokens=100)
```
Sperimentare con la temperatura. La temperatura è qualcosa che non abbiamo ancora menzionato, ma è un contesto importante per il funzionamento del nostro programma. Più alto è il valore della temperatura, più casuale sarà l'output. Al contrario, più basso è il valore della temperatura, più prevedibile sarà l'output. Considera se desideri variazioni nel tuo output o meno.

Per modificare la temperatura, puoi usare il parametro temperature. Ad esempio, se vuoi utilizzare una temperatura di 0.5, faresti:
```
completion = client.chat.completions.create(model=deployment, messages=messages, temperature=0.5)
```
Nota, più ci si avvicina a 1.0, più variegato sarà l'output.

Compito

Per questo compito, puoi scegliere cosa costruire.

Ecco alcune idee:

Modifica l'app generatrice di ricette per migliorarla ulteriormente. Gioca con i valori di temperatura e i prompt per vedere cosa riesci a creare.
Crea un "compagno di studio". Questa app dovrebbe essere in grado di rispondere a domande su un argomento, ad esempio Python. Potresti avere prompt come "Cos'è un certo argomento in Python?", oppure un prompt che dice "Mostrami il codice per un certo argomento", ecc.
Bot storico, fai rivivere la storia, istruisci il bot a interpretare un certo personaggio storico e fagli domande sulla sua vita e sui suoi tempi.

Soluzione

Compagno di studio

Di seguito trovi un prompt iniziale, vedi come puoi usarlo e modificarlo a tuo piacimento.

- "You're an expert on the Python language

    Suggest a beginner lesson for Python in the following format:

    Format:
    - concepts:
    - brief explanation of the lesson:
    - exercise in code with solutions"

Bot storico

Ecco alcuni prompt che potresti utilizzare:

- "You are Abe Lincoln, tell me about yourself in 3 sentences, and respond using grammar and words like Abe would have used"
- "You are Abe Lincoln, respond using grammar and words like Abe would have used:

   Tell me about your greatest accomplishments, in 300 words"

Verifica delle conoscenze

Cosa fa il concetto di temperatura?

Controlla quanto è casuale l'output.
Controlla quanto è grande la risposta.
Controlla quanti token vengono utilizzati.

🚀 Sfida

Quando lavori sul compito, prova a variare la temperatura, impostandola a 0, 0.5 e 1. Ricorda che 0 è il meno variegato e 1 è il più variegato. Quale valore funziona meglio per la tua app?

Ottimo lavoro! Continua a imparare

Dopo aver completato questa lezione, dai un'occhiata alla nostra collezione di apprendimento sull'AI generativa per continuare a migliorare le tue conoscenze sull'AI generativa!

Vai alla Lezione 7 dove vedremo come costruire applicazioni di chat!

Disclaimer:
Questo documento è stato tradotto utilizzando il servizio di traduzione AI Co-op Translator. Sebbene ci impegniamo per garantire l'accuratezza, si prega di notare che le traduzioni automatiche possono contenere errori o imprecisioni. Il documento originale nella sua lingua nativa dovrebbe essere considerato la fonte autorevole. Per informazioni critiche, si raccomanda una traduzione professionale umana. Non siamo responsabili per eventuali incomprensioni o interpretazioni errate derivanti dall'uso di questa traduzione.

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

Creazione di applicazioni per la generazione di testo

Introduzione

Obiettivi di apprendimento

Cos'è un'app per la generazione di testo?

Le app console e UI sono limitate

Vantaggi delle app per la generazione di testo

Cosa posso costruire con un'app per la generazione di testo?

Come posso iniziare?

Librerie/SDK

Prima app utilizzando openai

Installare openai

Creare una risorsa

Individuare la chiave API e l'endpoint

Configurazione di Azure

Generare testo

Completamenti per chat

Esercizio - la tua prima app per la generazione di testo

Diversi tipi di prompt, per diverse esigenze

Un caso d'uso più pratico: un generatore di ricette

Esercizio - costruire un generatore di ricette

Migliorare aggiungendo filtro e lista della spesa

Migliora la tua configurazione

Compito

Soluzione

Compagno di studio

Bot storico

Verifica delle conoscenze

🚀 Sfida

Ottimo lavoro! Continua a imparare

FilesExpand file tree

README.md

Latest commit

History

README.md

File metadata and controls

Creazione di applicazioni per la generazione di testo

Introduzione

Obiettivi di apprendimento

Cos'è un'app per la generazione di testo?

Le app console e UI sono limitate

Vantaggi delle app per la generazione di testo

Cosa posso costruire con un'app per la generazione di testo?

Come posso iniziare?

Librerie/SDK

Prima app utilizzando openai

Installare openai

Creare una risorsa

Individuare la chiave API e l'endpoint

Configurazione di Azure

Generare testo

Completamenti per chat

Esercizio - la tua prima app per la generazione di testo

Diversi tipi di prompt, per diverse esigenze

Un caso d'uso più pratico: un generatore di ricette

Esercizio - costruire un generatore di ricette

Migliorare aggiungendo filtro e lista della spesa

Migliora la tua configurazione

Compito

Soluzione

Compagno di studio

Bot storico

Verifica delle conoscenze

🚀 Sfida

Ottimo lavoro! Continua a imparare