Erstellung von Textgenerierungsanwendungen

(Klicken Sie auf das Bild oben, um das Video zu dieser Lektion anzusehen)

Sie haben bisher in diesem Lehrplan gesehen, dass es Kernkonzepte wie Prompts gibt und sogar eine ganze Disziplin namens „Prompt Engineering“. Viele Tools, mit denen Sie interagieren können, wie ChatGPT, Office 365, Microsoft Power Platform und mehr, unterstützen Sie dabei, mit Prompts etwas zu erreichen.

Um eine solche Erfahrung in eine App einzubauen, müssen Sie Konzepte wie Prompts, Completions verstehen und eine Bibliothek auswählen, mit der Sie arbeiten. Genau das lernen Sie in diesem Kapitel.

Einführung

In diesem Kapitel werden Sie:

Die openai-Bibliothek und ihre Kernkonzepte kennenlernen.
Eine Textgenerierungs-App mit openai erstellen.
Verstehen, wie man Konzepte wie Prompt, Temperature und Tokens verwendet, um eine Textgenerierungs-App zu bauen.

Lernziele

Am Ende dieser Lektion werden Sie in der Lage sein:

Zu erklären, was eine Textgenerierungs-App ist.
Eine Textgenerierungs-App mit openai zu erstellen.
Ihre App so zu konfigurieren, dass sie mehr oder weniger Tokens verwendet und auch die Temperatur ändert, um unterschiedliche Ausgaben zu erzeugen.

Was ist eine Textgenerierungs-App?

Normalerweise hat eine App eine Art Benutzeroberfläche wie die folgende:

Befehlsbasiert. Konsolen-Apps sind typische Apps, bei denen Sie einen Befehl eingeben und eine Aufgabe ausgeführt wird. Zum Beispiel ist git eine befehlsbasierte App.
Benutzeroberfläche (UI). Manche Apps haben grafische Benutzeroberflächen (GUIs), bei denen Sie Buttons klicken, Text eingeben, Optionen auswählen und mehr.

Konsolen- und UI-Apps sind eingeschränkt

Vergleichen Sie das mit einer befehlsbasierten App, bei der Sie einen Befehl eingeben:

Sie ist eingeschränkt. Sie können nicht einfach jeden beliebigen Befehl eingeben, sondern nur die, die die App unterstützt.
Sprachspezifisch. Manche Apps unterstützen viele Sprachen, aber standardmäßig ist die App für eine bestimmte Sprache gebaut, auch wenn Sie weitere Sprachunterstützung hinzufügen können.

Vorteile von Textgenerierungs-Apps

Worin unterscheidet sich eine Textgenerierungs-App?

Bei einer Textgenerierungs-App haben Sie mehr Flexibilität, Sie sind nicht auf eine Reihe von Befehlen oder eine bestimmte Eingabesprache beschränkt. Stattdessen können Sie natürliche Sprache verwenden, um mit der App zu interagieren. Ein weiterer Vorteil ist, dass Sie bereits mit einer Datenquelle interagieren, die auf einem riesigen Informationskorpus trainiert wurde, während eine traditionelle App auf die Daten in einer Datenbank beschränkt sein könnte.

Was kann ich mit einer Textgenerierungs-App bauen?

Es gibt viele Möglichkeiten, zum Beispiel:

Ein Chatbot. Ein Chatbot, der Fragen zu Themen wie Ihrem Unternehmen und dessen Produkten beantwortet, könnte gut passen.
Helfer. LLMs sind großartig darin, Texte zusammenzufassen, Erkenntnisse aus Texten zu gewinnen, Texte wie Lebensläufe zu erstellen und mehr.
Code-Assistent. Je nach verwendetem Sprachmodell können Sie einen Code-Assistenten bauen, der Ihnen beim Schreiben von Code hilft. Zum Beispiel können Sie Produkte wie GitHub Copilot oder ChatGPT nutzen, um Code zu schreiben.

Wie kann ich anfangen?

Sie müssen eine Möglichkeit finden, sich mit einem LLM zu integrieren, was normalerweise zwei Ansätze umfasst:

Verwenden einer API. Hier erstellen Sie Webanfragen mit Ihrem Prompt und erhalten generierten Text zurück.
Verwenden einer Bibliothek. Bibliotheken kapseln die API-Aufrufe und machen sie einfacher nutzbar.

Bibliotheken/SDKs

Es gibt einige bekannte Bibliotheken für die Arbeit mit LLMs, wie:

openai, diese Bibliothek erleichtert die Verbindung zu Ihrem Modell und das Senden von Prompts.

Dann gibt es Bibliotheken, die auf einer höheren Ebene arbeiten, wie:

Langchain. Langchain ist bekannt und unterstützt Python.
Semantic Kernel. Semantic Kernel ist eine Bibliothek von Microsoft, die die Sprachen C#, Python und Java unterstützt.

Erste App mit openai

Sehen wir uns an, wie wir unsere erste App bauen, welche Bibliotheken wir brauchen, wie viel erforderlich ist und so weiter.

openai installieren

Es gibt viele Bibliotheken, um mit OpenAI oder Azure OpenAI zu interagieren. Es ist möglich, verschiedene Programmiersprachen zu verwenden, wie C#, Python, JavaScript, Java und mehr. Wir haben uns entschieden, die openai Python-Bibliothek zu verwenden, also installieren wir sie mit pip.

pip install openai

Erstellen einer Ressource

Sie müssen folgende Schritte durchführen:

Erstellen Sie ein Konto bei Azure https://azure.microsoft.com/free/.
Erhalten Sie Zugriff auf Azure OpenAI. Gehen Sie zu https://learn.microsoft.com/azure/ai-services/openai/overview#how-do-i-get-access-to-azure-openai und beantragen Sie Zugriff.

[!NOTE] Zum Zeitpunkt des Schreibens müssen Sie den Zugriff auf Azure OpenAI beantragen.
Installieren Sie Python https://www.python.org/
Erstellen Sie eine Azure OpenAI Service-Ressource. Siehe diese Anleitung, wie man eine Ressource erstellt.

API-Schlüssel und Endpunkt finden

An dieser Stelle müssen Sie der openai-Bibliothek mitteilen, welchen API-Schlüssel sie verwenden soll. Um Ihren API-Schlüssel zu finden, gehen Sie zum Abschnitt „Keys and Endpoint“ Ihrer Azure OpenAI-Ressource und kopieren Sie den Wert von „Key 1“.

Jetzt, wo Sie diese Informationen kopiert haben, weisen wir die Bibliotheken an, sie zu verwenden.

Note

Es ist sinnvoll, Ihren API-Schlüssel vom Code zu trennen. Das können Sie mit Umgebungsvariablen tun.

Setzen Sie die Umgebungsvariable OPENAI_API_KEY auf Ihren API-Schlüssel. export OPENAI_API_KEY='sk-...'

Azure-Konfiguration einrichten

Wenn Sie Azure OpenAI verwenden, richten Sie die Konfiguration wie folgt ein:

openai.api_type = 'azure'
openai.api_key = os.environ["OPENAI_API_KEY"]
openai.api_version = '2023-05-15'
openai.api_base = os.getenv("API_BASE")

Hier setzen wir Folgendes:

api_type auf azure. Das sagt der Bibliothek, dass sie Azure OpenAI und nicht OpenAI verwenden soll.
api_key, das ist Ihr API-Schlüssel, den Sie im Azure-Portal gefunden haben.
api_version, das ist die Version der API, die Sie verwenden möchten. Zum Zeitpunkt des Schreibens ist die neueste Version 2023-05-15.
api_base, das ist der Endpunkt der API. Sie finden ihn im Azure-Portal neben Ihrem API-Schlüssel.

[!NOTE] > os.getenv ist eine Funktion, die Umgebungsvariablen ausliest. Sie können sie verwenden, um Umgebungsvariablen wie OPENAI_API_KEY und API_BASE zu lesen. Setzen Sie diese Umgebungsvariablen in Ihrem Terminal oder mit einer Bibliothek wie dotenv.

Text generieren

Um Text zu generieren, verwenden Sie die Klasse Completion. Hier ein Beispiel:

prompt = "Complete the following: Once upon a time there was a"

completion = openai.Completion.create(model="davinci-002", prompt=prompt)
print(completion.choices[0].text)

Im obigen Code erstellen wir ein Completion-Objekt, übergeben das Modell, das wir verwenden möchten, und den Prompt. Dann geben wir den generierten Text aus.

Chat-Completions

Bisher haben Sie gesehen, wie wir Completion verwenden, um Text zu generieren. Es gibt aber eine andere Klasse namens ChatCompletion, die besser für Chatbots geeignet ist. Hier ein Beispiel für deren Verwendung:

import openai

openai.api_key = "sk-..."

completion = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=[{"role": "user", "content": "Hello world"}])
print(completion.choices[0].message.content)

Mehr zu dieser Funktionalität in einem kommenden Kapitel.

Übung – Ihre erste Textgenerierungs-App

Jetzt, wo wir gelernt haben, wie man openai einrichtet und konfiguriert, ist es Zeit, Ihre erste Textgenerierungs-App zu bauen. Folgen Sie diesen Schritten:

Erstellen Sie eine virtuelle Umgebung und installieren Sie openai:
```
python -m venv venv
source venv/bin/activate
pip install openai
```
[!NOTE] Wenn Sie Windows verwenden, geben Sie venv\Scripts\activate statt source venv/bin/activate ein.

[!NOTE] Finden Sie Ihren Azure OpenAI-Schlüssel, indem Sie zu https://portal.azure.com/ gehen, nach Open AI suchen, die Open AI resource auswählen, dann Keys and Endpoint und den Wert von Key 1 kopieren.

Erstellen Sie eine Datei app.py und fügen Sie folgenden Code ein:

import openai

openai.api_key = "<replace this value with your open ai key or Azure OpenAI key>"

openai.api_type = 'azure'
openai.api_version = '2023-05-15'
openai.api_base = "<endpoint found in Azure Portal where your API key is>"
deployment_name = "<deployment name>"

# add your completion code
prompt = "Complete the following: Once upon a time there was a"
messages = [{"role": "user", "content": prompt}]

# make completion
completion = openai.chat.completions.create(model=deployment_name, messages=messages)

# print response
print(completion.choices[0].message.content)

[!NOTE] Wenn Sie Azure OpenAI verwenden, müssen Sie api_type auf azure setzen und api_key auf Ihren Azure OpenAI-Schlüssel.

Sie sollten eine Ausgabe wie die folgende sehen:

 very unhappy _____.

Once upon a time there was a very unhappy mermaid.

Verschiedene Arten von Prompts für unterschiedliche Zwecke

Sie haben nun gesehen, wie man mit einem Prompt Text generiert. Sie haben sogar ein Programm, das läuft und das Sie anpassen können, um verschiedene Arten von Text zu erzeugen.

Prompts können für alle möglichen Aufgaben verwendet werden. Zum Beispiel:

Einen Texttyp generieren. Zum Beispiel können Sie ein Gedicht, Fragen für ein Quiz usw. generieren.
Informationen nachschlagen. Sie können Prompts verwenden, um Informationen zu suchen, wie im Beispiel „Was bedeutet CORS in der Webentwicklung?“.
Code generieren. Sie können Prompts verwenden, um Code zu generieren, z. B. einen regulären Ausdruck zur Validierung von E-Mails oder sogar ein komplettes Programm wie eine Web-App.

Ein praktischer Anwendungsfall: ein Rezeptgenerator

Stellen Sie sich vor, Sie haben Zutaten zu Hause und möchten etwas kochen. Dafür brauchen Sie ein Rezept. Eine Möglichkeit, Rezepte zu finden, ist eine Suchmaschine oder Sie nutzen ein LLM.

Sie könnten einen Prompt so formulieren:

„Zeige mir 5 Rezepte für ein Gericht mit den folgenden Zutaten: Hähnchen, Kartoffeln und Karotten. Liste pro Rezept alle verwendeten Zutaten auf.“

Auf diesen Prompt könnten Sie eine Antwort wie diese erhalten:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 2 cloves garlic, minced
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano

Dieses Ergebnis ist großartig, ich weiß, was ich kochen kann. An dieser Stelle könnten nützliche Verbesserungen sein:

Zutaten herausfiltern, die ich nicht mag oder auf die ich allergisch reagiere.
Eine Einkaufsliste erstellen, falls ich nicht alle Zutaten zu Hause habe.

Für die oben genannten Fälle fügen wir einen zusätzlichen Prompt hinzu:

„Bitte entferne Rezepte mit Knoblauch, da ich allergisch bin, und ersetze ihn durch etwas anderes. Erstelle außerdem eine Einkaufsliste für die Rezepte, wobei ich Hähnchen, Kartoffeln und Karotten bereits zu Hause habe.“

Jetzt erhalten Sie ein neues Ergebnis, nämlich:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano

Shopping List:
- Olive oil
- Onion
- Thyme
- Oregano
- Salt
- Pepper

Das sind Ihre fünf Rezepte ohne Knoblauch und Sie haben auch eine Einkaufsliste, die berücksichtigt, was Sie bereits zu Hause haben.

Übung – bauen Sie einen Rezeptgenerator

Nachdem wir ein Szenario durchgespielt haben, schreiben wir nun Code, der dem gezeigten Szenario entspricht. Gehen Sie dazu wie folgt vor:

Verwenden Sie die bestehende app.py Datei als Ausgangspunkt.

Suchen Sie die Variable prompt und ändern Sie ihren Code wie folgt:

prompt = "Show me 5 recipes for a dish with the following ingredients: chicken, potatoes, and carrots. Per recipe, list all the ingredients used"

Wenn Sie den Code jetzt ausführen, sollten Sie eine Ausgabe ähnlich der folgenden sehen:

-Chicken Stew with Potatoes and Carrots: 3 tablespoons oil, 1 onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 1/2 cups chicken broth, 1/2 cup dry white wine, 2 tablespoons chopped fresh parsley, 2 tablespoons unsalted butter, 1 1/2 pounds boneless, skinless chicken thighs, cut into 1-inch pieces
-Oven-Roasted Chicken with Potatoes and Carrots: 3 tablespoons extra-virgin olive oil, 1 tablespoon Dijon mustard, 1 tablespoon chopped fresh rosemary, 1 tablespoon chopped fresh thyme, 4 cloves garlic, minced, 1 1/2 pounds small red potatoes, quartered, 1 1/2 pounds carrots, quartered lengthwise, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 (4-pound) whole chicken
-Chicken, Potato, and Carrot Casserole: cooking spray, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and shredded, 1 potato, peeled and shredded, 1/2 teaspoon dried thyme leaves, 1/4 teaspoon salt, 1/4 teaspoon black pepper, 2 cups fat-free, low-sodium chicken broth, 1 cup frozen peas, 1/4 cup all-purpose flour, 1 cup 2% reduced-fat milk, 1/4 cup grated Parmesan cheese

-One Pot Chicken and Potato Dinner: 2 tablespoons olive oil, 1 pound boneless, skinless chicken thighs, cut into 1-inch pieces, 1 large onion, chopped, 3 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 2 cups chicken broth, 1/2 cup dry white wine

-Chicken, Potato, and Carrot Curry: 1 tablespoon vegetable oil, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 teaspoon ground coriander, 1 teaspoon ground cumin, 1/2 teaspoon ground turmeric, 1/2 teaspoon ground ginger, 1/4 teaspoon cayenne pepper, 2 cups chicken broth, 1/2 cup dry white wine, 1 (15-ounce) can chickpeas, drained and rinsed, 1/2 cup raisins, 1/2 cup chopped fresh cilantro

HINWEIS: Ihr LLM ist nicht deterministisch, daher können Sie bei jedem Programmstart unterschiedliche Ergebnisse erhalten.

Super, sehen wir uns an, wie wir das verbessern können. Um die App flexibler zu machen, sollen Zutaten und Anzahl der Rezepte anpassbar sein.

Ändern wir den Code folgendermaßen:

no_recipes = input("No of recipes (for example, 5): ")

ingredients = input("List of ingredients (for example, chicken, potatoes, and carrots): ")

# interpolate the number of recipes into the prompt an ingredients
prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used"

Ein Testlauf des Codes könnte so aussehen:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): milk,strawberries

-Strawberry milk shake: milk, strawberries, sugar, vanilla extract, ice cubes
-Strawberry shortcake: milk, flour, baking powder, sugar, salt, unsalted butter, strawberries, whipped cream
-Strawberry milk: milk, strawberries, sugar, vanilla extract

Verbesserung durch Filter und Einkaufsliste

Wir haben jetzt eine funktionierende App, die Rezepte erzeugen kann und flexibel ist, da sie Eingaben vom Nutzer sowohl zur Anzahl der Rezepte als auch zu den verwendeten Zutaten annimmt.

Um sie weiter zu verbessern, wollen wir Folgendes hinzufügen:

Zutaten filtern. Wir möchten Zutaten herausfiltern können, die wir nicht mögen oder auf die wir allergisch sind. Dafür können wir unseren bestehenden Prompt bearbeiten und am Ende eine Filterbedingung hinzufügen, so:

filter = input("Filter (for example, vegetarian, vegan, or gluten-free): ")

prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used, no {filter}"

Hier fügen wir {filter} ans Ende des Prompts an und erfassen den Filterwert vom Nutzer.

Ein Beispiel für eine Eingabe beim Programmstart könnte nun so aussehen:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): onion,milk
Filter (for example, vegetarian, vegan, or gluten-free): no milk

1. French Onion Soup

Ingredients:

-1 large onion, sliced
-3 cups beef broth
-1 cup milk
-6 slices french bread
-1/4 cup shredded Parmesan cheese
-1 tablespoon butter
-1 teaspoon dried thyme
-1/4 teaspoon salt
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add beef broth, milk, thyme, salt, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Place french bread slices on soup bowls.
5. Ladle soup over bread.
6. Sprinkle with Parmesan cheese.

2. Onion and Potato Soup

Ingredients:

-1 large onion, chopped
-2 cups potatoes, diced
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add potatoes, vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Serve hot.

3. Creamy Onion Soup

Ingredients:

-1 large onion, chopped
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper
-1/4 cup all-purpose flour
-1/2 cup shredded Parmesan cheese

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. In a small bowl, whisk together flour and Parmesan cheese until smooth.
5. Add to soup and simmer for an additional 5 minutes, or until soup has thickened.

Wie Sie sehen, wurden alle Rezepte mit Milch herausgefiltert. Wenn Sie laktoseintolerant sind, möchten Sie vielleicht auch Rezepte mit Käse ausschließen, daher ist es wichtig, klar zu sein.

Einkaufsliste erstellen. Wir wollen eine Einkaufsliste erstellen, die berücksichtigt, was wir bereits zu Hause haben.

Für diese Funktionalität könnten wir entweder alles in einem Prompt lösen oder es in zwei Prompts aufteilen. Wir versuchen Letzteres. Hier schlagen wir vor, einen zusätzlichen Prompt hinzuzufügen, aber dafür müssen wir das Ergebnis des ersten Prompts als Kontext für den zweiten Prompt verwenden.

Suchen Sie die Stelle im Code, an der das Ergebnis des ersten Prompts ausgegeben wird, und fügen Sie darunter folgenden Code ein:

old_prompt_result = completion.choices[0].message.content
prompt = "Produce a shopping list for the generated recipes and please don't include ingredients that I already have."

new_prompt = f"{old_prompt_result} {prompt}"
messages = [{"role": "user", "content": new_prompt}]
completion = openai.Completion.create(engine=deployment_name, messages=messages, max_tokens=1200)

# print response
print("Shopping list:")
print(completion.choices[0].message.content)

Beachten Sie Folgendes:

Wir erstellen einen neuen Prompt, indem wir das Ergebnis des ersten Prompts zum neuen Prompt hinzufügen:
```
new_prompt = f"{old_prompt_result} {prompt}"
```

Wir machen eine neue Anfrage, berücksichtigen dabei aber auch die Anzahl der Tokens, die wir im ersten Prompt angefragt haben. Dieses Mal setzen wir max_tokens auf 1200.

completion = openai.Completion.create(engine=deployment_name, prompt=new_prompt, max_tokens=1200)

Wenn wir diesen Code ausführen, erhalten wir folgende Ausgabe:

No of recipes (for example, 5): 2
List of ingredients (for example, chicken, potatoes, and carrots): apple,flour
Filter (for example, vegetarian, vegan, or gluten-free): sugar


-Apple and flour pancakes: 1 cup flour, 1/2 tsp baking powder, 1/2 tsp baking soda, 1/4 tsp salt, 1 tbsp sugar, 1 egg, 1 cup buttermilk or sour milk, 1/4 cup melted butter, 1 Granny Smith apple, peeled and grated
-Apple fritters: 1-1/2 cups flour, 1 tsp baking powder, 1/4 tsp salt, 1/4 tsp baking soda, 1/4 tsp nutmeg, 1/4 tsp cinnamon, 1/4 tsp allspice, 1/4 cup sugar, 1/4 cup vegetable shortening, 1/4 cup milk, 1 egg, 2 cups shredded, peeled apples
Shopping list:
-Flour, baking powder, baking soda, salt, sugar, egg, buttermilk, butter, apple, nutmeg, cinnamon, allspice

Verbessere dein Setup

Was wir bisher haben, ist funktionierender Code, aber es gibt einige Anpassungen, die wir vornehmen sollten, um die Sache weiter zu verbessern. Einige Dinge, die wir tun sollten, sind:

Trenne Geheimnisse vom Code, wie zum Beispiel den API-Schlüssel. Geheimnisse gehören nicht in den Code und sollten an einem sicheren Ort gespeichert werden. Um Geheimnisse vom Code zu trennen, können wir Umgebungsvariablen verwenden und Bibliotheken wie python-dotenv, um sie aus einer Datei zu laden. So könnte das im Code aussehen:
1. Erstelle eine .env-Datei mit folgendem Inhalt:
```
OPENAI_API_KEY=sk-...
```

Hinweis: Für Azure musst du die folgenden Umgebungsvariablen setzen:

 ```bash
 OPENAI_API_TYPE=azure
 OPENAI_API_VERSION=2023-05-15
 OPENAI_API_BASE=<replace>
 ```

 Im Code würdest du die Umgebungsvariablen so laden:

 ```python
 from dotenv import load_dotenv

 load_dotenv()

 openai.api_key = os.environ["OPENAI_API_KEY"]
 ```

Ein Wort zur Token-Länge. Wir sollten bedenken, wie viele Tokens wir benötigen, um den gewünschten Text zu generieren. Tokens kosten Geld, daher sollten wir, wo möglich, sparsam mit der Anzahl der Tokens umgehen. Zum Beispiel: Können wir den Prompt so formulieren, dass wir weniger Tokens verwenden?

Um die Anzahl der verwendeten Tokens zu ändern, kannst du den Parameter max_tokens verwenden. Wenn du zum Beispiel 100 Tokens verwenden möchtest, machst du das so:
```
completion = client.chat.completions.create(model=deployment, messages=messages, max_tokens=100)
```
Experimentieren mit der Temperatur. Die Temperatur haben wir bisher nicht erwähnt, aber sie ist ein wichtiger Faktor dafür, wie unser Programm arbeitet. Je höher der Temperaturwert, desto zufälliger wird die Ausgabe. Je niedriger der Temperaturwert, desto vorhersehbarer ist die Ausgabe. Überlege dir, ob du Variation in deiner Ausgabe möchtest oder nicht.

Um die Temperatur zu ändern, kannst du den Parameter temperature verwenden. Wenn du zum Beispiel eine Temperatur von 0,5 einstellen möchtest, machst du das so:
```
completion = client.chat.completions.create(model=deployment, messages=messages, temperature=0.5)
```
Hinweis: Je näher an 1, desto vielfältiger die Ausgabe.

Aufgabe

Für diese Aufgabe kannst du selbst entscheiden, was du bauen möchtest.

Hier sind einige Vorschläge:

Optimiere die Rezeptgenerator-App weiter. Experimentiere mit Temperaturwerten und Prompts, um zu sehen, was du erreichen kannst.
Baue einen „Study Buddy“. Diese App sollte in der Lage sein, Fragen zu einem Thema zu beantworten, zum Beispiel Python. Du könntest Prompts wie „Was ist ein bestimmtes Thema in Python?“ verwenden oder einen Prompt, der sagt: Zeig mir Code zu einem bestimmten Thema usw.
History Bot: Lass Geschichte lebendig werden, indem du den Bot anweist, eine bestimmte historische Figur zu spielen und ihm Fragen zu deren Leben und Zeiten stellst.

Lösung

Study Buddy

Unten findest du einen Start-Prompt. Schau, wie du ihn verwenden und nach deinem Geschmack anpassen kannst.

- "You're an expert on the Python language

    Suggest a beginner lesson for Python in the following format:

    Format:
    - concepts:
    - brief explanation of the lesson:
    - exercise in code with solutions"

History Bot

Hier sind einige Prompts, die du verwenden könntest:

- "You are Abe Lincoln, tell me about yourself in 3 sentences, and respond using grammar and words like Abe would have used"
- "You are Abe Lincoln, respond using grammar and words like Abe would have used:

   Tell me about your greatest accomplishments, in 300 words"

Wissenscheck

Was bewirkt das Konzept der Temperatur?

Es steuert, wie zufällig die Ausgabe ist.
Es steuert, wie lang die Antwort ist.
Es steuert, wie viele Tokens verwendet werden.

🚀 Herausforderung

Wenn du an der Aufgabe arbeitest, versuche die Temperatur zu variieren, setze sie auf 0, 0,5 und 1. Denk daran, dass 0 die geringste Variation bedeutet und 1 die größte. Welcher Wert funktioniert am besten für deine App?

Großartige Arbeit! Setze dein Lernen fort

Nachdem du diese Lektion abgeschlossen hast, schau dir unsere Generative AI Learning collection an, um dein Wissen über Generative AI weiter auszubauen!

Gehe weiter zu Lektion 7, in der wir uns anschauen, wie man Chat-Anwendungen baut!

Haftungsausschluss:
Dieses Dokument wurde mit dem KI-Übersetzungsdienst Co-op Translator übersetzt. Obwohl wir uns um Genauigkeit bemühen, beachten Sie bitte, dass automatisierte Übersetzungen Fehler oder Ungenauigkeiten enthalten können. Das Originaldokument in seiner Ursprungssprache ist als maßgebliche Quelle zu betrachten. Für wichtige Informationen wird eine professionelle menschliche Übersetzung empfohlen. Wir übernehmen keine Haftung für Missverständnisse oder Fehlinterpretationen, die aus der Nutzung dieser Übersetzung entstehen.

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

Erstellung von Textgenerierungsanwendungen

Einführung

Lernziele

Was ist eine Textgenerierungs-App?

Konsolen- und UI-Apps sind eingeschränkt

Vorteile von Textgenerierungs-Apps

Was kann ich mit einer Textgenerierungs-App bauen?

Wie kann ich anfangen?

Bibliotheken/SDKs

Erste App mit openai

openai installieren

Erstellen einer Ressource

API-Schlüssel und Endpunkt finden

Azure-Konfiguration einrichten

Text generieren

Chat-Completions

Übung – Ihre erste Textgenerierungs-App

Verschiedene Arten von Prompts für unterschiedliche Zwecke

Ein praktischer Anwendungsfall: ein Rezeptgenerator

Übung – bauen Sie einen Rezeptgenerator

Verbesserung durch Filter und Einkaufsliste

Verbessere dein Setup

Aufgabe

Lösung

Study Buddy

History Bot

Wissenscheck

🚀 Herausforderung

Großartige Arbeit! Setze dein Lernen fort

FilesExpand file tree

README.md

Latest commit

History

README.md

File metadata and controls

Erstellung von Textgenerierungsanwendungen

Einführung

Lernziele

Was ist eine Textgenerierungs-App?

Konsolen- und UI-Apps sind eingeschränkt

Vorteile von Textgenerierungs-Apps

Was kann ich mit einer Textgenerierungs-App bauen?

Wie kann ich anfangen?

Bibliotheken/SDKs

Erste App mit openai

openai installieren

Erstellen einer Ressource

API-Schlüssel und Endpunkt finden

Azure-Konfiguration einrichten

Text generieren

Chat-Completions

Übung – Ihre erste Textgenerierungs-App

Verschiedene Arten von Prompts für unterschiedliche Zwecke

Ein praktischer Anwendungsfall: ein Rezeptgenerator

Übung – bauen Sie einen Rezeptgenerator

Verbesserung durch Filter und Einkaufsliste

Verbessere dein Setup

Aufgabe

Lösung

Study Buddy

History Bot

Wissenscheck

🚀 Herausforderung

Großartige Arbeit! Setze dein Lernen fort