Eine wichtige Frage für alle KI-Anwendungen ist die Relevanz der KI-Funktionen, da sich das Feld der KI schnell weiterentwickelt. Um sicherzustellen, dass Ihre Anwendung relevant, zuverlässig und robust bleibt, müssen Sie sie kontinuierlich überwachen, bewerten und verbessern. Hier kommt der Lebenszyklus von generativer KI ins Spiel.
Der Lebenszyklus von generativer KI ist ein Rahmenwerk, das Sie durch die Phasen der Entwicklung, Bereitstellung und Wartung einer generativen KI-Anwendung führt. Es hilft Ihnen, Ihre Ziele zu definieren, Ihre Leistung zu messen, Herausforderungen zu identifizieren und Lösungen umzusetzen. Außerdem unterstützt es Sie dabei, Ihre Anwendung mit den ethischen und rechtlichen Standards Ihres Fachgebiets und Ihrer Interessengruppen in Einklang zu bringen. Indem Sie dem Lebenszyklus von generativer KI folgen, können Sie sicherstellen, dass Ihre Anwendung stets Mehrwert bietet und Ihre Nutzer zufriedenstellt.
In diesem Kapitel werden Sie:
- Den Paradigmenwechsel von MLOps zu LLMOps verstehen
- Den Lebenszyklus von LLMs kennenlernen
- Tools für den Lebenszyklus entdecken
- Metrifizierung und Bewertung des Lebenszyklus verstehen
LLMs sind ein neues Werkzeug im Arsenal der Künstlichen Intelligenz. Sie sind unglaublich leistungsfähig bei Analyse- und Generierungsaufgaben für Anwendungen. Diese Stärke hat jedoch Konsequenzen für die Art und Weise, wie wir KI- und klassische maschinelle Lernaufgaben optimieren.
Daher benötigen wir ein neues Paradigma, um dieses Werkzeug dynamisch und mit den richtigen Anreizen anzupassen. Wir können ältere KI-Anwendungen als "ML-Apps" und neuere KI-Anwendungen als "GenAI-Apps" oder einfach "KI-Apps" kategorisieren, was die zu der Zeit vorherrschende Technologie und Techniken widerspiegelt. Dies verändert unsere Herangehensweise in vielerlei Hinsicht. Sehen Sie sich den folgenden Vergleich an.
Beachten Sie, dass wir uns bei LLMOps stärker auf die App-Entwickler konzentrieren, Integrationen als Schlüsselpunkt nutzen, "Models-as-a-Service" verwenden und die folgenden Punkte für Metriken berücksichtigen:
- Qualität: Antwortqualität
- Schaden: Verantwortungsvolle KI
- Ehrlichkeit: Fundiertheit der Antwort (Ergibt sie Sinn? Ist sie korrekt?)
- Kosten: Budget der Lösung
- Latenz: Durchschnittliche Zeit für Token-Antworten
Um den Lebenszyklus und die Änderungen zu verstehen, werfen wir einen Blick auf die folgende Infografik.
Wie Sie sehen können, unterscheidet sich dies von den üblichen Lebenszyklen in MLOps. LLMs haben viele neue Anforderungen, wie Prompting, verschiedene Techniken zur Qualitätsverbesserung (Fine-Tuning, RAG, Meta-Prompts), unterschiedliche Bewertungen und Verantwortlichkeiten im Rahmen von verantwortungsvoller KI sowie neue Bewertungsmetriken (Qualität, Schaden, Ehrlichkeit, Kosten und Latenz).
Betrachten Sie beispielsweise, wie wir Ideen entwickeln. Mithilfe von Prompt Engineering können wir mit verschiedenen LLMs experimentieren, um Möglichkeiten zu erkunden und zu testen, ob ihre Hypothesen korrekt sein könnten.
Beachten Sie, dass dies kein linearer Prozess ist, sondern integrierte Schleifen, iterativ und mit einem übergeordneten Zyklus.
Wie können wir diese Schritte erkunden? Lassen Sie uns im Detail darauf eingehen, wie wir einen Lebenszyklus aufbauen können.
Das mag zunächst etwas kompliziert erscheinen, konzentrieren wir uns daher auf die drei großen Schritte:
- Ideenfindung/Erkundung: Exploration. Hier können wir basierend auf unseren geschäftlichen Anforderungen experimentieren. Prototyping, Erstellen eines PromptFlow und Testen, ob es effizient genug für unsere Hypothese ist.
- Aufbau/Erweiterung: Implementierung. Jetzt beginnen wir mit der Bewertung größerer Datensätze, implementieren Techniken wie Fine-Tuning und RAG, um die Robustheit unserer Lösung zu überprüfen. Falls dies nicht ausreicht, kann eine erneute Implementierung, das Hinzufügen neuer Schritte in unserem Ablauf oder die Umstrukturierung der Daten helfen. Nach dem Testen unseres Ablaufs und unserer Skalierung, wenn alles funktioniert und unsere Metriken erfüllt sind, ist es bereit für den nächsten Schritt.
- Operationalisierung: Integration. Jetzt fügen wir Überwachungs- und Alarmsysteme zu unserem System hinzu, führen die Bereitstellung durch und integrieren die Anwendung in unser System.
Dann gibt es den übergeordneten Zyklus des Managements, der sich auf Sicherheit, Compliance und Governance konzentriert.
Herzlichen Glückwunsch, jetzt ist Ihre KI-Anwendung einsatzbereit und betriebsfähig. Für praktische Erfahrungen werfen Sie einen Blick auf die Contoso Chat Demo.
Welche Tools können wir verwenden?
Für die Tools stellt Microsoft die Azure AI Platform und PromptFlow bereit, um Ihren Lebenszyklus einfach umzusetzen und einsatzbereit zu machen.
Die Azure AI Platform ermöglicht Ihnen die Nutzung von AI Studio. AI Studio ist ein Webportal, das Ihnen erlaubt, Modelle, Beispiele und Tools zu erkunden, Ihre Ressourcen zu verwalten, UI-Entwicklungsabläufe zu erstellen und SDK/CLI-Optionen für Code-First-Entwicklung zu nutzen.
Azure AI ermöglicht Ihnen die Nutzung verschiedener Ressourcen, um Ihre Operationen, Dienste, Projekte, Vektorsuche und Datenbankanforderungen zu verwalten.
Erstellen Sie Anwendungen vom Proof-of-Concept (POC) bis hin zu groß angelegten Anwendungen mit PromptFlow:
- Entwerfen und Erstellen von Apps in VS Code mit visuellen und funktionalen Tools
- Testen und Feinabstimmen Ihrer Apps für qualitativ hochwertige KI, ganz einfach.
- Verwenden Sie Azure AI Studio, um mit der Cloud zu integrieren und zu iterieren, Push und Deployment für eine schnelle Integration.
Fantastisch! Lernen Sie jetzt mehr darüber, wie wir eine Anwendung strukturieren, um die Konzepte mit der Contoso Chat App zu nutzen und zu sehen, wie Cloud Advocacy diese Konzepte in Demonstrationen einsetzt. Für weitere Inhalte schauen Sie sich unsere Ignite Breakout Session an!
Sehen Sie sich nun Lektion 15 an, um zu verstehen, wie Retrieval Augmented Generation und Vektordatenbanken die generative KI beeinflussen und ansprechende Anwendungen ermöglichen!
Haftungsausschluss:
Dieses Dokument wurde mit dem KI-Übersetzungsdienst Co-op Translator übersetzt. Obwohl wir uns um Genauigkeit bemühen, beachten Sie bitte, dass automatisierte Übersetzungen Fehler oder Ungenauigkeiten enthalten können. Das Originaldokument in seiner ursprünglichen Sprache sollte als maßgebliche Quelle betrachtet werden. Für kritische Informationen wird eine professionelle menschliche Übersetzung empfohlen. Wir übernehmen keine Haftung für Missverständnisse oder Fehlinterpretationen, die sich aus der Nutzung dieser Übersetzung ergeben.