Et vigtigt spørgsmål for alle AI-applikationer er relevansen af AI-funktioner, da AI er et hurtigt udviklende felt. For at sikre, at din applikation forbliver relevant, pålidelig og robust, skal du overvåge, evaluere og forbedre den løbende. Her kommer livscyklussen for generativ AI ind i billedet.
Livscyklussen for generativ AI er en ramme, der guider dig gennem faserne i udvikling, implementering og vedligeholdelse af en generativ AI-applikation. Den hjælper dig med at definere dine mål, måle din ydeevne, identificere dine udfordringer og implementere dine løsninger. Den hjælper dig også med at tilpasse din applikation til de etiske og juridiske standarder i dit domæne og hos dine interessenter. Ved at følge livscyklussen for generativ AI kan du sikre, at din applikation altid leverer værdi og tilfredsstiller dine brugere.
I dette kapitel vil du:
- Forstå paradigmeskiftet fra MLOps til LLMOps
- LLM-livscyklussen
- Livscyklusværktøjer
- Livscyklusmetrik og evaluering
LLM'er er et nyt værktøj i den kunstige intelligens arsenal, de er utroligt kraftfulde til analyse- og genereringsopgaver for applikationer, men denne kraft har nogle konsekvenser for, hvordan vi strømliner AI og klassiske maskinlæringsopgaver.
Derfor har vi brug for et nyt paradigme for at tilpasse dette værktøj dynamisk med de rette incitamenter. Vi kan kategorisere ældre AI-apps som "ML Apps" og nyere AI-apps som "GenAI Apps" eller blot "AI Apps", hvilket afspejler den dominerende teknologi og de teknikker, der blev brugt på det tidspunkt. Dette ændrer vores fortælling på flere måder, se på følgende sammenligning.
Bemærk, at i LLMOps er vi mere fokuserede på app-udviklerne, bruger integrationer som et nøglepunkt, anvender "Models-as-a-Service" og tænker på følgende punkter for metrikker.
- Kvalitet: Svar kvalitet
- Skade: Ansvarlig AI
- Ærlighed: Svar grundighed (Giver det mening? Er det korrekt?)
- Omkostning: Løsningsbudget
- Latens: Gennemsnitlig tid for tokensvar
Først, for at forstå livscyklussen og ændringerne, lad os se på den næste infografik.
Som du kan se, er dette anderledes end de sædvanlige livscyklusser fra MLOps. LLM'er har mange nye krav, såsom promptning, forskellige teknikker til at forbedre kvaliteten (finjustering, RAG, meta-prompter), forskellige vurderinger og ansvar med ansvarlig AI, og endelig nye evalueringsmetrikker (kvalitet, skade, ærlighed, omkostning og latens).
For eksempel, se på hvordan vi idéudvikler. Vi bruger prompt engineering til at eksperimentere med forskellige LLM'er for at udforske muligheder og teste, om deres hypotese kunne være korrekt.
Bemærk, at dette ikke er lineært, men integrerede løkker, iterative og med en overordnet cyklus.
Hvordan kunne vi udforske disse trin? Lad os gå i detaljer om, hvordan vi kan bygge en livscyklus.
Dette kan se lidt kompliceret ud, lad os fokusere på de tre store trin først.
- Idégenerering/udforskning: Udforskning, her kan vi udforske i henhold til vores forretningsbehov. Prototyping, oprette en PromptFlow og teste, om den er effektiv nok til vores hypotese.
- Bygning/forstærkning: Implementering, nu begynder vi at evaluere for større datasæt og implementere teknikker som finjustering og RAG for at tjekke robustheden af vores løsning. Hvis den ikke fungerer, kan genimplementering, tilføjelse af nye trin i vores flow eller omstrukturering af data hjælpe. Efter at have testet vores flow og skala, hvis det virker og opfylder vores metrikker, er det klar til næste trin.
- Operationalisering: Integration, nu tilføjer vi overvågning og alarmsystemer til vores system, implementering og applikationsintegration til vores applikation.
Derefter har vi den overordnede cyklus for ledelse, med fokus på sikkerhed, overholdelse og styring.
Tillykke, nu har du din AI-app klar til brug og operationel. For en praktisk oplevelse, tag et kig på Contoso Chat Demo.
Hvilke værktøjer kan vi så bruge?
Til værktøjer tilbyder Microsoft Azure AI Platform og PromptFlow, som gør din cyklus nem at implementere og klar til brug.
Azure AI Platform giver dig mulighed for at bruge AI Studio. AI Studio er en webportal, der giver dig mulighed for at udforske modeller, eksempler og værktøjer. Administrere dine ressourcer, UI-udviklingsflows og SDK/CLI-muligheder til kode-først udvikling.
Azure AI giver dig mulighed for at bruge flere ressourcer til at administrere dine operationer, tjenester, projekter, vektorsøgning og databasebehov.
Byg, fra Proof-of-Concept (POC) til storskala-applikationer med PromptFlow:
- Design og byg apps fra VS Code med visuelle og funktionelle værktøjer
- Test og finjuster dine apps for kvalitets-AI med lethed.
- Brug Azure AI Studio til at integrere og iterere med cloud, push og deploy for hurtig integration.
Fantastisk, lær nu mere om, hvordan vi strukturerer en applikation for at bruge koncepterne med Contoso Chat App, for at se, hvordan Cloud Advocacy tilføjer disse koncepter i demonstrationer. For mere indhold, se vores Ignite breakout session!
Tjek nu lektion 15 for at forstå, hvordan Retrieval Augmented Generation og Vector Databases påvirker generativ AI og for at lave mere engagerende applikationer!
Ansvarsfraskrivelse: Dette dokument er blevet oversat ved hjælp af AI-oversættelsestjenesten Co-op Translator. Selvom vi bestræber os på nøjagtighed, bedes du være opmærksom på, at automatiserede oversættelser kan indeholde fejl eller unøjagtigheder. Det oprindelige dokument på dets modersmål bør betragtes som den autoritative kilde. For kritisk information anbefales professionel menneskelig oversættelse. Vi påtager os intet ansvar for misforståelser eller fejltolkninger, der opstår som følge af brugen af denne oversættelse.