Oluline küsimus kõigi tehisintellekti rakenduste puhul on AI funktsioonide asjakohasus, kuna tehisintellekti valdkond areneb kiiresti. Selleks, et teie rakendus jääks asjakohaseks, usaldusväärseks ja vastupidavaks, peate seda pidevalt jälgima, hindama ja täiustama. Siin tulebki mängu generatiivse tehisintellekti elutsükkel.
Generatiivse tehisintellekti elutsükkel on raamistik, mis juhendab teid generatiivse tehisintellekti rakenduse arendamise, juurutamise ja hooldamise etappides. See aitab teil määratleda oma eesmärgid, mõõta oma tulemuslikkust, tuvastada väljakutseid ja rakendada lahendusi. Samuti aitab see viia teie rakenduse vastavusse teie valdkonna ja sidusrühmade eetiliste ja juriidiliste standarditega. Järgides generatiivse tehisintellekti elutsüklit, saate tagada, et teie rakendus pakub alati väärtust ja rahuldab kasutajaid.
Selles peatükis õpite:
- MLOpsist LLMOpsi paradigma muutuse mõistmine
- LLM elutsükkel
- Elutsükli tööriistad
- Elutsükli mõõdikud ja hindamine
LLM-id on uus tööriist tehisintellekti arsenalis, mis on äärmiselt võimsad analüüsi- ja generatsioonülesannete jaoks rakendustes. Kuid selle võimsusega kaasnevad ka tagajärjed, mis mõjutavad tehisintellekti ja klassikalise masinõppe ülesannete sujuvust.
Seetõttu vajame uut paradigmat, et kohandada seda tööriista dünaamiliselt ja õige motivatsiooniga. Vanemad tehisintellekti rakendused saab kategoriseerida kui "ML rakendused" ja uuemad tehisintellekti rakendused kui "GenAI rakendused" või lihtsalt "AI rakendused", mis peegeldavad ajakohaseid tehnoloogiaid ja tehnikaid. See muudab meie narratiivi mitmel viisil, vaadake järgmist võrdlust.
Pange tähele, et LLMOpsis keskendume rohkem rakenduste arendajatele, kasutades integratsioone võtmetähtsusega punktina, rakendades "Models-as-a-Service" ja mõeldes järgmistele mõõdikutele:
- Kvaliteet: vastuste kvaliteet
- Kahju: vastutustundlik tehisintellekt
- Ausus: vastuste põhjendatus (Kas see on loogiline? Kas see on õige?)
- Kulud: lahenduse eelarve
- Latentsus: keskmine vastuse aeg tokeni kohta
Esmalt, et mõista elutsüklit ja selle muudatusi, vaatame järgmist infograafikat.
Nagu näete, erineb see tavapärastest MLOpsi elutsüklitest. LLM-idel on palju uusi nõudeid, nagu promptimine, erinevad tehnikad kvaliteedi parandamiseks (Fine-Tuning, RAG, Meta-Prompts), erinevad hindamismeetodid ja vastutus vastutustundliku tehisintellekti osas, ning lõpuks uued hindamismõõdikud (kvaliteet, kahju, ausus, kulud ja latentsus).
Näiteks vaadake, kuidas me ideid genereerime. Kasutame promptide inseneritööd, et katsetada erinevaid LLM-e ja uurida võimalusi, kas nende hüpoteesid võiksid olla õiged.
Pange tähele, et see ei ole lineaarne protsess, vaid integreeritud tsüklid, iteratiivsed ja üldise tsükliga.
Kuidas saaksime neid samme uurida? Vaatame lähemalt, kuidas elutsüklit üles ehitada.
See võib tunduda veidi keeruline, keskendume esmalt kolmele suurele sammule.
- Ideede genereerimine/uurimine: Uurimine, siin saame uurida vastavalt oma ärivajadustele. Prototüüpimine, PromptFlow loomine ja testimine, kas see on meie hüpoteesi jaoks piisavalt tõhus.
- Ehitamine/täiustamine: Rakendamine, nüüd hakkame hindama suuremaid andmekogumeid, rakendama tehnikaid nagu Fine-tuning ja RAG, et kontrollida lahenduse vastupidavust. Kui see ei tööta, võib aidata selle uuesti rakendamine, uute sammude lisamine voogu või andmete ümberstruktureerimine. Pärast voogu ja skaalat testimist, kui see töötab ja mõõdikud on kontrollitud, on see valmis järgmise sammu jaoks.
- Operatsioonide rakendamine: Integreerimine, nüüd lisame süsteemile jälgimis- ja hoiatussüsteemid, juurutame ja integreerime rakenduse.
Seejärel on meil üldine haldustsükkel, mis keskendub turvalisusele, vastavusele ja juhtimisele.
Palju õnne, nüüd on teie tehisintellekti rakendus valmis ja töökorras. Praktilise kogemuse saamiseks vaadake Contoso vestluse demo.
Milliseid tööriistu saaksime kasutada?
Tööriistade osas pakub Microsoft Azure AI platvormi ja PromptFlow, mis lihtsustavad teie elutsükli rakendamist ja muudavad selle kasutusvalmiks.
Azure AI platvorm võimaldab kasutada AI Studio. AI Studio on veebikeskkond, mis võimaldab uurida mudeleid, näidiseid ja tööriistu, hallata ressursse, arendada kasutajaliidese vooge ning kasutada SDK/CLI võimalusi koodipõhiseks arendamiseks.
Azure AI võimaldab kasutada mitmeid ressursse, et hallata oma operatsioone, teenuseid, projekte, vektorotsingut ja andmebaaside vajadusi.
Ehitage Proof-of-Conceptist (POC) kuni suurte rakendusteni PromptFlow abil:
- Kujundage ja ehitage rakendusi VS Code'i abil, kasutades visuaalseid ja funktsionaalseid tööriistu
- Testige ja täiustage oma rakendusi kvaliteetse tehisintellekti jaoks lihtsalt
- Kasutage Azure AI Studiot, et integreerida ja iteratsioonida pilvega, juurutada ja rakendada kiireks integreerimiseks.
Väga hea, nüüd õppige rohkem selle kohta, kuidas me rakendust struktureerime, et kasutada neid kontseptsioone Contoso vestlusrakenduses, et näha, kuidas pilve propageerimine lisab neid kontseptsioone demonstratsioonidesse. Rohkem sisu leiate meie Ignite'i sessioonist!
Järgmisena vaadake 15. õppetundi, et mõista, kuidas Retrieval Augmented Generation ja vektorandmebaasid mõjutavad generatiivset tehisintellekti ja aitavad luua kaasahaaravamaid rakendusi!
Lahtiütlus:
See dokument on tõlgitud AI tõlketeenuse Co-op Translator abil. Kuigi püüame tagada täpsust, palume arvestada, et automaatsed tõlked võivad sisaldada vigu või ebatäpsusi. Algne dokument selle algses keeles tuleks pidada autoriteetseks allikaks. Olulise teabe puhul soovitame kasutada professionaalset inimtõlget. Me ei vastuta selle tõlke kasutamisest tulenevate arusaamatuste või valesti tõlgenduste eest.