Svarbus klausimas visoms dirbtinio intelekto programoms yra AI funkcijų aktualumas, nes dirbtinio intelekto sritis sparčiai vystosi. Kad jūsų programa išliktų aktuali, patikima ir tvirta, būtina ją nuolat stebėti, vertinti ir tobulinti. Čia ir pasitarnauja generatyviosios dirbtinio intelekto gyvavimo ciklas.
Generatyviosios dirbtinio intelekto gyvavimo ciklas yra struktūra, kuri padeda jums pereiti per generatyviosios dirbtinio intelekto programos kūrimo, diegimo ir palaikymo etapus. Jis padeda apibrėžti tikslus, įvertinti našumą, nustatyti iššūkius ir įgyvendinti sprendimus. Taip pat padeda suderinti jūsų programą su etiniais ir teisiniais jūsų srities bei suinteresuotųjų šalių standartais. Laikydamiesi generatyviosios dirbtinio intelekto gyvavimo ciklo, galite užtikrinti, kad jūsų programa visada teiktų vertę ir patenkintų vartotojų poreikius.
Šiame skyriuje jūs:
- Suprasite paradigmos pokytį nuo MLOps iki LLMOps
- LLM gyvavimo ciklą
- Gyvavimo ciklo įrankius
- Gyvavimo ciklo metrikaciją ir vertinimą
LLM yra naujas įrankis dirbtinio intelekto arsenale, kuris yra nepaprastai galingas analizei ir generavimo užduotims atlikti programose. Tačiau šis galingumas turi tam tikrų pasekmių, kaip mes optimizuojame dirbtinio intelekto ir klasikinio mašininio mokymosi užduotis.
Dėl to mums reikia naujos paradigmos, kad galėtume pritaikyti šį įrankį dinamiškai, su tinkamais paskatinimais. Senesnes dirbtinio intelekto programas galime kategorizuoti kaip "ML programas", o naujesnes dirbtinio intelekto programas kaip "GenAI programas" arba tiesiog "AI programas", atspindint pagrindines tuo metu naudojamas technologijas ir metodus. Tai keičia mūsų požiūrį įvairiais būdais, pažvelkite į šį palyginimą.
Pastebėkite, kad LLMOps labiau orientuojasi į programų kūrėjus, naudojant integracijas kaip pagrindinį tašką, naudojant "Modelius kaip paslaugą" ir galvojant apie šiuos metrikos punktus:
- Kokybė: Atsakymų kokybė
- Žala: Atsakingas dirbtinis intelektas
- Sąžiningumas: Atsakymų pagrįstumas (Ar tai logiška? Ar tai teisinga?)
- Kaina: Sprendimo biudžetas
- Vėlavimas: Vidutinis laikas atsakymui į žetoną
Pirmiausia, norint suprasti gyvavimo ciklą ir jo pakeitimus, pažvelkime į šią infografiką.
Kaip galite pastebėti, tai skiriasi nuo įprastų MLOps gyvavimo ciklų. LLM turi daug naujų reikalavimų, tokių kaip užklausų kūrimas, skirtingos technikos kokybei gerinti (Fine-Tuning, RAG, Meta-Prompts), skirtingas vertinimas ir atsakomybė su atsakingu dirbtiniu intelektu, galiausiai naujos vertinimo metrikos (Kokybė, Žala, Sąžiningumas, Kaina ir Vėlavimas).
Pavyzdžiui, pažvelkite, kaip mes generuojame idėjas. Naudojame užklausų inžineriją, kad eksperimentuotume su įvairiais LLM ir tyrinėtume galimybes, ar jų hipotezės gali būti teisingos.
Atkreipkite dėmesį, kad tai nėra linijinis procesas, o integruoti ciklai, iteratyvūs ir apimantys bendrą ciklą.
Kaip galėtume išnagrinėti šiuos žingsnius? Pažvelkime į detales, kaip galėtume sukurti gyvavimo ciklą.
Tai gali atrodyti šiek tiek sudėtinga, pirmiausia susitelkime į tris pagrindinius žingsnius.
- Idėjų generavimas/tyrimas: Tyrinėjimas, čia galime tyrinėti pagal mūsų verslo poreikius. Prototipų kūrimas, PromptFlow kūrimas ir testavimas, ar jis pakankamai efektyvus mūsų hipotezei.
- Kūrimas/tobulinimas: Įgyvendinimas, dabar pradedame vertinti didesnius duomenų rinkinius, taikyti technikas, tokias kaip Fine-tuning ir RAG, kad patikrintume mūsų sprendimo tvirtumą. Jei jis neveikia, perkurti jį, pridėti naujus žingsnius į mūsų eigą arba pertvarkyti duomenis gali padėti. Po to, kai išbandome savo eigą ir mastą, jei tai veikia ir atitinka mūsų metriką, jis pasiruošęs kitam žingsniui.
- Operatyvinimas: Integracija, dabar pridedame stebėjimo ir įspėjimo sistemas į mūsų sistemą, diegiame ir integruojame programą į mūsų taikomąją programą.
Tada turime bendrą valdymo ciklą, orientuotą į saugumą, atitiktį ir valdymą.
Sveikiname, dabar jūsų dirbtinio intelekto programa yra paruošta naudoti ir veikia. Norėdami praktiškai išbandyti, pažvelkite į Contoso Chat Demo.
Dabar, kokius įrankius galėtume naudoti?
Kalbant apie įrankius, „Microsoft“ siūlo Azure AI Platform ir PromptFlow, kurie palengvina ir padaro jūsų ciklą lengvai įgyvendinamą bei paruoštą naudoti.
Azure AI Platform leidžia naudoti AI Studio. AI Studio yra interneto portalas, leidžiantis tyrinėti modelius, pavyzdžius ir įrankius. Jis padeda valdyti jūsų išteklius, kurti vartotojo sąsajas ir naudoti SDK/CLI galimybes pirmiausia kodavimui.
„Azure AI“ leidžia naudoti įvairius išteklius, valdyti operacijas, paslaugas, projektus, vektorinę paiešką ir duomenų bazių poreikius.
Kurkite nuo koncepcijos įrodymo (POC) iki didelio masto programų su PromptFlow:
- Kurkite ir plėtokite programas naudodami VS Code, vizualinius ir funkcinius įrankius
- Testuokite ir tobulinkite savo programas, kad pasiektumėte aukštos kokybės dirbtinį intelektą, lengvai.
- Naudokite Azure AI Studio integracijai ir iteracijai su debesimi, greitam integravimui ir diegimui.
Nuostabu, dabar sužinokite daugiau apie tai, kaip mes struktūrizuojame programą, kad galėtume naudoti šias koncepcijas su Contoso Chat App, kad pamatytumėte, kaip „Cloud Advocacy“ pritaiko šias koncepcijas demonstracijose. Daugiau turinio rasite mūsų Ignite breakout session!
Dabar peržiūrėkite 15 pamoką, kad suprastumėte, kaip Retrieval Augmented Generation ir vektorinių duomenų bazės daro įtaką generatyviajam dirbtiniam intelektui ir padeda kurti labiau įtraukiančias programas!
Atsakomybės apribojimas:
Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą Co-op Translator. Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Dėl svarbios informacijos rekomenduojama profesionali žmogaus vertimo paslauga. Mes neprisiimame atsakomybės už nesusipratimus ar neteisingus aiškinimus, atsiradusius naudojant šį vertimą.