Minden MI alkalmazás számára fontos kérdés az MI funkciók relevanciája, mivel az MI gyorsan fejlődő terület, hogy az alkalmazásod releváns, megbízható és robusztus maradjon, folyamatosan figyelni, értékelni és fejleszteni kell. Ebben segít a generatív MI életciklus.
A generatív MI életciklus egy keretrendszer, amely végigvezet a generatív MI alkalmazás fejlesztésének, bevezetésének és karbantartásának szakaszain. Segít meghatározni a céljaidat, mérni a teljesítményedet, azonosítani a kihívásaidat és megvalósítani a megoldásaidat. Emellett segít az alkalmazásod összehangolásában az adott terület és az érintettek etikai és jogi normáival. A generatív MI életciklus követésével biztosíthatod, hogy az alkalmazásod mindig értéket nyújtson és elégedetté tegye a felhasználókat.
Ebben a fejezetben:
- Megérted az MLOps-ról az LLMOps-ra való paradigmaváltást
- Az LLM életciklusát
- Az életciklus eszközeit
- Az életciklus metrikázását és értékelését
Az LLM-ek új eszközök a mesterséges intelligencia arzenáljában, rendkívül erősek elemzési és generálási feladatokban az alkalmazások számára, azonban ez az erő bizonyos következményekkel jár az MI és a klasszikus gépi tanulási feladatok egyszerűsítésében.
Ehhez új paradigmára van szükség, hogy ezt az eszközt dinamikusan, a megfelelő ösztönzőkkel alkalmazzuk. A régebbi MI alkalmazásokat "ML alkalmazásoknak", az újabbakat pedig "GenAI alkalmazásoknak" vagy egyszerűen "MI alkalmazásoknak" nevezhetjük, tükrözve az adott időszak fő technológiáit és technikáit. Ez többféleképpen is megváltoztatja a narratívánkat, nézd meg az alábbi összehasonlítást.
Figyeld meg, hogy az LLMOps esetén inkább az alkalmazásfejlesztőkre fókuszálunk, az integrációkat kulcspontként használva, "Modellek mint szolgáltatás" megközelítéssel, és a következő metrikákra gondolunk.
- Minőség: Válasz minősége
- Káros hatás: Felelős MI
- Őszinteség: Válasz megalapozottsága (Értelmes? Helyes?)
- Költség: Megoldás költségvetése
- Késleltetés: Átlagos válaszidő tokenenként
Először, hogy megértsük az életciklust és a módosításokat, nézzük meg a következő infografikát.
Ahogy láthatod, ez eltér a megszokott MLOps életciklusoktól. Az LLM-eknek sok új követelménye van, mint a promptolás, különböző technikák a minőség javítására (finomhangolás, RAG, meta-promptok), különböző értékelési és felelősségi szempontok a felelős MI-vel kapcsolatban, végül új értékelési metrikák (minőség, káros hatás, őszinteség, költség és késleltetés).
Például nézd meg, hogyan ötletelünk. Prompt mérnökséget használva különböző LLM-ekkel kísérletezünk, hogy felfedezzük a lehetőségeket és teszteljük, hogy a hipotézisük helyes lehet-e.
Figyeld meg, hogy ez nem lineáris, hanem integrált hurkokból áll, iteratív és egy átfogó ciklussal.
Hogyan fedezhetnénk fel ezeket a lépéseket? Nézzük meg részletesen, hogyan építhetünk életciklust.
Ez talán bonyolultnak tűnik, fókuszáljunk először a három nagy lépésre.
- Ötletelés/Felfedezés: Felfedezés, itt az üzleti igényeink szerint fedezhetünk fel. Prototípus készítése, egy PromptFlow létrehozása és tesztelése, hogy elég hatékony-e a hipotézisünkhöz.
- Építés/Kibővítés: Megvalósítás, most elkezdjük nagyobb adathalmazokon értékelni, technikákat alkalmazni, mint a finomhangolás és RAG, hogy ellenőrizzük a megoldásunk robusztusságát. Ha nem működik, újraimplementálás, új lépések hozzáadása a folyamatba vagy az adatok átszervezése segíthet. Miután teszteltük a folyamatot és a skálát, ha működik és megfelel a metrikáknak, készen áll a következő lépésre.
- Üzemeltetés: Integráció, most hozzáadjuk a monitorozó és riasztó rendszereket a rendszerhez, bevezetjük és integráljuk az alkalmazásba.
Ezután van egy átfogó menedzsment ciklus, amely a biztonságra, megfelelőségre és irányításra fókuszál.
Gratulálunk, most már készen áll az MI alkalmazásod az üzemeltetésre. Gyakorlati tapasztalatért nézd meg a Contoso Chat Demo-t.
Most, milyen eszközöket használhatunk?
Eszközök tekintetében a Microsoft az Azure AI Platformot és a PromptFlow-t kínálja, amelyek megkönnyítik és egyszerűvé teszik az életciklus megvalósítását.
Az Azure AI Platform lehetővé teszi az AI Studio használatát. Az AI Studio egy webes portál, amely lehetővé teszi modellek, minták és eszközök felfedezését. Erőforrásaid kezelését, UI fejlesztési folyamatokat és SDK/CLI opciókat kínál kód-első fejlesztéshez.
Az Azure AI lehetővé teszi több erőforrás használatát, hogy kezeld az üzemeltetést, szolgáltatásokat, projekteket, vektoros keresést és adatbázis igényeket.
Építs, a Proof-of-Concepttől (POC) a nagyszabású alkalmazásokig a PromptFlow-val:
- Tervezd és építsd az alkalmazásokat VS Code-ból, vizuális és funkcionális eszközökkel
- Teszteld és finomhangold az alkalmazásokat minőségi MI-hez, könnyedén.
- Használd az Azure AI Studiot az integrációhoz és iterációhoz a felhővel, gyors integráció érdekében nyomd és telepítsd.
Csodás, most tanulj meg többet arról, hogyan strukturálunk egy alkalmazást, hogy használd a fogalmakat a Contoso Chat App segítségével, hogy lásd, hogyan alkalmazza a Cloud Advocacy ezeket a fogalmakat a bemutatókban. További tartalmakért nézd meg az Ignite szekciót!
Most nézd meg a 15. leckét, hogy megértsd, hogyan hat a Retrieval Augmented Generation és a vektoros adatbázisok a generatív MI-re, és hogyan teheted az alkalmazásokat még vonzóbbá!
Jogi nyilatkozat: Ezt a dokumentumot az AI fordító szolgáltatás, a Co-op Translator segítségével fordítottuk le. Bár a pontosságra törekszünk, kérjük, vegye figyelembe, hogy az automatikus fordítások hibákat vagy pontatlanságokat tartalmazhatnak. Az eredeti dokumentum az anyanyelvén tekintendő hiteles forrásnak. Fontos információk esetén professzionális emberi fordítást javaslunk. Nem vállalunk felelősséget a fordítás használatából eredő félreértésekért vagy félreértelmezésekért.