Важно питање за све апликације вештачке интелигенције је релевантност AI функција, јер је AI брзо развијајуће поље, како бисте осигурали да ваша апликација остане релевантна, поуздана и робусна, потребно је да је континуирано пратите, процењујете и унапређујете. Овде улази у игру животни циклус генеративне AI.
Животни циклус генеративне AI је оквир који вас води кроз фазе развоја, имплементације и одржавања генеративне AI апликације. Помоћи ће вам да дефинишете своје циљеве, мерите свој учинак, идентификујете изазове и спроведете решења. Такође вам помаже да ускладите своју апликацију са етичким и правним стандардима ваше области и заинтересованих страна. Пратећи животни циклус генеративне AI, можете осигурати да ваша апликација увек пружа вредност и задовољава ваше кориснике.
У овом поглављу ћете:
- Разумети парадигму промене од MLOps ка LLMOps
- Животни циклус LLM
- Алати за животни циклус
- Метрификација и евалуација животног циклуса
LLM-ови су нови алат у арсеналу вештачке интелигенције, изузетно су моћни у задацима анализе и генерисања за апликације, међутим ова снага има неке последице у томе како поједностављујемо AI и класичне задатке машинског учења.
Са тим, потребна нам је нова парадигма да прилагодимо овај алат динамично, са исправним подстицајима. Можемо категорисати старије AI апликације као "ML апликације" и новије AI апликације као "GenAI апликације" или једноставно "AI апликације", одражавајући доминантну технологију и технике коришћене у то време. Ово помера наш наратив на више начина, погледајте следећу поређење.
Приметите да у LLMOps више фокусирамо на програмере апликација, користећи интеграције као кључну тачку, користећи "Моделе као услугу" и размишљајући о следећим метрикама.
- Квалитет: Квалитет одговора
- Штета: Одговорни AI
- Искреност: Основаност одговора (Има смисла? Да ли је тачно?)
- Трошак: Буџет решења
- Латенција: Просечно време за одговор токена
Прво, да бисмо разумели животни циклус и измене, погледајмо следећу инфографику.
Као што можете приметити, ово је другачије од уобичајених животних циклуса из MLOps. LLM-ови имају много нових захтева, као што су подстицање (Prompting), различите технике за побољшање квалитета (фино подешавање, RAG, мета-подстицаји), различите процене и одговорност са одговорним AI, на крају, нове метрике евалуације (Квалитет, Штета, Искреност, Трошак и Латенција).
На пример, погледајте како идејамо. Користећи инжењеринг подстицаја да експериментишемо са различитим LLM-овима како бисмо истражили могућности и тестирали да ли њихова хипотеза може бити тачна.
Запамтите да ово није линеарно, већ интегрисани циклуси, итеративни и са општим циклусом.
Како бисмо могли истражити те кораке? Хајде да уђемо у детаље како бисмо могли изградити животни циклус.
Ово може изгледати мало компликовано, фокусирајмо се прво на три велика корака.
- Идеја/Истраживање: Истраживање, овде можемо истраживати у складу са нашим пословним потребама. Прототиповање, креирање PromptFlow и тестирање да ли је довољно ефикасно за нашу хипотезу.
- Изградња/Побољшање: Имплементација, сада почињемо да процењујемо веће скупове података, примењујемо технике као што су фино подешавање и RAG, да проверимо робусност нашег решења. Ако није, поновна имплементација, додавање нових корака у наш ток или реструктурирање података може помоћи. Након тестирања нашег тока и скале, ако ради и проверава наше метрике, спремно је за следећи корак.
- Операционализација: Интеграција, сада додајемо системе за праћење и аларме у наш систем, имплементацију и интеграцију апликације у нашу апликацију.
Затим имамо општи циклус управљања, фокусирајући се на безбедност, усаглашеност и управљање.
Честитамо, сада имате своју AI апликацију спремну за рад и операције. За практично искуство, погледајте Contoso Chat Demo.
Сада, које алате можемо користити?
За алате, Microsoft пружа Azure AI Platform и PromptFlow који олакшавају и чине ваш циклус једноставним за имплементацију и спремним за коришћење.
Azure AI Platform вам омогућава да користите AI Studio. AI Studio је веб портал који вам омогућава да истражујете моделе, примере и алате. Управљате својим ресурсима, UI развојним токовима и SDK/CLI опцијама за развој заснован на коду.
Azure AI вам омогућава да користите више ресурса за управљање вашим операцијама, услугама, пројектима, претрагом вектора и потребама база података.
Конструишите, од Proof-of-Concept (POC) до апликација великог обима са PromptFlow:
- Дизајнирајте и градите апликације из VS Code, са визуелним и функционалним алатима
- Тестирајте и фино подешавајте своје апликације за квалитетан AI, лако.
- Користите Azure AI Studio за интеграцију и итерацију са облаком, пуш и имплементацију за брзу интеграцију.
Сјајно, сада сазнајте више о томе како структурирамо апликацију да користимо концепте са Contoso Chat App, да проверите како Cloud Advocacy додаје те концепте у демонстрацијама. За више садржаја, погледајте нашу Ignite breakout сесију!
Сада, погледајте Лекцију 15, да бисте разумели како Retrieval Augmented Generation и Vector Databases утичу на генеративни AI и како направити занимљивије апликације!
Одрицање од одговорности: Овај документ је преведен коришћењем AI услуге за превођење Co-op Translator. Иако се трудимо да превод буде тачан, имајте у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитетним извором. За критичне информације препоручује се професионални људски превод. Нисмо одговорни за било каква неспоразума или погрешна тумачења која произилазе из коришћења овог превода.