Свет отворених LLM модела је узбудљив и стално се развија. Ова лекција има за циљ да пружи детаљан увид у отворене моделе. Ако тражите информације о томе како се власнички модели упоређују са отвореним моделима, посетите лекцију "Истраживање и упоређивање различитих LLM модела". Ова лекција ће такође обухватити тему фино подешавања, али детаљније објашњење можете пронаћи у лекцији "Фино подешавање LLM модела".
- Разумевање отворених модела
- Разумевање предности рада са отвореним моделима
- Истраживање доступних отворених модела на Hugging Face и Azure AI Studio
Отворени софтвер је одиграо кључну улогу у развоју технологије у различитим областима. Open Source Initiative (OSI) је дефинисао 10 критеријума за софтвер да би био класификован као отворен. Изворни код мора бити отворено доступан под лиценцом коју је одобрио OSI.
Иако развој LLM модела има сличне елементе као развој софтвера, процес није потпуно исти. Ово је довело до многих дискусија у заједници о дефиницији отвореног кода у контексту LLM модела. Да би модел био у складу са традиционалном дефиницијом отвореног кода, следеће информације треба да буду јавно доступне:
- Скупови података коришћени за обуку модела.
- Комплетне тежине модела као део обуке.
- Код за евалуацију.
- Код за фино подешавање.
- Комплетне тежине модела и метрике обуке.
Тренутно постоји само неколико модела који испуњавају ове критеријуме. OLMo модел који је креирао Allen Institute for Artificial Intelligence (AllenAI) је један од њих.
За потребе ове лекције, моделе ћемо називати "отворени модели" јер можда не испуњавају горе наведене критеријуме у време писања.
Висока прилагодљивост - Пошто су отворени модели објављени са детаљним информацијама о обуци, истраживачи и програмери могу модификовати унутрашњост модела. Ово омогућава креирање високо специјализованих модела који су фино подешени за одређени задатак или област истраживања. Неки примери су генерисање кода, математичке операције и биологија.
Цена - Цена по токену за коришћење и примену ових модела је нижа у поређењу са власничким моделима. Приликом изградње апликација за генеративну вештачку интелигенцију, треба размотрити однос перформанси и цене у контексту вашег случаја употребе.
Извор: Artificial Analysis
Флексибилност - Рад са отвореним моделима омогућава флексибилност у коришћењу различитих модела или њиховом комбиновању. Пример за ово је HuggingChat Assistants, где корисник може директно у корисничком интерфејсу изабрати модел који се користи:
LLama2, који је развио Meta, је отворени модел оптимизован за апликације засноване на разговору. Ово је резултат методе фино подешавања која је укључивала велики број дијалога и повратних информација од људи. Овом методом модел производи резултате који су више у складу са људским очекивањима, што пружа боље корисничко искуство.
Неки примери фино подешених верзија Llama модела укључују Japanese Llama, који је специјализован за јапански језик, и Llama Pro, који је побољшана верзија основног модела.
Mistral је отворени модел са снажним фокусом на високе перформансе и ефикасност. Користи приступ Mixture-of-Experts, који комбинује групу специјализованих експертских модела у један систем где се, у зависности од уноса, одређени модели бирају за употребу. Ово чини рачунање ефикаснијим јер модели обрађују само уносе за које су специјализовани.
Неки примери фино подешених верзија Mistral модела укључују BioMistral, који је фокусиран на медицинску област, и OpenMath Mistral, који обавља математичке прорачуне.
Falcon је LLM који је креирао Technology Innovation Institute (TII). Falcon-40B је обучен на 40 милијарди параметара, што је показало боље перформансе од GPT-3 уз мањи рачунарски буџет. Ово је резултат коришћења FlashAttention алгоритма и multiquery attention, који омогућавају смањење захтева за меморијом током времена инференције. Са овим смањеним временом инференције, Falcon-40B је погодан за апликације засноване на разговору.
Неки примери фино подешених верзија Falcon модела су OpenAssistant, асистент изграђен на отвореним моделима, и GPT4ALL, који пружа боље перформансе од основног модела.
Не постоји један одговор на питање како изабрати отворени модел. Добро место за почетак је коришћење функције Azure AI Studio за филтрирање по задацима. Ово ће вам помоћи да разумете за које типове задатака је модел обучен. Hugging Face такође одржава LLM Leaderboard, који приказује најбоље моделе на основу одређених метрика.
Када желите да упоредите LLM моделе различитих типова, Artificial Analysis је још један одличан ресурс:
Извор: Artificial Analysis
Ако радите на специфичном случају употребе, претрага фино подешених верзија које су фокусиране на исту област може бити ефикасна. Експериментисање са више отворених модела како бисте видели како се они понашају у складу са вашим и очекивањима ваших корисника је још једна добра пракса.
Најбољи део код отворених модела је то што можете брзо почети да радите са њима. Погледајте Azure AI Foundry Model Catalog, који садржи специфичну Hugging Face колекцију са моделима о којима смо овде говорили.
Након завршетка ове лекције, погледајте нашу Generative AI Learning колекцију како бисте наставили да унапређујете своје знање о генеративној вештачкој интелигенцији!
Одрицање од одговорности:
Овај документ је преведен коришћењем услуге за превођење помоћу вештачке интелигенције Co-op Translator. Иако се трудимо да обезбедимо тачност, молимо вас да имате у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати меродавним извором. За критичне информације препоручује се професионални превод од стране људи. Не преузимамо одговорност за било каква погрешна тумачења или неспоразуме који могу настати услед коришћења овог превода.