Avatud lähtekoodiga LLM-ide maailm on põnev ja pidevalt arenev. Selle õppetunni eesmärk on anda põhjalik ülevaade avatud lähtekoodiga mudelitest. Kui otsite teavet selle kohta, kuidas omandimudelid võrreldes avatud lähtekoodiga mudelitega erinevad, minge õppetundi "Erinevate LLM-ide uurimine ja võrdlemine". Selles õppetunnis käsitletakse ka mudelite peenhäälestamist, kuid põhjalikuma selgituse leiate õppetunnist "LLM-ide peenhäälestamine".
- Saada arusaam avatud lähtekoodiga mudelitest
- Mõista avatud lähtekoodiga mudelitega töötamise eeliseid
- Uurida Hugging Face'i ja Azure AI Studio avatud mudeleid
Avatud lähtekoodiga tarkvara on mänginud olulist rolli tehnoloogia arengus erinevates valdkondades. Open Source Initiative (OSI) on määratlenud 10 kriteeriumi tarkvara jaoks, et seda saaks klassifitseerida avatud lähtekoodiga tarkvarana. Lähtekood peab olema avalikult jagatud OSI poolt heaks kiidetud litsentsi alusel.
Kuigi LLM-ide arendamisel on sarnasusi tarkvara arendamisega, ei ole protsess täpselt sama. See on tekitanud kogukonnas palju arutelu avatud lähtekoodi definitsiooni üle LLM-ide kontekstis. Selleks, et mudel vastaks traditsioonilisele avatud lähtekoodi definitsioonile, peaks olema avalikult kättesaadav järgmine teave:
- Andmekogumid, mida mudeli treenimiseks kasutati.
- Täielikud mudeli kaalud osana treenimisest.
- Hindamiskood.
- Peenhäälestamise kood.
- Täielikud mudeli kaalud ja treenimismõõdikud.
Praegu on vaid mõned mudelid, mis vastavad neile kriteeriumidele. OLMo mudel, mille on loonud Allen Institute for Artificial Intelligence (AllenAI), on üks neist.
Selles õppetunnis viidatakse mudelitele edaspidi kui "avatud mudelid", kuna need ei pruugi vastata ülaltoodud kriteeriumidele kirjutamise ajal.
Väga kohandatav - Kuna avatud mudelid avaldatakse koos üksikasjaliku treenimisinfoga, saavad teadlased ja arendajad mudeli sisemust muuta. See võimaldab luua väga spetsialiseeritud mudeleid, mis on peenhäälestatud konkreetse ülesande või uurimisvaldkonna jaoks. Mõned näited on koodi genereerimine, matemaatilised operatsioonid ja bioloogia.
Kulud - Nende mudelite kasutamise ja juurutamise maksumus ühe märgi kohta on madalam kui omandimudelite puhul. Generatiivse tehisintellekti rakenduste loomisel tuleks nende mudelitega töötades arvestada jõudluse ja hinna suhtega vastavalt teie kasutusjuhtumile.
Allikas: Artificial Analysis
Paindlikkus - Avatud mudelitega töötamine võimaldab olla paindlik erinevate mudelite kasutamisel või nende kombineerimisel. Näiteks HuggingChat Assistants, kus kasutaja saab otse kasutajaliideses valida, millist mudelit kasutada:
LLama2, mille on välja töötanud Meta, on avatud mudel, mis on optimeeritud vestluspõhiste rakenduste jaoks. See tuleneb selle peenhäälestamise meetodist, mis hõlmas suurt hulka dialooge ja inimeste tagasisidet. Selle meetodi abil toodab mudel rohkem tulemusi, mis vastavad inimeste ootustele, pakkudes paremat kasutajakogemust.
Mõned Llama peenhäälestatud versioonide näited on Japanese Llama, mis on spetsialiseerunud jaapani keelele, ja Llama Pro, mis on baasmudeli täiustatud versioon.
Mistral on avatud mudel, mis keskendub suurele jõudlusele ja efektiivsusele. See kasutab ekspertide segamise meetodit (Mixture-of-Experts), mis ühendab grupi spetsialiseeritud eksperte ühte süsteemi, kus sõltuvalt sisendist valitakse teatud mudelid kasutamiseks. See muudab arvutuse tõhusamaks, kuna mudelid tegelevad ainult sisenditega, milles nad on spetsialiseerunud.
Mõned Mistrali peenhäälestatud versioonide näited on BioMistral, mis keskendub meditsiinivaldkonnale, ja OpenMath Mistral, mis teostab matemaatilisi arvutusi.
Falcon on LLM, mille on loonud Technology Innovation Institute (TII). Falcon-40B treeniti 40 miljardi parameetriga, mis on näidanud paremat jõudlust kui GPT-3, kasutades vähem arvutusressursse. See on võimalik tänu FlashAttention algoritmile ja mitmeküsimuse tähelepanu meetodile, mis võimaldab vähendada mälunõudeid järelduste tegemise ajal. Tänu sellele lühemale järelduste tegemise ajale sobib Falcon-40B vestlusrakenduste jaoks.
Mõned Falconi peenhäälestatud versioonide näited on OpenAssistant, assistent, mis on ehitatud avatud mudelitele, ja GPT4ALL, mis pakub kõrgemat jõudlust kui baasmudel.
Avatud mudeli valimiseks ei ole ühte kindlat vastust. Hea koht alustamiseks on kasutada Azure AI Studio ülesande järgi filtreerimise funktsiooni. See aitab teil mõista, milliste ülesannete jaoks mudel on treenitud. Hugging Face haldab ka LLM-i edetabelit, mis näitab parimaid mudeleid teatud mõõdikute alusel.
Kui soovite võrrelda LLM-e erinevat tüüpi mudelite vahel, on Artificial Analysis veel üks suurepärane ressurss:
Allikas: Artificial Analysis
Kui töötate konkreetse kasutusjuhtumiga, võib olla tõhus otsida peenhäälestatud versioone, mis keskenduvad samale valdkonnale. Hea praktika on katsetada mitut avatud mudelit, et näha, kuidas need vastavad teie ja teie kasutajate ootustele.
Avatud mudelite parim osa on see, et nendega saab üsna kiiresti tööle hakata. Vaadake Azure AI Foundry mudelikataloogi, mis sisaldab konkreetset Hugging Face'i kollektsiooni koos siin käsitletud mudelitega.
Pärast selle õppetunni läbimist vaadake meie Generatiivse tehisintellekti õppekollektsiooni, et jätkata oma generatiivse tehisintellekti teadmiste arendamist!
Lahtiütlus:
See dokument on tõlgitud AI tõlketeenuse Co-op Translator abil. Kuigi püüame tagada täpsust, palume arvestada, et automaatsed tõlked võivad sisaldada vigu või ebatäpsusi. Algne dokument selle algses keeles tuleks pidada autoriteetseks allikaks. Olulise teabe puhul soovitame kasutada professionaalset inimtõlget. Me ei vastuta arusaamatuste või valesti tõlgenduste eest, mis võivad tekkida selle tõlke kasutamise tõttu.