Spustelėkite aukščiau esančią nuotrauką, kad peržiūrėtumėte šios pamokos vaizdo įrašą
Dirbtinis intelektas, ypač generatyvusis dirbtinis intelektas, gali būti labai įdomus, tačiau svarbu apsvarstyti, kaip jį naudoti atsakingai. Reikia atsižvelgti į tokius dalykus kaip užtikrinimas, kad rezultatai būtų teisingi, nekenksmingi ir pan. Šis skyrius siekia suteikti jums kontekstą, ką reikėtų apsvarstyti ir kaip imtis aktyvių veiksmų, kad pagerintumėte savo dirbtinio intelekto naudojimą.
Šioje pamokoje aptarsime:
- Kodėl turėtumėte teikti pirmenybę atsakingam dirbtiniam intelektui, kurdami generatyvaus dirbtinio intelekto programas.
- Pagrindinius atsakingo dirbtinio intelekto principus ir jų ryšį su generatyviuoju dirbtiniu intelektu.
- Kaip pritaikyti šiuos atsakingo dirbtinio intelekto principus per strategijas ir įrankius.
Baigę šią pamoką, jūs žinosite:
- Kodėl svarbu atsakingai naudoti dirbtinį intelektą, kuriant generatyvaus dirbtinio intelekto programas.
- Kada galvoti apie atsakingo dirbtinio intelekto principus ir juos taikyti, kuriant generatyvaus dirbtinio intelekto programas.
- Kokie įrankiai ir strategijos yra prieinami, kad atsakingo dirbtinio intelekto koncepcija būtų įgyvendinta.
Generatyvaus dirbtinio intelekto entuziazmas niekada nebuvo toks didelis. Šis susidomėjimas pritraukė daugybę naujų kūrėjų, dėmesio ir finansavimo į šią sritį. Nors tai yra labai teigiamas dalykas tiems, kurie nori kurti produktus ir įmones, naudojančias generatyvųjį dirbtinį intelektą, svarbu elgtis atsakingai.
Viso kurso metu mes sutelkiame dėmesį į savo startuolio ir mūsų dirbtinio intelekto švietimo produkto kūrimą. Naudosime atsakingo dirbtinio intelekto principus: teisingumą, įtraukimą, patikimumą/saugumą, saugumą ir privatumą, skaidrumą bei atsakomybę. Remdamiesi šiais principais, nagrinėsime, kaip jie susiję su generatyvaus dirbtinio intelekto naudojimu mūsų produktuose.
Kuriant produktą, žmogaus poreikių centrinis požiūris, atsižvelgiant į vartotojo interesus, duoda geriausius rezultatus.
Generatyvaus dirbtinio intelekto unikalumas slypi jo gebėjime kurti naudingus atsakymus, informaciją, patarimus ir turinį vartotojams. Tai galima padaryti be daugybės rankinių veiksmų, o rezultatai gali būti labai įspūdingi. Tačiau be tinkamo planavimo ir strategijų tai gali sukelti neigiamų pasekmių vartotojams, produktui ir visuomenei apskritai.
Pažvelkime į kai kurias (bet ne visas) galimas neigiamas pasekmes:
Halucinacijos yra terminas, naudojamas apibūdinti, kai LLM sukuria turinį, kuris yra visiškai nesąmoningas arba akivaizdžiai klaidingas, remiantis kitais informacijos šaltiniais.
Pavyzdžiui, tarkime, kad kuriame funkciją savo startuoliui, kuri leidžia studentams užduoti istorinius klausimus modeliui. Studentas užduoda klausimą „Kas buvo vienintelis „Titaniko“ išgyvenęs žmogus?“
Modelis pateikia atsakymą, panašų į šį:
(Šaltinis: Flying bisons)
Tai labai užtikrintas ir išsamus atsakymas. Deja, jis yra neteisingas. Net ir minimaliai pasidomėjus, galima sužinoti, kad „Titaniko“ katastrofą išgyveno daugiau nei vienas žmogus. Studentui, kuris tik pradeda tyrinėti šią temą, šis atsakymas gali būti pakankamai įtikinamas, kad nebūtų kvestionuojamas ir būtų laikomas faktu. Tokios pasekmės gali lemti, kad dirbtinio intelekto sistema bus nepatikima ir neigiamai paveiks mūsų startuolio reputaciją.
Kiekviename LLM atnaujinimo etape matome našumo patobulinimus, mažinančius halucinacijas. Nepaisant šių patobulinimų, mes, kaip programų kūrėjai ir vartotojai, vis tiek turime būti sąmoningi dėl šių apribojimų.
Ankstesniame skyriuje aptarėme, kai LLM pateikia neteisingus ar nesąmoningus atsakymus. Kitas rizikos veiksnys, kurį turime žinoti, yra modelio atsakymai su kenksmingu turiniu.
Kenksmingas turinys gali būti apibrėžtas kaip:
- Instrukcijų teikimas arba skatinimas žaloti save ar tam tikras grupes.
- Neapykantos kupinas ar žeminantis turinys.
- Smurtinių veiksmų ar atakų planavimo gairės.
- Instrukcijos, kaip rasti nelegalią medžiagą ar vykdyti neteisėtus veiksmus.
- Seksualiai aiškus turinys.
Mūsų startuoliui svarbu užtikrinti, kad turėtume tinkamus įrankius ir strategijas, kad tokio tipo turinys nebūtų matomas studentams.
Teisingumas apibrėžiamas kaip „užtikrinimas, kad dirbtinio intelekto sistema būtų laisva nuo šališkumo ir diskriminacijos bei kad ji visus vertintų teisingai ir vienodai.“ Generatyvaus dirbtinio intelekto pasaulyje norime užtikrinti, kad modelio rezultatai neįtvirtintų išskirtinių požiūrių į marginalizuotas grupes.
Tokie rezultatai ne tik kenkia teigiamai vartotojų patirčiai, bet ir daro papildomą žalą visuomenei. Kaip programų kūrėjai, visada turėtume atsižvelgti į platų ir įvairų vartotojų ratą, kurdami sprendimus su generatyviuoju dirbtiniu intelektu.
Dabar, kai nustatėme atsakingo generatyvaus dirbtinio intelekto svarbą, pažvelkime į 4 žingsnius, kuriuos galime atlikti, kad atsakingai kurtume savo dirbtinio intelekto sprendimus:
Programinės įrangos testavime mes testuojame numatomus vartotojo veiksmus programoje. Panašiai, testuojant įvairius vartotojų labiausiai tikėtinus užklausų tipus, yra geras būdas įvertinti galimą žalą.
Kadangi mūsų startuolis kuria švietimo produktą, būtų naudinga paruošti švietimo tematikos užklausų sąrašą. Tai galėtų apimti tam tikrą dalyką, istorinius faktus ir užklausas apie studentų gyvenimą.
Dabar laikas rasti būdus, kaip galime užkirsti kelią arba apriboti modelio ir jo atsakymų sukeltą galimą žalą. Tai galime nagrinėti 4 skirtingais lygiais:
-
Modelis. Pasirinkti tinkamą modelį tinkamam naudojimo atvejui. Didesni ir sudėtingesni modeliai, tokie kaip GPT-4, gali kelti didesnę kenksmingo turinio riziką, kai taikomi mažesniems ir konkretesniems naudojimo atvejams. Naudojant mokymo duomenis modelio pritaikymui taip pat sumažinama kenksmingo turinio rizika.
-
Saugos sistema. Saugos sistema yra įrankių ir konfigūracijų rinkinys platformoje, aptarnaujančioje modelį, kuris padeda mažinti žalą. Pavyzdžiui, turinio filtravimo sistema „Azure OpenAI“ paslaugoje. Sistemos taip pat turėtų aptikti „jailbreak“ atakas ir nepageidaujamą veiklą, pvz., užklausas iš botų.
-
Metapromptas. Metapromptai ir pagrindimas yra būdai, kaip galime nukreipti arba apriboti modelį, remdamiesi tam tikru elgesiu ir informacija. Tai gali būti sistemos įvestys, apibrėžiančios tam tikras modelio ribas. Be to, pateikiant rezultatus, kurie yra labiau susiję su sistemos apimtimi ar sritimi.
Taip pat galima naudoti technikas, tokias kaip informacijos paieškos papildyta generacija (RAG), kad modelis trauktų informaciją tik iš patikimų šaltinių. Vėlesnėje šio kurso pamokoje aptarsime paieškos programų kūrimą.
- Vartotojo patirtis. Galutinis sluoksnis yra ten, kur vartotojas tiesiogiai sąveikauja su modeliu per mūsų programos sąsają. Tokiu būdu galime suprojektuoti UI/UX, kad apribotume vartotojo įvestis, kurias jis gali siųsti modeliui, taip pat tekstą ar vaizdus, rodomus vartotojui. Diegiant dirbtinio intelekto programą, taip pat turime būti skaidrūs apie tai, ką mūsų generatyvaus dirbtinio intelekto programa gali ir ko negali.
Mes turime visą pamoką, skirtą AI programų UX projektavimui.
- Įvertinkite modelį. Darbas su LLM gali būti sudėtingas, nes ne visada turime kontrolę dėl duomenų, kuriuos modelis buvo apmokytas. Nepaisant to, visada turėtume vertinti modelio našumą ir rezultatus. Vis dar svarbu matuoti modelio tikslumą, panašumą, pagrįstumą ir rezultatų aktualumą. Tai padeda užtikrinti skaidrumą ir pasitikėjimą suinteresuotaisiais ir vartotojais.
Operacinės praktikos kūrimas aplink jūsų dirbtinio intelekto programas yra galutinis etapas. Tai apima bendradarbiavimą su kitomis mūsų startuolio dalimis, tokiomis kaip teisinė ir saugumo komandos, siekiant užtikrinti, kad laikomės visų reguliavimo politikų. Prieš paleidžiant, taip pat norime sukurti planus, susijusius su pristatymu, incidentų valdymu ir atšaukimu, kad išvengtume bet kokios žalos mūsų vartotojams.
Nors atsakingo dirbtinio intelekto sprendimų kūrimas gali atrodyti kaip daug darbo, tai yra pastangos, kurios vertos dėmesio. Augant generatyvaus dirbtinio intelekto sričiai, daugiau įrankių, padedančių kūrėjams efektyviai integruoti atsakomybę į savo darbo eigą, tobulės. Pavyzdžiui, Azure AI Content Safety gali padėti aptikti kenksmingą turinį ir vaizdus per API užklausą.
Kokius dalykus reikia apsvarstyti, kad užtikrintumėte atsakingą dirbtinio intelekto naudojimą?
- Kad atsakymas būtų teisingas.
- Kenksmingas naudojimas, kad dirbtinis intelektas nebūtų naudojamas nusikalstamais tikslais.
- Užtikrinimas, kad dirbtinis intelektas būtų laisvas nuo šališkumo ir diskriminacijos.
A: Teisingi atsakymai yra 2 ir 3. Atsakingas dirbtinis intelektas padeda apsvarstyti, kaip sumažinti kenksmingą poveikį, šališkumą ir daugiau.
Perskaitykite apie Azure AI Content Safety ir pažiūrėkite, ką galite pritaikyti savo naudojimui.
Baigę šią pamoką, peržiūrėkite mūsų Generatyvaus dirbtinio intelekto mokymosi kolekciją, kad toliau gilintumėte savo žinias apie generatyvųjį dirbtinį intelektą!
Eikite į 4 pamoką, kurioje aptarsime Pagrindinius užklausų kūrimo principus!
Atsakomybės apribojimas:
Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą Co-op Translator. Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Dėl svarbios informacijos rekomenduojama profesionali žmogaus vertimo paslauga. Mes neprisiimame atsakomybės už nesusipratimus ar neteisingą interpretaciją, atsiradusią naudojant šį vertimą.