Satu soalan penting bagi semua aplikasi AI ialah sejauh mana ciri AI itu relevan, kerana AI adalah bidang yang berkembang pesat. Untuk memastikan aplikasi anda kekal relevan, boleh dipercayai, dan kukuh, anda perlu memantau, menilai, dan memperbaikinya secara berterusan. Di sinilah kitaran hayat AI generatif memainkan peranan.
Kitaran hayat AI generatif adalah rangka kerja yang membimbing anda melalui peringkat membangunkan, melancarkan, dan menyelenggara aplikasi AI generatif. Ia membantu anda menetapkan matlamat, mengukur prestasi, mengenal pasti cabaran, dan melaksanakan penyelesaian. Ia juga membantu anda menyelaraskan aplikasi anda dengan piawaian etika dan undang-undang dalam domain dan pihak berkepentingan anda. Dengan mengikuti kitaran hayat AI generatif, anda boleh memastikan aplikasi anda sentiasa memberikan nilai dan memuaskan pengguna.
Dalam bab ini, anda akan:
- Memahami Peralihan Paradigma dari MLOps ke LLMOps
- Kitaran Hayat LLM
- Alat Kitaran Hayat
- Pengukuran dan Penilaian Kitaran Hayat
LLM adalah alat baru dalam arsenal Kecerdasan Buatan, ia sangat berkuasa dalam tugas analisis dan penjanaan untuk aplikasi, namun kuasa ini membawa beberapa kesan dalam cara kita menyelaraskan tugas AI dan Pembelajaran Mesin Klasik.
Dengan ini, kita memerlukan Paradigma baru untuk menyesuaikan alat ini secara dinamik, dengan insentif yang betul. Kita boleh mengkategorikan aplikasi AI lama sebagai "ML Apps" dan aplikasi AI baru sebagai "GenAI Apps" atau hanya "AI Apps", mencerminkan teknologi dan teknik utama yang digunakan pada masa itu. Ini mengubah naratif kita dalam pelbagai cara, lihat perbandingan berikut.
Perhatikan bahawa dalam LLMOps, kita lebih fokus kepada Pembangun Aplikasi, menggunakan integrasi sebagai titik utama, menggunakan "Models-as-a-Service" dan memikirkan perkara berikut untuk metrik.
- Kualiti: Kualiti respons
- Kerosakan: AI Bertanggungjawab
- Kejujuran: Ketepatan respons (Masuk akal? Betul?)
- Kos: Bajet penyelesaian
- Latensi: Purata masa untuk respons token
Pertama, untuk memahami kitaran hayat dan pengubahsuaian, perhatikan infografik berikut.
Seperti yang anda perhatikan, ini berbeza daripada Kitaran Hayat biasa dalam MLOps. LLM mempunyai banyak keperluan baru, seperti Prompting, teknik berbeza untuk meningkatkan kualiti (Fine-Tuning, RAG, Meta-Prompts), penilaian dan tanggungjawab berbeza dengan AI bertanggungjawab, dan akhirnya, metrik penilaian baru (Kualiti, Kerosakan, Kejujuran, Kos dan Latensi).
Sebagai contoh, lihat bagaimana kita berfikir. Menggunakan kejuruteraan prompt untuk bereksperimen dengan pelbagai LLM bagi meneroka kemungkinan untuk menguji sama ada Hipotesis mereka boleh betul.
Perlu diingat bahawa ini bukan linear, tetapi gelung yang terintegrasi, berulang dan dengan kitaran menyeluruh.
Bagaimana kita boleh meneroka langkah-langkah ini? Mari kita lihat dengan lebih terperinci bagaimana kita boleh membina kitaran hayat.
Ini mungkin kelihatan agak rumit, mari fokus pada tiga langkah besar dahulu.
- Ideasi/Penerokaan: Eksplorasi, di sini kita boleh meneroka mengikut keperluan perniagaan kita. Membuat prototaip, mencipta PromptFlow dan menguji sama ada ia cukup cekap untuk Hipotesis kita.
- Pembinaan/Peningkatan: Pelaksanaan, sekarang, kita mula menilai untuk set data yang lebih besar, melaksanakan teknik seperti Fine-tuning dan RAG, untuk memeriksa ketahanan penyelesaian kita. Jika tidak, melaksanakan semula, menambah langkah baru dalam aliran atau menyusun semula data mungkin membantu. Selepas menguji aliran dan skala kita, jika ia berfungsi dan metrik kita memuaskan, ia sedia untuk langkah seterusnya.
- Pengoperasian: Integrasi, kini menambah Sistem Pemantauan dan Amaran ke dalam sistem, pelancaran dan integrasi aplikasi ke dalam Aplikasi kita.
Kemudian, kita ada kitaran menyeluruh Pengurusan, yang memberi tumpuan kepada keselamatan, pematuhan dan tadbir urus.
Tahniah, kini aplikasi AI anda sudah sedia dan beroperasi. Untuk pengalaman praktikal, lihat Demo Contoso Chat.
Sekarang, alat apa yang boleh kita gunakan?
Untuk alat, Microsoft menyediakan Azure AI Platform dan PromptFlow yang memudahkan dan menjadikan kitaran anda mudah dilaksanakan dan sedia digunakan.
Azure AI Platform membolehkan anda menggunakan AI Studio. AI Studio adalah portal web yang membolehkan anda meneroka model, contoh dan alat. Mengurus sumber anda, aliran pembangunan UI dan pilihan SDK/CLI untuk pembangunan berasaskan kod.
Azure AI membolehkan anda menggunakan pelbagai sumber untuk mengurus operasi, perkhidmatan, projek, carian vektor dan keperluan pangkalan data anda.
Membina, dari Proof-of-Concept (POC) hingga aplikasi skala besar dengan PromptFlow:
- Reka dan bina aplikasi dari VS Code, dengan alat visual dan fungsi
- Uji dan laraskan aplikasi anda untuk AI berkualiti dengan mudah
- Gunakan Azure AI Studio untuk Integrasi dan Iterasi dengan awan, Tolak dan Lancarkan untuk integrasi pantas
Hebat, kini pelajari lebih lanjut tentang bagaimana kita menyusun aplikasi untuk menggunakan konsep ini dengan Contoso Chat App, untuk melihat bagaimana Cloud Advocacy menambah konsep ini dalam demonstrasi. Untuk lebih banyak kandungan, tonton sesi pecahan Ignite!
Sekarang, lihat Pelajaran 15, untuk memahami bagaimana Retrieval Augmented Generation dan Pangkalan Data Vektor memberi impak kepada AI Generatif dan menjadikan Aplikasi lebih menarik!
Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang sahih. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.