Satu persoalan penting untuk semua aplikasi AI adalah relevansi ciri AI, kerana AI adalah bidang yang berkembang pesat. Untuk memastikan aplikasi anda kekal relevan, boleh dipercayai, dan kukuh, anda perlu memantau, menilai, dan memperbaikinya secara berterusan. Di sinilah kitaran hayat AI generatif memainkan peranan.
Kitaran hayat AI generatif adalah kerangka kerja yang membimbing anda melalui peringkat pembangunan, pelaksanaan, dan penyelenggaraan aplikasi AI generatif. Ia membantu anda menentukan matlamat, mengukur prestasi, mengenal pasti cabaran, dan melaksanakan penyelesaian. Ia juga membantu anda menyelaraskan aplikasi anda dengan piawaian etika dan undang-undang dalam bidang anda serta pihak berkepentingan. Dengan mengikuti kitaran hayat AI generatif, anda dapat memastikan aplikasi anda sentiasa memberikan nilai dan memenuhi keperluan pengguna.
Dalam bab ini, anda akan:
- Memahami Peralihan Paradigma dari MLOps ke LLMOps
- Kitaran Hayat LLM
- Alat untuk Kitaran Hayat
- Metrik dan Penilaian Kitaran Hayat
LLM adalah alat baru dalam senjata Kecerdasan Buatan, ia sangat berkuasa dalam tugas analisis dan generasi untuk aplikasi. Namun, kuasa ini membawa beberapa kesan terhadap cara kita mengoptimumkan tugas AI dan Pembelajaran Mesin Klasik.
Dengan ini, kita memerlukan Paradigma baru untuk menyesuaikan alat ini secara dinamik, dengan insentif yang betul. Kita boleh mengkategorikan aplikasi AI lama sebagai "Aplikasi ML" dan aplikasi AI baru sebagai "Aplikasi GenAI" atau hanya "Aplikasi AI", mencerminkan teknologi dan teknik utama yang digunakan pada masa itu. Ini mengubah naratif kita dalam pelbagai cara, lihat perbandingan berikut.
Perhatikan bahawa dalam LLMOps, kita lebih fokus kepada Pembangun Aplikasi, menggunakan integrasi sebagai titik utama, menggunakan "Model-sebagai-Perkhidmatan" dan memikirkan perkara berikut untuk metrik.
- Kualiti: Kualiti respons
- Bahaya: AI yang bertanggungjawab
- Kejujuran: Ketepatan respons (Adakah masuk akal? Adakah ia betul?)
- Kos: Bajet penyelesaian
- Kelewatan: Masa purata untuk respons token
Pertama, untuk memahami kitaran hayat dan pengubahsuaian, mari kita perhatikan infografik berikut.
Seperti yang anda perhatikan, ini berbeza daripada Kitaran Hayat biasa dalam MLOps. LLM mempunyai banyak keperluan baru, seperti Prompting, teknik berbeza untuk meningkatkan kualiti (Fine-Tuning, RAG, Meta-Prompts), penilaian dan tanggungjawab dengan AI yang bertanggungjawab, dan akhirnya, metrik penilaian baru (Kualiti, Bahaya, Kejujuran, Kos dan Kelewatan).
Sebagai contoh, lihat bagaimana kita mencipta idea. Menggunakan kejuruteraan prompt untuk bereksperimen dengan pelbagai LLM bagi meneroka kemungkinan untuk menguji sama ada Hipotesis mereka boleh betul.
Perhatikan bahawa ini bukan linear, tetapi gelung bersepadu, iteratif dan dengan kitaran menyeluruh.
Bagaimana kita boleh meneroka langkah-langkah tersebut? Mari kita perincikan bagaimana kita boleh membina kitaran hayat.
Ini mungkin kelihatan agak rumit, mari kita fokus pada tiga langkah besar terlebih dahulu.
- Mencipta Idea/Meneroka: Penerokaan, di sini kita boleh meneroka mengikut keperluan perniagaan kita. Membuat prototaip, mencipta PromptFlow dan menguji sama ada ia cukup cekap untuk Hipotesis kita.
- Membina/Meningkatkan: Pelaksanaan, sekarang, kita mula menilai untuk dataset yang lebih besar, melaksanakan teknik seperti Fine-tuning dan RAG, untuk memeriksa ketahanan penyelesaian kita. Jika tidak, melaksanakannya semula, menambah langkah baru dalam aliran kita atau menyusun semula data, mungkin membantu. Selepas menguji aliran dan skala kita, jika ia berfungsi dan memenuhi Metrik kita, ia sedia untuk langkah seterusnya.
- Mengoperasikan: Integrasi, kini menambah Sistem Pemantauan dan Amaran kepada sistem kita, pelaksanaan dan integrasi aplikasi kepada Aplikasi kita.
Kemudian, kita mempunyai kitaran menyeluruh Pengurusan, yang memberi tumpuan kepada keselamatan, pematuhan dan tadbir urus.
Tahniah, kini anda mempunyai Aplikasi AI yang sedia untuk digunakan dan beroperasi. Untuk pengalaman langsung, lihat Demo Contoso Chat.
Sekarang, alat apa yang boleh kita gunakan?
Untuk alat, Microsoft menyediakan Platform AI Azure dan PromptFlow untuk memudahkan dan menjadikan kitaran anda mudah dilaksanakan dan sedia digunakan.
Platform AI Azure membolehkan anda menggunakan AI Studio. AI Studio adalah portal web yang membolehkan anda meneroka model, sampel dan alat. Menguruskan sumber anda, aliran pembangunan UI dan pilihan SDK/CLI untuk pembangunan berasaskan kod.
Azure AI membolehkan anda menggunakan pelbagai sumber untuk menguruskan operasi, perkhidmatan, projek, carian vektor dan keperluan pangkalan data anda.
Bina, dari Bukti-Konsep (POC) sehingga aplikasi berskala besar dengan PromptFlow:
- Reka bentuk dan bina aplikasi dari VS Code, dengan alat visual dan fungsional
- Uji dan tingkatkan aplikasi anda untuk AI berkualiti, dengan mudah.
- Gunakan AI Studio Azure untuk Integrasi dan Iterasi dengan awan, Push dan Deploy untuk integrasi pantas.
Hebat, kini pelajari lebih lanjut tentang bagaimana kami menyusun aplikasi untuk menggunakan konsep dengan Aplikasi Contoso Chat, untuk melihat bagaimana Cloud Advocacy menambah konsep tersebut dalam demonstrasi. Untuk kandungan lebih lanjut, lihat sesi pecahan di Ignite!
Sekarang, lihat Pelajaran 15, untuk memahami bagaimana Retrieval Augmented Generation dan Pangkalan Data Vektor mempengaruhi AI Generatif dan untuk membuat Aplikasi yang lebih menarik!
Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat penting, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.