Soalan penting untuk semua aplikasi AI ialah kepentingan ciri AI, kerana AI adalah bidang yang berkembang pesat, untuk memastikan aplikasi anda kekal relevan, boleh dipercayai, dan kukuh, anda perlu memantau, menilai, dan memperbaikinya secara berterusan. Di sinilah kitaran hayat AI generatif berperanan.
Kitaran hayat AI generatif adalah rangka kerja yang membimbing anda melalui peringkat membangunkan, melaksanakan, dan menyelenggara aplikasi AI generatif. Ia membantu anda untuk menentukan matlamat anda, mengukur prestasi anda, mengenal pasti cabaran anda, dan melaksanakan penyelesaian anda. Ia juga membantu anda untuk menyelaraskan aplikasi anda dengan piawaian etika dan undang-undang dalam domain dan pihak berkepentingan anda. Dengan mengikuti kitaran hayat AI generatif, anda boleh memastikan aplikasi anda sentiasa memberikan nilai dan memuaskan pengguna anda.
Dalam bab ini, anda akan:
- Memahami Peralihan Paradigma dari MLOps ke LLMOps
- Kitaran Hayat LLM
- Alat Kitaran Hayat
- Metrifikasi dan Penilaian Kitaran Hayat
LLM adalah alat baru dalam arsenal Kecerdasan Buatan, mereka sangat berkuasa dalam tugas analisis dan penjanaan untuk aplikasi, namun kuasa ini mempunyai beberapa kesan dalam cara kita melicinkan tugas AI dan Pembelajaran Mesin Klasik.
Dengan ini, kita memerlukan Paradigma baru untuk menyesuaikan alat ini secara dinamik, dengan insentif yang betul. Kita boleh mengkategorikan aplikasi AI lama sebagai "Aplikasi ML" dan aplikasi AI baru sebagai "Aplikasi GenAI" atau hanya "Aplikasi AI", mencerminkan teknologi dan teknik arus perdana yang digunakan pada masa itu. Ini mengubah naratif kita dalam pelbagai cara, lihat perbandingan berikut.
Perhatikan bahawa dalam LLMOps, kita lebih fokus pada Pembangun Aplikasi, menggunakan integrasi sebagai titik utama, menggunakan "Model-sebagai-Perkhidmatan" dan berfikir dalam perkara berikut untuk metrik.
- Kualiti: Kualiti respons
- Kerosakan: AI Bertanggungjawab
- Kejujuran: Ketepatan respons (Masuk akal? Betul?)
- Kos: Bajet Penyelesaian
- Latensi: Purata masa untuk respons token
Pertama, untuk memahami kitaran hayat dan pengubahsuaian, mari perhatikan infografik berikut.
Seperti yang anda perhatikan, ini berbeza daripada Kitaran Hayat biasa dari MLOps. LLM mempunyai banyak keperluan baru, seperti Prompting, teknik berbeza untuk meningkatkan kualiti (Fine-Tuning, RAG, Meta-Prompts), penilaian dan tanggungjawab berbeza dengan AI bertanggungjawab, akhirnya, metrik penilaian baru (Kualiti, Kerosakan, Kejujuran, Kos dan Latensi).
Sebagai contoh, lihat bagaimana kita berideasi. Menggunakan kejuruteraan prompt untuk bereksperimen dengan pelbagai LLM untuk meneroka kemungkinan menguji jika Hipotesis mereka boleh betul.
Perhatikan bahawa ini bukan linear, tetapi gelung terintegrasi, iteratif dan dengan kitaran menyeluruh.
Bagaimana kita boleh meneroka langkah-langkah tersebut? Mari kita lihat dengan lebih terperinci bagaimana kita boleh membina kitaran hayat.
Ini mungkin kelihatan agak rumit, mari fokus pada tiga langkah besar dahulu.
- Berideasi/Meneroka: Eksplorasi, di sini kita boleh meneroka mengikut keperluan perniagaan kita. Membuat prototaip, mencipta PromptFlow dan menguji jika ia cukup cekap untuk Hipotesis kita.
- Membina/Meningkatkan: Pelaksanaan, sekarang, kita mula menilai untuk set data yang lebih besar melaksanakan teknik, seperti Fine-tuning dan RAG, untuk memeriksa ketahanan penyelesaian kita. Jika tidak, melaksanakan semula, menambah langkah baru dalam aliran kita atau menyusun semula data, mungkin membantu. Selepas menguji aliran dan skala kita, jika ia berfungsi dan memeriksa Metrik kita, ia sedia untuk langkah seterusnya.
- Mengoperasikan: Integrasi, kini menambah Sistem Pemantauan dan Amaran ke sistem kita, pelaksanaan dan integrasi aplikasi ke Aplikasi kita.
Kemudian, kita mempunyai kitaran menyeluruh Pengurusan, menumpukan pada keselamatan, pematuhan dan tadbir urus.
Tahniah, kini anda mempunyai Aplikasi AI anda sedia untuk digunakan dan beroperasi. Untuk pengalaman praktikal, lihat Demo Chat Contoso.
Sekarang, alat apa yang boleh kita gunakan?
Untuk Alat, Microsoft menyediakan Azure AI Platform dan PromptFlow memudahkan dan menjadikan kitaran anda mudah dilaksanakan dan sedia untuk digunakan.
Azure AI Platform, membolehkan anda menggunakan AI Studio. AI Studio adalah portal web yang membolehkan anda Meneroka model, contoh dan alat. Mengurus sumber anda, aliran pembangunan UI dan pilihan SDK/CLI untuk pembangunan Berasaskan Kod.
Azure AI, membolehkan anda menggunakan pelbagai sumber, untuk mengurus operasi, perkhidmatan, projek, carian vektor dan keperluan pangkalan data anda.
Membina, dari Bukti-Konsep (POC) sehingga aplikasi skala besar dengan PromptFlow:
- Reka dan Bina aplikasi dari VS Code, dengan alat visual dan fungsional
- Uji dan laraskan aplikasi anda untuk AI berkualiti, dengan mudah.
- Gunakan Azure AI Studio untuk Integrasi dan Iterasi dengan awan, Tolak dan Lancarkan untuk integrasi cepat.
Hebat, kini pelajari lebih lanjut tentang bagaimana kita menyusun aplikasi untuk menggunakan konsep dengan Aplikasi Chat Contoso, untuk melihat bagaimana Cloud Advocacy menambah konsep tersebut dalam demonstrasi. Untuk lebih banyak kandungan, lihat sesi pecahan Ignite kami!
Sekarang, lihat Pelajaran 15, untuk memahami bagaimana Penjanaan Dipertingkatkan Pengambilan dan Pangkalan Data Vektor memberi impak kepada AI Generatif dan untuk membuat Aplikasi lebih menarik!
Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang sahih. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.