Klik gambar di atas untuk menonton video pelajaran ini
AI, khususnya AI generatif, memang sangat menarik, tetapi Anda perlu mempertimbangkan bagaimana menggunakannya secara bertanggung jawab. Anda harus memikirkan cara memastikan outputnya adil, tidak berbahaya, dan lainnya. Bab ini bertujuan untuk memberikan konteks yang disebutkan, hal-hal yang perlu dipertimbangkan, dan langkah-langkah aktif yang dapat diambil untuk meningkatkan penggunaan AI Anda.
Pelajaran ini akan membahas:
- Mengapa Anda harus memprioritaskan AI yang Bertanggung Jawab saat membangun aplikasi AI Generatif.
- Prinsip-prinsip inti AI yang Bertanggung Jawab dan bagaimana kaitannya dengan AI Generatif.
- Cara menerapkan prinsip-prinsip AI yang Bertanggung Jawab melalui strategi dan alat.
Setelah menyelesaikan pelajaran ini, Anda akan mengetahui:
- Pentingnya AI yang Bertanggung Jawab saat membangun aplikasi AI Generatif.
- Kapan harus memikirkan dan menerapkan prinsip-prinsip inti AI yang Bertanggung Jawab saat membangun aplikasi AI Generatif.
- Alat dan strategi apa saja yang tersedia untuk menerapkan konsep AI yang Bertanggung Jawab.
Antusiasme terhadap AI Generatif tidak pernah setinggi ini. Antusiasme ini telah menarik banyak pengembang baru, perhatian, dan pendanaan ke bidang ini. Meskipun ini sangat positif bagi siapa saja yang ingin membangun produk dan perusahaan menggunakan AI Generatif, penting juga untuk melangkah dengan penuh tanggung jawab.
Sepanjang kursus ini, kita akan fokus pada pembangunan startup dan produk pendidikan AI kita. Kita akan menggunakan prinsip-prinsip AI yang Bertanggung Jawab: Keadilan, Inklusivitas, Keandalan/Keamanan, Keamanan & Privasi, Transparansi, dan Akuntabilitas. Dengan prinsip-prinsip ini, kita akan mengeksplorasi bagaimana kaitannya dengan penggunaan AI Generatif dalam produk kita.
Saat membangun produk, pendekatan yang berpusat pada manusia dengan mengutamakan kepentingan terbaik pengguna Anda akan menghasilkan hasil terbaik.
Keunikan AI Generatif adalah kemampuannya untuk menciptakan jawaban, informasi, panduan, dan konten yang bermanfaat bagi pengguna. Hal ini dapat dilakukan tanpa banyak langkah manual yang dapat menghasilkan hasil yang sangat mengesankan. Namun, tanpa perencanaan dan strategi yang tepat, hal ini juga dapat menyebabkan hasil yang merugikan bagi pengguna Anda, produk Anda, dan masyarakat secara keseluruhan.
Mari kita lihat beberapa (tetapi tidak semua) potensi hasil yang merugikan ini:
Halusinasi adalah istilah yang digunakan untuk menggambarkan ketika LLM menghasilkan konten yang sepenuhnya tidak masuk akal atau sesuatu yang kita tahu salah secara faktual berdasarkan sumber informasi lainnya.
Sebagai contoh, kita membangun fitur untuk startup kita yang memungkinkan siswa mengajukan pertanyaan sejarah kepada model. Seorang siswa bertanya, Siapa satu-satunya yang selamat dari Titanic?
Model menghasilkan jawaban seperti di bawah ini:
(Sumber: Flying bisons)
Ini adalah jawaban yang sangat percaya diri dan mendetail. Sayangnya, jawaban ini salah. Bahkan dengan sedikit penelitian, seseorang akan menemukan bahwa ada lebih dari satu orang yang selamat dari bencana Titanic. Bagi seorang siswa yang baru mulai meneliti topik ini, jawaban ini bisa cukup meyakinkan untuk tidak dipertanyakan dan dianggap sebagai fakta. Konsekuensi dari hal ini dapat menyebabkan sistem AI menjadi tidak dapat diandalkan dan berdampak negatif pada reputasi startup kita.
Dengan setiap iterasi dari LLM tertentu, kita telah melihat peningkatan kinerja dalam meminimalkan halusinasi. Meskipun ada peningkatan ini, kita sebagai pembangun aplikasi dan pengguna tetap perlu menyadari keterbatasan ini.
Kita telah membahas di bagian sebelumnya ketika LLM menghasilkan respons yang salah atau tidak masuk akal. Risiko lain yang perlu kita sadari adalah ketika model merespons dengan konten yang berbahaya.
Konten berbahaya dapat didefinisikan sebagai:
- Memberikan instruksi atau mendorong tindakan menyakiti diri sendiri atau kelompok tertentu.
- Konten yang penuh kebencian atau merendahkan.
- Membimbing perencanaan serangan atau tindakan kekerasan apa pun.
- Memberikan instruksi tentang cara menemukan konten ilegal atau melakukan tindakan ilegal.
- Menampilkan konten yang eksplisit secara seksual.
Untuk startup kita, kita ingin memastikan bahwa kita memiliki alat dan strategi yang tepat untuk mencegah jenis konten ini dilihat oleh siswa.
Keadilan didefinisikan sebagai “memastikan bahwa sistem AI bebas dari bias dan diskriminasi serta memperlakukan semua orang secara adil dan setara.” Dalam dunia AI Generatif, kita ingin memastikan bahwa pandangan dunia yang eksklusif terhadap kelompok yang terpinggirkan tidak diperkuat oleh output model.
Jenis output ini tidak hanya merusak pengalaman produk yang positif bagi pengguna kita, tetapi juga menyebabkan kerugian sosial lebih lanjut. Sebagai pembangun aplikasi, kita harus selalu mempertimbangkan basis pengguna yang luas dan beragam saat membangun solusi dengan AI Generatif.
Sekarang kita telah mengidentifikasi pentingnya AI Generatif yang Bertanggung Jawab, mari kita lihat 4 langkah yang dapat kita ambil untuk membangun solusi AI kita secara bertanggung jawab:
Dalam pengujian perangkat lunak, kita menguji tindakan yang diharapkan dari pengguna pada aplikasi. Demikian pula, menguji serangkaian prompt yang beragam yang kemungkinan besar akan digunakan oleh pengguna adalah cara yang baik untuk mengukur potensi kerugian.
Karena startup kita sedang membangun produk pendidikan, akan baik untuk menyiapkan daftar prompt terkait pendidikan. Ini bisa mencakup subjek tertentu, fakta sejarah, dan prompt tentang kehidupan siswa.
Sekarang saatnya menemukan cara di mana kita dapat mencegah atau membatasi potensi kerugian yang disebabkan oleh model dan responsnya. Kita dapat melihat ini dalam 4 lapisan berbeda:
-
Model. Memilih model yang tepat untuk kasus penggunaan yang tepat. Model yang lebih besar dan lebih kompleks seperti GPT-4 dapat menimbulkan risiko konten berbahaya yang lebih besar ketika diterapkan pada kasus penggunaan yang lebih kecil dan lebih spesifik. Menggunakan data pelatihan Anda untuk fine-tuning juga mengurangi risiko konten berbahaya.
-
Sistem Keamanan. Sistem keamanan adalah seperangkat alat dan konfigurasi pada platform yang melayani model yang membantu mengurangi kerugian. Contohnya adalah sistem penyaringan konten pada layanan Azure OpenAI. Sistem juga harus mendeteksi serangan jailbreak dan aktivitas yang tidak diinginkan seperti permintaan dari bot.
-
Metaprompt. Metaprompt dan grounding adalah cara kita dapat mengarahkan atau membatasi model berdasarkan perilaku dan informasi tertentu. Ini bisa berupa penggunaan input sistem untuk mendefinisikan batasan tertentu dari model. Selain itu, memberikan output yang lebih relevan dengan cakupan atau domain sistem.
Ini juga bisa berupa penggunaan teknik seperti Retrieval Augmented Generation (RAG) untuk membuat model hanya mengambil informasi dari pilihan sumber yang terpercaya. Ada pelajaran nanti dalam kursus ini tentang membangun aplikasi pencarian
- Pengalaman Pengguna. Lapisan terakhir adalah tempat pengguna berinteraksi langsung dengan model melalui antarmuka aplikasi kita dengan cara tertentu. Dengan cara ini kita dapat merancang UI/UX untuk membatasi pengguna pada jenis input yang dapat mereka kirim ke model serta teks atau gambar yang ditampilkan kepada pengguna. Saat meluncurkan aplikasi AI, kita juga harus transparan tentang apa yang dapat dan tidak dapat dilakukan oleh aplikasi AI Generatif kita.
Kami memiliki pelajaran khusus tentang Merancang UX untuk Aplikasi AI
- Evaluasi model. Bekerja dengan LLM bisa menjadi tantangan karena kita tidak selalu memiliki kendali atas data yang digunakan untuk melatih model. Meskipun demikian, kita harus selalu mengevaluasi kinerja dan output model. Penting untuk mengukur akurasi, kesamaan, keterkaitan, dan relevansi output model. Hal ini membantu memberikan transparansi dan kepercayaan kepada pemangku kepentingan dan pengguna.
Membangun praktik operasional di sekitar aplikasi AI Anda adalah tahap akhir. Ini mencakup bekerja sama dengan bagian lain dari startup kita seperti Legal dan Keamanan untuk memastikan kita mematuhi semua kebijakan regulasi. Sebelum meluncurkan, kita juga ingin membangun rencana seputar pengiriman, penanganan insiden, dan rollback untuk mencegah kerugian kepada pengguna kita.
Meskipun pekerjaan mengembangkan solusi AI yang Bertanggung Jawab tampaknya banyak, ini adalah pekerjaan yang sangat berharga. Seiring berkembangnya area AI Generatif, semakin banyak alat untuk membantu pengembang mengintegrasikan tanggung jawab ke dalam alur kerja mereka secara efisien akan berkembang. Misalnya, Azure AI Content Safety dapat membantu mendeteksi konten dan gambar berbahaya melalui permintaan API.
Apa saja hal yang perlu Anda perhatikan untuk memastikan penggunaan AI yang bertanggung jawab?
- Bahwa jawabannya benar.
- Penggunaan yang berbahaya, bahwa AI tidak digunakan untuk tujuan kriminal.
- Memastikan AI bebas dari bias dan diskriminasi.
A: 2 dan 3 benar. AI yang Bertanggung Jawab membantu Anda mempertimbangkan cara mengurangi efek berbahaya dan bias serta lainnya.
Pelajari lebih lanjut tentang Azure AI Content Safety dan lihat apa yang dapat Anda adopsi untuk penggunaan Anda.
Setelah menyelesaikan pelajaran ini, lihat koleksi Pembelajaran AI Generatif kami untuk terus meningkatkan pengetahuan Anda tentang AI Generatif!
Lanjutkan ke Pelajaran 4 di mana kita akan membahas Dasar-dasar Teknik Prompt!
Penafian:
Dokumen ini telah diterjemahkan menggunakan layanan penerjemahan AI Co-op Translator. Meskipun kami berupaya untuk memberikan hasil yang akurat, harap diketahui bahwa terjemahan otomatis mungkin mengandung kesalahan atau ketidakakuratan. Dokumen asli dalam bahasa aslinya harus dianggap sebagai sumber yang otoritatif. Untuk informasi yang penting, disarankan menggunakan jasa penerjemahan manusia profesional. Kami tidak bertanggung jawab atas kesalahpahaman atau penafsiran yang timbul dari penggunaan terjemahan ini.