Risiko OWASP MCP yang Ditangani: MCP06 - Suntikan Prompt melalui Payload Kontekstual
Untuk menguatkan keselamatan MCP terhadap suntikan prompt, pencemaran alat, dan kerentanan khusus AI lain, pengintegrasian Azure Content Safety sangat disyorkan. Panduan pelaksanaan ini selaras dengan Bengkel Sidang Kemuncak Keselamatan MCP (Sherpa) Kem 3: Keselamatan I/O.
Untuk mengintegrasikan Azure Content Safety dengan pelayan MCP anda, tambahkan penapis keselamatan kandungan sebagai middleware dalam saluran pemprosesan permintaan anda:
- Inisialisasi penapis semasa permulaan pelayan
- Sahkan semua permintaan alat yang masuk sebelum pemprosesan
- Periksa semua respons yang keluar sebelum mengembalikannya ke klien
- Log dan beri amaran mengenai pelanggaran keselamatan
- Laksanakan pengendalian ralat yang sesuai untuk kegagalan pemeriksaan keselamatan kandungan
Ini menyediakan pertahanan kukuh terhadap:
- Serangan suntikan prompt
- Percubaan pencemaran alat
- Eksfiltrasi data melalui input berbahaya
- Penjanaan kandungan berbahaya
- Senarai Hitam Tersuai: Cipta senarai hitam tersuai khusus untuk corak suntikan MCP
- Pelarasan Keseriusan: Laraskan ambang keseriusan berdasarkan kes penggunaan dan toleransi risiko anda
- Liputan Menyeluruh: Gunakan pemeriksaan keselamatan kandungan untuk semua input dan output
- Pengoptimuman Prestasi: Pertimbangkan pelaksanaan penimbanan untuk pemeriksaan keselamatan kandungan berulang
- Mekanisme Sandaran: Tetapkan tingkah laku sandaran yang jelas apabila perkhidmatan keselamatan kandungan tidak tersedia
- Maklum Balas Pengguna: Berikan maklum balas yang jelas kepada pengguna apabila kandungan disekat disebabkan kebimbangan keselamatan
- Penambahbaikan Berterusan: Kemas kini secara berkala senarai hitam dan corak berdasarkan ancaman terkini
- Panduan Keselamatan OWASP MCP Azure - OWASP MCP Top 10 komprehensif dengan pelaksanaan Azure
- MCP06 - Suntikan Prompt - Corak mitigasi suntikan prompt terperinci
- Bengkel Sidang Kemuncak Keselamatan MCP - Kem Hands-on 3: Keselamatan I/O merangkumi keselamatan kandungan
- Gambaran Keselamatan Kandungan Azure
- Dokumentasi Pelindung Prompt
- Permulaan Pantas Keselamatan Kandungan Azure AI
- Kembali ke: Gambaran Keselamatan Modul
- Teruskan ke: Modul 3: Memulakan
Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya hendaklah dianggap sebagai sumber yang sahih. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.