برای تقویت امنیت MCP در برابر تزریق پرامپت، مسمومیت ابزار و سایر آسیبپذیریهای خاص هوش مصنوعی، توصیه میشود Azure Content Safety را یکپارچه کنید.
برای ادغام Azure Content Safety با سرور MCP خود، فیلتر ایمنی محتوا را بهعنوان میانافزار در خط لوله پردازش درخواستها اضافه کنید:
- فیلتر را هنگام راهاندازی سرور مقداردهی اولیه کنید
- تمام درخواستهای ورودی ابزار را قبل از پردازش اعتبارسنجی کنید
- تمام پاسخهای خروجی را قبل از بازگرداندن به کلاینتها بررسی کنید
- نقضهای ایمنی را ثبت و هشدار دهید
- مدیریت خطای مناسب برای بررسیهای ناموفق ایمنی محتوا پیادهسازی کنید
این کار دفاع محکمی در برابر موارد زیر فراهم میکند:
- حملات تزریق پرامپت
- تلاشهای مسمومیت ابزار
- استخراج دادهها از طریق ورودیهای مخرب
- تولید محتوای مضر
- فهرستهای مسدودسازی سفارشی: فهرستهای مسدودسازی مخصوص الگوهای تزریق MCP ایجاد کنید
- تنظیم شدت: آستانههای شدت را بر اساس مورد استفاده و میزان تحمل ریسک خود تنظیم کنید
- پوشش جامع: بررسیهای ایمنی محتوا را روی تمام ورودیها و خروجیها اعمال کنید
- بهینهسازی عملکرد: برای بررسیهای مکرر ایمنی محتوا، کشینگ را در نظر بگیرید
- مکانیزمهای جایگزین: رفتارهای جایگزین واضحی برای مواقعی که سرویسهای ایمنی محتوا در دسترس نیستند تعریف کنید
- بازخورد به کاربر: هنگام مسدود شدن محتوا به دلیل نگرانیهای ایمنی، بازخورد واضحی به کاربران ارائه دهید
- بهبود مستمر: فهرستها و الگوها را بر اساس تهدیدات نوظهور بهطور منظم بهروزرسانی کنید
سلب مسئولیت:
این سند با استفاده از سرویس ترجمه هوش مصنوعی Co-op Translator ترجمه شده است. در حالی که ما در تلاش برای دقت هستیم، لطفاً توجه داشته باشید که ترجمههای خودکار ممکن است حاوی خطاها یا نواقصی باشند. سند اصلی به زبان بومی خود باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حیاتی، ترجمه حرفهای انسانی توصیه میشود. ما مسئول هیچ گونه سوءتفاهم یا تفسیر نادرستی که از استفاده این ترجمه ناشی شود، نیستیم.