يعرض هذا المشروع تطبيق ويب يستخدم فحص سلامة المحتوى قبل تمرير مطالبات المستخدم إلى خدمة الآلة الحاسبة عبر بروتوكول سياق النموذج (MCP).
- إدخال المستخدم: يقوم المستخدم بإدخال طلب حسابي في واجهة الويب
- فحص سلامة المحتوى (الإدخال): يتم تحليل الطلب بواسطة Azure Content Safety API
- قرار السلامة (الإدخال):
- إذا كان المحتوى آمنًا (شدة < 2 في جميع الفئات)، يتم المتابعة إلى الآلة الحاسبة
- إذا تم تصنيف المحتوى كمحتمل الضرر، يتوقف العملية ويُعاد تحذير
- تكامل الآلة الحاسبة: يتم معالجة المحتوى الآمن بواسطة LangChain4j، الذي يتواصل مع خادم الآلة الحاسبة عبر MCP
- فحص سلامة المحتوى (الإخراج): يتم تحليل رد البوت بواسطة Azure Content Safety API
- قرار السلامة (الإخراج):
- إذا كان رد البوت آمنًا، يُعرض للمستخدم
- إذا تم تصنيف رد البوت كمحتمل الضرر، يُستبدل بتحذير
- الرد: تُعرض النتائج (إذا كانت آمنة) للمستخدم مع تحليلي السلامة لكلا الطرفين
يعرض هذا المشروع كيفية استخدام بروتوكول سياق النموذج (MCP) لاستدعاء خدمات الآلة الحاسبة عبر MCP من LangChain4j. يستخدم التنفيذ خادم MCP محلي يعمل على المنفذ 8080 لتوفير عمليات الآلة الحاسبة.
قبل استخدام ميزات سلامة المحتوى، تحتاج إلى إنشاء مورد خدمة Azure Content Safety:
- سجّل الدخول إلى بوابة Azure
- انقر على "إنشاء مورد" وابحث عن "Content Safety"
- اختر "Content Safety" وانقر على "إنشاء"
- أدخل اسمًا فريدًا لموردك
- اختر اشتراكك ومجموعة الموارد (أو أنشئ مجموعة جديدة)
- اختر منطقة مدعومة (راجع توفر المناطق للتفاصيل)
- اختر خطة تسعير مناسبة
- انقر على "إنشاء" لنشر المورد
- بعد اكتمال النشر، انقر على "الانتقال إلى المورد"
- في اللوحة اليسرى، ضمن "إدارة المورد"، اختر "المفاتيح ونقطة النهاية"
- انسخ أحد المفاتيح وعنوان نقطة النهاية لاستخدامها في الخطوة التالية
قم بتعيين متغير البيئة GITHUB_TOKEN لمصادقة نماذج GitHub:
export GITHUB_TOKEN=<your_github_token>لميزات سلامة المحتوى، قم بتعيين:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>تُستخدم هذه المتغيرات من قبل التطبيق للمصادقة مع خدمة Azure Content Safety. إذا لم يتم تعيين هذه المتغيرات، سيستخدم التطبيق قيمًا افتراضية لأغراض العرض فقط، لكن ميزات سلامة المحتوى لن تعمل بشكل صحيح.
قبل تشغيل العميل، تحتاج إلى بدء خادم MCP للآلة الحاسبة في وضع SSE على localhost:8080.
يعرض هذا المشروع دمج بروتوكول سياق النموذج (MCP) مع LangChain4j لاستدعاء خدمات الآلة الحاسبة. تشمل الميزات الرئيسية:
- استخدام MCP للاتصال بخدمة الآلة الحاسبة للعمليات الحسابية الأساسية
- فحص سلامة المحتوى بطبقتين لكل من مطالبات المستخدم وردود البوت
- التكامل مع نموذج gpt-4.1-nano الخاص بـ GitHub عبر LangChain4j
- استخدام أحداث الخادم المرسلة (SSE) لنقل MCP
يتضمن المشروع ميزات شاملة لسلامة المحتوى لضمان خلو كل من مدخلات المستخدم وردود النظام من المحتوى الضار:
- فحص الإدخال: يتم تحليل جميع مطالبات المستخدم لفئات المحتوى الضار مثل خطاب الكراهية، العنف، إيذاء النفس، والمحتوى الجنسي قبل المعالجة.
- فحص الإخراج: حتى عند استخدام نماذج قد تكون غير مراقبة، يتحقق النظام من جميع الردود المولدة عبر نفس فلاتر سلامة المحتوى قبل عرضها للمستخدم.
يضمن هذا النهج ذو الطبقتين بقاء النظام آمنًا بغض النظر عن النموذج الذكي المستخدم، مما يحمي المستخدمين من كل من المدخلات الضارة والمخرجات التي قد تكون إشكالية.
يتضمن التطبيق واجهة ويب سهلة الاستخدام تتيح للمستخدمين التفاعل مع نظام الآلة الحاسبة مع سلامة المحتوى:
- نموذج بسيط وبديهي لإدخال مطالبات الحساب
- تحقق مزدوج لسلامة المحتوى (الإدخال والإخراج)
- تغذية راجعة فورية حول سلامة الطلب والرد
- مؤشرات ألوان لسهولة التفسير
- تصميم نظيف ومتجاوب يعمل على مختلف الأجهزة
- أمثلة على مطالبات آمنة لتوجيه المستخدمين
-
ابدأ التطبيق:
mvn spring-boot:run
-
افتح متصفحك وانتقل إلى
http://localhost:8087 -
أدخل طلب حسابي في منطقة النص المتوفرة (مثلاً: "احسب مجموع 24.5 و 17.3")
-
انقر على "إرسال" لمعالجة طلبك
-
عرض النتائج، والتي ستشمل:
- تحليل سلامة المحتوى لطلبك
- النتيجة المحسوبة (إذا كان الطلب آمنًا)
- تحليل سلامة المحتوى لرد البوت
- أي تحذيرات سلامة إذا تم تصنيف الإدخال أو الإخراج كمشكلة
يتولى عميل الويب تلقائيًا كلا عمليتي التحقق من سلامة المحتوى، مما يضمن أن جميع التفاعلات آمنة ومناسبة بغض النظر عن النموذج الذكي المستخدم.
إخلاء المسؤولية:
تمت ترجمة هذا المستند باستخدام خدمة الترجمة الآلية Co-op Translator. بينما نسعى لتحقيق الدقة، يرجى العلم أن الترجمات الآلية قد تحتوي على أخطاء أو عدم دقة. يجب اعتبار المستند الأصلي بلغته الأصلية المصدر الموثوق به. للمعلومات الهامة، يُنصح بالاعتماد على الترجمة البشرية المهنية. نحن غير مسؤولين عن أي سوء فهم أو تفسير ناتج عن استخدام هذه الترجمة.