يستعرض هذا المشروع تطبيق ويب يستخدم فحص سلامة المحتوى قبل إرسال طلبات المستخدم إلى خدمة الحاسبة عبر بروتوكول سياق النموذج (MCP).
- إدخال المستخدم: يقوم المستخدم بإدخال طلب حسابي في واجهة الويب
- فحص سلامة المحتوى (الإدخال): يتم تحليل الطلب بواسطة واجهة برمجة تطبيقات سلامة المحتوى من Azure
- قرار السلامة (الإدخال):
- إذا كان المحتوى آمنًا (شدة < 2 في جميع الفئات)، يتم إرساله إلى الحاسبة
- إذا تم اعتبار المحتوى ضارًا، تتوقف العملية وتُرجع تحذيرًا
- تكامل الحاسبة: يتم معالجة المحتوى الآمن بواسطة LangChain4j، الذي يتواصل مع خادم الحاسبة MCP
- فحص سلامة المحتوى (الإخراج): يتم تحليل استجابة الروبوت بواسطة واجهة برمجة تطبيقات سلامة المحتوى من Azure
- قرار السلامة (الإخراج):
- إذا كانت استجابة الروبوت آمنة، تُعرض للمستخدم
- إذا كانت استجابة الروبوت تعتبر ضارة، يتم استبدالها بتحذير
- الاستجابة: تُعرض النتائج (إذا كانت آمنة) للمستخدم مع كلا تحليلي السلامة
يستعرض هذا المشروع كيفية استخدام بروتوكول سياق النموذج (MCP) لاستدعاء خدمات الحاسبة MCP من LangChain4j. يستخدم التنفيذ خادم MCP محلي يعمل على المنفذ 8080 لتوفير عمليات الحاسبة.
قبل استخدام ميزات سلامة المحتوى، تحتاج إلى إنشاء مورد خدمة سلامة المحتوى من Azure:
- تسجيل الدخول إلى بوابة Azure
- انقر على "إنشاء مورد" وابحث عن "سلامة المحتوى"
- اختر "سلامة المحتوى" وانقر على "إنشاء"
- أدخل اسمًا فريدًا لموردك
- اختر اشتراكك ومجموعة الموارد الخاصة بك (أو أنشئ واحدة جديدة)
- اختر منطقة مدعومة (تحقق من توفر المنطقة للحصول على التفاصيل)
- اختر مستوى التسعير المناسب
- انقر على "إنشاء" لنشر المورد
- بمجرد اكتمال النشر، انقر على "الانتقال إلى المورد"
- في اللوحة اليسرى، ضمن "إدارة الموارد"، اختر "المفاتيح ونقطة النهاية"
- انسخ أحد المفاتيح وعنوان URL لنقطة النهاية للاستخدام في الخطوة التالية
قم بتعيين متغير البيئة GITHUB_TOKEN لمصادقة نماذج GitHub:
export GITHUB_TOKEN=<your_github_token>لميزات سلامة المحتوى، قم بتعيين:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>تُستخدم هذه المتغيرات البيئية بواسطة التطبيق للمصادقة مع خدمة سلامة المحتوى من Azure. إذا لم يتم تعيين هذه المتغيرات، سيستخدم التطبيق قيمًا افتراضية لأغراض العرض، لكن ميزات سلامة المحتوى لن تعمل بشكل صحيح.
قبل تشغيل العميل، تحتاج إلى بدء تشغيل خادم الحاسبة MCP في وضع SSE على localhost:8080.
يستعرض هذا المشروع تكامل بروتوكول سياق النموذج (MCP) مع LangChain4j لاستدعاء خدمات الحاسبة. تشمل الميزات الرئيسية:
- استخدام MCP للاتصال بخدمة الحاسبة للعمليات الرياضية الأساسية
- فحص سلامة المحتوى ذو الطبقتين على كل من طلبات المستخدم واستجابات الروبوت
- تكامل مع نموذج gpt-4.1-nano من GitHub عبر LangChain4j
- استخدام أحداث الخادم المرسلة (SSE) لنقل MCP
يشمل المشروع ميزات سلامة المحتوى الشاملة لضمان أن تكون كل من إدخالات المستخدم واستجابات النظام خالية من المحتوى الضار:
-
فحص الإدخال: يتم تحليل جميع طلبات المستخدم لفئات المحتوى الضار مثل خطاب الكراهية والعنف وإيذاء الذات والمحتوى الجنسي قبل المعالجة.
-
فحص الإخراج: حتى عند استخدام نماذج غير مراقبة، يقوم النظام بفحص جميع الاستجابات المولدة من خلال نفس فلاتر سلامة المحتوى قبل عرضها على المستخدم.
يضمن هذا النهج ذو الطبقتين أن يظل النظام آمنًا بغض النظر عن النموذج الذكائي المستخدم، مما يحمي المستخدمين من كل من الإدخالات الضارة والنتائج المحتملة التي يولدها الذكاء الاصطناعي.
يشمل التطبيق واجهة ويب سهلة الاستخدام تتيح للمستخدمين التفاعل مع نظام الحاسبة لسلامة المحتوى:
- نموذج بسيط وسهل لإدخال طلبات الحساب
- تحقق سلامة المحتوى ذو الطبقتين (الإدخال والإخراج)
- ردود فعل فورية على سلامة الطلب والاستجابة
- مؤشرات سلامة مرمزة بالألوان لسهولة التفسير
- تصميم نظيف ومتجاوب يعمل على مختلف الأجهزة
- أمثلة على الطلبات الآمنة لإرشاد المستخدمين
-
ابدأ التطبيق:
mvn spring-boot:run
-
افتح المتصفح وانتقل إلى
http://localhost:8087 -
أدخل طلب حساب في منطقة النص المخصصة (مثل "احسب مجموع 24.5 و17.3")
-
انقر على "إرسال" لمعالجة الطلب
-
عرض النتائج، والتي ستشمل:
- تحليل سلامة المحتوى لطلبك
- النتيجة المحسوبة (إذا كان الطلب آمنًا)
- تحليل سلامة المحتوى لاستجابة الروبوت
- أي تحذيرات سلامة إذا تم اعتبار الإدخال أو الإخراج ضارًا
يتولى العميل الويب تلقائيًا كلا عمليتي التحقق من سلامة المحتوى، مما يضمن أن تكون جميع التفاعلات آمنة ومناسبة بغض النظر عن النموذج الذكائي المستخدم.
إخلاء المسؤولية:
تمت ترجمة هذه الوثيقة باستخدام خدمة الترجمة بالذكاء الاصطناعي Co-op Translator. بينما نسعى لتحقيق الدقة، يرجى العلم أن الترجمات الآلية قد تحتوي على أخطاء أو عدم دقة. يجب اعتبار الوثيقة الأصلية بلغتها الأم هي المصدر الرسمي. للمعلومات الهامة، يوصى بالترجمة البشرية الاحترافية. نحن غير مسؤولين عن أي سوء فهم أو تفسير خاطئ ينشأ عن استخدام هذه الترجمة.