Home
» ويكي
»
مايكروسوفت تعلن عن أداة جديدة لاكتشاف وتصحيح المحتوى الهلوسي في مخرجات الذكاء الاصطناعي
مايكروسوفت تعلن عن أداة جديدة لاكتشاف وتصحيح المحتوى الهلوسي في مخرجات الذكاء الاصطناعي
سجل واكسب 1000 دولار في اليوم ⋙
Azure AI Content Safety هي خدمة الذكاء الاصطناعي من Microsoft التي تساعد في اكتشاف المحتوى الضار الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي عبر التطبيقات والخدمات والمنصات. توفر هذه الأداة المساعدة واجهات برمجة التطبيقات النصية والصورية، مما يسمح للمطورين بتحديد المحتوى غير المرغوب فيه.
تتمكن واجهة برمجة التطبيقات Groundedness في Azure AI Content Safety من تحديد ما إذا كانت الاستجابة من نموذج لغة كبير تعتمد على مستند مصدر محدد من قبل المستخدم. نظرًا لأن نماذج اللغة الكبيرة الحالية يمكن أن تنتج معلومات غير دقيقة أو خاطئة (معلومات وهمية)، تساعد واجهة برمجة التطبيقات هذه المطورين على تحديد مثل هذا المحتوى في بيانات إخراج الذكاء الاصطناعي.
أعلنت شركة مايكروسوفت اليوم عن معاينة للإصلاح. ونتيجة لذلك، أصبح بإمكان المطورين الآن اكتشاف المحتوى "الوهمي" في بيانات مخرجات الذكاء الاصطناعي وتصحيحه في الوقت الفعلي، مما يضمن للمستخدمين النهائيين تلقي محتوى دقيق من إنتاج الذكاء الاصطناعي دائمًا. تعمل هذه الميزة على النحو التالي:
يتيح مطور التطبيق إمكانية التحرير.
عند اكتشاف بيانات غير صحيحة، يتم إرسال طلب جديد إلى نموذج الذكاء الاصطناعي لتصحيح الخطأ.
ستقوم خوارزمية LLM بتقييم النتيجة الإجمالية بناءً على المستندات الموثوقة.
قد يتم استبعاد الجمل التي لا تتعلق بالمستند الأساسي الموثق بالكامل.
إذا تم اشتقاق المحتوى من مستند أساسي، فسوف يقوم النموذج الأساسي بإعادة كتابة الجملة غير المثبتة لتتناسب مع المستند.
إلى جانب ميزة التحرير، أعلنت Microsoft أيضًا عن معاينة عامة لـ Hybrid Azure AI Content Safety (AACS). تتيح هذه الميزة للمطورين تنفيذ آليات أمان المحتوى في السحابة وعلى الجهاز. تتيح مجموعة أدوات تطوير البرامج المضمنة الخاصة بـ AACS إجراء عمليات فحص أمان المحتوى في الوقت الفعلي مباشرة على الجهاز، حتى بدون اتصال بالإنترنت.
أخيرًا، أعلنت Microsoft عن معاينة لـ Protected Materials Detection for Code والتي يمكن استخدامها مع تطبيقات الذكاء الاصطناعي لتوليد التعليمات البرمجية للكشف عما إذا كان LLM يقوم بتوليد أي تعليمات برمجية محمية. كانت هذه الميزة متاحة سابقًا فقط من خلال خدمة Azure OpenAI. أصبحت Microsoft الآن توفر ميزة اكتشاف المواد المحمية للكود للعملاء لاستخدامها بالاشتراك مع نماذج الذكاء الاصطناعي الأخرى لتوليد الكود.