نظام الذكاء الاصطناعي الجديد للمساعدة في معالجة المحتوى الضار

  • يمكن أن يتطور المحتوى الضار بسرعة، لذلك قمنا ببناء تقنية ذكاء اصطناعي جديدة يمكنها التكيف بسهولة أكبر لاتخاذ إجراءات بشأن أنواع جديدة أو متطورة من المحتوى الضار بشكل أسرع.
  • يستخدم نظام الذكاء الاصطناعي الجديد “few-shot learning“، بدءًا من الفهم العام للموضوع ثم يستخدم عددًا أقل من الأمثلة المصنفة لتعلم مهام جديدة.

المرأة (الذكاء الاصطناعي) – الدار البيضاء، 09 دجنبر 2021 ـ يستمر المحتوى الضار في التطور بسرعة – سواء كان مدفوعاً بالأحداث الجارية أو الأشخاص الذين يبحثون عن طرق جديدة للتهرب من أنظمتنا – ومن المهم جداً أن تتطور أنظمة الذكاء الاصطناعي لتواكب مثل هذا المحتوى. ولكن الذكاء الاصطناعي وعادة ما يستغرق عدة أشهر لجمع وتسمية الآلاف، إن لم يكن الملايين، من الأمثلة اللازمة لتدريب كل نظام ذكاء اصطناعي فردي لاكتشاف نوع جديد من المحتوى.

لمعالجة هذه العقبة، قمنا مؤخراً ببناء ونشر تقنية ذكاء اصطناعي جديدة تسمى (Few-Shot Learner” (FSL” يمكنها التكيف لاتخاذ إجراءات بشأن الأنواع الجديدة أو المتطورة من المحتوى الضار في غضون أسابيع بدلاً من أشهر. يستخدم نظام الذكاء الاصطناعي الجديد هذا طريقة جديدة نسبيا تسمى “few-shot learning”، حيث تبدأ النماذج بفهم عام وكبير للعديد من الموضوعات المختلفة ثم تستخدم أمثلة أقل بكثير، وفي بعض الحالات صفر، يتم تحديدها لتعلم مهام جديدة. تقنية  FSL لا تعمل بأكثر من 100 لغة فقط بل تتعلم أيضا من أنواع مختلفة من البيانات، مثل الصور والنصوص. ستساعد هذه التقنية الجديدة في تعزيز أساليبنا الحالية لمعالجة المحتوى الضار.

يعمل نظامنا الجديد عبر ثلاثة سيناريوهات مختلفة، يتطلب كل منها مستويات مختلفة من الأمثلة المسماة:

  • صفر لقطات: أوصاف السياسة بدون أي أمثلة.
  • لقطات قليلة مع العرض: أوصاف السياسة مع مجموعة صغيرة من الأمثلة (ن<50).
  • لقطات قليلة مع صقل: يمكن لمطورين ML الصقل وفقاً لنموذج قاعدة FSL مع عدد قليل من الأمثلة التدريبية.

اختبرنا FSL على عدد من الأحداث الجديدة. على سبيل المثال، كانت إحدى المهام الحديثة هي تحديد المحتوى الذي يشارك معلومات مضللة أو مثيرة بطريقة من المرجح أن تثبط التطعيم ضد فيروس كورونا المستجد (على سبيل المثال، “لقاح أو مغير الحمض النووي؟”). وفي مهمة أخرى منفصلة، قام نظام الذكاء الاصطناعي الجديد بتحسين مُصَنِف موجود بالفعل يبرز المحتوى الذي يقترب من التحريض على العنف (على سبيل المثال، “هل يحتاج هذا الرجل إلى كل أسنانه؟”). قد يكون النهج التقليدي قد فوت هذه الأنواع من المنشورات الضارة، حيث لا توجد العديد من الأمثلة المسماة التي تستخدم لغة الحمض النووي للإيحاء بالتردد تجاه اللقاح أو الإشارة إلى الأسنان للتحريض على العنف. .لقد رأينا أيضا أنه، بالاشتراك مع المصنفين الحاليين، و الجهود المبذولة لتقليل المحتوى الضار بالإضافة إلى التحسينات المستمرة في تقنيتنا والتغييرات التي أجريناها لتقليل المحتوى الإشكالي في “آخر الأخبار”، ساعد FSL في تقليل انتشار المحتوى الضار الآخر مثل خطاب الكراهية.

 نعتقد أن FSL يمكنه، مع مرور الوقت، تعزيز أداء جميع أنظمة نزاهة الذكاء الاصطناعي من خلال السماح لها بالاستفادة من قاعدة معرفية وعمود فقري واحد مشترك للتعامل مع العديد من أنواع الانتهاكات المختلفة. ولكن يمكن أن يساعد أيضاً في سير العمل في مجال السياسات التسميات، ومسارات التحقيق لسد الفجوة بين البصيرة البشرية وتقدم المُصَنِف.

ترك الرد

من فضلك ادخل تعليقك
من فضلك ادخل اسمك هنا