كشف اللغة السامة في تيليجرام

آلية العمل

1. تشغيل الفلو

عند وصول رسالة جديدة في Telegram سواء في مجموعة أو قناة أو محادثة خاصة يتم تشغيل الفلو تلقائيًا.

2. تحليل المحتوى بالذكاء الاصطناعي

يقوم نموذج الذكاء الاصطناعي بتحليل الرسالة ويشمل ذلك:

• اكتشاف اللغة السامة
• تصنيف خطاب الكراهية
• اكتشاف الرسائل المزعجة (Spam)
• تقييم مستوى الإساءة في النص

3. تقييم الخطورة

يتم إعطاء كل رسالة درجة خطورة لتحديد مدى تأثيرها وإمكانية اتخاذ إجراء ضدها.

4. الإجراءات

إذا تم تصنيف الرسالة كمحتوى ضار يتم إرسالها تلقائيًا إلى نظام مراجعة أو تصنيف (Annotation) لاتخاذ الإجراء المناسب.