كشف المحتوى

نستخدم نهجًا متعدد الطبقات لحماية مستخدمينا من المحتوى والسلوك الضارين.

للكشف عن فئات محددة من محتوى الصور غير القانوني والضار المعروف وإيقاف انتشاره، نقوم بنشر تقنيات متطابقة التجزئة مثل PhotoDNA وMD5 على محتوى الصور ومقاطع الفيديو الذي تتم مشاركته من خلال خدمات المستهلك المستضافة من Microsoft وعلى المحتوى الذي تم تحميله لإجراء عمليات البحث عن الصور المرئية على الإنترنت. تقوم "شفرة التجزئة" بتحويل الصور إلى سلسلة من الأرقام التي يمكن مقارنتها وتخزينها ومعالجتها بسهولة. شفرات التجزئة هذه غير قابلة للعكس، ما يعني أنه لا يمكن استخدامها لإعادة إنشاء الصور الأصلية. نعتمد على حالة الاستثناء التي تسمح بها لائحة الاتحاد الأوروبي (EU) 2021/1232 كما هو مطلوب، لاستخدام تقنيات مطابقة شفرة التجزئة هذه للكشف عن المواد الجنسية المحتملة للأطفال في الخدمات التي تخضع لتوجيه الاتحاد الأوروبي 2002/58‎/EC.

ويجوز أن نستخدم أيضًا تقنيات التعلم الآلي مثل المصنفات المستندة إلى النصوص ومصنفات الصور وتقنيات الكشف عن الاستمالة لكشف المحتوى أو السلوك الذي تتم مشاركته عبر خدمات المستهلك المستضافة من Microsoft، والتي قد تكون غير قانونية أو تنتهك النُهج المعمول بها لدينا. وفي النهاية، نقوم بالاستفادة من التقارير الواردة من المستخدمين والحكومات والمُبلغين الموثوق بهم للفت انتباهنا نحو الانتهاكات المحتملة للنهج المعمول به لدينا. تم تصميم هذه التقنيات المختلفة لتناسب الميزات والخدمات التي يتم نشرها عليها، ما يعني أننا قد لا نستخدم جميع التقنيات في جميع الخدمات، ولا بنفس الطريقة في كل خدمة.

في بعض خدماتنا، نقوم أيضًا باستخدام أدوات للكشف عن إساءة استخدام إمكانية إجراء مكالمات الفيديو لإنتاج صور الاعتداء والاستغلال الجنسي للأطفال (CSEAI) من جهة المستخدمين الذين يشكلون خطرًا كبيرًا وتعطيل ذلك. تستخدم Microsoft عدة إشارات لتحديد المستخدمين الذين يشكلون خطرًا كبيرًا، بما في ذلك تواصلهم المباشر السابق مع مستخدمين تم تعليقهم أو حظرهم بسبب مشاركة مواد CSEAI. إذا تم تحديد مستخدم على أنه يشكل خطرًا كبيرًا وكانت هناك إشارات أخرى موجودة، يتم استخدام روبوت في المكالمة المباشرة. يستخدم الروبوت الذكاء الاصطناعي لتحديد ما إذا كانت مكالمة الفيديو المباشرة تحتوي على CSEAI، في الوقت القريب من الحقيقي. إذا تم الكشف عن وجود CSEAI خلال المكالمة، يتم تعطيل إمكانية تشغيل الفيديو في تلك المكالمة.