Tartalomészlelés

Többrétegű megközelítést alkalmazunk a felhasználók káros tartalmakkal és viselkedésekkel szembeni védelmére.

Az ismert illegális és káros képtartalmak észleléséhez és megfékezéséhez PhotoDNA és az MD5 kivonategyeztetési technológiát alkalmazunk a Microsoft által üzemeltetett fogyasztói szolgáltatásokon keresztül megosztott fénykép- és videótartalmakra, illetve az internetes vizuális képkeresésekhez feltöltött tartalmakra. A „kivonatok” számok egyszerűen összehasonlítható, tárolható és feldolgozható sorozatává alakítják a képeket. Ezek a kivonatok nem vonhatók vissza, ami azt jelenti, hogy nem használhatók az eredeti képek újbóli létrehozásához. A kivonategyeztetési technológiákat az Európai Unió 2002/58/EC rendelete által szabályozott szolgáltatásokban az Európai Unió 2021/1232-es számú rendelete által megengedett derogáció alapján használjuk az esetleges gyermek szexuális anyagok észleléséhez.

Ezenkívül olyan gépi tanulási technológiákat is használhatunk, mint amilyenek például a szövegalapú osztályozók, a képosztályozók és a becserkészésészlelési technikák. Ezekkel felderíthetők azok a Microsoft által üzemeltetett fogyasztói szolgáltatásokon keresztül megosztott tartalmak vagy viselkedések, amelyek esetlegesen illegálisak, vagy megszegik a házirendjeinket. Végül felhasználjuk a felhasználóktól, a kormányzatoktól és a megbízható jelölőktől származó jelentéseket arra, hogy tudomást szerezzünk a házirendek esetleges megsértéseiről. Ezeket a különböző technikákat azokra a funkciókra és szolgáltatásokra szabjuk, amelyeken alkalmazzák őket, ami azt jelenti, hogy nem biztos, hogy minden szolgáltatásnál minden technológiát használunk, és nem is minden szolgáltatásnál ugyanúgy.

Néhány szolgáltatásunkon eszközöket is alkalmazunk a videohívásokkal való visszaélés és a gyermekpornográf anyagok (CSEAI) előállításának és megosztásának megakadályozására, különösen a magas kockázatú felhasználók esetében. A Microsoft több jelet használ a magas kockázatú felhasználók azonosítására, beleértve a múltbeli közvetlen kommunikációjukat olyan felhasználókkal, akiket felfüggesztettek vagy blokkoltak CSEAI anyagok megosztása miatt. Ha egy felhasználó magas kockázatúnak minősül, és más jelek is jelen vannak, egy robotot telepítünk a valós idejű hívásba. A robot mesterséges intelligenciát használ annak meghatározására, hogy a valós idejű videohívás tartalmaz-e CSEAI-t, szinte valós időben. Ha CSEAI-t észlelnek a hívás során, a videoképességet letiltjuk abban a hívásban.