Detekce obsahu

K ochraně našich uživatelů před škodlivým obsahem a chováním používáme vícevrstvý přístup.

Abychom detekovali a mohli zastavit šíření známého nelegálního a škodlivého obrazového obsahu, používáme technologie PhotoDNA a MD5 pro porovnávání hodnot hash u obsahu s fotkami a videi, který je sdílen prostřednictvím hostovaných služeb společnosti Microsoft pro spotřebitele, a u obsahu nahrávaného pro vizuální hledání obrázků na internetu. Hodnota „hash“ převádí obrázky na číselné řady, které lze snadno porovnávat, ukládat a zpracovávat. Tyto hodnoty hash nejsou reverzibilní, což znamená, že je nelze použít k opětovnému vytvoření původních obrázků. Při používání technologií pro porovnávání hodnot hash k detekci potenciálního materiálu s dětskou sexuální tematikou službách, které se řídí směrnicí Evropské unie (EU) 2002/58/EC, se spoléháme na výjimku povolenou nařízením EU 2021/1232 o dočasné odchylce.

Ke zjišťování forem obsahu nebo chování sdílených prostřednictvím služeb pro spotřebitele hostovaných společností Microsoft, které můžou být nelegální nebo které můžou porušovat naše zásady, můžeme používat také technologie strojového učení, jako jsou klasifikátory založené na textu, klasifikátory obrázků a techniky detekce groomingu. Nakonec využíváme hlášení od uživatelů, státních institucí a důvěryhodných oznamovatelů, kteří nás upozorňují na potenciální porušení zásad. Tyto různé techniky jsou přizpůsobeny funkcím a službám, ve kterých jsou nasazeny, což znamená, že nemusíme používat všechny technologie ve všech službách a ani stejným způsobem ve všech službách.

U některých našich služeb také nasazujeme nástroje, které detekují a narušují zneužívání funkcí videohovorů k vytváření a sdílení obrazových materiálů zobrazujících sexuální vykořisťování a zneužívání dětí (CSEAI) vysoce rizikovými uživateli. Společnost Microsoft používá k identifikaci rizikových uživatelů několik signálů, včetně jejich předchozí přímé komunikace s uživateli, kteří byli pozastaveni nebo zablokováni za sdílení materiálu CSEAI. Pokud je uživatel identifikován jako vysoce rizikový a jsou přítomny další signály, je do živého hovoru nasazen bot. Tento bot využívá umělou inteligenci k určení, jestli živý videohovor obsahuje materiál CSEAI, a to téměř v reálném čase. Pokud je během hovoru detekován materiál CSEAI, je možnost videa v tomto hovoru zakázána.