Zisťovanie obsahu

Na ochranu používateľov pred škodlivým obsahom a správaním používame viacvrstvový prístup.

Na detekciu a zastavenie šírenia určitých kategórií známeho nezákonného a škodlivého obrazového obsahu nasadzujeme technológie PhotoDNA a MD5 na porovnávanie hodnôt hash v prípade obsahu s obrázkami a videami, ktorý sa zdieľa prostredníctvom hosťovaných spotrebiteľských služieb spoločnosti Microsoft, ako aj v prípade obsahu nahratého na vizuálne vyhľadávanie obrázkov na internete. Hodnota „hash“ transformuje obrázky na číselné rady, ktoré možno jednoducho porovnávať, ukladať a spracúvať. Tieto hodnoty hash nie sú reverzné, čo znamená, že sa nedajú použiť na opätovné vytvorenie pôvodných obrázkov. Pri používaní technológií na porovnávanie hodnôt hash na detekciu potenciálneho detského sexuálneho materiálu v službách, ktoré sa riadia smernicou Európskej únie (EÚ) 2002/58/ES, sa spoliehame na výnimku povolenú nariadením EÚ 2021/1232.

Na zisťovanie foriem obsahu alebo správania zdieľaných prostredníctvom hosťovaných spotrebiteľských služieb spoločnosti Microsoft, ktoré môžu byť nelegálne alebo ktoré môžu porušovať naše politiky, môžeme používať aj technológie strojového učenia, ako sú napríklad klasifikátory založené na texte, klasifikátory obrázkov a techniky detekcie groomingu. Nakoniec využívame hlásenia od používateľov, štátnej správy a dôveryhodných oznamovateľov, ktorí nás upozorňujú na potenciálne porušenia politík. Tieto rôzne techniky sú prispôsobené funkciám a službám, na ktorých sú nasadené, čo znamená, že nemusíme používať všetky technológie vo všetkých službách, ani rovnakým spôsobom na každej službe.

V niektorých našich službách nasadzujeme aj nástroje na detekciu a narušenie zneužívania funkcií videohovorov na produkciu a zdieľanie obrázkov sexuálneho vykorisťovania a zneužívania detí (CSEAI) zo strany používateľov s vysokým rizikom. Spoločnosť Microsoft používa viacero signálov na identifikáciu používateľov s vysokým rizikom vrátane ich predchádzajúcej priamej komunikácie s používateľmi, ktorí boli dočasne alebo trvalo zablokovaní za zdieľanie materiálu CSEAI. Ak je používateľ identifikovaný ako používateľ s vysokým rizikom a sú prítomné ďalšie signály, do živého hovoru je nasadený bot. Tento bot používa umelú inteligenciu na určenie, či živý videohovor obsahuje CSEAI, takmer v reálnom čase. Ak sa počas hovoru rozpozná CSEAI, funkcia videa v danom hovore je zakázaná.