Zaznavanje vsebine

Za zaščito svojih uporabnikov pred škodljivo vsebino in vedenjem uporabljamo večplastni pristop.

Za odkrivanje in preprečevanje širjenja določenih kategorij znane nezakonite in škodljive slikovne vsebine uporabljamo tehnologiji ujemanja zgoščene vrednosti PhotoDNA in MD5 na fotografski in video vsebini, ki se deli prek Microsoftovih gostovanih potrošniških storitev, ter na vsebini, naloženi za iskanje vizualnih slik v internetu. »Zgoščena vrednost« pretvori slike v niz številk, ki jih je mogoče preprosto primerjati, shranjevati in obdelovati. Te »zgoščene vrednosti« niso povratne, kar pomeni, da jih ni mogoče uporabiti za ponovno ustvarjanje izvirnih slik. Pri uporabi teh tehnologij za ujemanje zgoščenih vrednosti za zaznavanje morebitnih spolnih vsebin, povezanih z otroki, v storitvah, ki jih ureja Direktiva EU 2002/58/ES, se po potrebi zanašamo na odstopanje, ki ga dovoljuje Uredba Evropske unije (EU) 2021/1232.

Uporabljamo lahko tudi tehnologije strojnega učenja, kot so razvrščevalniki, ki temeljijo na besedilih, razvrščevalniki slik in tehnike zaznavanja pridobivanja oseb za spolne namene, da odkrijemo vsebine ali ravnanja, ki so v skupni rabi prek Microsoftovih gostovanih potrošniških storitev in so lahko nezakonita ali kršijo naše pravilnike. Uporabljamo tudi poročila uporabnikov, vlad in zaupanja vrednih prijaviteljev, ki nas opozarjajo na morebitne kršitve pravilnikov. Te različne tehnike so prilagojene funkcijam in storitvam, za katere so uvedene, kar pomeni, da morda ne bomo uporabili vseh tehnologij za vse storitve in niti ne na enak način za vsako storitev.

V nekaterih naših storitvah prav tako uvajamo orodja za zaznavanje in preprečevanje zlorabe zmogljivosti videoklicev za ustvarjanje in deljenje slik, povezanih s spolnim izkoriščanjem in zlorabo otrok (CSEAI), s strani uporabnikov z visokim tveganjem. Microsoft uporablja več signalov za prepoznavanje uporabnikov z visokim tveganjem, vključno z njihovim preteklim neposrednim komuniciranjem z uporabniki, ki so bili začasno onemogočeni ali blokirani zaradi deljenja vsebine, povezane s CSEAI. Če je uporabnik identificiran kot uporabnik z visokim tveganjem in so prisotni drugi signali, se v klic v živo uvede bot. Bot uporablja umetno inteligenco za določanje, ali videoklic v živo vsebuje CSEAI, skoraj v realnem času. Če je med klicem zaznana vsebina, povezana s CSEAI, se v tem klicu onemogoči zmogljivost videa.