Moderiranje i provedba

Otkrivanje sadržaja

Kako upotrebljavamo tehnologiju za otkrivanje štetnog sadržaja

Koristimo višeslojni pristup za zaštitu korisnika od štetnog sadržaja i ponašanja.

Da bismo otkrili i zaustavili širenje određenih kategorija prepoznatog nezakonitog i štetnog slikovnog sadržaja, na sadržaj slika i videozapisa koji se zajednički koriste putem Microsoftovih hostiranih korisničkih servisa i sadržaj prenesen radi vizualnog pretraživanja slika na internetu, primjenjujemo tehnologije uparivanja raspršivanja PhotoDNA i MD5. “Raspršivanje“ pretvara slike u niz brojeva koji se lako mogu uspoređivati, pohranjivati i obrađivati. Ta raspršivanja nisu reverzibilna, što znači da se ne mogu koristiti za ponovno stvaranje izvornih slika. Po potrebi se za upotrebu tehnologija podudaranja raspršivanja za otkrivanje potencijalnih materijala sa seksualnim sadržajem u koji su uključena djeca u uslugama koje podliježu Direktivi EU 2002/58/EC oslanjamo na derogaciju dopuštenu Uredbom Europske unije (EU) 2021/1232.

Možemo koristiti i tehnologije strojnog učenja, kao što su klasifikatori utemeljeni na tekstu, klasifikatori slika i tehnike otkrivanja zlonamjernog pristupanja djeci kako bismo otkrili sadržaj ili ponašanje koji se zajednički koriste na Microsoftovim hostiranim korisničkim servisima, a mogli bi biti nezakoniti ili kršiti naše pravilnike. Naposljetku, koristimo izvješća korisnika, državne uprave i pouzdanih izvora upozorenja kako bismo opazili potencijalna kršenja pravilnika. Ove različite tehnike prilagođene su značajkama i uslugama na kojima se primjenjuju, što znači da možda nećemo koristiti sve tehnologije na svim uslugama, niti na isti način na svakoj usluzi.

Na nekim našim uslugama također primjenjujemo alate za otkrivanje i ometanje zloupotrebe mogućnosti video-poziva za proizvodnju i dijeljenje slika seksualnog iskorištavanja i zlostavljanja djece (CSEAI) od strane korisnika visokog rizika. Microsoft koristi nekoliko signala za identifikaciju korisnika visokog rizika, uključujući njihovu prethodnu izravnu komunikaciju s korisnicima koji su suspendirani ili blokirani zbog dijeljenja CSEAI materijala. Ako je korisnik identificiran kao visokorizični, a prisutni su i drugi signali, u aktivni poziv se uvodi bot. Bot koristi umjetnu inteligenciju za određivanje sadrži li aktivni videopoziv CSEAI, gotovo u stvarnom vremenu. Ako se tijekom poziva otkrije CSEAI, videozapis u tom pozivu je onemogućen.

Pronalazimo ih mi

Vlastitim ulaganjima razvili smo funkciju "klasifikatora" za proaktivno otkrivanje kršenja naših pravilnika u određenim kontekstima. „Klasifikator“ se koristi za prepoznavanje i označavanje štetnog materijala na temelju unaprijed definirane politike, poput nasilnog ekstremizma i terorizma. Osim toga, razvili smo načine otkrivanja sadržaja koji je vjerojatno zlonamjeran, kao što su prijevare ili virusi na našim servisima.

Pronalaze ih drugi

Pouzdani izvori upozorenja mogu Microsoftu ukazati na potencijalno nezakonit ili štetan sadržaj, ponašanje ili URL-ove na našim servisima kako bismo razmotriti je li potrebna radnja. Pouzdani izvori upozorenja određene su tvrtke ili ustanove koje surađuju s Microsoftom temeljem ugovora ili zakona. Materijal koji prijave pouzdani izvori upozorenja analizira se u kontekstu naših uvjeta i pravilnika, baš kao i sva druga izvješća, a zatim se postupa u skladu s tim. Isto radimo ako bilo koja vlada ili agencija za provedbu zakona prijavi potencijalnu povredu ili zatraži da uklonimo sadržaj ili URL-ove u skladu s lokalnim zakonima.

Zahtjevi državnih tijela za izvješće o uklanjanju sadržaja

Pronalazite ih vi

Potičemo vas da nam javite ako na Microsoftovu servisu vidite ili doživite nešto što vas zabrinjava. Slanje detaljnih informacija o sadržaju, ponašanju ili nečem drugom, uključujući mjesto na kojem se to može pronaći (kao što je veza na sadržaj ili kopija poruke e-pošte) našim će pregledavateljima olakšati procjenu i poduzimanje radnji u slučaju kršenja naših uvjeta i pravilnika. Većina proizvoda i usluga u okviru iskustva s proizvodom ima mogućnosti putem kojih možete prijaviti zabrinjavajući sadržaj ili ponašanje drugih korisnika. Možete iprijaviti zabrinutosti. Prilikom prijavljivanja pazite da ne pošaljete nezakonite materijale. Koristite poveznice na sadržaj koji prijavljujete kako bismo ga mogli pronaći, i pažljivo pročitajte obrazac kako biste osigurali da pružite sve tražene informacije.

Pregledavanje sadržaja

Pregledavatelji koji su stvarne osobe pregledavaju slike, videozapise, poruke i kontekst.

Saznajte više o pregledavanju sadržaja

Pravilnici

Microsoftovi pravilnici o sadržaju i ponašanju objašnjavaju što nije dopušteno na našim servisima.

Saznajte više o pravilnicima