Moderacija i sprovođenje

Otkrivanje sadržaja

Kako koristimo tehnologiju za otkrivanje štetnog sadržaja

Koristimo višeslojni pristup da bismo zaštitili korisnike od štetnog sadržaja i ponašanja.

Da bismo otkrili i zaustavili širenje određenih kategorija poznatog nezakonitog i štetnog sadržaja slika, primenjujemo tehnologije koje upoređuju heševe PhotoDNA i MD5 na sadržaj slika i video zapisa koji se dele putem potrošačkih usluga koje hostuje Microsoft i na sadržaj otpremljen za vizuelne pretrage slika na internetu. „Heš“ transformiše slike u nizove brojeva koji se lako mogu upoređivati, skladištiti i obrađivati. Taj proces se ne može obrnuti, što znači da se ne mogu koristiti za ponovno pravljenje originalnih slika. Oslanjamo se na odstupanje koje dozvoljava Uredba Evropske unije (EU) 2021/1232 po potrebi, za korišćenje tehnologija koje upoređuju heševe u uslugama koje uređuje Direktiva EU 2002/58/EZ.

Takođe možemo koristiti tehnologije mašinskog učenja kao što su klasifikatori zasnovani na tekstu, klasifikatori slika i tehnike otkrivanja pedofilskog zbližavanja kako bismo otkrili sadržaj ili ponašanje koji se dele putem korisničkih usluga koje hostuje Microsoft, a koji su možda nezakoniti ili krše naše smernice. Na kraju, koristimo prijave korisnika, vlada i pouzdanih označivača koje usmeravaju našu pažnju na potencijalna kršenja smernica. Te različite tehnike su prilagođene karakteristikama i uslugama na kojima se primenjuju, što znači da možda ne koristimo sve tehnologije na svim uslugama, niti na isti način na svakoj usluzi.

Na neke od naših usluga, takođe primenjujemo alate za otkrivanje i ometanje zloupotrebe mogućnosti video poziva za proizvodnju i deljenje slika seksualne eksploatacije i zlostavljanja dece (CSEAI) od strane visokorizičnih korisnika. Microsoft koristi nekoliko signala za identifikaciju visokorizičnih korisnika, uključujući njihovu prethodnu direktnu komunikaciju sa korisnicima koji su suspendovani ili blokirani zbog deljenja materijala CSEAI. Ako je korisnik identifikovan kao visokorizični korisnik, a prisutni su i drugi signali, bot se aktivira u pozivu uživo. Bot koristi veštačku inteligenciju za određivanje da li aktivni video poziv sadrži CSEAI, u skoro realnom vremenu. Ako se CSEAI otkrije tokom poziva, mogućnost video poziva u tom pozivu se onemogućava.

Štetan sadržaj koji mi pronalazimo

Uložili smo u mogućnost „klasifikatora“ i razvili je tako da proaktivno otkriva kršenja naših smernica u određenim kontekstima. „Klasifikator“ se koristi za prepoznavanje i označavanje štetnog materijala na osnovu unapred definisanih smernica, kao što su nasilni ekstremizam i terorizam. Pored toga, razvili smo načine za otkrivanje sadržaja u našim uslugama za koji postoji verovatnoća da je zlonameran, kao što su virusi.

Štetan sadržaj koji drugi pronalaze

Pouzdani označivači mogu da ukažu korporaciji Microsoft na potencijalno nedozvoljen ili štetan sadržaj, ponašanje ili URL-ove u našim uslugama kako bismo mogli da razmotrimo da li je potrebno preduzimanje radnji. Pouzdani označivači su određene organizacije koje rade sa korporacijom Microsoft po ugovoru ili kao što je propisano zakonom. Materijal koji prijave pouzdani označivači pregleda se u odnosu na naše uslove i smernice, isto kao i u slučaju drugih prijava, a zatim se preduzimaju radnje u skladu sa tim. Radimo isto ako neka državna institucija ili agencija za sprovođenje zakona prijave potencijalno kršenje ili zatraže da uklonimo sadržaj ili URL-ove u skladu sa lokalnim zakonima.

Izveštaj o vladinim zahtevima za uklanjanje sadržaja

Štetan sadržaj koji vi pronalazite

Podstičemo vas da nam se obratite ako ste u Microsoft usluzi videli ili doživeli nešto što vas zabrinjava. Ako navedete detaljne informacije o sadržaju, ponašanju ili drugim stvarima, uključujući i to gde se mogu pronaći (npr. veza ka sadržaju ili kopija e-poruke), pomoći ćete našim revizorima da obave procenu i preduzmu radnju ako to krši uslove i smernice. Većina proizvoda i usluga imaju opcije za prijavljivanje sadržaja ili ponašanja drugih korisnika u okviru iskustva proizvoda. Možete i da prijavite razloge za zabrinutost. Pazite da prilikom prijavljivanja ne pošaljete nezakonit materijal. Koristite veze do sadržaja koji prijavljujete kako bismo mogli da ga pronađemo i pažljivo pročitajte obrazac kako biste se postarali da ste pružili sve tražene informacije.

Pregled sadržaja

Revizori razmatraju slike, video zapise, poruke i kontekst.

Saznajte više o pregledanju sadržaja

Smernice

Microsoft smernice za sadržaj i ponašanje objašnjavaju šta nije dozvoljeno u našim uslugama.

Saznajte više o smernicama