Moderavimas ir įgyvendinimas

Turinio aptikimas

Kaip naudojame technologiją žalingam turiniui aptikti

Naudojame kelių lygmenų metodą, kad apsaugotume savo vartotojus nuo žalingo turinio ir elgesio.

Kad aptiktume ir sustabdytume tam tikrų kategorijų žinomo neteisėto ir žalingo vaizdo turinio skleidimą, įdiegiame atitikimo remiantis maiša technologijas „PhotoDNA“ ir MD5 vaizdų bei vaizdo įrašų turinyje, kuris bendrinamas „Microsoft“ nuomojamų išteklių vartotojų tarnybose, ir turinyje, nusiunčiamame vaizdinei ieškai internete. Maiša paverčia vaizdus į skaičių seką, kurią galima lengvai palyginti, saugoti ir apdoroti. Šios maišos yra negrįžtamos, tai reiškia, kad jų negalima naudoti norint atkurti pradinius vaizdus. Remiamės išlygą leidžiančia nuostata, numatyta Europos Sąjungos Reglamente (ES) 2021/1232, naudodami šias atitikimo remiantis maiša technologijas potencialiai vaikų seksualinei medžiagai aptikti paslaugose, kurioms taikoma ES direktyva 2002/58/EB.

Taip pat galime naudoti mašininio mokymo technologijas, pvz., tekstinius klasifikatorius, vaizdų klasifikatorius ir viliojimo aptikimo metodus, kad aptiktume turinį arba elgesį, bendrinamą per „Microsoft“ nuomojamų išteklių vartotojų tarnybas, kuris gali būti neteisėtas arba pažeisti mūsų strategijas. Galiausiai, naudojame vartotojų, valstybinių institucijų ir patikimų informatorių ataskaitas, kad atkreiptume dėmesį į galimus strategijos pažeidimus. Šios įvairios technikos pritaikytos funkcijoms ir paslaugoms, kuriose jos diegiamos, o tai reiškia, kad galime nenaudoti visų technologijų visose paslaugose ar kiekvienoje paslaugoje taikyti tas pačias technologijas.

Kai kuriose savo paslaugose taip pat įdiegiame įrankius, kad aptiktume ir sutrikdytume aukštos rizikos vartotojų netinkamą naudojimąsi vaizdo skambinimo galimybėmis, siekiant kurti ir dalytis vaikų seksualinio išnaudojimo ir prievartos vaizdais (CSEAI). „Microsoft“ naudoja kelis signalus, kad identifikuotų aukštos rizikos vartotojus, įskaitant jų ankstesnę tiesioginę komunikaciją su vartotojais, kurie buvo sustabdyti arba užblokuoti dėl dalijimosi CSEAI medžiaga. Jei vartotojas identifikuojamas kaip aukštos rizikos ir yra kitų signalų, į tiesioginį pokalbį įdiegiamas robotas. Robotas naudoja dirbtinį intelektą, kad beveik realiu laiku nustatytų, ar tiesioginiame vaizdo pokalbyje yra CSEAI. Jei pokalbio metu aptinkama CSEAI, vaizdo galimybė tame pokalbyje yra išjungiama.

Mes randame jį

Investavome ir išplėtėme savo „klasifikatoriaus“ galimybę padėti mums aktyviai aptikti strategijų pažeidimus tam tikruose kontekstuose. „Klasifikatorius“ naudojamas žalingam turiniui atpažinti ir pažymėti pagal iš anksto apibrėžtą strategiją, pavyzdžiui, smurtinį ekstremizmą ir terorizmą. Be to, sukūrėme būdų aptikti turiniui, kuris mūsų tarnybose gali būti kenkėjiškas, pvz., sukčiavimui ar virusams.

Kiti randa jį

Patikimi informatoriai gali nurodyti „Microsoft“ galimai neteisėtą arba žalingą turinį, elgesį ar URL mūsų paslaugose, kad galėtume nuspręsti, ar reikia imtis veiksmų. Patikimi informatoriai yra paskirtosios organizacijos, kurios dirba su „Microsoft“ pagal sutartį arba to reikalaujant įstatymams. Patikimų informatorių pateikiama medžiaga peržiūrima pagal mūsų sąlygas ir strategijas, kaip ir visos kitos ataskaitos, tada imamasi atitinkamų veiksmų. Tą patį darome, jei bet kuri vyriausybinė ar teisėsaugos institucija praneša apie potencialų pažeidimą arba prašo pašalinti turinį ar URL pagal vietos įstatymus.

Valstybinių institucijų užklausų dėl turinio šalinimo ataskaita

Jūs randate jį

Jei „Microsoft“ paslaugoje pamatėte arba susidūrėte su kažkuo, dėl ko nerimaujate, raginame mums apie tai pranešti. Išsamios informacijos apie turinį, elgesį ar kitą elementą, įskaitant jo radimo vietą (pvz., saitą į turinį arba el. laiško kopiją), pateikimas padės mūsų peržiūras atliekantiems asmenims įvertinti ir imtis veiksmų, jei jis pažeidžia mūsų sąlygas ir strategijas. Daugumoje produktų ir paslaugų yra produkto naudojimo patirties parinkčių, kad galėtumėte pranešti apie turinį ar kitų vartotojų elgesį. Taip pat galite pranešti apie susirūpinimą keliančias problemas. Būkite atidūs ir pranešdami nesiųskite neteisėtos medžiagos. Naudokite saitus į turinį, apie kurį pranešate, kad galėtume jį rasti, ir atidžiai perskaitykite formą, kad įsitikintumėte, jog pateikėte visą prašomą informaciją.

Turinio peržiūra

Peržiūras atliekantys žmonės atsižvelgia į vaizdus, vaizdo įrašus, pranešimus ir kontekstą.

Sužinokite apie turinio peržiūras

Strategijos

„Microsoft“ turinio ir elgesio strategijos paaiškina, kas neleidžiama naudojantis mūsų paslaugomis.

Sužinokite apie strategijas