Sisu tuvastamine

Kasutame mitmekihilist lähenemist, et kaitsta oma kasutajaid kahjuliku sisu ja käitumise eest.

Teatud kategooriate tuntud ebaseadusliku ja kahjuliku pildisisu tuvastamiseks ja leviku peatamiseks rakendame räsi sobitamise tehnoloogiaid PhotoDNA ja MD5 piltidele ja videosisule, mis jagatakse Microsofti hostitud tarbijateenuste kaudu, ja sisule, mis on üles laaditud interneti visuaalsete pildiotsingute jaoks. „Räsi” muudab pildid numbrite seeriaks, mida saab hõlpsasti võrrelda, salvestada ja töödelda. Neid „räsipilte” ei saa tagasi võtta, st neid ei saa kasutada originaalpiltide taasloomiseks. Me tugineme Euroopa Liidu määruse (EL) 2021/1232 alusel lubatud erandile, et kasutada räsi sobitamise tehnoloogiaid potentsiaalse lapseealise seksuaalse kuritarvitamise materjali tuvastamiseks teenustes, mida reguleerib EL-i direktiiv 2002/58/EÜ.

Samuti võime kasutada masinõppe tehnoloogiaid, nagu tekstipõhised klassifitseerijad, pildiliigiteid ja ahistamise tuvastamise tehnikaid, et avastada sisu või käitumist, mis jagatakse Microsofti hostitud tarbijateenuste kaudu ja mis võib olla ebaseaduslik või rikkuda meie poliitikaid. Viimaseks, kasutame kasutajate, valitsuste ja usaldusväärsete märguandjate aruandeid, et juhtida meie tähelepanu võimalikele poliitikarikkumistele. Need erinevad tehnikad on kohandatud funktsioonidele ja teenustele, millel neid rakendatakse, mis tähendab, et me ei pruugi kõiki tehnoloogiaid kõigil teenustel kasutada ega igal teenusel samal viisil.

Mõnedes meie teenustes rakendame ka tööriistu, et tuvastada ja takistada videokõnevõimaluste väärkasutamist, mille eesmärk on toota ja jagada laste seksuaalse ärakasutamise ja väärkohtlemise pilte (CSEAI) kõrge riskiga kasutajate poolt. Microsoft kasutab kõrge riskiga kasutajate tuvastamiseks mitmeid signaale, sh nende varasemat otsest suhtlust kasutajatega, kelle konto peatati või blokeeriti CSEAI materjali jagamise tõttu. Kui kasutaja on tuvastatud kõrge riskiga kasutajana ja esinevad muud signaalid, paigutatakse reaalajas kõnesse robot. Robot kasutab tehisintellekti, et tuvastada peaaegu reaalajas, kas reaalajas videokõne sisaldab CSEAI-d. Kui kõne ajal tuvastatakse CSEAI, keelatakse selle kõne videofunktsioon.