Valvonta ja toimeenpano

Sisällön tunnistaminen

Miten käytämme teknologiaa vahingollisen sisällön tunnistamiseen

Käytämme monikerroksista lähestymistapaa suojellaksemme käyttäjiämme vahingolliselta sisällöltä ja käytökseltä.

Tunnistaaksemme ja estääksemme tiettyjen kategorioiden tunnetun laittoman ja haitallisen kuvamateriaalin leviämisen, käytämme hash-matching-teknologioita PhotoDNA ja MD5 kuville ja videomateriaalille, jota jaetaan Microsoftin isännöimissä kuluttajapalveluissa sekä sisällölle, joka on ladattu visuaalisia kuvahakuja varten internetissä. Hajautusarvo muuttaa kuvat numerosarjoiksi, joita voidaan helposti verrata, tallentaa ja käsitellä. Nämä hajautusarvot eivät ole käännettävissä, eli niitä ei voi käyttää alkuperäisten kuvien luomiseen uudelleen. Käytämme Euroopan unionin asetuksen (EU) 2021/1232 sallimaa poikkeusta, kun käytämme hajautustekniikoita mahdollisen lapsipornografisen materiaalin havaitsemiseksi palveluissa, jotka kuuluvat EU:n direktiivin 2002/58/EY soveltamisalaan.

Voimme myös käyttää koneoppimisteknologioita, kuten tekstipohjaisia luokittelijoita, kuvien luokittelijoita ja grooming-tunnistusteknologioita, löytääksemme Microsoftin isännöimien kuluttajapalvelujen kautta jaettua sisältöä, joka voi olla laitonta tai rikkoa käytäntöjämme. Lisäksi hyödynnämme käyttäjien, viranomaisten ja luotettavien ilmoittajien ilmoituksia, jotta saamme tiedot mahdollisista käytäntöjen rikkomuksista. Nämä erilaiset tekniikat on räätälöity niiden ominaisuuksien ja palvelujen mukaan, joissa niitä käytetään, mikä tarkoittaa, että emme välttämättä käytä kaikkia tekniikoita kaikissa palveluissa tai samalla tavalla kaikissa palveluissa.

Joissakin palveluissamme käytämme myös työkaluja, joilla havaitaan ja estetään videopuheluominaisuuksien väärinkäyttö korkean riskin käyttäjien tuottamiin ja jakamiin lasten seksuaalista hyväksikäyttöä ja hyväksikäyttöä esittäviin kuviin (CSEAI). Microsoft käyttää useita signaaleja tunnistaakseen riskialttiit käyttäjät, mukaan lukien heidän aiemmat suorat yhteydenottonsa käyttäjiin, jotka on suljettu tai estetty CSEAI-aineiston jakamisen vuoksi. Jos käyttäjä tunnistetaan korkean riskin käyttäjäksi ja muita merkkejä on havaittavissa, botti otetaan käyttöön reaaliaikaisessa puhelussa. Botti käyttää tekoälyä määrittääkseen, sisältääkö live-videopuhelu CSEAI:ta lähes reaaliajassa. Jos CSEAI havaitaan puhelun aikana, videotoiminto kyseisessä puhelussa estetään.

Microsoft löytää

Olemme investoineet ja kehittäneet luokittelutoimintoamme, jotta voimme ennakoivasti havaita tiettyjen käytäntöjen rikkomukset. ”Luokittelija” käytetään tunnistamaan ja merkitsemään haitallista materiaalia ennalta määritellyn käytäntöjen, kuten väkivaltaisen ekstremismin ja terrorismin, perusteella. Lisäksi olemme kehittäneet tapoja havaita palveluidemme sisältöä, joka on todennäköisesti haitallista, kuten huijauksia tai viruksia.

Muut löytävät sen

Luotetut ilmoittajat voivat ilmoittaa Microsoftille palveluidemme mahdollisesti laittomasta tai haitallisesta sisällöstä, toiminnasta tai URL-osoitteista, jotta voimme harkita tarvittavia toimenpiteitä. Luotetut ilmoittajat ovat nimettyjä organisaatioita, jotka toimivat Microsoftin kanssa sopimuksen perusteella tai lain vaatimusten mukaisesti. Luotettavien ilmoittajien ilmoittamat materiaalit tarkistetaan muiden ilmoitusten tavoin ehtojemme ja käytäntöjemme mukaisesti, ja niihin reagoidaan sen mukaisesti. Toimimme samoin, jos jokin hallitus tai lainvalvontaviranomainen ilmoittaa mahdollisesta rikkomuksesta tai pyytää meitä poistamaan sisältöä tai URL-osoitteita paikallisten lakien mukaisesti.

Hallitusten tekemien sisällönpoistopyyntöjen raportti

Sinä löydät sen

Jos olet havainnut tai kokenut Microsoftin palvelussa jotain huolestuttavaa, pyydämme sinua ilmoittamaan siitä meille. Yksityiskohtaisten tietojen antaminen sisällöstä, menettelytavoista tai muista seikoista, mukaan lukien niiden sijainti (kuten linkki sisältöön tai kopio sähköpostista), auttaa tarkistajiamme arvioimaan ja ryhtymään toimenpiteisiin, jos ne rikkovat ehtojamme ja käytäntöjämme. Useimmissa tuotteissa ja palveluissa on tuotteen käyttöliittymässä vaihtoehtoja, joiden avulla voit ilmoittaa sisällöstä tai muiden käyttäjien käyttäytymisestä. Voit myösilmoittaa huolenaiheista. Ole varovainen ilmoitusta tehdessäsi, jotta et lähettäisi laitonta aineistoa. Käytä linkkejä raportoimassasi sisällössä, jotta voimme löytää sen, ja lue lomake huolellisesti varmistaaksesi, että annat kaikki pyydetyt tiedot.

Sisällön arviointi

Ihmisarvioijat arvioivat kuvia, videoita, viestejä ja asiayhteyttä.

Tutustu sisällön arviointeihin

Käytännöt

Microsoftin sisältö- ja käyttäytymiskäytännöissä kerrotaan, mikä ei ole sallittua palveluissamme.

Tutustu käytäntöihin