Moderering och tillsyn

Innehållsidentifiering

Så här använder vi teknik för att identifiera skadligt innehåll

Vi har en mångsidiga strategi för att skydda våra användare från skadligt innehåll och skadligt uppförande.

För att identifiera och stoppa spridningen av vissa kategorier av känt otillåtet och skadligt bildinnehåll distribuerar vi hashmatchningsteknikerna PhotoDNA och MD5 på bilder och videoinnehåll som delas via Microsofts värdbaserade konsumenttjänster och på innehåll som laddats upp för visuella bildsökningar på Internet. En ”hash” omvandlar bilder till en serie siffror som enkelt kan jämföras, lagras och bearbetas. Dessa ”hash-värden” kan inte användas för att återskapa originalbilderna. Vi förlitar oss på den deklaration som tillåts av EU-förordning (EU) 2021/1232 vid behov för användning av hashmatchningsteknik för att identifiera potentiellt sexuellt barnmaterial i tjänster som omfattas av EU-direktiv 2002/58/EG.

Vi kan även använda maskininlärningstekniker som textbaserade klassificerare, bildklassificerare och tekniker för att identifiera sexförbrytare för att upptäcka innehåll och uppförande som delas via Microsofts kundriktade tjänster och som kan vara olagliga eller bryta mot våra policyer. Vi använder även rapporter från användare, myndigheter och betrodda anmälare för att upptäcka potentiella överträdelser. Dessa olika tekniker är skräddarsydda för de funktioner och tjänster som de distribueras på, vilket innebär att vi kanske inte använder alla tekniker på alla tjänster eller på samma sätt på alla tjänster.

På vissa av våra tjänster distribuerar vi även verktyg för att identifiera och störa missbruket av videosamtalsfunktioner för att producera och dela bilder av sexuellt utnyttjande och missbruk av barn (CSEAI) av högriskanvändare. Microsoft använder flera signaler för att identifiera högriskanvändare, inklusive deras tidigare direkta kommunikation med användare som har stängts av eller blockerats för att dela CSEAI-material. Om en användare identifieras som hög risk och det finns andra signaler distribueras en robot till liveanropet. Roboten använder artificiell intelligens för att avgöra om ett livevideosamtal innehåller CSEAI, nästan i realtid. Om CSEAI identifieras under samtalet inaktiveras videofunktionen i samtalet.

Vi hittar det

Vi har investerat i och vuxit vår “klassificerarfunktion” för att hjälpa oss att proaktivt identifiera överträdelser av våra principer i vissa sammanhang. En “klassificerare” används för att identifiera och märka skadligt material baserat på en fördefinierad princip, t.ex. våldshärjade och anger ett skadligt material. Dessutom har vi utvecklat sätt att identifiera innehåll som sannolikt är skadligt, till exempel bedrägerier eller virus på våra tjänster.

Andra hittar det

Betrodda flaggare kan identifiera för Microsoft potentiellt otillåtet eller skadligt innehåll, uppförande eller URL:er på våra tjänster så att vi kan överväga om åtgärder behövs. Betrodda flaggare är utsedda organisationer som arbetar med Microsoft antingen enligt avtal eller enligt lag. Material som rapporteras av betrodda flaggare granskas mot våra villkor och principer, precis som alla andra rapporter, och sedan åtgärdas detta. Vi gör samma sak om någon myndighet eller polis rapporterar en potentiell överträdelse eller begär att vi tar bort innehåll eller URL:er i enlighet med lokal lagstiftning.

Rapport om myndigheters begäran att ta bort innehåll

Du hittar det

Vi rekommenderar att du meddelar oss om du har sett eller upplevt något på en Microsoft-tjänst som du är orolig för. Om du tillhandahåller detaljerad information om innehållet, uppförandet eller annat, inklusive var du hittade det (till exempel via en länk till innehållet eller en kopia av ett e-postmeddelande) kan du hjälpa våra granskare att utvärdera och utföra åtgärder mot innehållet förutsatt att de kan fastställa att det utgör en överträdelse mot våra villkor eller policyer. Du kan rapportera innehåll och andra användare direkt i de flesta av våra produkter och tjänster. Du kan även rapportera ärenden. Var dock försiktig så att du inte skickar olagligt material när du rapporterar. Använd länkar till det innehåll som du rapporterar så att vi kan hitta det och läs igenom formuläret noggrant för att se till att du anger all information som begärs.

Granskning av innehåll

Mänskliga granskare tar hänsyn till bilder, videor, meddelanden och kontext.

Mer information om innehållsgranskning

Policyer

Microsofts policyer för innehåll och uppförande förklarar vad som inte är tillåtet på våra tjänster.

Mer information om policyer