Moderatie en handhaving

Inhoudsdetectie

Gebruik van technologie om schadelijke inhoud te detecteren

We gebruiken een gelaagde aanpak om onze gebruikers te beveiligen tegen schadelijke inhoud en kwaadwillend gedrag.

Voor het detecteren en stoppen van de verspreiding van bepaalde categorieën bekende illegale en schadelijke beeldinhoud, passen we de hash-matchingtechnologieën PhotoDNA en MD5 toe op afbeeldingen en video-inhoud die wordt gedeeld via door Microsoft gehoste consumentenservices en op inhoud die wordt geüpload voor visuele beeldzoekopdrachten op internet. Een hash transformeert afbeeldingen in een reeks getallen die eenvoudig kunnen worden vergeleken, opgeslagen en verwerkt. Deze hashes zijn onomkeerbaar. Dit betekent dat ze niet kunnen worden gebruikt om de oorspronkelijke afbeeldingen te opnieuw creëren. We maken gebruik van de door Verordening (EU) 2021/1232 van de Europese Unie toegestane afwijking, zoals vereist, voor het gebruik van hash-matchingtechnologieën om mogelijk kinderpornomateriaal te detecteren in services die vallen onder Richtlijn 2002/58/EG van de EU.

We kunnen ook gebruikmaken van machine-learningtechnologieën zoals classificatie op basis van tekst, afbeeldingen en technieken voor het opsporen van grooming om inhoud of gedrag te ontdekken die worden gedeeld via door Microsoft gehoste consumentenservices en die mogelijk illegaal zijn of ons beleid schenden. Ten slotte gebruiken we rapporten van gebruikers, overheden en vertrouwde markeerders om potentiële beleidsschendingen onder onze aandacht te brengen. Deze verschillende technieken zijn afgestemd op de functies en services waarop ze worden gebruikt, wat betekent dat we mogelijk niet alle technologieën gebruiken op alle services en ook niet op dezelfde manier op elke service.

Op sommige van onze services zetten we ook hulpprogramma's in om misbruik van beeldmateriaal van seksueel misbruik en seksuele uitbuiting van kinderen (Child Sexual Exploitation and Abuse Imagery of CSEAI) door gebruikers met een hoog risico op te sporen en tegen te gaan. Microsoft gebruikt verschillende signalen om gebruikers met een hoog risico te identificeren, waaronder hun vroegere directe communicatie met gebruikers die werden geschorst of geblokkeerd voor het delen van CSEAI-materiaal. Als een gebruiker wordt geïdentificeerd als hoog risico en er andere signalen aanwezig zijn, wordt een bot ingezet voor het live gesprek. De bot gebruikt kunstmatige intelligentie om in bijna realtime te bepalen of een live videogesprek CSEAI bevat. Als CSEAI wordt gedetecteerd tijdens het gesprek, wordt de videomogelijkheid in dat gesprek uitgeschakeld.

Wij detecteren het

We hebben geïnvesteerd in onze 'classificatie'-mogelijkheden en hebben deze uitgebreid om ons te helpen bij het proactief detecteren van schendingen van ons beleid in bepaalde contexten. Een 'classificatie' wordt gebruikt om schadelijk materiaal te herkennen en te labelen op basis van een vooraf bepaald beleid, zoals gewelddadig extremisme en terrorisme. Daarnaast hebben we manieren ontwikkeld om inhoud te detecteren die waarschijnlijk kwaadaardig is, zoals scams of virussen op onze services.

Anderen detecteren het

Vertrouwde markeerders kunnen mogelijk illegale of schadelijke inhoud, gedrag of URL's op onze services aan Microsoft melden, zodat we kunnen overwegen of actie nodig is. Vertrouwde markeerders zijn aangewezen organisaties die met Microsoft samenwerken op basis van een overeenkomst of zoals wettelijk vereist. Materiaal dat is gemeld door betrouwbare markeerders wordt net als alle andere meldingen beoordeeld op basis van onze voorwaarden en ons beleid en vervolgens wordt er actie ondernomen. We doen hetzelfde als een overheids- of wetshandhavingsinstantie een mogelijke schending meldt of ons verzoekt inhoud of URL's te verwijderen in overeenstemming met lokale wetten.

Rapport met overheidsaanvragen voor het verwijderen van inhoud

Jullie detecteren het

We moedigen je aan om het ons te vertellen als je iets hebt gezien of ervaren op een Microsoft-service waarover je je zorgen maakt. Als je gedetailleerde informatie geeft over de inhoud, het gedrag of een ander item, inclusief waar je het kunt vinden (zoals een koppeling naar de inhoud of een kopie van een e-mail), kunnen onze revisoren dit beter analyseren en actie ondernemen als het in strijd is met onze voorwaarden en ons beleid. De meeste producten en services hebben opties binnen de productervaring waarmee je inhoud of het gedrag van andere gebruikers kunt rapporteren. Je kunt ook problemen melden. Let er bij het melden op dat je geen illegaal materiaal meestuurt. Gebruik koppelingen naar de inhoud die je meldt, zodat we deze kunnen vinden en lees het formulier zorgvuldig door om er zeker van te zijn dat je alle gevraagde informatie verstrekt.

Inhoudsbeoordeling

Revisoren beoordelen afbeeldingen, video's, berichten en context.

Meer informatie over de beoordeling van inhoud

Beleid

In Microsoft-beleid voor inhoud en gedrag wordt uitgelegd wat niet is toegestaan in onze services.

Meer informatie over beleid