Moderazione e applicazione

Rilevamento contenuti

Come usiamo la tecnologia per rilevare contenuti dannosi

Adottiamo un approccio multilivello per proteggere i nostri utenti da contenuti e comportamenti dannosi.

Per rilevare e arrestare la diffusione di determinate categorie di contenuti di immagini illegali e dannosi già noti, usiamo le tecnologie di corrispondenza hash PhotoDNA e MD5 su immagini e sui video condivisi tramite i servizi consumer ospitati da Microsoft e sui contenuti caricati per ricerche visive su Internet. Un 'hash' trasforma le immagini in una serie di numeri che possono essere facilmente confrontati, archiviati ed elaborati. Questi hash non sono reversibili, il che significa che non possono essere usati per ricreare le immagini originali. Ci avvaliamo della deroga consentita dal Regolamento (UE) 2021/1232 dell'Unione Europea, ove necessario, per l'uso di tecnologie di hash-matching al fine di rilevare potenziali materiali pedopornografici nei servizi disciplinati dalla Direttiva UE 2002/58/CE.

Potremmo anche usare tecnologie di machine learning come classificatori basati su testo, classificatori di immagini e tecniche di rilevamento di grooming per individuare contenuti o attività condivisi tramite i servizi consumer ospitati da Microsoft che potrebbero essere illegali o violare le nostre politiche. Infine, ci avvaliamo dei report degli utenti, dei governi e dei segnalatori attendibili per individuare potenziali violazioni delle politiche. Queste diverse tecniche sono adattate alle funzionalità e ai servizi in cui vengono distribuite, il che significa che potremmo non usare tutte le tecnologie in tutti i servizi, né nello stesso modo in ogni servizio.

Su alcuni dei nostri servizi, implementiamo anche strumenti per rilevare e contrastare l'uso improprio delle funzionalità di videochiamata finalizzato alla produzione e condivisione di materiale relativo all'abuso e sfruttamento sessuale di minori (CSEAI) da parte di utenti ad alto rischio. Microsoft usa diversi segnali per identificare gli utenti ad alto rischio, inclusi i loro precedenti contatti diretti con utenti sospesi o bloccati per aver condiviso materiale CSEAI. Se un utente viene identificato come ad alto rischio e sono presenti altri segnali, un bot viene distribuito nella chiamata in tempo reale. Il bot usa l'intelligenza artificiale per determinare, quasi in tempo reale, se una videochiamata live contiene CSEAI. Se durante la chiamata viene rilevato CSEAI, la funzionalità video in tale chiamata viene disabilitata.

Quando Microsoft rileva le violazioni

Abbiamo investito e potenziato la nostra capacità di “classificazione” per aiutarci a rilevare proattivamente le violazioni delle nostre politiche in determinati contesti. Un “classificatore” viene usato per riconoscere ed etichettare materiale dannoso in base a criteri predefiniti, come l'estremismo violento e il terrorismo. Inoltre, abbiamo sviluppato metodi per rilevare contenuti potenzialmente dannosi, come truffe o virus, nei nostri servizi.

Quando altri rilevano le violazioni

I segnalatori attendibili possono segnalare a Microsoft contenuti, comportamenti o URL potenzialmente illegali o dannosi presenti sui nostri servizi, in modo che possiamo valutare se è necessario intervenire. I segnalatori attendibili sono organizzazioni designate che collaborano con Microsoft tramite contratto o secondo quanto richiesto dalla legge. Il materiale indicato dai segnalatori attendibili viene esaminato in base ai nostri termini e alle nostre politiche, proprio come tutte le altre segnalazioni, e quindi gestiti di conseguenza. Facciamo lo stesso modo se un governo o le forze dell'ordine segnalano una potenziale violazione o richiede la rimozione di contenuti o URL in conformità alle leggi locali.

Report delle richieste da parte di enti governativi di rimozione dei contenuti

Quando tu rilevi le violazioni

Ti invitiamo a segnalarci se hai visto o riscontrato qualcosa in un servizio Microsoft che ti ha suscitato preoccupazione. Fornire informazioni dettagliate sul contenuto, sul comportamento o su altri elementi, incluso dove trovarli (ad esempio un collegamento al contenuto o una copia di un messaggio di posta elettronica), aiuterà i nostri revisori a valutare e ad agire in caso di violazione delle nostre condizioni e politiche. La maggior parte dei prodotti e servizi offre opzioni integrate per segnalare contenuti inappropriati o il comportamento di altri utenti. Puoi anche segnalare problemi. Fai attenzione a non inviare materiali illegali nelle tue segnalazioni. Usa i collegamenti al contenuto che stai segnalando, in modo che possiamo individuarlo, e leggi attentamente il modulo per assicurarti di fornire tutte le informazioni richieste.

Revisione dei contenuti

Immagini, video, messaggi e contesto vengono analizzati da revisori umani.

Scopri di più sull'analisi dei contenuti

Politiche

Le politiche di Microsoft relative ai contenuti e comportamenti spiegano cosa non è consentito nei nostri servizi.

Scopri di più sulle politiche