Detectarea conținutului

Utilizăm o abordare pe mai multe niveluri pentru a ne proteja utilizatorii împotriva conținutului și a comportamentului dăunător.

Pentru a detecta și a opri răspândirea anumitor categorii de conținut tip imagine cunoscute ca fiind ilegale și dăunătoare, implementăm tehnologiile de potrivire a codului hash PhotoDNA și MD5 pe imagini și conținutul video partajate prin serviciile pentru consumatori găzduite de Microsoft și pe conținutul încărcat pentru căutări de imagini vizuale din internet. Un „cod hash” transformă imaginile într-o serie de numere care pot fi comparate, stocate și procesate cu ușurință. Aceste coduri hash nu sunt reversibile, ceea ce înseamnă că nu pot fi utilizate pentru a recrea imaginile originale. Ne bazăm pe derogarea permisă de Regulamentul Uniunii Europene (UE) 2021/1232, după cum este necesar, pentru utilizarea tehnologiilor de potrivire a codului hash pentru a detecta posibile materiale cu conținut sexual și minori, în serviciile reglementate de Directiva UE 2002/58/EC.

De asemenea, putem utiliza tehnologii de învățare programată, cum ar fi clasificatorii bazați pe text, clasificatorii de imagini și tehnicile de detectare a ademenirii pentru a descoperi conținut sau comportament partajat prin serviciile pentru consumatori găzduite de Microsoft care pot fi ilegale sau care încalcă politicile noastre. Nu în ultimul rând, valorificăm rapoartele de la utilizatori, instituții guvernamentale și semnalizatori de încredere pentru a ne atrage atenția asupra încălcărilor potențiale ale politicii. Aceste tehnici diverse sunt adaptate la caracteristicile și serviciile pe care sunt implementate, ceea ce înseamnă că s-ar putea să nu folosim toate tehnologiile pe toate serviciile, nici în același mod pe fiecare serviciu.

Pe unele dintre serviciile noastre, implementăm și instrumente pentru a detecta și a întrerupe utilizarea abuzivă a capacităților de apel video pentru a produce și a distribui imagini de exploatare și abuz sexual asupra copiilor (CSEAI) de către utilizatori cu risc ridicat. Microsoft folosește mai multe semnale pentru a identifica utilizatorii cu risc ridicat, inclusiv comunicarea lor directă anterioară cu utilizatori care au fost suspendați sau blocați pentru distribuirea de materiale CSEAI. Dacă un utilizator este identificat ca având un risc ridicat și sunt prezente și alte semnale, se implementează un bot în apelul live. Botul folosește inteligența artificială pentru a determina dacă un apel video live conține CSEAI, aproape în timp real. Dacă se detectează CSEAI în timpul apelului, capacitatea video din acel apel este dezactivată.