Deteksi konten

Kami menggunakan pendekatan berlapis untuk melindungi pengguna kami dari konten dan perilaku berbahaya.

Untuk mendeteksi dan menghentikan penyebaran kategori tertentu dari konten gambar yang ilegal dan berbahaya, kami menggunakan teknologi pencocokan hash PhotoDNA dan MD5 pada konten foto dan video yang dibagikan melalui layanan konsumen yang di-host Microsoft serta pada konten yang diunggah untuk pencarian gambar visual internet. Sebuah "hash" mengubah gambar menjadi rangkaian angka yang dapat dibandingkan, disimpan, dan diproses dengan mudah. Hash ini tidak dapat dibalik, artinya tidak dapat digunakan untuk membuat ulang gambar asli. Kami mengandalkan derogasi yang diizinkan oleh Regulasi Uni Eropa (UE) 2021/1232 sebagaimana diwajibkan, terkait penggunaan teknologi pencocokan hash untuk mendeteksi potensi materi seksual anak dalam layanan yang diatur oleh Pedoman UE 2002/58/EC.

Kami juga mungkin menggunakan teknologi pembelajaran mesin seperti pengklasifikasi berbasis teks, pengklasifikasi gambar, dan teknik deteksi grooming untuk menemukan penyebaran konten atau perilaku yang mungkin ilegal atau melanggar kebijakan kami di dalam layanan konsumen yang di-host Microsoft. Terakhir, kami memanfaatkan laporan dari pengguna, pemerintah, dan pelapor tepercaya untuk melaporkan potensi pelanggaran kebijakan kepada kami. Berbagai teknik ini disesuaikan dengan fitur dan layanan tempat teknik tersebut diterapkan, yang berarti kami mungkin tidak menggunakan semua teknologi di semua layanan, maupun dengan cara yang sama di setiap layanan.

Di beberapa layanan kami, kami juga menggunakan alat untuk mendeteksi dan mengganggu penyalahgunaan kemampuan panggilan video untuk memproduksi dan membagikan gambar eksploitasi dan pelecehan seksual terhadap anak (CSEAI) oleh pengguna berisiko tinggi. Microsoft menggunakan beberapa sinyal untuk mengidentifikasi pengguna berisiko tinggi, termasuk komunikasi langsung mereka di masa lalu dengan pengguna yang telah ditangguhkan atau diblokir karena membagikan materi CSEAI. Jika pengguna diidentifikasi sebagai berisiko tinggi, dan memiliki sinyal lain, bot akan disebarkan ke dalam panggilan langsung. Bot tersebut menggunakan kecerdasan buatan untuk menentukan apakah panggilan video langsung berisi CSEAI, dalam waktu hampir real time. Jika CSEAI terdeteksi selama panggilan, kemampuan video dalam panggilan tersebut dinonaktifkan.