Phát hiện nội dung

Chúng tôi sử dụng cách tiếp cận gồm nhiều lớp để bảo vệ người dùng trước hành vi và nội dung gây hại.

Nhằm phát hiện cũng như ngăn chặn việc lan truyền một số loại nội dung hình ảnh gây hại và bất hợp pháp đã xác định, chúng tôi triển khai các công nghệ so khớp hàm băm như PhotoDNA và MD5 đối với nội dung video và hình ảnh được chia sẻ qua các dịch vụ do Microsoft lưu trữ dành cho người tiêu dùng, cũng như đối với nội dung được tải lên để tìm kiếm hình ảnh trực quan trên Internet. Một “hàm băm” sẽ biến hình ảnh thành một chuỗi số để có thể dễ dàng so sánh, lưu trữ và xử lý. Những hàm băm này không thể đảo ngược, tức là không thể được dùng để tái tạo hình ảnh gốc. Chúng tôi dựa vào quyền miễn trừ được cho phép theo Quy định của Liên minh châu Âu (EU) 2021/1232 khi cần thiết, để sử dụng các công nghệ so khớp hàm băm nhằm phát hiện nội dung tình dục trẻ em tiềm ẩn trong các dịch vụ chịu sự điều chỉnh của Chỉ thị EU 2002/58/EC.

Ngoài ra, chúng tôi có thể sử dụng các công nghệ máy học như trình phân loại dựa trên văn bản, trình phân loại hình ảnh và kỹ thuật phát hiện hành vi chăn dắt tình dục để tìm ra hành vi hoặc nội dung được chia sẻ qua các dịch vụ do Microsoft lưu trữ dành cho người tiêu dùng, có khả năng là bất hợp pháp hoặc vi phạm chính sách của chúng tôi. Cuối cùng, chúng tôi tận dụng các báo cáo từ người dùng, chính phủ và người gắn cờ đáng tin cậy để lưu ý đến các hành vi có khả năng vi phạm chính sách. Chúng tôi điều chỉnh các kỹ thuật khác nhau nêu trên theo những tính năng và dịch vụ có triển khai các kỹ thuật đó. Như vậy nghĩa là chúng tôi có thể không sử dụng tất cả các công nghệ cho mọi dịch vụ, cũng như không theo cùng một cách trên mọi dịch vụ.

Trên một số dịch vụ của mình, chúng tôi cũng triển khai các công cụ để phát hiện và ngăn chặn việc người dùng có nguy cơ cao sử dụng sai mục đích các chức năng gọi video để sản xuất cũng như chia sẻ hình ảnh lạm dụng và bóc lột tình dục trẻ em (CSEAI). Microsoft dựa vào một số dấu hiệu để xác định người dùng có nguy cơ cao, bao gồm cả việc họ từng giao tiếp trực tiếp với những người dùng đã bị đình chỉ hoặc chặn do chia sẻ nội dung CSEAI. Nếu xác định một người dùng là có nguy cơ cao và phát hiện thấy các dấu hiệu khác, chúng tôi sẽ triển khai một bot trong cuộc gọi trực tiếp. Bot sử dụng trí tuệ nhân tạo để xác định xem cuộc gọi video trực tiếp có chứa CSEAI hay không, theo tốc độ gần sát với thời gian thực. Nếu phát hiện thấy CSEAI trong cuộc gọi, bot sẽ vô hiệu hóa chức năng video trong cuộc gọi đó.