İçerik algılama

Kullanıcılarımızı zararlı içerik ve davranışlardan korumak için çok katmanlı bir yaklaşım benimsiyoruz.

Belirli kategorilerdeki bilinen yasa dışı ve zararlı görsel içeriklerin algılanması ve yayılmasının engellenmesi için Microsoft tarafından barındırılan tüketici hizmetleri aracılığıyla paylaşılan görüntü ve video içeriklerinin yanı sıra görsel resim arama için İnternet'e yüklenen içerikler üzerinde PhotoDNA ve MD5 adlı karma eşleme (hash-match) teknolojilerini kullanıyoruz. Bu bağlamda resimler bir “karma“ işlemiyle kolaylıkla karşılaştırılabilen, depolanabilen ve işlenebilen bir dizi sayıya dönüştürülür. Bu karma işlemleri tersine çevrilemediğinden, bir karma kullanılarak orijinal resim yeniden oluşturulamaz. 2021/1232 sayılı Avrupa Birliği (AB) Yönetmeliği kapsamında izin verilen istisna koşulu çerçevesinde 2002/58/EC sayılı AB Direktifi’ne tabi olan hizmetlerde çocukların yer aldığı potansiyel cinsel içerikleri tespit etmek için karma eşleme teknolojilerini kullanıyoruz.

Microsoft tarafından barındırılan tüketici hizmetlerinde paylaşılan, yasa dışı veya ilkelerimizi ihlal ediyor olabilecek içerik veya davranışların tespiti için metin tabanlı sınıflandırıcılar, resim sınıflandırıcıları ve çocuk istismarı algılama gibi makine öğrenmesi teknolojilerinden de yararlanabiliriz. Son olarak potansiyel ilke ihlallerine ilişkin kullanıcılar, kamu kurumları ve güvenilir içerik denetleyicileri tarafından sağlanan bildirimlerden yararlanıyoruz. Bu çeşitli teknikler, uygulandıkları özelliklere ve hizmetlere göre özel olarak uyarlanmıştır, bu da tüm teknolojileri tüm hizmetlerde veya her hizmette aynı şekilde kullanmayabileceğimiz anlamına gelir.

Bazı hizmetlerimizde, yüksek riskli kullanıcılar tarafından çocuklara yönelik cinsel istismar ve taciz görüntülerini (CSEAI) üretmek ve paylaşmak amacıyla görüntülü arama özelliklerinin kötüye kullanımını tespit edip engellemek için araçlar da kullanıyoruz. Microsoft, CSEAI içerikleri paylaştıkları için askıya alınan veya engellenen kullanıcılarla geçmişte yapılan doğrudan iletişimler de dahil olmak üzere yüksek riskli kullanıcıları tanımlamak için çeşitli sinyaller kullanır. Bir kullanıcı yüksek riskli olarak tanımlanırsa ve diğer sinyaller mevcutsa, canlı görüşmeye bir bot yerleştirilir. Bot, canlı görüntülü aramanın CSEAI içerip içermediğini belirlemek için yapay zeka kullanır ve bunu neredeyse gerçek zamanlı olarak yapar. Eğer görüşme sırasında CSEAI tespit edilirse, o görüşmedeki video özelliği devre dışı bırakılır.