Откриване на съдържание

Използваме многослоен подход за защита на нашите потребители от опасно съдържание и поведение.

За да открием и спрем разпространението на определени категории известно незаконно и вредно съдържание на изображения, използваме технологиите за хеш-съпоставяне PhotoDNA и MD5 за изображения и видеосъдържание, споделени чрез хоствани от Microsoft потребителски услуги, и за съдържание, качено за търсене на визуални изображения в интернет. „Хешът“ преобразува изображенията в поредица от цифри, които могат лесно да се сравняват, съхраняват и обработват. Тези хешове не са обратими, което означава, че не могат да се използват за повторно създаване на първоначалните изображения. Разчитаме на дерогацията, разрешена от Регламент (ЕС) 2021/1232 на Европейския съюз, когато е необходимо, за използването на технологии за съпоставяне чрез хеширане с цел откриване на потенциални материали със сексуално насилие над деца в услуги, попадащи в обхвата на Директива 2002/58/ЕО на ЕС.

Също така може да използваме технологии за машинно обучение, като например базирани на текст класификатори, класификатори на изображения и техники за откриване на подмамване на деца, за да откриваме съдържание или поведение, споделяно чрез хоствани от Microsoft потребителски услуги, които може да са незаконни или да нарушават нашите правила. И накрая, използваме докладвания от потребители, държавни организации и надеждни податели на сигнали, за да привлекат вниманието ни към потенциални нарушения на правилата. Тези различни техники са съобразени с характеристиките и услугите, върху които се прилагат, което означава, че може да не използваме всички технологии за всички услуги или по един и същи начин за всяка отделна услуга.

В някои от нашите услуги прилагаме и инструменти за откриване и предотвратяване на злоупотребата с възможностите за видеовръзка за създаване и разпространение на изображения, свързани със сексуална експлоатация и насилие над деца (CSEAI) от страна на високорискови потребители. Microsoft използва няколко сигнала за идентифициране на високорискови потребители, включително предишната им директна комуникация с потребители, които са били спрени или блокирани за споделяне на материали, свързани със сексуална експлоатация и насилие над деца (CSEAI). Ако даден потребител бъде идентифициран като високорисков и са налице и други сигнали, в текущото обаждане се включва бот. Ботът използва изкуствен интелект, за да определи дали живото видеообаждане съдържа изображения, свързани със сексуална експлоатация и насилие над деца (CSEAI), почти в реално време. Ако по време на обаждането бъде открито CSEAI, видеовъзможността в това обаждане се деактивира.