Виявлення вмісту

Ми використовуємо багаторівневий підхід до забезпечення захисту наших користувачів від шкідливого вмісту й поведінки.

Щоб виявляти певні категорії вже відомого незаконного та шкідливого графічного вмісту та запобігати його поширенню, ми розгортаємо технології зіставлення гешованих даних (PhotoDNA і MD5) для фото- й відеовмісту в користувацьких службах Microsoft та вмісту, завантаженого для пошуку візуальних зображень в Інтернеті. Гешування перетворює зображення на набір цифр, які легко порівнювати, зберігати й обробляти. Гешування незворотне, тобто його не можна використовувати для відтворення оригінальних зображень. Під час використання технологій зіставлення гешованих даних для виявлення матеріалів, що можуть містити зображення сексуальної експлуатації та насильства над дітьми, у службах, що регулюються Директивою Європейського Союзу (ЄС) 2002/58/EC, ми орієнтуємося на відступ, дозволений Регламентом ЄС 2021/1232.

Ми також можемо використовувати технології машинного навчання, зокрема класифікатори тексту й зображень і методи розпізнавання грумінгу, щоб виявляти в користувацьких службах Microsoft вміст або поведінку, які порушують закон чи наші політики. І насамкінець, ми використовуємо звіти від користувачів, державних установ та довірених інформаторів, щоб ознайомлюватися з потенційними порушеннями правил. Ці різноманітні методи адаптовані до функцій і служб, у яких вони застосовуються, а це означає, що ми не можемо використовувати всі технології в усіх службах або однаково в кожній службі.

У деяких наших службах ми також розгортаємо інструменти для виявлення та припинення зловживань можливостями відеодзвінків для створення та розповсюдження зображень сексуальної експлуатації та насильства над дітьми (CSEAI) користувачами з групи високого ризику. Корпорація Майкрософт використовує кілька сигналів для виявлення користувачів із високим рівнем ризику, зокрема їхнє минуле пряме спілкування з користувачами, яких було відсторонено або заблоковано за поширення матеріалів, що належать до категорії CSEAI. Якщо користувача віднесено до групи високого ризику, а також за наявності інших сигналів до виклику залучається бот. Бот використовує штучний інтелект, щоб визначити, чи містить відеодзвінок CSEAI, майже в реальному часі. Якщо під час дзвінка виявлено CSEAI, функцію відео в цьому дзвінку буде вимкнено.