审核与强制执行
内容检测
我们如何使用技术来检测有害内容
我们使用多层方法来保护我们的用户免受有害内容和行为的侵害。
为了检测和阻止某些类别的已知非法和有害图像内容的传播，我们在通过 Microsoft 托管的消费者服务共享的图像和视频内容上以及为 Internet 视觉图像搜索而上传的内容上部署哈希匹配技术 PhotoDNA 和 MD5。“哈希”将图像转换为一系列可以轻松比较、存储和处理的数字。这些哈希是不可逆的，意味着它们不能用于重新创建原始图像。我们在需要时依据欧盟法规 (EU) 2021/1232 许可的例外条款，使用哈希匹配技术在受欧盟指令 2002/58/EC 管辖的服务中检测可能存在的儿童性材料。
我们还可以使用机器学习技术（如基于文本的分类器、图像分类器和勾引儿童检测技术）来发现通过 Microsoft 托管消费者服务共享的可能非法或违反我们政策的内容或行为。最后，我们利用用户、政府和受信任举报者的报告来提醒我们注意潜在的违规行为。这些不同的技术是根据它们所部署到的功能和服务量身定制的，这意味着我们可能不会在所有服务上使用所有技术，也不会以相同的方式在每个服务上使用这些技术。
在我们的某些服务上，我们还部署了工具来检测和阻止高风险用户滥用视频通话功能来制作和分享儿童性剥削和性虐待图像 (CSEAI)。Microsoft 使用多种信号来识别高风险用户，包括他们过去与因分享 CSEAI 材料而被暂停或封锁的用户的直接沟通。如果某个用户被识别为高风险，并且存在其他信号，则会在实时通话中部署一个机器人。该机器人使用人工智能来近乎实时地判断实时视频聊天中是否包含 CSEAI。如果在视频通话中检测到 CSEAI，则该视频通话中的视频功能将被禁用。
我们发现违规行为
我们投资并发展了我们的“分类器”功能，以帮助我们主动检测某些情况下违反策略的行为。“分类器”用于根据预定义策略识别和标记有害材料，例如暴力极端主义和恐怖主义。此外，我们还开发了检测可能是恶意内容的方法，例如我们服务上的欺诈或病毒。
其他人发现违规行为
受信任举报者可能会向 Microsoft 举报我们的服务上可能存在非法或有害的内容、行为或 URL，以便我们考虑是否需要采取措施。受信任举报者是按协议或按法律要求与 Microsoft 合作的指定组织。受信任标记者报告的材料会根据我们的条款和政策进行审核，就像所有其他报告一样，然后采取相应的措施。如果任何政府或执法机构报告可能的违规行为或请求我们根据当地法律删除内容或 URL，我们也会采取相同的做法。
你发现违规行为
如果你在 Microsoft 服务中看到或体验到你担心的内容，我们会鼓励你告诉我们。提供有关内容、行为或其他项的详细信息（包括发现位置，例如内容的链接或电子邮件的副本）将有助于我们的审阅者评估内容和行为并在它们违反我们的条款和政策时采取措施。大多数产品和服务在产品体验中都提供了报告有关内容或其他用户行为的选项。你还可以报告疑虑。报告时要小心，确保不要发送非法材料。请使用指向你报告的内容的链接，以便我们可以找到它，同时仔细阅读表格，确保你提供了要求的所有信息。