仲裁與強制執行
內容偵測
我們如何使用技術偵測有害內容
我們採用多層次的方式來保護使用者免於有害內容及行為侵害。
我們針對下列內容部署了雜湊比對技術 PhotoDNA 和 MD5，以偵測並防範已知為非法及有害的影像內容散播：透過 Microsoft 託管之消費者服務所共享的影像及影片內容、上傳供網際網路圖像影像搜尋所用的內容。「雜湊」會將影像轉化為一連串可輕鬆比較、儲存及處理的數字。這些「雜湊」不可逆，無法用來重新建立原始影像。我們依賴歐盟法規 (EU) 2021/1232 允許的豁免，根據要求使用雜湊比對技術來偵測在歐盟指令 2002/58/EC 規範下的潛在兒童色情內容。
我們也可能使用機器學習技術 (如文本分類器、影像分類器和誘騙偵測技巧) 來探索透過 Microsoft 託管消費者服務分享的內容或行為是否可能不合法或違反我們的原則。最後，我們會運用使用者、政府及受信任標記人員的回報，關注可能違反原則的情況。這些不同的技術是根據其部署的特徵和服務量身定制的，這意味著我們可能不會在所有服務上使用所有技術，也不會在每個服務上以相同的方式使用。
在我們的一些服務上，我們還部署工具來偵測和阻止高風險使用者濫用視訊通話功能以製作和分享兒童性剝削與虐待影像 (CSEAI)。Microsoft 使用多種信號來識別高風險使用者，包括他們過去與因分享 CSEAI 內容而被暫停或封鎖的使用者的直接通訊。如果使用者被識別為高風險，並且存在其他信號，則會在即時通話中部署機器人。該機器人使用人工智慧來判斷即時視訊通話中是否包含 CSEAI，幾乎即時。如果在通話中偵測到 CSEAI，則該通話的視訊功能將被禁用。
我們的發現
我們投資並發展「分類器」功能，以協助我們主動偵測特定情境中違反我們原則的行為。「分類器」用於根據預定的原則識別和標記有害材料，例如暴力極端主義和恐怖主義。此外，我們發展了不同方法，在服務中偵測可能為惡意的內容 (例如詐騙和病毒)。
其他人的發現
受信任的標記人員會向 Microsoft 表明服務中可能為非法或有害的內容、行為或 URL，以便我們考慮是否需要採取行動。受信任的標記人員會依合約或按法律要求，被指派至與 Microsoft 合作的組織。受信任的舉報者報告的內容會根據我們的條款和原則進行檢閱，就像所有其他報告一樣，然後根據情況採取行動。如果任何政府或執法機構報告潛在的違規行為或要求我們根據當地法律刪除內容或網址，我們也會這樣做。
您的發現
若您對在 Microsoft 服務中看到或經歷的事物有所疑慮，建議您可以告訴我們。提供內容、行為或其他項目的詳細資訊，包含出處 (例如內容連結或電子郵件副本) 有助於我們的審核人員評估您回報的問題是否違反條款及原則，並對其採取行動。大多數產品及服務在產品體驗內都提供選項，可讓您回報有疑慮的內容或其他使用者行為。您也可以回報問題。回報時請注意，不要傳送非法資料。使用您報告的內容連結，讓我們可以找到它，並仔細閱讀表單，以確保您提供要求的所有資訊。