Discord 證實，平台的人工智慧內容審查系統自 5 月起持續誤判部分無害圖片，導致約 8,000 個使用者帳號遭到封鎖。受影響的內容包括遊戲材質、棋盤格圖樣及其他常見圖片。
Discord 透過官方 X 帳號說明，平台會利用 AI 審查系統，將使用者上傳的圖片與有害內容資料庫進行比對。然而，這套系統在過去兩個月出現判斷失準，將部分原本沒有危害的圖片錯誤標記為有害素材。
AI 誤判導致數千個帳號失去存取權
Discord 表示，遭系統標記的內容原則上會交由信任與安全團隊成員進行人工審查，確認後才會採取封鎖等處置。不過，這套流程仍未能避免錯誤發生，結果有數千名使用者自 5 月起失去帳號存取權，總數約為 8,000 個。
平台目前已著手恢復遭到誤封鎖的帳號，但尚未在相關說明中提供完整的恢復時間表或進一步技術細節。
棋盤格圖樣可能觸發系統警示
外界分析指出，部分引發封鎖的圖片，例如棋盤格或格狀圖樣，可能與不法人士用來隱藏兒童剝削內容的手法具有相似特徵，因此觸發 Discord 的自動偵測系統。
不過，這項分析屬於外界推測，Discord 並未在目前說明中確認特定圖片格式是造成誤判的唯一原因。事件反映出，當內容審查系統過度依賴圖像特徵比對時，可能將具有相似外觀、但實際用途完全不同的正常圖片一併標記。
事件凸顯人工審查仍不可或缺
這起事件也再次凸顯，人工審查在平台內容管理流程中仍扮演重要角色。AI 能夠快速處理大量上傳內容，但在判斷圖片的實際脈絡、用途與是否構成危害時，仍可能出現誤判。
Discord 原本設有人工複核機制，卻仍有大量帳號受到錯誤處置，顯示自動化偵測結果如何交由人員檢查、以及封鎖前後的申訴與復原流程，同樣是平台安全管理的重要環節。
自動化審查的限制持續受到關注
隨著 AI 更廣泛應用於社群平台、通訊服務及其他使用者生成內容的管理工作，自動化判斷失準而波及無辜使用者的風險仍可能存在。平台若要降低類似事件的影響，除了持續調整模型與資料庫，也需要確保人工審查、申訴及帳號恢復機制能夠及時運作。
目前已確認的是，Discord 承認系統曾誤判無害圖片，並已開始恢復受影響帳號；至於造成錯誤的具體技術原因，以及平台將採取哪些防止再次發生的措施，仍有待 Discord 進一步公布。
