YouTube 落實審查機制 移除10 萬部違規影片、關閉1.7 萬個頻道

隨著小組成員根據新政策審查及移除越來越多不當內容,YouTube 的機器偵測技術也同步改進!
評論
Photo Credit:Reuters/達志影像
Photo Credit:Reuters/達志影像
評論

YouTube 加倍努力審查不當內容,同時致力於保有開放式平台的吸引力,YouTube 近日在官方部落格分享在平台審核機制上的核心與近幾個月的執行成果,讓更多用戶瞭解每項原則的實際做法,持續著重在「移除」有害內容,過去 18 個月內因違反政策而被移除的影片觀看數減少了 80%,而YouTube也將持續努力減少這類影片的觀看次數。

YouTube 官方強調主要的任務可以分為以下四大原則:

YouTube_Remove5
YouTube_Remove6
自2016年以來實施的政策歷程

擬定適合全球性平台的政策

為了保護 YouTube 社群,YouTube成立了一個專門制定政策的團隊,負責逐條審查YouTube 所有的政策,維護社群安全又不損及 YouTube 的開放性。

不過,YouTube 審核完一項政策後現,經常發現:雖然政策本身不需要大幅度變動,卻存有模糊空間或是令社群成員感到困惑的地方。因此,許多更新的用意其實是為了釐清現有的規範。

舉例來說,YouTube在今年初發表更詳細的政策內容,解釋在何種情況下,YouTube會認定「挑戰」影片的內容會嚴重危害到 YouTube 社群。自 2018 年以來,YouTube已經多次更新違規處置規範,其中大多都是較小的更新,但也有一些實質變動。

針對特別複雜的問題,有時候YouTube會花費數個月的時間制定新政策。在研擬政策的期間內,YouTube 會徵詢外部專家和 YouTube 創作者的意見,藉此瞭解目前的政策有哪些不足的地方,並將地區間的差異納入考量,以確保 YouTube 所提出的變動內容能公平適用於全球各地。

新版仇恨言論處理政策可謂 YouTube 政策上的一項重大變革。YouTube花費數個月的時間謹慎擬定政策內容,並與 YouTube 的小組合作打造實施政策所需的培訓課程和工具,最後在 6 月初正式實施。

隨著小組成員根據新政策審查及移除越來越多不當內容,YouTube 的機器偵測技術也同步改進。雖然新政策從制定到實施需要好幾個月的前置作業,但從本季社群規範違規處置報告公布的資料來看,YouTube 針對仇恨言論發布的新版政策顯然已帶來深遠的影響:

YT_Remove3

移除數量之所以遽增,某部分是因為 YouTube 移除了先前規範所允許的舊留言、影片和頻道。在 2019 年 4 月,YouTube 宣布著手更新騷擾政策,內容涵蓋創作者對其他創作者的騷擾行為。YouTube 會在未來幾個月公布這項政策的更新進度。

透過機器學習技術檢舉不當內容

在政策制定完成後,YouTube 必須有效結合人力與技術,幫助 YouTube 審查小組檢舉不當內容。YouTube有時會使用雜湊法(Hashes) (或稱「數位指紋(Digital Fingerprints)」) 找出已知的違規的內容,讓這些含有違規內容的影片在能夠被大眾觀賞前就被移除。針對例如兒童性虐待圖像 (CSAI) 、恐怖組織招募影片等內容,YouTube也為業界共用的雜湊資料庫做出貢獻,以增加這類內容在上傳期間就遭到YouTube系統攔截的數量。

YouTube在 2017 年擴大機器學習技術的使用規模,協助偵測潛在的違規內容,並將其送交人工審查。機器學習非常適合用來偵測模式,有助於YouTube辨識內容是否與先前移除的其他違規內容相似 (不一定完全相同),甚至讓這些內容在被任何人看到前就被偵測出來。針對像是垃圾內容、成人內容等經常看起來十分相似的內容,這類系統在標記違規的成效格外顯著。機器學習技術也可以協助檢舉仇恨言論和其他違規內容。然而,由於判斷這類內容是否違規時,大多需要將背景資訊納入考量,因此透過人工審查來辨別其中的細微差異,並做出審慎的決策就顯得更為重要。儘管如此,在 2019 年第二季移除的 900 萬部影片中,仍有超過 87% 是先由自動化系統優先標記出來的。

YouTube持續在自動化偵測系統投注大量資源,YouTube 工程小組每個月也會更新及改善這些系統。舉例來說,垃圾內容偵測系統於 2019 年第二季經過更新後,因違反垃圾內容政策而遭到YouTube停權的頻道數量提升了超過 50% 。

在大批觀眾看見違規影片前先行移除這類內容

YouTube會盡可能確保違反政策的內容在尚未累計大量觀看次數的情況下 (甚至在被任何觀眾看見前) 就被移除。如上所述,改進自動檢舉系統在偵測及審查內容等相關事宜帶來助益,讓社群無須費心檢舉違規影片,而成效更是有目共睹:2019 年第二季由系統自動檢舉的影片中,80% 以上的影片在獲得任何觀看次數前就已被移除。

YouTube 體認到快速移除不當內容的最佳方式就是防範於未然。2018 年 1 月,YouTube成立了 Intelligence Desk 小組,負責主動監控新聞、社交媒體和使用者檢舉內容,藉此偵測與不當內容相關的新趨勢,並確保 YouTube 小組做好因應的準備,以免演變成更嚴重的問題。

YouTube 減少違規影片曝光度的決心始終不變,因此YouTube讓 Google 10,000 多名員工著手進行偵測、審查及移除違規內容等任務。

舉例來說,上個月因仇恨言論而遭移除的近 30,000 部影片中,累積的觀看次數只有針織教學影片的 3%。

上週,YouTube更新了《社群規範違規處置報告》,這份季度報告涵蓋其他深入分析資料,能幫助讀者進一步瞭解YouTube從 YouTube 移除的內容數量、移除原因,以及該內容首次被偵測的情形。這份報告不僅說明過去幾年間部署的技術如何幫助YouTube以前所未有的效率快速移除 YouTube 上的有害內容,也凸顯出在YouTube致力於研擬周延的政策、謹慎審查內容,並且盡責地部署機器學習技術時,為何人員的專業知識仍舊是違規處置作業不可或缺的一環。

責任編輯:Anny




精選熱門好工作

資深前端工程師 - Solution (Senior Frontend Engineer)

iKala 愛卡拉
臺北市.台灣

獎勵 NT$15,000

高階 SRE 專家 / Sr. SRE

奔騰網路科技有限公司
臺北市.台灣

獎勵 NT$15,000

iOS工程師

Omlet Arcade 美商歐姆雷特
臺北市.台灣

獎勵 NT$15,000