AI 生成假臉逃不過!臉書掃蕩中國、菲律賓兩大網軍集團

臉書針對外國干預美國政治的行動刪除中國帳號,官方表示這些來自中國的干預活動主要是針對菲律賓和東南亞,美國較少,帳號的特點是幾乎沒有發表任何內容,看起來只像是為了建立受眾,調查發現大多來自福建省。
評論
Photo Credit:Graphika
Photo Credit:Graphika
評論

臉書今天宣布,刪除了干預美國和亞洲政治的多個帳號,同時也公布這些假帳號的運作方式。安全政策主管 Nathaniel Gleicher 在官方部落格表示,臉書刪除違反「協同性造假行為」(coordinated inauthentic behavior,CIB) 政策的帳號,這兩大假帳號集團主要來自於中國與菲律賓。

臉書 CIB 計畫三年以來致力掃蕩刻意操弄的虛假行為,去年就移除了全球 50 個類似的假帳號集團,而在今年開始定期發表成果報告。臉書表示,目前已經刪除 155 個中國假帳號、11 個粉絲專頁、9 個社團以及 6 個 Instagram 帳號,刪除菲律賓的 57 個帳號、31個粉專和 20 個 Instagram 帳戶。

臉書研究他們如何干預亞洲和美國政治,主要運作方式如下:他們會使用 VPN 來隱藏其身份和位置,透過假扮特定國家地區的當地人,通常他們會成立粉專,同時在臉書社團中發表擴散相關的內容,這些內容包括中國在南海爭議行動以及支持菲律賓總統杜特蒂(Rodrigo Duterte)的言論等。

臉書官方表示這些來自中國的干預活動主要是針對菲律賓、東南亞,美國有但比較少,帳號的共同特點是幾乎沒有發表任何內容,看起來只像是為了建立受眾,調查發現大多來自福建省。

臉書發現,這些假帳號從去年就開始干預美國總統選舉,2019 年 4 月就成立社團 「Go for Pete Buttigieg 2020」,但似乎沒有吸引太多人。今年他們則是成立針對美國政治的社團,一個反對川普、一個支持川普,另一個則是支持拜登名為「Quack Quack」專門張貼反對川普的貼文,最後一個看起來吸引最多人加入,共有 1,400 位成員。

臉書與假訊息社群分析公司 Graphika 聯合發表的報告指出,中國的假帳號使用 GANs 的 AI 技術建立的人像。GAN 為「生成對抗網絡」,顧名思義可用來「生成」資料,搭配大量的訓練資料,GAN 能夠學習到資料中的特性,並產生看似真實的「假資料」,例如提供大量人物肖像作為訓練資料,GAN 就能學習到人物圖片特徵,並產生栩栩如生假人物肖像。

Graphika 發現類似此濫用 AI 的秘密行動在去年激增,Graphika 指出,以偽造臉孔被用來躲避監測的帳號,視覺特徵在細節上仍然有破綻,因此即便是 GAN 技術生成者也被臉書揪出。

核稿編輯:Chris

延伸閱讀: