Deepfake影像氾濫 臉書微軟聯手發起打假挑戰賽

科技公司和學術機構攜手推出「揪出深度偽造（deepfake）影像挑戰賽」來改善工具，檢測由人工智慧（AI）造假的影片和其他媒體。

法新社報導，臉書（Facebook） 5 日宣布投入 1000 萬美元在這項計畫中，目標是阻止被視作是破壞網路資訊完整性的重大威脅。

臉書、微軟（Microsoft）和全球 AI 產業聯盟人工智慧夥伴關係（Partnership on AI），結合麻省理工學院（MIT）、康乃爾大學（Cornell University）、牛津大學（University of Oxford）、加州大學柏克萊分校（University of California-Berkeley）、馬里蘭大學（University of Maryland）和紐約州立大學阿爾巴尼分校（University at Albany）等學術機構致力打假。

這是打擊散播造假影片或錄音亂象的廣泛行動之一。

臉書科技長施洛普佛（Mike Schroepfer）說：「此挑戰目標為製作出讓所有人都能使用的技術，偵測AI是否被用來竄改影片，藉此誤導觀眾。」

施洛普佛說，AI 生成影片中真人的言行舉止都可被造假，深度偽造技術「對查明網路資訊的真偽有重大影響，不過科技業目前還沒有大規模的數據或標準進行檢測」。

上週中國一款手機換臉程式 Zao，運用 AI 可讓使用者把經典電影的角色換成自己的臉，迅速登上中國的應用程式商店下載排行榜第一名，卻也因此爆出隱私爭議。

部分線上深偽影像創作者也開始打進簡單製作深偽影片的市場。從波蘭到日本等國家熱衷於機器學習的人，讓人們更容易取得量身打造的深偽影片。他們上傳教學影片到 YouTube，利用 AI 模擬川普的聲音營利，並經營生產深偽影片的自助式網站。

（新聞資料來源 : 中央社）