本文作者為李筱雯，原文標題：位於善／惡交接處的新科技──談深度偽造（deepfake）帶給民主的挑戰，由思想坦克授權轉載。
四月上旬，前英國足球金童大衛貝克漢，在一支宣導對抗瘧疾的影片中（Malaria No More），以科技合成的深度偽造 Deepfake 聲音，說出九種語言，Deepfake 深度偽造科技目前仍是處於備受爭議的階段，貝克漢的這支宣傳片卻是將被視為 「惡」 的深度偽造拿來做「善」 的公共利益的宣傳。
在 55 秒的宣傳影片中，以影像合成技術讓貝克漢可以說九種語言，並結合其他人的聲音，從英國到中國，到奈及利亞，其中包括瘧疾的倖存者，以及醫護人員。
片中的訴求是瘧疾必須消失，數百萬人才能活命（Malaria must die, so millions can live），並呼籲大家參與今年十月舉行的全球基金再補足會議（Global Fund Replenishment Conference）。貝克漢在幕後花絮中表示，「讓科技可以結合到我們的生活與我們的世界中，我能夠成為代表許多不同人的一個聲音，是一件非常棒的事！」，貝克漢是英國對抗瘧疾組織的創始會員，也是聯合國兒童基金會的親善大使。
但是這支公益宣導短片卻也引起許多人的疑慮，電腦軟體可以製造深度偽造的影片，恐怕會被用在政治人物的影片，或為了欺騙新聞讀者而偽造的影像。被視為製造假新聞、惡搞與惡作劇的 Deepfake （Deep Learning and Fake）深度偽造，是運用人工智能（Artificial Intellectual）與機器學習（Machine Learning）的人體圖像合成技術，將圖像與影片重複堆疊，加到目標圖像與影片上，造成似假還真的效果。
網路上有愈來愈多的色情合成圖像與影片，惡搞名人明星或公眾人物的性愛影片，例如，某個好萊塢明星的臉，會出現成人色情電影中，或者某人為了報復前任，將前任男朋友或女朋友的臉，植入色情影片，然後在社群網站大肆分享。由於這項技術不是太難，而且電腦程式的原始碼隨手可得，使得 Deepfake 四處流竄，因此， Pornhub , Reddit 與 Twitter 網站已經明文禁止發佈 Deepfake 作品。
英國國會數位、文化、媒體與體育委員會主席 Damian Collins 提出警告，Deepfake 科技是對民主最嚴重的威脅，也是最大的挑戰之一，並呼籲臉書必須負起責任對付假新聞，因為線上的假訊息愈來愈複雜，已經造成民主危機。
美國參議員 Marco Rubio 也說，Deepfake 的影片已經成為一種宣傳武器，例如，從未參與宣傳的公眾人物，會被置入影片中造成假訊息，或者從未說過的話，也被塞進嘴裡，如果這是在選舉投票前兩天發生，就很容易導致混淆與混亂。
連中國政府在四月中旬也提出草案，準備立法對付 Deepfake，理由是 Deepfake 會侵犯個人的肖像權，傷害國家安全以及公共利益，因為仿真科技製造出來的影片圖案與聲音，已經讓人真假難辨，以假亂真了。
不過，於此同時，中國又被視為是最善於製造假訊息，假影像技術的領先者，例如，中國發展的生成對抗網絡（Generative Adversarial Networks,GANs），可以欺騙電腦，置入不存在的地標在地貌或衛星影像上，偽造景觀與圖片，即便作惡也在所不惜。
Synthesia 是美國的億萬富翁 Mark Cuban 投資研發的，在去年引起極大矚目的這項科技，儘管有政治人物警告，Synthesia 將嚴重破壞民主，但是英國政府機構 Innovate UK 仍舊花納稅人的錢，投資七萬英鎊在一間英國的研發公司上，該公司的目標在建立一個低成本，高技術的 3D 仿真人臉部的模型，尤其著重在講話時，嘴部變化的細節，希望人類演說的合成影像，能達到前所未有的真實感。
而 Synthesia 的創始人之一 Victor Riparbelli 則是強調，他們正重新改造影片的生產方式，他深信這種具有生產力的 AI 科技，將會為我們的生活帶來許多有創意的點子，創造出許多前所未有的經驗，更重要的是，他們非常明白這項科技可能造成的傷害，但他們過去只是發展與運用在媒體與娛樂工業的配音上。
此外，為貝克漢製造這一公益影片的製作團隊（R/GALondon），也釋出了他們如何製作的影片並表示，瘧疾是世界上最古老的疾病，每兩分鐘就有一個小孩因為瘧疾而死亡，人們卻仍舊對此事裝聾作啞，毫不聞問，所以他們決定用一個非常創新的方法做宣傳，結合設計與科技，讓瘧疾這個議題，重新成為大眾的焦點。
製作團隊認為他們只是在創意產業中盡責的專業工作者，盡其所能地讓人們可以坐下來傾聽，才會想出透過聲音的力量來傳達這個訊息。
Deepfake 在善與惡之間游移，從完美的配音與娛樂，惡搞模仿，到製造色情以及生產假新聞，該如何因應呢？
英國國會數位、文化、媒體與體育委員會，今年二月提出一份歷經十八個月的調查報告，〈不正確資訊與假新聞最終報告〉（Disinformation and ‘fake news’： final report），主要調查從國內到國外，人們在政治選舉中的判斷與選擇，如何受到線上訊息以及介入的影響？結果發現，惡意毀謗的力量確實想要造成混亂與混肴。宣傳並強化政治偏差的新聞，時有所聞並無新鮮，但透過科技傳播的新形式，將這種偏差更加放大，不斷地加強扭曲以及不正確的訊息，這已經不僅僅是假新聞了，而是在消滅基於事實的理性辯論的共同基礎，使得公共辯論變得粗糙，而這種粗魯行徑也被帶入競選過程中，對民主的運作造成莫大威脅。
報告並指出，增加使用 disinformation 一詞，意指在大眾傳播中散佈不正確消息，比起 fake news 假新聞與 misinformation 錯誤訊息，能夠更精準形容這種刻意造假的企圖與做法。
報告中也要求數位領域必須透明化，例如，誰付錢？誰傳遞訊息給我們？科技公司如何運作？我們的個人資料如何被使用？因為社群網路平台上，有數不盡名人照片被惡意使用，散佈仇恨或報復的圖像與言論，影響選舉與民主運作。
英國國會議員 Damian Collins 也在 BBC 第四廣播頻道《今日》（Today）節目中強調，特別是在選舉過程中，謊言四處飛散，這已經不是公評或評論了，這是在惡意散布假訊息，刻意影響大眾意見，造成人們的仇恨與憤怒，他認為社群媒體像是臉書與其他社群網路平台，必須對平台內散佈的內容負起責任，國會也應該在法規中制定適當的倫理規範（code of ethnics），並設置獨立的監管人。
另外，透過立法工具，隱私權、個資保護，以及反壟斷等法案，監督這些科技公司是否遵行。這在法國與德國已有先例，法國法官要求社群媒體將假新聞下架，而德國也要求科技業者必須負責清理平台上的仇恨言論。
Deepfake 的技術日新月異，網路除了帶來自由言論與快速溝通能力之外，也帶來製造仇恨與混亂的扭曲與誤導能力。明年初，台灣的總統大選將屆，台灣被列為深受假新聞攻擊最多的國家，大眾媒體散播假情報，不正確訊息也多有所聞。
在大選之前，立法與相關機關有無作為，讓我們的心智與社會，
是因為科技而得到自由與負責任的民主政治，而不是反被科技綁架，傷害了民主政治。
評論被關閉。