隨著AI技術提升 換臉技術的討論成為網路新議題

廖又弘 編輯

, Tech網路科技

2019年11月28日/網路報導

【記者陳安琦整理報導】

Deepfake,是英文「deep learning」和「fake」的混成詞,專指用基於人工智能的人體圖像合成技術。此技術可將已有的圖像和影片疊加至目標圖像或影片上。 Deepfake亦可用來製作虛假的名人性愛影片和報復性色情媒體。帶色情成分的Deepfake作品於2017年間在互聯網上流出,特別是在Reddit上。

 

偽造面部表情和將其渲染至影片的技術早在2016年出現,這項技術允許實時偽造現有2D視頻中的面部表情。與任何變革性技術帶來的挑戰一樣,自首次出現就有許多開源的生成方法流入市面,導致合成媒體的假影片數量不斷增加。雖然許多人可能只是出於惡趣味,但一旦落入不法分子手裡,就可能對個人和社會造成極大的危害。

 

前不久,Facebook 發起了 Deepfakes 檢測挑戰賽,緊接著Google AI 也跟著強勢推出 Deepfake 影片檢測資料庫,勢將一同與虛假影片誓不兩立。《人工智慧原則》也表示致力於開發AI 的最佳實踐以減少技術的濫用帶來的潛在危害。

 

 

圖片來源:pixabay

 

 

近年來,一些利用Deepfake技術製成的變臉App 由於效果逼真在網路瘋傳,但就像之前的FaceApp,其背後採集的用戶資訊很容易引起隱私問題。最近另一款變臉App :Zao再次成為焦點。Zao 由大陸開發商製作,用戶只需一張大頭照,就可將照片的臉貼到特定影片的角色臉上。雖然Zao 提供的短片選擇不多,大部分是MV 和名電影片段,但效果頗逼真,因此不少人使用和轉發。然而魔鬼藏在細節里,App 的使用條款列明,開發者對用戶產生的內容擁有「免費、不可撤銷、永久、可轉讓和可再授權」的權利,也就是說如果使用這個App,不論自己的照片或製作的內容,開發者都可任意使用。

 

雖然開發者後來表示,不會在用戶同意前將收集資料用於改善App 以外的用途,同時如果用戶刪除App,資料在伺服器也會刪除。無論如何,安裝這類軟體使用前,對自己的臉會被拿去做什麼,還是謹慎一點比較好。

 

DeepFakes技術的安全性已然成為輿論的焦點。而近日,來自加州大學伯克利分校和南加州大學的研究人員打造了一款AI識別系統,能從Deepfake制假者未注意到的面部細節入手。

 

目前,越來越多的研究人員在努力尋找準確識別Deepfake的假視頻的方法。這場鬥法已經成為一場維護新聞真實性、甚至是關乎國家安全的一場軍備競賽。

 

(108學年度第1學期/第252期/編輯:廖又弘/照片來源:pixabay)