隨著 Deep Fake 技術成熟，帶動了許多不同層面的應用，如製作換臉短片的惡搞 APP Avatarify，或讓祖先的照片動起來的以色列新創 MyHeritage，然而在帶給人們趣味的同時，Deep Fake 同時也有不少爭議，如侵犯肖像權或隱私權等疑慮，在這波人人瘋換臉的風潮中也是有待關注的議題。
換臉APP Avatarify席捲社交媒體，靈感來自惡作劇
Deep Fake 新創 Avatarify 的名稱源自阿凡達電影，靈感來自俄國工程師 Ali Aliev 進行遠距會議時的惡作劇。Aliev 當時花了兩小時寫了基礎換臉程式，再把濾鏡套到 Zoom 上，將自己的臉換成特斯拉執行長馬斯克，Aliev 也將當時會議的影片上傳到自己 Youtube 頻道上，記錄下首次換臉瞬間，瞬間引來熱議。
Avatarify 是一個動畫應用程式，使用類神經網路科技與 AI 機器演算模擬面部表情，將臉部動畫套用在用戶的原始照片，並添加使用者所選的音樂，一個難辨真偽的 Deep Fake 短影片就完成了，用戶甚至可以直接在手機上製作 Deep Fake 影片，不用大費周章在雲端碼程式平台操作，影諞製作完成後就可以直接將短片發布到 Instagram 或 Tiktok 等社交平台上。
Avatarify下載量驚人，衝上APP Store熱門排行榜
Avatarify 是個採取每月付款訂閱制的 SaaS 公司，創辦人 Aliev 表示透過付費訂閱制去除浮水印的模式，其 ARR（即「年度經常性收入」，為衡量 SaaS 公司的重要指標）可達到一千萬美元（約新台幣兩億八千萬），光 2021 年 2 月到 3 月之間，Avatarify 就創造了超過一百萬美元的收益（約新台幣兩千七百萬），可見其訂閱量的龐大。
Avatarify 的下載量也十分驚人，在 2020 年 6 月底上架 APP Store 後，隨即衝上 APP 熱門排行榜，tiktok 上帶有 #avatarify 標籤的影片更累積了 1.25 億觀看次數。
中國政府火速下架Avatarify，Deep Fake隱私犯罪風險未解
然而，惡作劇發想的這款趣味 APP 也引來許多爭議。
在中國，Avatarify 被稱做「螞蟻呀嘿」，迅速在網上爆紅，但 APP 僅上架七天就火速被官方下架，原因可能是侵犯肖像權或隱私的風險，以及人臉辨識系統被破解的隱憂，中國網路管理局早在 2019 年就禁止使用 AI 製作新聞影片，北京網管局局長秦安表示，此類人工智慧科技只能在娛樂用途發展，不能有其他目的。
雖然創辦人 Aliev 表示 Avatarify 的 Deep Fake 影片製作是直接在手機完成的，不需要經過擁有被駭客入侵風險的雲端，藉此保護使用者隱私不被竊取，但仍無法保證用戶使用 APP 的目的是否正當。
Avatarify 的爆紅與被下架也讓大眾更關注 Deep Fake 的爭議，另一款 Deep Fake APP MyHeritage 也曾在 2018 年爆出重大數據洩漏問題，共有 9200 萬個用戶的帳號遭駭，包含來自其他服務的快取資訊，都在暗網上被兜售。
雖然 Deep Fake 的問題多，但其正面應用其實也相當廣泛，如教育領域，能在歷史課程中模擬出歷史人物影像，提升學生學習動機，或應用在博物館，復活歷史文物；在影視方面可以模擬出高難度動作而不必使用替身，提升影視人員的安全。隨著 AI 技術應用層面愈來愈廣泛，Deep Fake 技術究竟如何規範與應用，仍值得我們持續關注。
資料來源：TechCrunch、BGR.IN、Global Times
創業小聚特約編輯
李佳樺
