領導力的未來/深入瞭解深度偽造的本質

什麼是深度偽造以及如何建立它？

深度偽造是一種 AI 生成的疊加層，用於在媒體中交換面部或其他物品。術語深度偽造是“深度學習”和“偽造”的混合詞，指的是通常使用深度偽造的媒體“偽造”個人執行操作的影片或音訊媒體。 建立深度偽造的更常用方法之一是使用深度學習神經網路。要建立深度偽造，需要兩組源資料。第一種來源，以下稱為“來源個體”，是待偽造個人的照片、音訊和影片媒體。第二個來源，以下稱為“來源媒體”，是待偽造個人執行操作的收集資料。兩組資料都被饋送到神經網路編碼器中，將運動、音訊和麵部資料分解成壓縮資訊。然後，源個體資料被源媒體解碼器解碼，將源個體的資訊疊加到源媒體之上。這會建立偽造的媒體，其中源個體似乎在執行操作。

深度偽造的倫理

深度偽造是道德的嗎？許多人會爭辯說它們是不道德的。深度偽造的道德基礎很大程度上可以歸結為一個問題，即在多大程度上可以認為一個人擁有自己的外表，以及他們的身份。電影製片廠已經開始使用深度偽造，一個突出的例子是《星球大戰》，它使用深度偽造技術在凱麗·費雪去世後對其進行數字化重建，並在媒體中描繪了年輕版本的盧克·天行者，儘管馬克·哈米爾已經老得多遠超媒體中描繪的年齡。 在馬克·哈米爾的案例中，他參與建立深度偽造以及授權使用深度偽造可以被視為允許對他的視覺身份的道德使用。在凱麗·費雪的案例中，她在深度偽造建立之前就去世了，這個問題很模糊。 核心問題是，身份問題透過使用深度偽造而變得值得質疑。如果身份完全自包含，也就是說完全由自我控制，那麼深度偽造幾乎不會帶來道德問題。 然而，身份的一部分可以被視為與他人對我們的看法和意見息息相關。一個人可能認為自己是一個道德的人，但是如果這個人沒有道德地行事，並且被他們的社群視為不道德的人，那麼道德個體的身份就不能真正說屬於他們。 這是深度偽造的倫理問題。它們代表了一種手段，可以透過這種手段，個人的身份可以在沒有任何個人行為的情況下被玷汙或損害。

深度偽造的倫理機會

如上段簡要介紹，深度偽造在媒體中的倫理使用為媒體創作公司帶來了巨大的機遇。一位深受喜愛的演員可以將其視覺或音訊特徵授權給電影製片廠，允許他們長期成為作品的一部分，即使年齡和可能的死亡使他們無法積極參與。 深度偽造帶來的另一個機會是歷史學習。當科學能夠重現對歷史人物的外貌、聲音和其他資料的估計時，歷史就可以栩栩如生。讓學生“直接”從歷史人物那裡學習的機會為學生提供了比許多學生從教科書中閱讀或觀看歷史學家談論某個主題所能獲得的更大的參與機會。 線上使用者發現的另一個機會是使用故意和公開的“假化身”來建立被稱為“虛擬 YouTuber”的人物，被稱為 V-tuber。這些 V-tuber 已經獲得了人氣，併成為不僅是那些建立它們的人，而且是那些透過這種媒介表現自己的人的一種工作形式。

深度偽造帶來的威脅。

雖然深度偽造對某些行業來說是機遇，但對其他行業來說，它們帶來的威脅更大。主要威脅來自使用深度偽造將虛假資訊和虛假資訊宣傳為真實的資訊的虛假資訊和虛假資訊宣傳活動。 藉助深度偽造，任何人都可以出現說任何話。從前總統巴拉克·奧巴馬參與對前總統唐納德·特朗普的辱罵狂言，到似乎來自烏克蘭總統弗拉基米爾·澤連斯基的影片資訊，指示烏克蘭公民投降並接受俄羅斯的統治，幾個問題立即變得顯而易見。對於任何需要誠信觀的職業，深度偽造代表了一種手段，可以透過這種手段，不法分子可以立即摧毀信譽。 最近一起涉及深度偽造色情內容的醜聞允許個人訂購任何進行色情行為的個人的深度偽造，這引發了人們對建立材料的合法性的質疑。在一些國家，根據“報復色情”法，此類創作已經是違法的。 然而，在許多國家，沒有這樣的法律追索權。雖然看到約瑟夫·斯大林和阿道夫·希特勒面對面地唱著 90 年代的流行音樂可能很有趣，但對於一家德國電力公司來說，最近該公司的一名員工按照公司執行長的命令轉賬了一大筆資金，結果卻發現視訊通話是深度偽造，這就沒那麼有趣了。

深度偽造技術對未來的潛在影響。

隨著深度偽造技術的進步，越來越難以分辨真假。就在幾個月前，人們常說“看眼睛”，因為當時的生成神經網路在處理眨眼或打噴嚏等非自主反射方面存在困難，這些動作的快速性和相對複雜性導致深度偽造技術難以成功地模仿它們。然而，這一侷限性被指出後，神經網路很快就被重新訓練和改進，並不斷進行調整以克服發現的每一個弱點。膚色、偽造媒體與源媒體接合處的模糊以及頭髮都得到了改進，模糊了事實和虛構之間的界限。

評估對抗深度偽造的潛在方法。

眾多公司組成的廣泛聯盟共同努力解決深度偽造問題。來自微軟、Adobe、蘋果、新聞機構、政府等公司的專家都已加入這一行列，以應對深度偽造技術帶來的新興威脅。他們目前“最好的想法”是在網際網路上的每張圖片上新增一個標記，允許觀看者追蹤該媒體片段在每次演繹或迭代中的“系譜”，並瞭解該媒體片段所做的更改。不幸的是，這可能行不通，因為任何能夠製作出令人信服且高質量深度偽造的參與者，很可能也能製作出經過修改或偽造的“系譜”，聲稱該媒體片段是真實的。希望對抗深度偽造的進一步措施來自使用隨機生成的字母數字序列，需要閱讀該序列，希望深度偽造無法快速適應。