深度偽造的性幻想不被允許嗎？今天這個話題很紅，我有一個碩士班的學生作過深度造假的偵測研究。深度造假是一種人工合成媒體的技術，透過在圖像數據資料集上的人工智慧訓練，這項技術允許人們創建逼真的虛假視聽影像。最近，深度造假引起了許多人的興趣，它們似乎對社會認知實踐構成了挑戰，還因為它們引發了重大的倫理問題。是否允許製作真人的深度造假影片？
鑑於深度偽造的主要用途，這些道德問題尤為重要，根據一項被廣泛引用的荷蘭研究，96% 的深度造假是在色情影片使用上，深度造假技術通常用於製作描繪著名女演員或女性名人的性愛場景，同時它們也被廣泛用於製作復仇色情片，某些類型的深度造假色情甚至被用於政治醜聞，被用來破壞政治對手的形象，在民主選舉獲取利益。
當人們聽到這些案例時，他們的反應通常是一種直覺上的不贊成。他們認為創建非自願的深度偽造色情片存在嚴重錯誤。
如果一個人既沒有同意記錄自己的性影片或圖像，也沒有自願參與錄影的性活動，當然不能用他們的影像來創建非自願的深度偽造色情片。
對此一般來說，邏輯思考是如此：根據某人的臉（未經他們明確同意）製作深度偽造色情片在道德上是不允許的。但對某人有私人的性幻想（未經他們明確同意）本身通常在道德上是允許的。
那麼根據某人的臉創建製作深度偽造色情片與對某人有私人性幻想之間，有什麼道德上的差異？
大多數人都有性幻想，在這些幻想中，他們在色情場景中想像其他人，通常是他們認識或見過的真人。有時他們想像自己正在與幻想的對象發生性關係，有時他們會利用這些性幻想進行自我刺激。在大多數情況下，我們認為這些性幻想是人類生活中正常和允許的一部分。有些幻想很變態，道德有問題，但即使我們同意這種幻想在道德上是有問題的，但這並不意味著我們可以或應該對此做任何事情。尤其是，不應該用法律來監督人們的思想。我們可能只是認為這在道德上有問題，有這種幻想的人應該批判性地反思他們的道德想法。
但如果一個人不使用他們的想像力來構建一個普通的性幻想，而是創建一個深度偽造的色情影片呢？
商業上的行為或分享當然有很大的問題，但假設有人為認識的人製作了一個深度偽造的色情影片，僅供私人使用，而它所描繪的人永遠不會發現它。在這種情況下，我們還是認為它有問題嗎？這其實跟情侶之間錄下性愛影片有些類似，我不知道有任何不能共享的深度偽造影片，身為資安的研究人員，也不相信有私人永久保存的方法。
這個問題已經從幾年前在行政院資安顧問會議上討論的議題，成為實際的社會問題，深度偽造的問題一定會越來越嚴重，不只色情部分，我想下次重要的選舉一定會造成某種程度的影響，眼見也不為憑，那還能相信什麼？
原文出自李忠憲臉書，芋傳媒經授權轉載。
評論被關閉。