當前位置:資訊 > 正文

AI 大毒瘤:96%的Deepfakes視頻涉及色情

2019-11-14 16:22:32  來源:雷鋒網

Deepfakes 已經讓“眼見為實”成為過去;至少在視頻方面是如此。近日,Deeptrace 公司發布了一份關于 Deepfakes 現狀的報告,分享了迄今為止人們對 Deepfakes 最全面的了解以及其對現實世界的影響。

Deeptrace 是一家位于阿姆斯特丹的網絡安全公司,自 2018 年成立以來就致力于研究 Deepfakes 不斷發展的功能和造成的威脅。該公司創始人兼首席科學官 Giorgio Patrini 在這份報告的介紹中說道:

無論是視頻音頻,還是文本,我們社會依賴和信任的多個數字通信渠道都已遭到了顛覆。

以下是雷鋒網對這份報告的整理:

自 2017 年晚些時候出現以來,Deepfakes 就開始憑借著驚人發展速度、逼真的換臉效果,以及對社會的消極影響而廣為人知。

然而,Deepfakes 在今年的發展尤其迅猛。報告數據顯示,今年網絡上 Deepfakes 視頻的數量迅速增長,截至目前為 14678 個,是去年 12 月份(7964 個)的一倍。

在所有的 Deepfakes 視頻中,絕大多數視頻都涉及色情內容,只有極少一部分視頻屬于非色情內容,兩者的比例分別為 96% 和 4%;而且,在最受歡迎的四大色情網站上(2018 年至今),關于 Deepfakes 的視頻觀眾已經超過 1.3 億人。

不過,值得注意的是,非色情的 Deepfakes 視頻也越來越受歡迎。

具體到受害人(被換臉的目標)的性別、國籍和職業等方面,這家公司也對 5 家色情網站和 14 個相關 YouTube 頻道的 Deepfakes 視頻進行了統計:

報告顯示,在色情網站的 Deepfakes 視頻中,女性是唯一的受害者;而在 YouTube 上的 Deepfakes 視頻中,女性受害者的比例為 39%,男性受害者的比例為 61%。

國籍層面,YouTube 上以美國、英國、加拿大等西方國家人物為目標的 Deepfakes 視頻高達 90%;在色情 Deepfakes 視頻方面,美英加三國的女性受害者加起來占總數的一半;但韓國的受害女性(大多是 K-pop 歌手)高達四分之一。

在色情網站上的 Deepfakes 中,受害人的職業也受到關注。只有 1% 的受害人從事新聞與媒體行業,剩下 99% 均來自娛樂業。在 YouTube 上,受害者的職業則更加多元,但娛樂業的人物仍占據大多數,少部分受害人為媒體人、政客和企業家。

Deepfakes 的商業化

2017 年 11 月 2 日,一名 Reddit 用戶創造了 Deepfakes,隨后這項技術傳遍全球。現在,隨著相關論壇、工具和服務的出現,Deepfakes 也變得越來越商業化——關于 Deepfakes 視頻創作社區和論壇的發展是這一變化的關鍵驅動力,它們為換臉視頻創作者提供了探討交流的平臺,也為創作者之間的合作提供了便利。

Deeptrace 的報告發現,目前,包括 Reddit、4chan、8chan、Voat 在內,關于 Deepfakes 視頻創作的社區和論壇有 20 個;其中,有 13 個論壇披露了自己的用戶數量,總人數大概在 10 萬左右;在這 10 萬個用戶當中,有 4000 多個用戶擁有特權。

Deepfakes 的商業化不僅體現在社區和論壇上,還有新的電腦 App 和服務。不過,就電腦 App 而言,需要使用者具有編程知識以及強大的圖形處理器;但由于“手把手教學”式的使用指南的問世,這一現象很快也會發生改變。還有就是定制 Deepfakes 視頻的服務,費用則取決于視頻的使用目的以及制作的難度。

Deepfakes 的危害和影響

波士頓大學法學教授 Danielle Citron 曾表示,“Deepfakes 已經成為了攻擊女性的武器。"

這是 Deepfakes 最大的危害之一——Deefakes 色情視頻里的受害者大多是英美兩國的女演員,以及韓國的女歌星,出現頻率最高的十位人物(雷鋒網按:為了保護這些女性,該報告并沒有透露她們的姓名)的總觀看人數超過 3000 萬;其中出現頻率最高的為英國的一位女演員,她一共出現在 257 個 Deepfakes 色情視頻中。

Deepfakes 技術在政治方面的影響也不容忽視。CNAS 技術與國家安全項目主任 Paul Scharre 曾警告:

Deepfakes 具有極大的破壞性,利用它來操控選舉只是時間問題。

2018 年,加蓬(非洲中西部國家)總統 Ali Bongo 在公眾視野中消失了數月,他的健康狀況備受關注;為了打消外界圖謀不軌的猜測,政府公布了一段 Ali Bongo 錄制的新年致辭的視頻。然而,Ali Bongo 不同尋常的“出場方式”讓外界更加懷疑,軍方甚至發動了兵變。實際上,這段視頻為 Deepfakes 合成;Ali Bongo 早在幾個月前就患了嚴重的中風。

2019 年,一段關于馬來西亞經濟部長 Azmin Ali 與男性發生性關系的視頻在網絡上瘋傳,甚至攪動了馬來西亞的政局(同性性關系在馬來西亞屬違法行為)。雖然 Azmin Ali 聲稱這段視頻是通過 Deepfakes 技術偽造的,是政治陰謀;但是,國際專家聲稱找不到偽造跡象。

上述兩個例子都是 Deepfakes 破壞政治進程最有力的跡象;除此之外,還有許多因 Deepfakes 而受影響的政治問題。如果沒有防御性對策,世界各地民主政體的完整性就會受到威脅。

然而,Deepfakes 對政治領域的影響不僅僅局限于惡意和欺騙,它甚至還催生了一種有關政治諷刺的藝術形式。包括 Mark Zuckerberg, Kim Kardashian 和 Donald Trump 在內的公眾人物可能被“操控”,說出自己“違心”的話;這也引發了人們對政治以及社會問題的談論和深思。

除了政治,Deepfakes 在社交媒體上的惡意應用也開始出現,并且正在影響網絡安全格局,比如制作虛假數字身份,以進行欺詐或者是間諜活動。

雷鋒網小結

總的來說,Deepfakes 的危害和影響已經蔓延全球。而且,從目前的趨勢來看,Deepfakes 背后龐大的受眾群體以及灰色的利益鏈,也讓消滅其帶來的負面影響變得更加困難。

不過,技術本身無罪,怕就怕在“科技不能向善”。

推薦閱讀

任正非稱目前并不是最大危機 曾因工作壓力想自殺

在位于中國南方城市廣東深圳的公司總部,華為創始人任正非在和公司其他高管聊天時做出回應。他表示,自己出身貧困的農村家庭,靠一路打拼成 【詳細】

沈向洋離職后下一步去哪里?繼續任顧問?

沈向洋(資料圖片)相關新聞:11月14日凌晨消息,微軟今日宣布,公司執行副總裁沈向洋將在明年年初正式離職,隨后微軟發言人證實沈向洋具體離 【詳細】

FB過去半年刪32億虛假帳號 假冒賬戶同比增1倍

北京時間11月14日早間消息,根據周三發布的最新內容審核報告,Facebook在今年4月至9月期間刪除了32億個虛假帳戶,以及數百萬個描述兒童虐待 【詳細】

谷歌計劃進軍銀行業務 預計明年向消費者提供支票賬戶

北京時間11月14日早間消息,據外媒報道,谷歌準備最早于明年開始向消費者提供支票賬戶,并因此成為又一家進入銀行和個人金融服務領域的科技 【詳細】

NOKIA s40主題制作教程 自己動手不求人

NOKIA s40主題制作教程wangliang 發表制作nokia40系列主題需要的軟件 Series_40_Theme_Studio下載地址:http: sw nokia com id 8a8b586 【詳細】



科技新聞網版權
浙江大乐透走势图