上個月 Twitter 曾表示，它們正在研究新政策，以肅清 DeepFake（一種利用深度學習技術(shù)識別和交換圖片、視頻中人物臉部圖像的工具）及其它“被操縱”的媒體，還圖片、視頻及音頻本來面目。

今天（11月12日），Twitter 終于拿出了了新政草稿，要在正式上線前征求公眾意見。顯然，Twitter 的新政是要解決互聯(lián)網(wǎng)上泛濫的 DeepFake 問題。

人工智能技術(shù)的進步讓 DeepFake 有了飛速繁殖的機會，只要手握它，你就能輕松捏造出看起來“真到不能再真”的虛假視頻、音頻和其它數(shù)字內(nèi)容。技術(shù)無罪，拿它來娛樂倒不是問題，但一旦它被用在錯誤的地方就麻煩了。在現(xiàn)實世界，別有用心的人甚至能借助 DeepFake 捏造的視頻毀掉某個候選人的名聲，拿所謂“實錘”來迷惑大眾。

雷鋒網(wǎng)了解到，今年早些時候，就有人在 Facebook CEO 扎克伯格身上使用 DeepFake 了，其起因只是因為 Facebook 不愿撤掉某個視頻。

上月月初，參議院情報委員會的 Mark Warner 和 Marco Rubio 召集了主要科技公司負責人，為的就是拿出一個打擊 DeepFake 的計劃。參會的共有 11 家科技公司，包括 Facebook、Twitter、YouTube、Reddit 和領英等，它們要盡快制定出一個行業(yè)標準，以規(guī)范人工合成內(nèi)容的分享、移除和歸檔。

Twitter 動作挺快，上月月末就拿出草稿征求公眾意見了，而亞馬遜則選擇與 Facebook 和微軟一道支持 DeepFake 探測挑戰(zhàn)賽，為的就是找到嗅探“被操縱”媒體的最好方案。

草案中 Twitter 表示，一旦它們發(fā)現(xiàn)故意誤導或混淆是非的合成或“被操縱”內(nèi)容，就會執(zhí)行下列操作：

? 在分享合成或“被操縱”媒體的推文旁打上標記；

? 在用戶分享或點贊這類推文前給出警告；

? 添加鏈接指向真的新聞或 Twitter Moment，用多方來源證明合成或“被操縱”媒體的虛假屬性。

Twitter 表示，如果 DeepFake 威脅到某人的人身安全或造成嚴重傷害，它們就會徹底移除該內(nèi)容。

除了參與問卷調(diào)查，用戶也能在 #TwitterPolicyFeedback 話題下提供反饋。

問卷調(diào)查中向用戶征求了合成圖片與視頻的處理方法，即到底該徹底移除，貼警告標簽還是見機行事。同時，Twitter 還征詢了用戶的接受度，當它們隱藏推文或提出警告時大家能否接受。此外，對于什么時候該移除帶有誤導媒體的視頻，Twitter 也廣泛征詢了用戶意見（比如威脅了某人的精神健康、隱私、尊嚴、財產(chǎn)等）。

整個問卷調(diào)查填寫大約要花費 5 分鐘時間，英語、日語、葡萄牙語、阿拉伯語、印地語和西班牙語用戶均可參與。

不過，雷鋒網(wǎng)發(fā)現(xiàn)，DeepFake 管理方案準備好后，Twitter 如何嗅探到那些惡意內(nèi)容卻成了謎，畢竟當下此類技術(shù)還不完美，而且 DeepFake 的偽裝能力也越來越強。為此，Twitter 也決定開誠布公接受各界建議。

Twitter 向用戶征求意見將持續(xù)到本月 27 日，隨后它們會審閱收到的反饋并對草案進行必要的調(diào)整。新規(guī)正式上線前，Twitter 還會給出 30 天的過渡期。

雷鋒網(wǎng)編譯自外網(wǎng)。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。