互聯(lián)網(wǎng)時(shí)代，假新聞鋪天蓋地，而且極具迷惑性，F(xiàn)acebook一度深陷虛假新聞的泥淖，不但被控影響了美國(guó)總統(tǒng)大選結(jié)果，甚至引發(fā)了德國(guó)政府的巨額罰金。

甚至連以公信力著稱的BBC也難以幸免，比如BBC北安普頓分站的推特賬號(hào)就曾發(fā)過(guò)這樣一條消息：Breaking News: President Trump is injured in arm by gunfire #Inauguration.（勁爆消息：特朗普總統(tǒng)在就職典禮后遭遇槍擊，手臂受傷。）

至于國(guó)內(nèi)的假新聞，也是花樣百出，甚至微信對(duì)話也能偽造，PS技術(shù)出神入化，比如一度引爆互聯(lián)網(wǎng)圈的這個(gè)截圖：

雷鋒網(wǎng)注：此截圖被證實(shí)為經(jīng)過(guò)PS偽造

AI系統(tǒng)：建立多維度向量進(jìn)行數(shù)據(jù)檢測(cè)

10月4日，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)在其官網(wǎng)發(fā)布了一則新聞，宣稱該實(shí)驗(yàn)室與卡塔爾計(jì)算研究所(Qatar Computing Research Institute)的研究人員合作，已經(jīng)研究出一種可以鑒別信息來(lái)源準(zhǔn)確性和個(gè)人政治偏見的AI系統(tǒng)，該研究成果將于本月底在比利時(shí)布魯塞爾召開的2018自然語(yǔ)言處理經(jīng)驗(yàn)方法會(huì)議(EMNLP)上正式公布。

研究人員用這個(gè)AI系統(tǒng)創(chuàng)建了一個(gè)包含1000多個(gè)新聞源的開源數(shù)據(jù)集，這些新聞源被標(biāo)注了“真實(shí)性”和“偏見”分?jǐn)?shù)。據(jù)稱，這是類似數(shù)據(jù)集中收錄新聞源數(shù)量最多的數(shù)據(jù)集。

研究人員寫道:“打擊‘假新聞’的一種(有希望的)方法是關(guān)注消息來(lái)源?！薄半m然‘假新聞’(帖子)主要在社交媒體上傳播，但他們?nèi)匀挥凶畛鮼?lái)源，即某個(gè)網(wǎng)站，因此，如果一個(gè)網(wǎng)站曾經(jīng)發(fā)布過(guò)假新聞，很有可能未來(lái)還會(huì)發(fā)布?！?/p>

AI系統(tǒng)的新穎之處在于它對(duì)所評(píng)估的媒介有廣泛的語(yǔ)境理解，沒有單獨(dú)從新聞文章中提取特征值(機(jī)器學(xué)習(xí)模型所訓(xùn)練的變量)，而是兼顧了維基百科、社交媒體，甚至根據(jù)url和web流量數(shù)據(jù)的結(jié)構(gòu)來(lái)確定可信度。

該系統(tǒng)支持向量(SVM)訓(xùn)練來(lái)評(píng)估事實(shí)性和偏差，真實(shí)性分為：低、中、高；政治傾向分為：極左、左、中偏左、中偏右、右、極右。

根據(jù)該團(tuán)隊(duì)所述，系統(tǒng)只需檢測(cè)150篇文章就可以確定一個(gè)新的源代碼是否可靠。它在檢測(cè)一個(gè)新聞來(lái)源是否具有高、低或中等程度的“真實(shí)性”方面的準(zhǔn)確率為65%，在檢測(cè)其政治傾向是左傾、右傾還是中立方面的準(zhǔn)確率為70%。

雷鋒網(wǎng)注：AI系統(tǒng)分析示例

在上圖顯示的文章中，AI系統(tǒng)對(duì)文章的文案和標(biāo)題進(jìn)行了六個(gè)維度的測(cè)試，不僅分析了文章的結(jié)構(gòu)、情感、參與度(在本例中，分析了股票數(shù)量、反應(yīng)和Facebook上的評(píng)論)，還分析了主題、復(fù)雜性、偏見和道德觀念，并計(jì)算了每個(gè)特征值的得分，然后對(duì)一組文章的得分進(jìn)行平均。

雷鋒網(wǎng)注：“真實(shí)性-偏見”預(yù)測(cè)模型圖

維基百科和Twitter也被加入了AI系統(tǒng)的預(yù)測(cè)模型。正如研究者們所言，維基百科頁(yè)面的缺失也許說(shuō)明了一個(gè)網(wǎng)站是不可信的，或者網(wǎng)頁(yè)上可能會(huì)提到這個(gè)問(wèn)題的政治傾向是諷刺的或者明顯是左傾的。此外，他們還指出，沒有經(jīng)過(guò)驗(yàn)證的Twitter賬戶，或者使用新創(chuàng)建的沒有明確標(biāo)注的賬戶發(fā)布的消息，不太可能是真的。

該模型的最后兩個(gè)向量是URL結(jié)構(gòu)和web流量，可以檢測(cè)試圖模仿可信新聞來(lái)源的url(例如，“foxnews.co”)，參考的是一個(gè)網(wǎng)站的Alexa排名，該排名根據(jù)網(wǎng)站總瀏覽量進(jìn)行計(jì)算。

該團(tuán)隊(duì)在MBFC（Media Bias/Fact Check ）網(wǎng)站的1066個(gè)新聞源上對(duì)此AI系統(tǒng)進(jìn)行了訓(xùn)練。他們用收集的準(zhǔn)確性和偏見數(shù)據(jù)手工標(biāo)注網(wǎng)站信息，為了生成上述數(shù)據(jù)庫(kù)，研究人員在每個(gè)網(wǎng)站上發(fā)布了10-100篇文章(總計(jì)94,814篇)。

正如研究人員在他們的報(bào)告中煞費(fèi)苦心的介紹所示，并不是每一個(gè)特征值都能有效預(yù)測(cè)事實(shí)準(zhǔn)確性或政治偏見。例如，一些沒有維基百科頁(yè)面或建立Twitter檔案的網(wǎng)站有可能發(fā)布的信息是公正可信的，在Alexa排名靠前的新聞來(lái)源并不總是比流量較少的新聞源更公正或更真實(shí)。

研究人員有一個(gè)有趣的發(fā)現(xiàn)：來(lái)自虛假新聞網(wǎng)站的文章更有可能使用夸張和情緒化的語(yǔ)言，左傾媒體更有可能提到“公平”和“互惠”。與此同時(shí)，擁有較長(zhǎng)的維基百科頁(yè)面的出版物通常更可信，那些包含少量特殊字符和復(fù)雜子目錄的url也是如此。

未來(lái)，該團(tuán)隊(duì)打算探索該AI系統(tǒng)是否能適應(yīng)其他語(yǔ)言(它目前只接受過(guò)英語(yǔ)訓(xùn)練)，以及是否能被訓(xùn)練來(lái)檢測(cè)特定區(qū)域的偏見。他們還計(jì)劃推出一款A(yù)pp，可以通過(guò)“跨越政治光譜”的文章自動(dòng)回復(fù)新聞。

該論文的第一作者、博士后助理拉米?巴利(Ramy Baly)表示:“如果一個(gè)網(wǎng)站以前發(fā)布過(guò)假新聞，他們很可能會(huì)再次發(fā)布?！薄巴ㄟ^(guò)自動(dòng)抓取這些網(wǎng)站的數(shù)據(jù)，我們希望我們的系統(tǒng)能夠幫助找出哪些網(wǎng)站可能首先這么做?！?/p>

當(dāng)然，他們并不是唯一試圖通過(guò)人工智能打擊假新聞傳播的機(jī)構(gòu)。

總部位于新德里的初創(chuàng)公司MetaFact利用NLP算法來(lái)標(biāo)記新聞報(bào)道和社交媒體帖子中的錯(cuò)誤信息和偏見；SAAS平臺(tái)AdVerify.ai于去年推出beta版，可以分析錯(cuò)誤信息、惡意軟件和其他有問(wèn)題的內(nèi)容，并可以交叉引用一個(gè)定期更新的數(shù)據(jù)庫(kù)，其中包含數(shù)千條虛假和合法的新聞。

前文中也提到過(guò)，F(xiàn)acebook一度深陷假新聞的泥淖，已經(jīng)開始嘗試使用“識(shí)別虛假新聞”的人工智能工具，并于近期收購(gòu)了總部位于倫敦的初創(chuàng)公司Bloomsbury AI，以幫助其鑒別消除假新聞。

假新聞會(huì)被消除嗎？

然而，一些專家并不相信人工智能可以勝任這項(xiàng)任務(wù)?？▋?nèi)基梅隆大學(xué)機(jī)器人研究所(Carnegie Mellon University Robotics Institute)的科學(xué)家迪恩波默洛(Dean Pomerleau)在接受外媒 the Verge 采訪時(shí)表示，人工智能缺乏對(duì)語(yǔ)言的微妙理解，而這種理解是識(shí)別謊言和虛假陳述所必需的。

“我們最初的目標(biāo)是建立一個(gè)系統(tǒng)來(lái)回答‘這是假新聞，是或不是?’”他說(shuō)，“但我們很快意識(shí)到，機(jī)器學(xué)習(xí)無(wú)法勝任這項(xiàng)任務(wù)?！?/p>

但是，人類事實(shí)核查者做的不一定比AI更好。今年，谷歌暫停了“事實(shí)核查”(Fact Check)這一標(biāo)簽，該標(biāo)簽曾位于谷歌新聞報(bào)道欄，此前保守派媒體也曾指責(zé)谷歌對(duì)他們表現(xiàn)出了偏見。

不過(guò)，無(wú)論最終鑒別假新聞和個(gè)人偏見的解決方案是AI系統(tǒng)還是人工，抑或兩者兼而有之，假新聞被徹底消除的那一天都不會(huì)立刻到來(lái)。

據(jù)咨詢公司Gartner預(yù)測(cè)，到2022年，如果目前的趨勢(shì)不變，大多數(shù)發(fā)達(dá)國(guó)家的人看到的虛假信息將會(huì)多于真實(shí)信息。

via: venturebeat

相關(guān)文章：

德國(guó)出臺(tái)新政策：Facebook要為每條假新聞支付50萬(wàn)歐元罰款

Google也被假新聞騙了：“奧巴馬將第三次競(jìng)選總統(tǒng)”

德國(guó)政府推出社交媒體假新聞懲罰機(jī)制后，F(xiàn)acebook 上線假新聞過(guò)濾器

BBC 推特被黑發(fā)布川普中彈假新聞后，出現(xiàn)了這樣搞笑的一幕……

Facebook：多次分享假新聞 將不準(zhǔn)再投廣告

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。