0
互聯(lián)網(wǎng)時代，假新聞鋪天蓋地，而且極具迷惑性，F(xiàn)acebook一度深陷虛假新聞的泥淖，不但被控影響了美國總統(tǒng)大選結(jié)果，甚至引發(fā)了德國政府的巨額罰金。
甚至連以公信力著稱的BBC也難以幸免，比如BBC北安普頓分站的推特賬號就曾發(fā)過這樣一條消息：Breaking News: President Trump is injured in arm by gunfire #Inauguration.（勁爆消息：特朗普總統(tǒng)在就職典禮后遭遇槍擊，手臂受傷。）
至于國內(nèi)的假新聞，也是花樣百出，甚至微信對話也能偽造，PS技術(shù)出神入化，比如一度引爆互聯(lián)網(wǎng)圈的這個截圖：
雷鋒網(wǎng)注：此截圖被證實為經(jīng)過PS偽造
10月4日，麻省理工學(xué)院計算機科學(xué)與人工智能實驗室(CSAIL)在其官網(wǎng)發(fā)布了一則新聞，宣稱該實驗室與卡塔爾計算研究所(Qatar Computing Research Institute)的研究人員合作，已經(jīng)研究出一種可以鑒別信息來源準(zhǔn)確性和個人政治偏見的AI系統(tǒng)，該研究成果將于本月底在比利時布魯塞爾召開的2018自然語言處理經(jīng)驗方法會議(EMNLP)上正式公布。
研究人員用這個AI系統(tǒng)創(chuàng)建了一個包含1000多個新聞源的開源數(shù)據(jù)集，這些新聞源被標(biāo)注了“真實性”和“偏見”分?jǐn)?shù)。據(jù)稱，這是類似數(shù)據(jù)集中收錄新聞源數(shù)量最多的數(shù)據(jù)集。
研究人員寫道:“打擊‘假新聞’的一種(有希望的)方法是關(guān)注消息來源?！薄半m然‘假新聞’(帖子)主要在社交媒體上傳播，但他們?nèi)匀挥凶畛鮼碓?，即某個網(wǎng)站，因此，如果一個網(wǎng)站曾經(jīng)發(fā)布過假新聞，很有可能未來還會發(fā)布?！?/p>
AI系統(tǒng)的新穎之處在于它對所評估的媒介有廣泛的語境理解，沒有單獨從新聞文章中提取特征值(機器學(xué)習(xí)模型所訓(xùn)練的變量)，而是兼顧了維基百科、社交媒體，甚至根據(jù)url和web流量數(shù)據(jù)的結(jié)構(gòu)來確定可信度。
該系統(tǒng)支持向量(SVM)訓(xùn)練來評估事實性和偏差，真實性分為：低、中、高；政治傾向分為：極左、左、中偏左、中偏右、右、極右。
根據(jù)該團隊所述，系統(tǒng)只需檢測150篇文章就可以確定一個新的源代碼是否可靠。它在檢測一個新聞來源是否具有高、低或中等程度的“真實性”方面的準(zhǔn)確率為65%，在檢測其政治傾向是左傾、右傾還是中立方面的準(zhǔn)確率為70%。
雷鋒網(wǎng)注：AI系統(tǒng)分析示例
在上圖顯示的文章中，AI系統(tǒng)對文章的文案和標(biāo)題進行了六個維度的測試，不僅分析了文章的結(jié)構(gòu)、情感、參與度(在本例中，分析了股票數(shù)量、反應(yīng)和Facebook上的評論)，還分析了主題、復(fù)雜性、偏見和道德觀念，并計算了每個特征值的得分，然后對一組文章的得分進行平均。
雷鋒網(wǎng)注：“真實性-偏見”預(yù)測模型圖
維基百科和Twitter也被加入了AI系統(tǒng)的預(yù)測模型。正如研究者們所言，維基百科頁面的缺失也許說明了一個網(wǎng)站是不可信的，或者網(wǎng)頁上可能會提到這個問題的政治傾向是諷刺的或者明顯是左傾的。此外，他們還指出，沒有經(jīng)過驗證的Twitter賬戶，或者使用新創(chuàng)建的沒有明確標(biāo)注的賬戶發(fā)布的消息，不太可能是真的。
該模型的最后兩個向量是URL結(jié)構(gòu)和web流量，可以檢測試圖模仿可信新聞來源的url(例如，“foxnews.co”)，參考的是一個網(wǎng)站的Alexa排名，該排名根據(jù)網(wǎng)站總瀏覽量進行計算。
該團隊在MBFC（Media Bias/Fact Check ）網(wǎng)站的1066個新聞源上對此AI系統(tǒng)進行了訓(xùn)練。他們用收集的準(zhǔn)確性和偏見數(shù)據(jù)手工標(biāo)注網(wǎng)站信息，為了生成上述數(shù)據(jù)庫，研究人員在每個網(wǎng)站上發(fā)布了10-100篇文章(總計94,814篇)。
正如研究人員在他們的報告中煞費苦心的介紹所示，并不是每一個特征值都能有效預(yù)測事實準(zhǔn)確性或政治偏見。例如，一些沒有維基百科頁面或建立Twitter檔案的網(wǎng)站有可能發(fā)布的信息是公正可信的，在Alexa排名靠前的新聞來源并不總是比流量較少的新聞源更公正或更真實。
研究人員有一個有趣的發(fā)現(xiàn)：來自虛假新聞網(wǎng)站的文章更有可能使用夸張和情緒化的語言，左傾媒體更有可能提到“公平”和“互惠”。與此同時，擁有較長的維基百科頁面的出版物通常更可信，那些包含少量特殊字符和復(fù)雜子目錄的url也是如此。
未來，該團隊打算探索該AI系統(tǒng)是否能適應(yīng)其他語言(它目前只接受過英語訓(xùn)練)，以及是否能被訓(xùn)練來檢測特定區(qū)域的偏見。他們還計劃推出一款A(yù)pp，可以通過“跨越政治光譜”的文章自動回復(fù)新聞。
該論文的第一作者、博士后助理拉米?巴利(Ramy Baly)表示:“如果一個網(wǎng)站以前發(fā)布過假新聞，他們很可能會再次發(fā)布?！薄巴ㄟ^自動抓取這些網(wǎng)站的數(shù)據(jù)，我們希望我們的系統(tǒng)能夠幫助找出哪些網(wǎng)站可能首先這么做?！?/p>
當(dāng)然，他們并不是唯一試圖通過人工智能打擊假新聞傳播的機構(gòu)。
總部位于新德里的初創(chuàng)公司MetaFact利用NLP算法來標(biāo)記新聞報道和社交媒體帖子中的錯誤信息和偏見；SAAS平臺AdVerify.ai于去年推出beta版，可以分析錯誤信息、惡意軟件和其他有問題的內(nèi)容，并可以交叉引用一個定期更新的數(shù)據(jù)庫，其中包含數(shù)千條虛假和合法的新聞。
前文中也提到過，F(xiàn)acebook一度深陷假新聞的泥淖，已經(jīng)開始嘗試使用“識別虛假新聞”的人工智能工具，并于近期收購了總部位于倫敦的初創(chuàng)公司Bloomsbury AI，以幫助其鑒別消除假新聞。
然而，一些專家并不相信人工智能可以勝任這項任務(wù)?？▋?nèi)基梅隆大學(xué)機器人研究所(Carnegie Mellon University Robotics Institute)的科學(xué)家迪恩波默洛(Dean Pomerleau)在接受外媒 the Verge 采訪時表示，人工智能缺乏對語言的微妙理解，而這種理解是識別謊言和虛假陳述所必需的。
“我們最初的目標(biāo)是建立一個系統(tǒng)來回答‘這是假新聞，是或不是?’”他說，“但我們很快意識到，機器學(xué)習(xí)無法勝任這項任務(wù)。”
但是，人類事實核查者做的不一定比AI更好。今年，谷歌暫停了“事實核查”(Fact Check)這一標(biāo)簽，該標(biāo)簽曾位于谷歌新聞報道欄，此前保守派媒體也曾指責(zé)谷歌對他們表現(xiàn)出了偏見。
不過，無論最終鑒別假新聞和個人偏見的解決方案是AI系統(tǒng)還是人工，抑或兩者兼而有之，假新聞被徹底消除的那一天都不會立刻到來。
據(jù)咨詢公司Gartner預(yù)測，到2022年，如果目前的趨勢不變，大多數(shù)發(fā)達國家的人看到的虛假信息將會多于真實信息。
via: venturebeat
相關(guān)文章：
德國出臺新政策：Facebook要為每條假新聞支付50萬歐元罰款
Google也被假新聞騙了：“奧巴馬將第三次競選總統(tǒng)”
德國政府推出社交媒體假新聞懲罰機制后，F(xiàn)acebook 上線假新聞過濾器
BBC 推特被黑發(fā)布川普中彈假新聞后，出現(xiàn)了這樣搞笑的一幕……
Facebook：多次分享假新聞 將不準(zhǔn)再投廣告
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
