丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預覽,將在時失效
AI+ 正文
發(fā)私信給AI研習社
發(fā)送

0

mathor 大佬聊賽事:處理「微博立場檢測」賽事,數(shù)據(jù)比模型重要

本文作者: AI研習社 2020-03-25 10:50
導語:AI研習社競賽專區(qū)大佬專訪。

坐鎮(zhèn)大佬:

mathor:武漢某高校軟件工程大四學生(數(shù)學家是我理想)

AI 研習社 ID:@mathor

(個人主頁鏈接:https://www.yanxishe.com/center/myPage/5148812


「微博立場檢測」賽事鏈接:https://god.yanxishe.com/44 

mathor 大佬聊賽事:處理「微博立場檢測」賽事,數(shù)據(jù)比模型重要

AI 研習社:簡單介紹一下你的個人背景,讓我們更了解你唄。

mathor:我現(xiàn)在就讀于武漢一所普通高校,大四,今年 6 月份畢業(yè),然后參加了 20 年的研究生入學考試。我的本科是軟件工程專業(yè)。

AI 研習社:之前參加過類似的比賽嗎?

mathor:這已經(jīng)是我第二次參賽。第一次參賽是在 19 年暑假,那是一場高校大數(shù)據(jù)挑戰(zhàn)賽,賽題是廣告點擊預測。那一場賽題比較簡單,尤其數(shù)據(jù)字段較少,不需要運用很復雜的特征工程,非常適合當時的我。

AI 研習社:比起其他 NLP 賽事,你認為“微博立場檢測”有何不同之處?它是怎么影響你的答題思路的?

mathor:首先,“微博立場檢測”賽事的字段較少,意味著我們不需要做復雜的特征工程,對新手較友好。

其次,數(shù)據(jù)量少,所以只需要普通的 cpu 就能跑。

最后,正因為數(shù)據(jù)量較少,所以許多大佬慣用的深度學習方法,如 bert、lstm 等,使用后效果可能不是很好。反而是對模型了解較少,但是非常擅長處理數(shù)據(jù)的同學,會有更好的成績。

AI 研習社:所以說你在上周五的 PPT 里著重強調(diào)了“數(shù)據(jù)清洗”的作用,這一塊方便細談一下嗎?

mathor:這次比賽的數(shù)據(jù)都是中文的,相比英文而言,中文數(shù)據(jù)的清洗過程更復雜。

首先你得分詞,這里就會面臨很多問題,比如不同分詞工具的效果不一致,而且不存在分詞 100% 正確的工具。

其次,分完詞后,你還將面臨各種亂七八糟的字符,如網(wǎng)址、驗證碼、表情和中文標點符號,這些實際上沒什么意義,如果可以過濾掉這些,肯定會對結果產(chǎn)生很大的影響。

假設現(xiàn)在有一個非常干凈的數(shù)據(jù)樣本,隨便帶入一個機器學習的模型,得出的結果不一定比非常亂的樣本帶入深度學習模型的效果差。

AI 研習社:所以你采取了“pkuseg分詞+fasttext”的方案。

mathor:采取 fasttext 的原因是它非常簡單,隨便調(diào)一下就能用,這樣我可以把更多精力集中在數(shù)據(jù)處理上。(mathor 大佬參賽baseline:https://god.yanxishe.com/codeplan/detail/72

AI 研習社:你的 PPT 里還提到一點,就是要善用分詞工具的語料庫,這一塊又是基于什么考量呢?

mathor:像我前面說過的,不存在 100% 分詞正確的分詞工具,所以應該要想盡辦法提高分詞的準確度。

假設分詞不正確,后面的過濾可能就會出現(xiàn)問題——比方說很多同學會過濾掉長度等于 1 的字符,但是如果一開始分詞的時候就不準確,結果過濾的時候把一些重要的信息過濾掉了,對結果肯定有影響。

而各種語料庫就是為了幫助提升分詞的準確性。

AI 研習社:在數(shù)據(jù)處理這塊,你比較推薦哪些學習材料?

mathor:我基本上很少保存資料,都是需要用到的時候才 Google ,查不到了再來問人。

以下這個表情包我個人覺得非常經(jīng)典(笑)。

mathor 大佬聊賽事:處理「微博立場檢測」賽事,數(shù)據(jù)比模型重要

AI 研習社:你的 AI 基礎知識也是自學的吧?有沒有什么較好的網(wǎng)站或課程推薦?

mathor:龍曲良老師的 pytorch 課程。

AI 研習社:據(jù)了解,你還擁有自己的個人博客,可以向我們介紹一下嗎?

mathor:我的個人博客網(wǎng)址是 https://wmathor.com/ ,里頭主要更新自然語言處理、算法等技術方面的內(nèi)容,少量寫一些個人感悟之類的。

AI 研習社:你覺得寫個人博客對你最大的影響是什么?

mathor:學習完了,要是不及時做筆記,最后會忘記的(笑)。

AI 研習社:還有哪些關于“微博立場檢測”的關鍵信息,是我的問題沒問出來,你認為有必要跟大家強調(diào)的?

mathor:現(xiàn)在比較流行集成模型,有時間的大佬可以嘗試建立多個模型,然后做個簡單的投票,或者stacking之類的,或許有奇效。畢竟那么多比賽,那么多人都在用。

這是模型方面,數(shù)據(jù)處理方面我就不多說了,已經(jīng)快要接觸到我的方法的核心了 (笑)。

AI 研習社:最后一個問題,你認為什么是“打比賽的正確姿勢”?

mathor:不要隨便提交代碼,因為每天提交的次數(shù)有限;

同時不要過分相信驗證集的分數(shù),很可能不準,所以一定要有自己預判分數(shù)的方法,什么方法都行;

然后就是,不會的就及時上網(wǎng)查,原理不懂不要緊,最重要的是要能快速使用。


「微博立場檢測」賽事鏈接:https://god.yanxishe.com/44

mathor 大佬聊賽事:處理「微博立場檢測」賽事,數(shù)據(jù)比模型重要

雷鋒網(wǎng) 雷鋒網(wǎng) 雷鋒網(wǎng) 

雷峰網(wǎng)版權文章,未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

分享:
相關文章

編輯

聚焦數(shù)據(jù)科學,連接 AI 開發(fā)者。更多精彩內(nèi)容,請訪問:yanxishe.com
當月熱門文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設置密碼以方便用郵箱登錄
立即設置 以后再說