IJCAI 2018 于 7 月份在瑞典舉行。阿里巴巴作為國(guó)內(nèi)優(yōu)秀企業(yè)，也有三篇論文被收錄為口頭報(bào)告論文；此外，在 ACL 上有兩篇論文被錄用；在 SIGIR上有三篇論文被錄用。

以上事件在雷鋒網(wǎng)旗下學(xué)術(shù)頻道 AI 科技評(píng)論數(shù)據(jù)庫(kù)產(chǎn)品「AI 影響因子」中有相應(yīng)加分。

以下為三篇 IJCAI oral 論文摘要：

基于改進(jìn)注意力循環(huán)控制門的品牌排序系統(tǒng)

A Brand-level Ranking System with the Customized Attention-GRU

在淘寶網(wǎng)等電子商務(wù)網(wǎng)站中, 品牌在用戶對(duì)商品做點(diǎn)擊/購(gòu)買選擇時(shí)正起著越來(lái)越重要的作用, 部分原因是用戶現(xiàn)在越來(lái)越關(guān)注商品的質(zhì)量, 而品牌是商品質(zhì)量的一個(gè)保證。但是, 現(xiàn)有的排序系統(tǒng)并不是針對(duì)用戶對(duì)品牌的偏好設(shè)計(jì)的。某些處理方案一定程度上能減輕這個(gè)問(wèn)題, 但仍然無(wú)法取得理想的效果或需要增加額外的交互成本。我們提出并設(shè)計(jì)了第一個(gè)品牌級(jí)排序系統(tǒng)來(lái)解決該問(wèn)題, 該系統(tǒng)的核心挑戰(zhàn)是如何有效利用電子商務(wù)網(wǎng)站中的大量信息來(lái)對(duì)品牌作個(gè)性化排序。在我們的解決方案中, 我們首先針對(duì)個(gè)性化品牌排序問(wèn)題設(shè)計(jì)特征工程, 然后在 Attention-GRU 模型的基礎(chǔ)上, 提出了 3 個(gè)重要改進(jìn), 以更好地對(duì)品牌排序。值得注意的是, 這些改進(jìn)也能應(yīng)用于很多其他機(jī)器學(xué)習(xí)模型。我們?cè)诎⒗锇桶吞熵埳坛巧献隽舜罅繉?shí)驗(yàn)來(lái)驗(yàn)證這個(gè)排序模型的有效性, 并測(cè)試了真實(shí)應(yīng)用場(chǎng)景中 用戶對(duì)該排序系統(tǒng)的反饋。

JUMP: 一種點(diǎn)擊和停留時(shí)長(zhǎng)的協(xié)同預(yù)估器

在搜索和推薦場(chǎng)景中，基于會(huì)話的預(yù)測(cè)日益受到人們的興趣和重視；大多這類算法都是基于遞歸神經(jīng)網(wǎng)絡(luò) (RNNs) 技術(shù)或者它的變種。然而，已有的算法一方面會(huì)忽略「停留時(shí)長(zhǎng)」在表達(dá)用戶偏好程度上的重要性，另一方面在非常短或者有噪音的會(huì)話上會(huì)預(yù)估的不準(zhǔn)。因此在該文章的的工作中，我們提出了一種聯(lián)合預(yù)估算法 JUMP，基于會(huì)話去同時(shí)預(yù)測(cè)用戶的點(diǎn)擊和停留時(shí)長(zhǎng)。JUMP 使用一種新奇的三層 RNN 結(jié)構(gòu)去編碼用戶的一次會(huì)話，包括使用一個(gè)「快慢層」去緩解短會(huì)話的問(wèn)題，使用一個(gè)「注意力層」去解決會(huì)話噪音的問(wèn)題。大量的實(shí)驗(yàn)表明 JUMP 算法能在點(diǎn)擊率預(yù)估和停留時(shí)長(zhǎng)預(yù)估上，超越最新的其他算法。

電商搜索全局排序方法

搜索排序的傳統(tǒng)方法是通過(guò)各種方法對(duì)商品進(jìn)行打分，最后按照每個(gè)商品的分?jǐn)?shù)進(jìn)行排序。這樣傳統(tǒng)的搜索排序方法就無(wú)法考慮到展示出來(lái)的商品之間相互的影響。類似地，傳統(tǒng)的針對(duì)單個(gè)商品估計(jì) ctr、cvr 的方法也都基于這樣一個(gè)假設(shè)：商品的 ctr、cvr不會(huì)受到同時(shí)展示出來(lái)的其他商品 (我們稱為展示 context) 的影響。而實(shí)際上一個(gè)商品的展示 context 可以影響到用戶的點(diǎn)擊或者購(gòu)買決策：假如一個(gè)商品周邊的商品都和它比較類似，但是價(jià)格卻比它便宜，那么用戶買它的概率不會(huì)高；反之如果周邊的商品都比它貴，那么用戶買它的概率就會(huì)大增。如果打破傳統(tǒng)排序模型展示 context 沒(méi)有影響的假設(shè)，該如何進(jìn)行排序呢？

為此，我們首次提出了一種考慮商品間相互影響的全局排序方法。我們將電商排序描述成一個(gè)全局優(yōu)化問(wèn)題，優(yōu)化的目標(biāo)是反應(yīng)用戶滿意度的商品成交額：GMV（GrossMerchandise Volume）。準(zhǔn)確地說(shuō)，全局排序的優(yōu)化目標(biāo)是最大化 GMV 的數(shù)學(xué)期望。計(jì)算 GMV 的數(shù)學(xué)期望需要知道商品的成交概率，而商品的成交概率是彼此相互影響的，因此我們又提出了考慮商品間相互影響的成交概率估計(jì)模型。首先，我們提出了一種全局特征擴(kuò)展的思路，在估計(jì)一個(gè)商品的成交概率時(shí)，將其他商品的影響以全局特征的形式加入到概率估計(jì)模型中，從而在估計(jì)時(shí)考慮到了其他商品的影響。然后，我們進(jìn)一步提出了通過(guò) RNN 模型來(lái)精確考慮商品的排序順序?qū)ι唐烦山桓怕实挠绊?。通過(guò)使用 RNN 模型，我們將電商排序變成了一個(gè)序列生成的問(wèn)題，并通過(guò) beam search 算法來(lái)尋找一個(gè)較好的排序。我們?cè)谔詫殶o(wú)線主搜索平臺(tái)上進(jìn)行了大量的實(shí)驗(yàn)，相對(duì)于當(dāng)時(shí)的淘寶無(wú)線主搜算法，取得了GMV 提升 5% 的效果。

三篇 SIGIR 文章：

一種端到端的模型：基于異構(gòu)內(nèi)容流的動(dòng)態(tài)排序/ An End-to-end Model of Predicting Diverse Ranking On Heterogeneous Feeds

高子喆，高正，黃恒，蔣卓人，嚴(yán)玉良  / Zizhe Gao,Zheng Gao,Heng Huang,Zhuoren Jiang,Yuliang Yan

我們的目標(biāo)是解決商品搜索引擎和內(nèi)容搜索引擎中異構(gòu)數(shù)據(jù)排序的問(wèn)題，給用戶推薦豐富的個(gè)性化的內(nèi)容流。我們把算法分成了兩部分：1）異構(gòu)內(nèi)容流類型排序，即決定每個(gè)坑位展示何種類型的內(nèi)容流，文章、視頻還是商品列表；2）同構(gòu)的內(nèi)容流內(nèi)容排序，第二個(gè)步驟使用廣為人知的DSSM模型，在這個(gè)內(nèi)容流類型下，對(duì)內(nèi)容流的內(nèi)容進(jìn)行排序，選擇相似度最高的內(nèi)容插入。本文主要聚焦在第一個(gè)步驟。

可視化理解深度神經(jīng)網(wǎng)絡(luò)CTR預(yù)估模型/ Visualizing and Understanding Deep Neural Networks in CTR Prediction

郭霖 葉卉 蘇文博 劉賀歡 孫凱 向杭 侯俊/ Lin Guo, Hui Ye, Wenbo Su, Hehuan Liu, Kai Sun, Hang Xiang, Jun Hou

深度學(xué)習(xí)在研究和應(yīng)用領(lǐng)域都已取得了重大的進(jìn)展。但迄今為止，深度學(xué)習(xí)算法仍不夠透明，多被做“黑盒”使用。近年來(lái)，人們開(kāi)始致力于去更透徹地理解深度學(xué)習(xí)內(nèi)部的復(fù)雜機(jī)理，從而確保算法安全可靠或達(dá)到進(jìn)一步優(yōu)化的目的。

盡管業(yè)界對(duì)于圖像處理和自然語(yǔ)言處理領(lǐng)域，在算法可解釋性方向上已經(jīng)取得了一些進(jìn)展，但對(duì)于電商與廣告領(lǐng)域，目前還是空白。另一方面，深度學(xué)習(xí)技術(shù)已經(jīng)開(kāi)始被大規(guī)模應(yīng)用到廣告業(yè)務(wù)中。廣告是很多互聯(lián)網(wǎng)現(xiàn)金流的重要來(lái)源，是核心業(yè)務(wù)。深度神經(jīng)網(wǎng)絡(luò)模型是核心業(yè)務(wù)中的核心模塊，有效理解和評(píng)估這一“黑盒”算法變得非常重要。

由于人類對(duì)于世界的認(rèn)知和感受主要來(lái)自于視覺(jué)，良好的可視化可以有效的幫助人們理解深度神經(jīng)網(wǎng)絡(luò)，并進(jìn)行有效的評(píng)估、優(yōu)化和調(diào)節(jié)。而可視化的前提是對(duì)模型進(jìn)行相關(guān)數(shù)據(jù)透出，從而進(jìn)行可視化分析評(píng)估，最終使得神經(jīng)網(wǎng)絡(luò)從“黑盒”向“白盒”過(guò)渡。針對(duì)這些挑戰(zhàn)，我們搭建了一個(gè)面向工業(yè)級(jí)大規(guī)模深度學(xué)習(xí)應(yīng)用的可視化分析平臺(tái)—DeepInsight。

我們將針對(duì)電商場(chǎng)景下的廣告點(diǎn)擊率（CTR）預(yù)估，以一個(gè)簡(jiǎn)單但具有代表性的深度神經(jīng)網(wǎng)絡(luò)模型為例，舉例介紹在幾個(gè)典型而重要的問(wèn)題上模型可視化分析的應(yīng)用：1.泛化效果評(píng)估；2.特征設(shè)計(jì)；3.模型結(jié)構(gòu)設(shè)計(jì)。

大多數(shù)圖像或自然語(yǔ)言處理的研究著眼于從樣本粒度出發(fā)去可視化理解模型。區(qū)別于這些研究場(chǎng)景，工業(yè)界的CTR預(yù)估面對(duì)的是海量規(guī)模的數(shù)據(jù)與特征、有偏的帶標(biāo)簽數(shù)據(jù)、稀疏而復(fù)雜多樣的信號(hào)模式，而最終效果評(píng)估首要關(guān)注的是宏觀的商業(yè)指標(biāo)。從業(yè)務(wù)特點(diǎn)出發(fā)，我們以統(tǒng)計(jì)信號(hào)入手，探索理解模型在整個(gè)目標(biāo)數(shù)據(jù)集上的宏觀表現(xiàn)。相關(guān)實(shí)驗(yàn)工作的細(xì)節(jié)請(qǐng)參閱我們的英文版論文：https://arxiv.org/abs/1806.08541。

基于強(qiáng)化學(xué)習(xí)的電商環(huán)境下商品生命周期優(yōu)化

在電商平臺(tái)所制定的流量分配機(jī)制下，參與者競(jìng)爭(zhēng)平臺(tái)的流量資源，而現(xiàn)有的研究大多基于商品當(dāng)前狀態(tài)優(yōu)化短期的收益。本文通過(guò)定義商品的啟動(dòng)、成長(zhǎng)、成熟和衰退四個(gè)周期以及四個(gè)周期之間的轉(zhuǎn)換關(guān)系建立起商品的生命周期模型?；谏芷谀Ｐ?，本文進(jìn)一步提出了基于強(qiáng)化學(xué)習(xí)的流量分配機(jī)制框架，并提出基于FPC排列的狀態(tài)采樣算法和改進(jìn)的經(jīng)驗(yàn)池技術(shù)以同時(shí)優(yōu)化長(zhǎng)期收益與短期收益。通過(guò)這種'試探-糾錯(cuò)'機(jī)制，可能可以優(yōu)化流量分配機(jī)制并促進(jìn)平臺(tái)自身健康發(fā)展。我們基于淘寶平臺(tái)進(jìn)行了仿真驗(yàn)證，仿真表明該算法相比于基準(zhǔn)算法有明顯的提升。

論文地址：https://arxiv.org/abs/1807.00448 

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。