冷啟動(dòng)推薦一直是推薦系統(tǒng)中一個(gè)極具挑戰(zhàn)的問(wèn)題?？珙I(lǐng)域推薦系統(tǒng)使用源領(lǐng)域中的交互數(shù)據(jù)來(lái)幫助目標(biāo)領(lǐng)域的冷啟動(dòng)推薦。這篇文章提出了一種個(gè)性化遷移用戶興趣偏好的跨領(lǐng)域推薦的方法，給目標(biāo)領(lǐng)域冷啟動(dòng)用戶進(jìn)行更精準(zhǔn)的推薦。

作者 | 朱勇椿

本文基于WSDM 2022論文《Personalized Transfer of User Preferences for Cross-domain Recommendation》，論文作者來(lái)自中科院計(jì)算所、騰訊微信、北航。

論文鏈接：https://arxiv.org/pdf/2110.11154.pdf

代碼鏈接：https://github.com/easezyc/WSDM2022-PTUPCDR

1

背景介紹

隨著個(gè)性化線上app的增長(zhǎng)，推薦系統(tǒng)被線上服務(wù)廣泛采用，比如電商、線上新聞等等。但是推薦系統(tǒng)無(wú)法給新（冷啟動(dòng)）用戶提供精準(zhǔn)的推薦服務(wù)。

跨領(lǐng)域推薦系統(tǒng)旨在從一個(gè)信息豐富的源領(lǐng)域向目標(biāo)領(lǐng)域遷移知識(shí)來(lái)緩解冷啟動(dòng)問(wèn)題[1,2,3]。這類方法的核心是如何連接用戶在源領(lǐng)域的興趣偏好和在目標(biāo)領(lǐng)域的興趣偏好。為了達(dá)到偏好遷移的效果，很多已有的跨領(lǐng)域推薦方法假設(shè)用戶在源領(lǐng)域和目標(biāo)領(lǐng)域的興趣偏好存在一種聯(lián)系，并且所有的用戶共享這種聯(lián)系。因此，這些方法學(xué)習(xí)一個(gè)所有用戶共享的偏好橋，如圖1(a)所示。

事實(shí)上，由于個(gè)體的差異，不同領(lǐng)域的偏好間的復(fù)雜關(guān)系是因人而異的。因此，很難用一個(gè)公共的偏好橋來(lái)抓獲這樣復(fù)雜多樣的關(guān)系。為了解決現(xiàn)有方法的不足，有必要使用個(gè)性化的橋來(lái)建模不同用戶的偏好關(guān)系。

因此，這篇文章提出了一種新的框架，個(gè)性化遷移用戶偏好的方法用于跨領(lǐng)域推薦系統(tǒng)(PTUPCDR)。如圖1(b)所示。使用一個(gè)元學(xué)習(xí)器，以從用戶在源領(lǐng)域的交互歷史中提取到的用戶特質(zhì)為輸入，建模個(gè)性化的偏好橋。再將用戶在源領(lǐng)域的偏好表示，輸入這個(gè)預(yù)測(cè)得到的偏好橋，得到用戶在目標(biāo)領(lǐng)域的冷啟動(dòng)表示。通常來(lái)講，元學(xué)習(xí)器是難以優(yōu)化的[4,5]，因此我們提出了一種目標(biāo)導(dǎo)向的訓(xùn)練方法，直接以最終的rating作為優(yōu)化目標(biāo)。

2

方法

整體框架如上所示，主要包含兩個(gè)部分，特質(zhì)編碼器，元網(wǎng)絡(luò)。具體來(lái)講，特征編碼器使用一種注意力機(jī)制，將用戶在源領(lǐng)域交互過(guò)的所有item聚合起來(lái)，表示用戶在源領(lǐng)域的特質(zhì)：

將得到的用戶特質(zhì)輸入到元網(wǎng)絡(luò)（meta network），輸出個(gè)性化的偏好橋：

注意，元網(wǎng)絡(luò)輸出的是偏好橋的參數(shù)。再將用戶在源領(lǐng)域的偏好表示送入預(yù)測(cè)得到的偏好橋，得到用戶在目標(biāo)領(lǐng)域的偏好表示：

用得到的用戶在目標(biāo)領(lǐng)域的表示作為目標(biāo)領(lǐng)域中該用戶的初始化向量，即可進(jìn)行冷啟動(dòng)推薦。為了學(xué)習(xí)這個(gè)網(wǎng)絡(luò)，以前的方法采用映射導(dǎo)向的損失函數(shù)：

在兩個(gè)領(lǐng)域重疊的用戶上學(xué)習(xí)，使得映射后的用戶表示盡量靠近目標(biāo)領(lǐng)域中該用戶的表示。但是目標(biāo)領(lǐng)域中該用戶的表示是通過(guò)交互數(shù)據(jù)學(xué)習(xí)得到，這個(gè)過(guò)程存在信息損失，因此我們希望跳過(guò)這個(gè)中間表示，直接以交互數(shù)據(jù)作為優(yōu)化目標(biāo)：

整個(gè)訓(xùn)練流程如下所示，先預(yù)訓(xùn)練得到源領(lǐng)域和目標(biāo)領(lǐng)域的模型，再訓(xùn)練元網(wǎng)絡(luò)，再映射用戶興趣偏好去初始化目標(biāo)領(lǐng)域上的用戶表示：

3

實(shí)驗(yàn)

我們?cè)趤嗰R遜的公開數(shù)據(jù)集上構(gòu)造了三個(gè)跨領(lǐng)域推薦任務(wù)，具體任務(wù)如下表所示：

我們使用不同比例的數(shù)據(jù)量作為訓(xùn)練集，得到以下實(shí)驗(yàn)結(jié)果，可以看到我們的方法遠(yuǎn)遠(yuǎn)超過(guò)baselines。

此外我們還做了warm start實(shí)驗(yàn)，也就是基于這個(gè)映射得到向量表示作為初始化，使用后續(xù)交互數(shù)據(jù)微調(diào)，得到以下結(jié)果，可以看到，針對(duì)warm start場(chǎng)景，我們的方法也是很有效的，這也是第一篇同時(shí)驗(yàn)證跨領(lǐng)域推薦方法在cold-start和warm-start場(chǎng)景的文章。

4

總結(jié)

這篇文章我們研究了跨領(lǐng)域推薦中的冷啟動(dòng)問(wèn)題，我們發(fā)現(xiàn)公共的用戶偏好橋無(wú)法很好的建模不同用戶在不同領(lǐng)域的偏好間的關(guān)系，因此我們提出了一種個(gè)性化遷移用戶興趣偏好的方法。實(shí)驗(yàn)證明我們的方法是一種高效且實(shí)用的方法。

參考文獻(xiàn)：

[1] Man T, Shen H, Jin X, et al. Cross-Domain Recommendation: An Embedding and Mapping Approach[C]//IJCAI. 2017, 17: 2464-2470.

[2] Kang S K, Hwang J, Lee D, et al. Semi-supervised learning for cross-domain recommendation to cold-start users[C]// CIKM: 1563-1572.

[3] Zhu Y, Ge K, Zhuang F, et al. Transfer-Meta Framework for Cross-domain Recommendation to Cold-Start Users[C]. SIGIR, 2021.

[4] Zhu Y, Xie R, Zhuang F, et al. Learning to Warm Up Cold Item Embeddings for Cold-start Recommendation with Meta Scaling and Shifting Networks[C].SIGIR, 2021.

[5] Zhu Y, Liu Y, Xie R, et al. Learning to Expand Audience via Meta Hybrid Experts and Critics for Recommendation and Advertising[C]. KDD, 2021.

雷鋒網(wǎng)

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。