現(xiàn)代推薦算法

總覽篇
第 1 章 推薦系統(tǒng)概述 ............................................................................................. 2
1.1 推薦系統(tǒng)是什么 .......................................................................................... 2
1.2 推薦系統(tǒng)發(fā)展的天時、地利、人和 .......................................................... 4
1.2.1 天時 .................................................................................................. 6
1.2.2 地利 .................................................................................................. 6
1.2.3 人和 .................................................................................................. 7
第 2 章 現(xiàn)代推薦鏈路 ............................................................................................. 9
2.1 召回、粗排、精排——各有所長 .............................................................. 9
2.2 召回、粗排、精排——級聯(lián)漏斗 ............................................................ 13
2.3 打壓、保送、重排——拍不完的腦袋 .................................................... 20
模型篇
第 3 章 精排之鋒 ................................................................................................... 25
3.1 簡單“復(fù)讀機(jī)”——邏輯回歸模型 ........................................................ 25
3.2 工業(yè)邏輯回歸模型的稀疏性要求 ............................................................ 29
3.3 FM 的一小步，泛化的一大步 ................................................................. 34
3.4 多彩的 FNN/PNN/ONN/NFM 世界 ......................................................... 37
3.5 高階交叉 ................................................................................................... 41
3.6 工具人 GBDT ............................................................................................ 45
3.7 嵌入表示亦福亦禍，樹模型的新機(jī)遇 .................................................... 49
3.8 DNN 與兩大門派，“一念神魔”與功不唐捐 ........................................ 53
3.9 再論特征與嵌入生成 ................................................................................ 58
3.10 機(jī)器學(xué)習(xí)指定王牌技術(shù)——注意力機(jī)制 ...................................... 62
3.11 注意力機(jī)制的幾種寫法 .......................................................................... 65
3.12 Transformer 的升維打擊 ......................................................................... 69
第 4 章 粗排之柔 ................................................................................................... 72
4.1 粗排存在與否的必要性 ............................................................................ 73
4.2 粗排復(fù)雜化的方法 .................................................................................... 73
4.3 Pair-wise 與 List-wise ................................................................................ 74
第 5 章 召回之厚 ................................................................................................... 76
5.1 u2i 之雙塔進(jìn)擊史 ..................................................................................... 76
5.2 i2i 及 u2u2i 方案 ....................................................................................... 81
5.3 近似搜索概覽 ............................................................................................ 85
5.3.1 向量量化類方法 ............................................................................ 86
5.3.2 基于圖的搜索 ................................................................................ 87
5.4 樹模型與類樹模型的沖擊 ........................................................................ 89
第 6 章 模型迭代的術(shù)與道 .................................................................................... 93
6.1 什么是“老湯模型” ................................................................................ 93
6.2 模型迭代的“術(shù)” .................................................................................... 96
6.3 模型迭代的“道” .................................................................................... 98
前沿篇
第 7 章 用戶興趣建模 ......................................................................................... 101
7.1 從百到萬的用戶長期興趣建模 .............................................................. 101
7.1.1 從百到千 ...................................................................................... 102
7.1.2 從千到萬 ...................................................................................... 102
7.2 用戶多峰興趣建模 .................................................................................. 104
第 8 章 多任務(wù)學(xué)習(xí) ............................................................................................. 107
8.1 多任務(wù)學(xué)習(xí)的實(shí)踐意義 .......................................................................... 107
8.2 多任務(wù)學(xué)習(xí)的基本框架 .......................................................................... 110
8.3 平行關(guān)系建模——MMoE 類方法 ......................................................... 113
8.4 非平行關(guān)系建模，任務(wù)間的因果 .......................................................... 117
第 9 章 非梯度場景 ............................................................................................. 121
9.1 線上與線下的鴻溝 .................................................................................. 121
9.2 弱個性化 CEM，強(qiáng)個性化強(qiáng)化學(xué)習(xí) .................................................... 124
9.3 探微參數(shù)與性能的關(guān)系，把點(diǎn)連成面 .................................................. 128
第 10 章 探索與利用 ........................................................................................... 133
10.1 為什么要探索與利用 ............................................................................ 133
10.2 探索的本質(zhì)是巧妙“貪心” ................................................................ 136
第 11 章 后精排環(huán)節(jié) ........................................................................................... 139
11.1 定義多樣性問題，簡單的形式與復(fù)雜的標(biāo)準(zhǔn) .................................... 139
11.2 DPP 算法與多樣性 ............................................................................... 142
11.3 考慮上下文的重排序 ............................................................................ 144
第 12 章 推薦中的偏差與消除............................................................................. 147
12.1 各種各樣的偏差 .................................................................................... 147
12.2 流行度偏差的消除 ................................................................................ 148
12.3 位置偏差的消除 .................................................................................... 151
第 13 章 自動機(jī)器學(xué)習(xí)技術(shù) ................................................................................ 155
13.1 網(wǎng)絡(luò)結(jié)構(gòu)搜索與網(wǎng)絡(luò)微操的探索 ........................................................ 155
13.2 特征的搜索 ............................................................................................ 159
13.3 模型壓縮 ............................................................................................... 161
第 14 章 圖計算 .................................................................................................. 165
14.1 數(shù)據(jù)結(jié)構(gòu)的終極 .................................................................................... 165
14.2 GNN 的極簡發(fā)展史 .............................................................................. 168
14.3 物料非原子化，建模轉(zhuǎn)向圖 ................................................................ 171
難點(diǎn)篇
第 15 章 延遲轉(zhuǎn)化 ............................................................................................... 175
15.1 轉(zhuǎn)化與廣告機(jī)制 ................