Spotify透過圖神經網路實現個人化有聲書推薦

1. 引言

Spotify作為服務數億用戶的領先音訊串流平台，近期在既有的音樂和播客服務基礎上，擴充了有聲書內容。這項策略性舉措為個人化推薦帶來了重大挑戰，原因包括資料稀疏性、冷啟動問題，以及在初期直銷模式下有聲書推薦的高風險性。

識別出的核心挑戰包括：

新內容類型的極端資料稀缺
因購買模式導致的較高用戶風險承受度
有限的明確正面互動訊號
數百萬用戶的可擴展性需求

+46%

新有聲書開始收聽率提升

+23%

串流率提升

20%

年度有聲書消費成長

2. 方法論

2.1 異質圖神經網路

2T-HGNN系統利用包含多種節點類型（用戶、有聲書、播客、音樂曲目）和關係類型的異質圖。透過將用戶從圖結構中解耦，系統在維持推薦品質的同時實現了顯著的複雜度降低。

2.2 雙塔架構

雙塔模型分離了用戶和項目表示，實現了高效的相似度計算和即時推薦。此架構確保了在處理Spotify用戶規模時的低延遲。

2.3 多連結鄰居取樣器

一種創新的取樣技術，能有效處理異質圖中的多種關係類型，透過利用跨內容類型關係來解決資料稀疏性問題。

3. 技術實現

3.1 數學公式

核心GNN傳播可表示為：

$h_v^{(l+1)} = \sigma\left(\sum_{r\in R}\sum_{u\in N_v^r}\frac{1}{c_{v,r}}W_r^{(l)}h_u^{(l)} + W_0^{(l)}h_v^{(l)}\right)$

其中$h_v^{(l)}$代表第$l$層節點$v$的嵌入，$R$是關係類型集合，$N_v^r$表示關係$r$下$v$的鄰居，$c_{v,r}$是歸一化常數。

3.2 程式碼實現

class TwoTowerHGNN(nn.Module):
    def __init__(self, hidden_dim, num_relations):
        super().__init__()
        self.user_tower = nn.Sequential(
            nn.Linear(user_feat_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim)
        )
        self.item_tower = HGNNLayer(hidden_dim, num_relations)
        
    def forward(self, user_features, item_graph):
        user_emb = self.user_tower(user_features)
        item_emb = self.item_tower(item_graph)
        return user_emb, item_emb

class MultiLinkNeighborSampler:
    def sample_neighbors(self, nodes, relation_types, fanouts):
        sampled_neighbors = {}
        for relation in relation_types:
            neighbors = self.graph.sample_neighbors(
                nodes, relation, fanouts[relation])
            sampled_neighbors[relation] = neighbors
        return sampled_neighbors

4. 實驗結果

2T-HGNN系統在數百萬Spotify用戶上進行評估，展現了卓越的效能提升：

+46% 提升 新有聲書開始收聽率，相較於基準方法
+23% 改善 推薦內容的串流率
對播客等成熟產品產生顯著正向溢出效應
相較於傳統GNN方法，推論延遲降低40%

系統架構圖展示了從異質圖構建、多連結取樣到最終推薦生成的流程，顯示如何利用用戶在音樂和播客的偏好來解決有聲書冷啟動問題。

5. 關鍵分析

產業分析師觀點

一針見血

Spotify的2T-HGNN不僅是另一個推薦系統，更是將資料稀疏性從劣勢轉化為武器的策略性高明之舉。透過利用跨內容關係，他們實質上建立了一座推薦橋樑，讓用戶在音樂和播客的既有偏好能夠引導全新產品類別。這比將有聲書視為孤立推薦問題的做法從根本上更加聰明。

邏輯鏈條

技術邏輯相當優雅：冷啟動問題→利用現有用戶偏好→建立異質圖→使用GNN傳播偏好→解耦用戶以實現可擴展性→達成跨內容推薦。特別巧妙的是他們如何改編Hamilton等人的GraphSAGE和Kipf & Welling的GCN論文中的開創性技術，但針對工業級部署進行了關鍵修改。與傳統方法在新內容類型上掙扎不同，此系統實際上從平台現有的多樣性中獲得優勢。

亮點與槽點

亮點：對於新內容類別而言，+46%的開始收聽率提升令人震驚。將用戶從圖中解耦的架構決策顯示對可擴展性限制的深刻理解。多連結取樣器確實具有創新性，讓人聯想到Google DeepMind處理複雜關係建模的方式，但應用於實際商業問題。

槽點：論文對計算成本輕描淡寫，在Spotify規模上訓練異質GNN並不便宜。關於系統如何處理困擾許多推薦系統的「過濾泡泡」問題，討論也有限。與Netflix有完善記錄的多樣性措施不同，Spotify的方法似乎高度優化了參與度指標，可能強化現有偏好而非擴展用戶視野。

行動啟示

對競爭者而言：孤立推薦系統的時代已經結束。Amazon Audible應該感到擔憂，Spotify展示了如何利用平台生態系統快速主導新內容類別。對從業者而言：解耦用戶方法應成為大規模GNN實現的標準做法。研究社群應注意，這代表了迄今為止異質GNN最成功的實際應用之一，可與Pinterest的GNN部署規模相媲美。

特別重要的是這如何與圖學習的更廣泛趨勢保持一致。正如Zhou等人對GNN的全面調查中指出，處理異質資訊網路的能力對實際應用變得至關重要。Spotify的方法展示了圖表示學習的理論進展如何轉化為具體商業價值，類似於Uber利用GNN進行ETA預測或阿里巴巴將其用於產品推薦的方式。

6. 未來應用

2T-HGNN架構在有聲書推薦之外具有顯著潛力：

跨領域推薦：擴展至影片、文章和其他媒體類型
動態圖更新：即時適應變化的用戶偏好
聯邦學習：無需集中用戶資料的隱私保護推薦
多模態整合：納入音訊特徵、文字描述和封面藝術

未來研究方向包括探索用戶偏好的時間動態、整合知識圖譜以理解內容，以及為數十億規模圖開發更高效的取樣演算法。

7. 參考文獻

Hamilton, W., Ying, Z., & Leskovec, J. (2017). Inductive Representation Learning on Large Graphs. NeurIPS.
Kipf, T. N., & Welling, M. (2017). Semi-Supervised Classification with Graph Convolutional Networks. ICLR.
Zhou, J., et al. (2020). Graph Neural Networks: A Review of Methods and Applications. AI Open.
Rendle, S., et al. (2020). Neural Collaborative Filtering vs. Matrix Factorization Revisited. RecSys.
Wang, X., et al. (2019). Heterogeneous Graph Attention Network. WWW.
Spotify Technology S.A. (2023). Quarterly Financial Results.
Audio Publishers Association. (2023). Annual Audiobook Sales Survey.

目錄