Spotify'da Grafik Sinir Ağları ile Kişiselleştirilmiş Sesli Kitap Önerileri

İçindekiler

1. Giriş

Yüz milyonlarca kullanıcıya hizmet veren önde gelen ses yayın platformu Spotify, kataloğunu yakın zamanda yerleşik müzik ve podcast tekliflerinin yanı sıra sesli kitapları da içerecek şekilde genişletti. Bu stratejik hamle, veri seyrekliği, soğuk başlangıç problemleri ve ilk doğrudan satış modelleri altında sesli kitap önerilerinin yüksek riskleri nedeniyle kişiselleştirilmiş öneriler için önemli zorluklar ortaya koymaktadır.

Tespit edilen temel zorluklar şunları içerir:

Yeni içerik türü için aşırı veri kıtlığı
Satın alma modeli nedeniyle daha yüksek kullanıcı risk toleransı
Sınırlı açık pozitif etkileşim sinyalleri
Milyonlarca kullanıcı için ölçeklenebilirlik gereksinimleri

+%46

Yeni sesli kitaplarda başlama oranı artışı

+%23

Akış oranlarında artış

%20

Yıllık sesli kitap tüketim büyümesi

2. Metodoloji

2.1 Heterojen Grafik Sinir Ağları

2T-HGNN sistemi, çoklu düğüm türlerini (kullanıcılar, sesli kitaplar, podcast'ler, müzik parçaları) ve ilişki türlerini içeren heterojen grafiklerden yararlanır. Kullanıcıları grafik yapısından ayırarak, sistem öneri kalitesini korurken önemli karmaşıklık azaltması sağlar.

2.2 İki Kule Mimarisi

İki Kule modeli, kullanıcı ve öğe temsillerini ayırarak verimli benzerlik hesaplamaları ve gerçek zamanlı öneriler sağlar. Bu mimari, Spotify'ın kullanıcı tabanının ölçeğini yönetirken düşük gecikme süresi sağlar.

2.3 Çok Bağlantılı Komşu Örnekleyici

Heterojen grafikteki çoklu ilişki türlerini verimli bir şekilde işleyen, çapraz içerik türü ilişkilerinden yararlanarak veri seyrekliği problemini çözen yenilikçi bir örnekleme tekniği.

3. Teknik Uygulama

3.1 Matematiksel Formülasyon

Temel GNN yayılımı şu şekilde temsil edilebilir:

$h_v^{(l+1)} = \sigma\left(\sum_{r\in R}\sum_{u\in N_v^r}\frac{1}{c_{v,r}}W_r^{(l)}h_u^{(l)} + W_0^{(l)}h_v^{(l)}\right)$

Burada $h_v^{(l)}$, $l$ katmanındaki $v$ düğümünün gömülmesini temsil eder, $R$ ilişki türleri kümesidir, $N_v^r$ $r$ ilişkisi altındaki $v$ komşularını belirtir ve $c_{v,r}$ bir normalizasyon sabitidir.

3.2 Kod Uygulaması

class TwoTowerHGNN(nn.Module):
    def __init__(self, hidden_dim, num_relations):
        super().__init__()
        self.user_tower = nn.Sequential(
            nn.Linear(user_feat_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim)
        )
        self.item_tower = HGNNLayer(hidden_dim, num_relations)
        
    def forward(self, user_features, item_graph):
        user_emb = self.user_tower(user_features)
        item_emb = self.item_tower(item_graph)
        return user_emb, item_emb

class MultiLinkNeighborSampler:
    def sample_neighbors(self, nodes, relation_types, fanouts):
        sampled_neighbors = {}
        for relation in relation_types:
            neighbors = self.graph.sample_neighbors(
                nodes, relation, fanouts[relation])
            sampled_neighbors[relation] = neighbors
        return sampled_neighbors

4. Deneysel Sonuçlar

2T-HGNN sistemi milyonlarca Spotify kullanıcısı üzerinde değerlendirilmiş ve dikkat çekici performans iyileştirmeleri göstermiştir:

+%46 artış temel yöntemlere kıyasla yeni sesli kitaplarda başlama oranında
+%23 iyileşme önerilen içeriklerde akış oranlarında
Podcast'ler gibi yerleşik ürünlerde önemli pozitif yayılma etkileri
Geleneksel GNN yaklaşımlarına kıyasla %40 azaltılmış çıkarım gecikmesi

Sistem mimari diyagramı, heterojen grafik oluşturmadan çok bağlantılı örneklemeye ve nihai öneri oluşturmaya kadar olan akışı göstermekte, müzik ve podcast'lerden kullanıcı tercihlerinin sesli kitap soğuk başlangıç problemlerini çözmek için nasıl kullanıldığını göstermektedir.

5. Eleştirel Analiz

Endüstri Analisti Perspektifi

Özüne İnmek

Spotify'ın 2T-HGNN'si sadece başka bir öneri sistemi değil - veri seyrekliğini bir yükten silaha dönüştüren stratejik bir ustalık hamlesidir. Çapraz içerik ilişkilerinden yararlanarak, temelde müzik ve podcast'lerdeki yerleşik kullanıcı tercihlerinin tamamen yeni bir ürün kategorisini başlatmasına izin veren bir öneri köprüsü oluşturdular. Bu, sesli kitapları izole bir öneri problemi olarak ele almaktan temelde daha akıllıcadır.

Mantık Zinciri

Teknik mantık zarif: Soğuk başlangıç problemi → Mevcut kullanıcı tercihlerinden yararlan → Heterojen grafik oluştur → Tercihleri yaymak için GNN'leri kullan → Ölçeklenebilirlik için kullanıcıları ayır → Çapraz içerik önerileri elde et. Özellikle zekice olan, Hamilton ve diğerlerinin GraphSAGE ve Kipf & Welling'in GCN makaleleri gibi temel çalışmalardan teknikleri nasıl uyarladıkları, ancak endüstriyel ölçekte dağıtım için çok önemli değişikliklerle. Yeni içerik türleriyle mücadele eden geleneksel yaklaşımların aksine, bu sistem aslında platformun mevcut çeşitliliğinden güç kazanıyor.

Avantajlar ve Dezavantajlar

Avantajlar: +%46 başlama oranı iyileştirmesi yeni bir içerik kategorisi için şaşırtıcıdır. Kullanıcıları grafikten ayırma mimari kararı, ölçeklenebilirlik kısıtlamalarının derin anlayışını gösterir. Çok bağlantılı örnekleyici gerçekten yenilikçi - Google'ın DeepMind'ının karmaşık ilişki modellemeyi nasıl ele aldığını anımsatıyor, ancak pratik iş problemlerine uygulanıyor.

Dezavantajlar: Makale hesaplama maliyetlerini üstünkörü ele alıyor - Spotify ölçeğinde heterojen GNN'leri eğitmek ucuz değil. Ayrıca sistemin birçok öneri sistemini rahatsız eden "filtre balonu" problemini nasıl ele aldığı hakkında sınırlı tartışma var. Netflix'in iyi belgelenmiş çeşitlilik önlemlerinin aksine, Spotify'ın yaklaşımı, kullanıcı ufuklarını genişletmekten ziyade mevcut tercihleri güçlendirebilecek etkileşim metrikleri için ağırlıklı olarak optimize edilmiş görünüyor.

Eyleme Dönüştürülebilir İçgörüler

Rakipler için: Silosu öneri sistemleri dönemi sona erdi. Amazon Audible korkmalı - Spotify, platform ekosistemlerinin yeni içerik kategorilerinde hızla hakim olmak için nasıl kullanılabileceğini gösterdi. Uygulayıcılar için: Ayrılmış kullanıcı yaklaşımı, büyük ölçekli GNN uygulamaları için standart uygulama haline gelmelidir. Araştırma topluluğu dikkate almalı - bu, Pinterest'in GNN dağıtım ölçeğiyle rekabet eden, heterojen GNN'lerin bugüne kadarki en başarılı gerçek dünya uygulamalarından birini temsil ediyor.

Bunu özellikle önemli yapan, grafik öğrenmedeki daha geniş eğilimlerle nasıl uyumlu olduğudur. Zhou ve diğerlerinin GNN'lerin kapsamlı araştırmasında belirtildiği gibi, heterojen bilgi ağlarını işleme yeteneği gerçek dünya uygulamaları için giderek daha önemli hale geliyor. Spotify'ın yaklaşımı, grafik temsili öğrenmedeki teorik ilerlemelerin, Uber'in ETA tahmini için GNN'leri nasıl kullandığı veya Alibaba'nın ürün önerileri için onları nasıl kullandığı gibi somut iş değerine nasıl dönüştürülebileceğini gösteriyor.

6. Gelecek Uygulamalar

2T-HGNN mimarisinin sesli kitap önerilerinin ötesinde önemli potansiyeli vardır:

Çapraz alan önerileri: Video, makaleler ve diğer medya türlerine genişletme
Dinamik grafik güncellemeleri: Değişen kullanıcı tercihlerine gerçek zamanlı uyum
Federe öğrenme: Kullanıcı verilerini merkezileştirmeden gizlilik korumalı öneriler
Çok modlu entegrasyon: Ses özellikleri, metin açıklamaları ve kapak resimlerinin dahil edilmesi

Gelecek araştırma yönleri, kullanıcı tercihlerindeki zamansal dinamikleri keşfetmeyi, içerik anlama için bilgi grafiklerini dahil etmeyi ve milyar ölçekli grafikler için daha verimli örnekleme algoritmaları geliştirmeyi içerir.

7. Referanslar

Hamilton, W., Ying, Z., & Leskovec, J. (2017). Inductive Representation Learning on Large Graphs. NeurIPS.
Kipf, T. N., & Welling, M. (2017). Semi-Supervised Classification with Graph Convolutional Networks. ICLR.
Zhou, J., et al. (2020). Graph Neural Networks: A Review of Methods and Applications. AI Open.
Rendle, S., et al. (2020). Neural Collaborative Filtering vs. Matrix Factorization Revisited. RecSys.
Wang, X., et al. (2019). Heterogeneous Graph Attention Network. WWW.
Spotify Technology S.A. (2023). Quarterly Financial Results.
Audio Publishers Association. (2023). Annual Audiobook Sales Survey.