Quando una piattaforma ci propone esattamente il brano o il video che volevamo vedere, la sensazione è che l'algoritmo ci conosca. In realtà un sistema di raccomandazione non possiede un ritratto psicologico completo. Osserva segnali e cerca di prevedere quale contenuto aumenterà la probabilità di una certa azione.
Comportamento non significa gusto
Guardare un video fino alla fine può indicare interesse, curiosità, fastidio o semplice distrazione. Salvare un brano è un segnale più forte, ma nemmeno quello descrive tutto. Gli algoritmi trasformano comportamenti imperfetti in proxy.
Ottimizzare una metrica cambia ciò che vediamo
Se il sistema ottimizza il tempo di visione, tenderà a privilegiare contenuti che trattengono. Se ottimizza la soddisfazione dichiarata, potrebbe produrre scelte differenti. Il feed riflette quindi anche gli obiettivi economici e di prodotto della piattaforma.
Il problema del nuovo
Per raccomandare qualcosa bisogna in parte sapere che piace. Ma se il sistema mostra soltanto ciò che assomiglia al passato, riduce la scoperta. Per questo molte piattaforme inseriscono elementi di esplorazione e testano contenuti fuori dal profilo abituale.
Il contesto cambia
La stessa persona ascolta musica diversa mentre lavora, guida o fa festa. Un profilo unico può confondere momenti differenti. La personalizzazione migliore dovrebbe capire contesto e intenzione, non soltanto una media storica.
Possiamo educare l'algoritmo?
Like, dislike, salvataggi e comandi espliciti forniscono segnali più chiari. Ma l'utente non dovrebbe trasformarsi in un lavoratore gratuito costretto a correggere continuamente il feed.
Gli algoritmi possono essere eccellenti nel prevedere una prossima azione. È diverso dal conoscere una persona. Ricordare questa differenza aiuta a trattare la personalizzazione come uno strumento, non come una diagnosi dei nostri desideri.
