Un estudi de la UPF troba biaix de gènere en els algoritmes de recomanació musical

Un estudi del Departament de Tecnologies de la Informació i les Comunicacions (DTIC) de la UPF constata que els algoritmes de recomanació de música estarien augmentant la bretxa de gènere. Els seus autors, Andrés Ferraro i Xavier Serra, han comprovat com l'algoritme de recomanació musical d'ús habitual a les plataformes de música en línia reprodueix el biaix preexistent al catàleg (on només el 25% dels artistes són dones). Pel que fa al rànquing d'artistes, han observat que la primera recomanació d'una dona artista es troba en la posició 6 o 7. La menor exposició de les dones artistes es perpetua doncs a partir d'aquestes recomanacions, que al seu torn alimenten un algoritme poc atent a les propostes femenines, sosté l'informe.

La conclusió és que no tan sols l'algoritme de recomanació musical no inclou un biaix per compensar la menor presència de dones artistes, sinó que amb les seves recomanacions 'masculines' crea "un bucle de retroalimentació" en els consums dels usuaris que va agreujant més la poca visibilitat de les dones artistes.

La investigació

Els autors, investigadors del Grup de recerca en Tecnologia Musical (MTG) de la UPF, van provar un algoritme de recomanació musical d’ús habitual basat en el filtratge col·laboratiu i van analitzar els resultats de dos conjunts de dades. En ambdós casos van veure que l'algoritme reprodueix el biaix existent en el conjunt de dades, en què només el 25% dels artistes són dones.

A més, l'algoritme genera un rànquing amb els artistes per recomanar a l'usuari. Els autors van veure que de mitjana la primera recomanació d'una dona artista es troba en la posició 6 o 7, mentre que la d'un home artista està en la primera posició. Això significa que les dones tenen menys exposició a partir de les recomanacions del sistema, ve a dir l'estudi, publicat recentment per Andrés Ferraro i Xavier Serra, conjuntament amb Christine Bauer, membre de la Universitat d’Utrecht (Països Baixos).

"Reordenar" per compensar el biaix de gènere

Els autors del treball proposen un nou enfocament que permetria una major exposició de les artistes dones i que consistiria a "reordenar" la recomanació en base a un criteri de gènere.

En una simulació, els autors van estudiar com les recomanacions reordenades afectarien el comportament dels usuaris a llarg termini. Els resultats van mostrar que, amb l’ajut de l’algoritme reclassificat, els usuaris començarien a canviar el seu comportament de manera que escoltarien més artistes dones que amb altres algoritmes de recomanació musical i, a més, el nou algoritme, basat en aprenentatge màquina, consolidaria aquest canvi de comportament.

Inicialment, el treball de Ferraro, Serra i Bauer tenia com a objectiu entendre l'equitat de les plataformes de música disponibles en línia des del punt de vista dels artistes. En entrevistes dutes a terme a artistes musicals, van identificar que la justícia de gènere era una de les seves principals preocupacions, expliquen.