Bien, ¿qué está pasando con el algoritmo de LinkedIn?

Un día de noviembre, una estratega de producto a la que llamaremos Michelle (nombre ficticio) inició sesión en su cuenta de LinkedIn y cambió su género a masculino. También cambió su nombre a Michael, le dijo a TechCrunch.

Participó en un experimento llamado #WearthePants, en el que las mujeres probaron la hipótesis de que el nuevo algoritmo de LinkedIn estaba sesgado contra las mujeres.

Durante meses, algunos usuarios habituales de LinkedIn se quejaron de una disminución en la participación y las impresiones en la red social centrada en la carrera. Esto se produce después de que el vicepresidente de ingeniería de la compañía, Tim Jurka, dijera en agosto que la plataforma había implementado “más recientemente” LLM para proporcionar contenido útil a los usuarios.

Michelle (cuya identidad es conocida por TechCrunch) sospechaba de los cambios porque tiene más de 10.000 seguidores y escribe publicaciones fantasma para su marido, que sólo tiene unos 2.000. Sin embargo, a pesar de tener más seguidores, ella y su esposo tendían a obtener aproximadamente la misma cantidad de impresiones de publicaciones, dijo.

“La única variable significativa fue el género”, dijo.

Marilynn Joyner, una de las fundadoras, también cambió el género de su perfil. Ha estado publicando regularmente en LinkedIn durante dos años y en los últimos meses notó que la visibilidad de sus publicaciones estaba disminuyendo. “Cambié mi género en mi perfil de femenino a masculino y mis impresiones aumentaron un 238% en un día”, dijo a TechCrunch.

Megan Cornish informó resultados similares, al igual que Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies, Lucy Ferguson, etc.

LinkedIn dijo que sus “algoritmos y sistemas de inteligencia artificial no utilizan información demográfica como edad, raza o género como señal para determinar la visibilidad del contenido, perfiles o publicaciones en el feed” y que “una instantánea de las actualizaciones de su propio feed que no son perfectamente representativas o de igual alcance no implica automáticamente un trato injusto o sesgo en el feed”.

Los expertos en algoritmos sociales coinciden en que el sexismo explícito puede no haber sido la causa, aunque podría haber un sesgo implícito en juego.

Las plataformas son “una complicada sinfonía de algoritmos que simultáneamente y constantemente accionan ciertas palancas matemáticas y sociales”, dijo a TechCrunch Brandeis Marshall, consultor de ética de datos.

“Cambiar la foto de perfil y el nombre es sólo una de esas palancas”, dijo, y agregó que el algoritmo también está influenciado, por ejemplo, por cómo un usuario tiene e interactúa actualmente con otro contenido.

“Lo que no sabemos son todas las otras palancas que hacen que este algoritmo priorice el contenido de una persona sobre el contenido de otras personas. Ese es un problema más complicado de lo que la gente cree”, dijo Marshall.

hermano codificado

El experimento #WearthePants comenzó con dos empresarias: Cindy Gallop y Jane Evans.

Pidieron a dos hombres que crearan y publicaran el mismo contenido que ellos y querían saber si el género era la razón por la que tantas mujeres sentían una disminución en el compromiso. Tanto Gallop como Evans tienen una importante base de seguidores: más de 150.000 juntos en comparación con los dos hombres, que tenían alrededor de 9.400 en ese momento.

Gallop informó que su publicación solo llegó a 801 personas, mientras que el hombre que publicó exactamente el mismo contenido llegó a 10,408 personas, más del 100% de sus seguidores. Luego participaron otras mujeres. Algunos, como Joyner, que utiliza LinkedIn para promocionar su negocio, estaban preocupados.

“Realmente me gustaría que LinkedIn asumiera la responsabilidad de cualquier sesgo que pueda existir en su algoritmo”, dijo Joyner.

Pero LinkedIn, al igual que otras plataformas de búsqueda y redes sociales dependientes de LLM, ofrece pocos detalles sobre cómo se entrenaron los modelos de selección de contenido.

Marshall dijo que la mayoría de estas plataformas “tienen inherentemente una perspectiva blanca, masculina y occidental” porque los modelos están capacitados. Los investigadores encuentran evidencia de prejuicios humanos como el sexismo y el racismo en modelos populares de LLM porque los modelos se entrenan con contenido generado por humanos y los humanos a menudo participan directamente en el reentrenamiento o el aprendizaje por refuerzo.

Sin embargo, la forma en que una empresa individual implementa sus sistemas de IA está sujeta al secreto de la caja negra algorítmica.

LinkedIn dice que el experimento #WearthePants no logró demostrar el sesgo de género contra las mujeres. La declaración de Jurka en agosto decía (y el jefe de gobernanza e inteligencia artificial responsable de LinkedIn, Sakshi Jain, reiteró en otra publicación en noviembre) que sus sistemas no utilizan información demográfica como señal de visibilidad.

En cambio, LinkedIn le dijo a TechCrunch que está probando millones de publicaciones para conectar a los usuarios con oportunidades. Dijo que los datos demográficos solo se usarían para tales pruebas, como ver si las publicaciones “de diferentes creadores compiten por igual entre sí y si la experiencia de desplazamiento que ves en el feed es consistente entre las audiencias”, dijo la compañía a TechCrunch.

LinkedIn es conocido por investigar y ajustar su algoritmo para brindar a los usuarios una experiencia menos sesgada.

Son las variables desconocidas, dijo Marshall, las que probablemente expliquen por qué algunas mujeres vieron más impresiones después de cambiar el género de su perfil a masculino. Por ejemplo, participar en una tendencia viral puede generar un aumento en la participación. Algunas cuentas publicaron por primera vez en mucho tiempo y es posible que el algoritmo las haya recompensado por ello.

El tono y el estilo de escritura también podrían influir. Michelle, por ejemplo, dijo que la semana que publicó como “Michael”, ajustó ligeramente su tono y escribió en un estilo más simple y directo, como lo hace con su esposo. En ese momento, las impresiones aumentaron un 200% y las interacciones un 27%, dijo.

Concluyó que el sistema no era “explícitamente sexista”, pero parecía considerar los estilos de comunicación comúnmente asociados con las mujeres como “un sustituto de un valor menor”.

Se cree que los estilos de escritura masculinos estereotipados son más concisos, mientras que se cree que los estereotipos de estilos de escritura femeninos son más suaves y emocionales. Cuando un LLM está capacitado para fomentar la escritura que se ajuste a los estereotipos masculinos, se trata de un sesgo sutil e implícito. Y como informamos anteriormente, los investigadores han descubierto que la mayoría de los LLM están llenos de ellos.

Sarah Dean, profesora asistente de informática en la Universidad de Cornell, dijo que plataformas como LinkedIn a menudo analizan perfiles completos además del comportamiento del usuario al determinar el contenido a promocionar. Esto incluye trabajos en el perfil de un usuario y el tipo de contenido con el que normalmente interactúa.

“La demografía de una persona puede afectar 'ambos lados' del algoritmo: lo que ve y quién ve lo que publica”, dijo Dean.

LinkedIn le dijo a TechCrunch que sus sistemas de inteligencia artificial analizan cientos de señales para determinar qué reenviar a un usuario, incluida información del perfil, la red y la actividad de una persona.

“Realizamos pruebas continuas para comprender qué ayuda a las personas a encontrar el contenido más relevante y oportuno para sus carreras”, dijo el portavoz. “El comportamiento de los miembros también influye en el feed, en qué las personas hacen clic, guardan y con qué interactúan cambia a diario, y qué formatos les gustan o no les gustan. Por supuesto, este comportamiento también influye en lo que se muestra en los feeds junto con cualquier actualización nuestra”.

Chad Johnson, un profesional de ventas activo en LinkedIn, describió los cambios como una devaluación de los me gusta, los comentarios y las publicaciones. Al sistema LLM “ya no le importa la frecuencia o la hora del día en que publica”, escribió Johnson en una publicación. “Importa si su escritura demuestra comprensión, claridad y valor”.

Todo esto hace que sea difícil determinar la verdadera causa de los resultados de #WearthePants.

A la gente simplemente no le gusta el algo

Aun así, parece que a muchas personas de todos los géneros no les gusta o no entienden el nuevo algoritmo de LinkedIn, sea lo que sea.

Shailvi Wakhulu, científica de datos, dijo a TechCrunch que promedió al menos una publicación por día durante cinco años y vio miles de impresiones. Ahora ella y su marido tienen la suerte de ver unos cientos. “Es desalentador para los creadores de contenido con muchos seguidores leales”, dijo.

Un hombre le dijo a TechCrunch que había visto una caída del 50% en la participación en los últimos meses. Aún así, otro hombre dijo que vio que las impresiones de publicaciones y el alcance aumentaron en más del 100% durante un período similar. “Esto se debe en gran medida a que escribo sobre temas específicos para audiencias específicas, lo que el nuevo algoritmo hace que valga la pena”, dijo a TechCrunch, y agregó que sus clientes están viendo un aumento similar.

Pero según la experiencia de Marshall, ella, que es negra, cree que las publicaciones sobre sus experiencias funcionan peor que las publicaciones sobre su raza. “Si las mujeres negras sólo interactúan cuando hablan de mujeres negras pero no cuando hablan de su experiencia particular, entonces eso es un prejuicio”, dijo.

El investigador Dean cree que el algoritmo puede simplemente amplificar “todas las señales que ya están ahí”. Podría resultar útil para ciertas publicaciones, no por la demografía del autor, sino porque ha habido una mayor respuesta a ellas en toda la plataforma en el pasado. Si bien Marshall puede haber entrado en un área diferente de sesgo implícito, su evidencia anecdótica no es suficiente para determinarlo con seguridad.

LinkedIn ofreció algunas ideas sobre lo que funciona bien ahora. La compañía dijo que su base de usuarios ha crecido, aumentando la cantidad de publicaciones en un 15% y la cantidad de comentarios en un 24% en comparación con el año pasado. “Esto significa más competencia en el sector de los piensos”, afirmó la empresa. Las publicaciones sobre conocimientos profesionales y lecciones profesionales, noticias y análisis de la industria y contenido educativo o informativo relacionado con el trabajo, los negocios y la economía tendrían un buen desempeño, dijo.

En todo caso, la gente simplemente está confundida. “Quiero transparencia”, dijo Michelle.

Sin embargo, dado que los algoritmos de selección de contenido de sus empresas siempre han sido estrictamente guardados respecto de los secretos y la transparencia puede llevar a ser burlados, este es un desafío importante. Es poco probable que alguna vez quede satisfecho con ello.