X abre su algoritmo mientras incurre en una penalización de transparencia y en la controversia de Grok

En 2023, el sitio web entonces conocido como Twitter hizo que su algoritmo fuera parcialmente de código abierto por primera vez. En ese momento, el multimillonario de Tesla, Elon Musk, había adquirido recientemente la plataforma y afirmó que tenía la misión de reestructurar la plataforma de redes sociales para hacerla más transparente.

Sin embargo, la publicación del código del algoritmo fue rápidamente criticada como “teatro de la transparencia”, y los críticos señalaron que estaba “incompleta” y no revelaba mucho sobre el funcionamiento interno de la organización o por qué el código funcionaba como lo hacía.

Ahora el sitio (rebautizado como X) ha vuelto a abrir su algoritmo, cumpliendo una promesa que Musk hizo la semana pasada. “Abriremos el código fuente del nuevo algoritmo 𝕏, incluido todo el código utilizado para determinar qué publicaciones orgánicas y promocionales se recomiendan a los usuarios, en siete días”, había dicho. Musk también prometió brindar transparencia sobre el algoritmo cada cuatro semanas en el futuro previsible.

En una publicación en GitHub el martes, X proporcionó un informe de fácil acceso de su código de generación de feeds junto con un diagrama de cómo funciona el programa.

Lo que se reveló no es particularmente trascendental, pero proporciona un vistazo detrás de la cortina de los algoritmos. El diagrama muestra que al buscar contenido para alimentar a un usuario específico, el algoritmo del sitio tiene en cuenta su historial de interacción (en qué publicaciones hizo clic, etc.) y verifica las publicaciones recientes en la red. También realiza análisis basados ​​en aprendizaje automático de publicaciones fuera de la red (contenido de cuentas que el usuario no necesariamente sigue) que cree que también podrían ser atractivas para el usuario.

Luego, el algoritmo filtra ciertos tipos de publicaciones, incluidas aquellas de cuentas prohibidas o asociadas con palabras clave silenciadas, así como el contenido considerado demasiado violento o spam. Luego, el algoritmo clasifica este contenido en función de lo que cree que será más atractivo para el usuario. Este proceso tiene en cuenta factores como la relevancia y la diversidad de contenido, para que los usuarios no reciban simplemente un montón de publicaciones iguales. El algoritmo también considera el contenido en función de la probabilidad de que al usuario le guste, responda, vuelva a publicarlo, lo marque como favorito o interactúe de otra manera con él.

Según X, todo este sistema se basa en IA. La publicación de GitHub publicada el martes dice que el sistema está “completamente” basado en el “Transformer basado en Grok” de la compañía para “aprender relevancia de las secuencias de interacción del usuario”. En otras palabras, Grok comprueba en qué haces clic y qué te gusta e introduce esa información en el sistema de recomendaciones. El artículo también señala que no existe una “ingeniería manual de funciones para la relevancia del contenido”, lo que significa que las personas no ajustan manualmente la forma en que el algoritmo determina qué es relevante. Agrega que la automatización “reduce significativamente la complejidad de nuestros canales de datos y nuestra infraestructura de entrega”.

¿Por qué X revela todo esto ahora? No está del todo claro. En el pasado, Musk ha afirmado que quiere hacer de la plataforma un modelo de transparencia corporativa, un tema que continúa hasta el día de hoy. En 2023, cuando se reveló por primera vez el algoritmo de Twitter, Musk dijo que proporcionar “transparencia del código” sería “increíblemente embarazoso al principio”, pero que en última instancia “conduciría a una rápida mejora en la calidad de las recomendaciones”. Y añadió: “Lo más importante es que nos ganamos su confianza”. Con su primer código abierto, la plataforma anunció una “nueva era de transparencia” para Twitter.

Aunque Musk ha hablado de transparencia, podría decirse que ciertos aspectos de la plataforma se han vuelto menos abiertos desde que Musk asumió el control. Cuando el multimillonario tecnológico compró Twitter en 2022, el sitio se vio obligado a pasar de ser una empresa pública a una privada, un hecho que no suele ser sinónimo de apertura. Si bien el sitio solía publicar varios informes de transparencia por año, X no publicó su primer informe de transparencia hasta septiembre de 2024. En diciembre, los reguladores de la Unión Europea también multaron a X con 140 millones de dólares.

X también estuvo bajo presión el mes pasado porque su chatbot Grok fue utilizado para crear y distribuir contenido sexualizado. Tanto la oficina del fiscal general de California como miembros del Congreso han examinado la plataforma en las últimas semanas, citando acusaciones de que Grok fue utilizado para crear imágenes de mujeres y menores desnudos. Por lo tanto, algunos pueden ver este llamado a la apertura como mero teatro.