Los empleados y ejecutivos luchan para reducir la desinformación y los discursos de odio, sin dañar la rentabilidad de la empresa.
En los tensos días posteriores a la elección presidencial, un equipo de empleados de Facebook presentó al director ejecutivo, Mark Zuckerberg, un hallazgo alarmante: la desinformación relacionada con las elecciones se estaba volviendo viral en la plataforma.
El presidente Donald Trump decía que la elección había sido amañada, y las historias de los medios de comunicación de derecha con afirmaciones falsas y engañosas sobre los votos desechados, los votos mal contados y los conteos sesgados estaban entre las noticias más populares de la plataforma.
En respuesta, los empleados propusieron un cambio de emergencia en el algoritmo de noticias del sitio, que ayuda a determinar lo que más de 2000 millones de personas ven todos los días. Se trataba de hacer énfasis en la importancia de lo que Facebook denomina puntuaciones de “calidad del ecosistema de noticias”, o NEQ (por su sigla en inglés), una clasificación interna secreta que asigna a los medios noticiosos en función de las señales sobre la calidad de su periodismo.
Por lo general, los puntajes NEQ desempeñan un papel menor en la determinación de lo que aparece en los muros de los usuarios. Sin embargo, varios días después de la elección, Zuckerberg acordó aumentar el peso que el algoritmo de Facebook le dio a los puntajes NEQ para asegurarse de que las noticias autorizadas aparecieran de manera más prominente, según dijeron tres personas que tienen información sobre la decisión y que no están autorizadas a divulgar las discusiones internas.
El cambio forma parte de los planes de “remodelación” que Facebook desarrolló durante meses para lidiar con las secuelas de una elección disputada. Dio como resultado un aumento de visibilidad para grandes medios como CNN, The New York Times y NPR, mientras que los mensajes de páginas hiperpartidistas muy comprometidas, como Breitbart y Occupy Democrats, se volvieron menos visibles, señalaron los empleados.
Era una visión de lo que podría ser un Facebook más tranquilo y menos polarizador. Algunos empleados argumentaron que el cambio debía ser permanente, aunque no estaba claro cómo podría afectar la cantidad de tiempo que la gente pasaba en Facebook. En una reunión de empleados celebrada la semana posterior a la elección, los trabajadores preguntaron si el “canal de noticias mejorado” podía mantenerse, dijeron dos personas que asistieron a la junta.
Guy Rosen, un ejecutivo de Facebook que supervisa la división de integridad encargada de la limpieza de la plataforma, dijo durante una llamada con reporteros la semana pasada que los cambios siempre fueron temporales. “Nunca ha habido un plan para volverlos permanentes”, afirmó. John Hegeman, quien supervisa el canal de noticias, dijo en una entrevista que, aunque Facebook podría dar marcha atrás a estos experimentos, los analizaría y aprendería de ellos.
El debate sobre las noticias ilustra una tensión central que algunos miembros de Facebook están sintiendo en la actualidad: que las aspiraciones de la compañía de mejorar el mundo a menudo están en conflicto con su deseo de dominio.
En los últimos meses, a medida que Facebook ha sido objeto de un mayor escrutinio en cuanto a su papel en la amplificación de información falsa y divisiva, sus empleados se han enfrentado por el futuro de la empresa. Por un lado están los idealistas, incluyendo a muchos trabajadores de base y algunos ejecutivos, que quieren hacer más para limitar la desinformación y la polarización del contenido. Por otro lado están los pragmáticos, quienes temen que esas medidas puedan perjudicar el crecimiento de Facebook o provocar una reacción política que ocasione una regulación dolorosa.
“Hay tensiones en casi todas las decisiones de productos que tomamos, y en toda la compañía hemos desarrollado una política llamada ‘Mejores decisiones’ para asegurarnos de que las tomamos con precisión, y que nuestros objetivos están directamente conectados con el hecho de ofrecer las mejores experiencias posibles para las personas”, dijo Joe Osborne, portavoz de Facebook.
Estas batallas han afectado la moral. En una encuesta a los empleados aplicada este mes, los trabajadores de Facebook reportaron sentirse menos orgullosos de la compañía en comparación con años anteriores. Solo cerca de la mitad sentía que Facebook tenía un impacto positivo en el mundo, por debajo de las tres cuartas partes que opinaron eso a principios de este año, según una copia de la encuesta, conocida como Pulse, que fue analizada por The New York Times. La “intención de quedarse” de los empleados también disminuyó, así como la confianza en el liderazgo.
BuzzFeed News informó previamente sobre los resultados del sondeo.
Aunque el día de las elecciones y sus secuelas han pasado con pocos incidentes, algunos empleados desilusionados renunciaron; alegaron que ya no podían trabajar para una compañía cuyos productos creen que son perjudiciales. Otros se han quedado, bajo el razonamiento de que pueden cambiar las cosas desde el interior. Otros han hecho el cálculo moral de que, a final de cuentas, incluso con sus defectos, Facebook hace más bien que mal.
“Los salarios de Facebook están entre los más altos del sector tecnológico en este momento, y cuando te vas a casa con un cheque gigante cada dos semanas, tienes que convencerte de que es por una buena causa”, comentó Gregor Hochmuth, exingeniero de Instagram, propiedad de Facebook, quien dejó la compañía en 2014. “De lo contrario, tu trabajo no es muy diferente del de otras industrias que destrozan el planeta y pagan a sus empleados de manera exorbitante para ayudarles a que se olviden de eso”.
Con la mayoría de los empleados trabajando a distancia durante la pandemia, gran parte del examen de conciencia ha tenido lugar en Workplace, la red interna de Facebook.
En mayo, al calor de las protestas de Black Lives Matter, Zuckerberg enfureció a muchos empleados cuando se negó a remover una publicación del presidente Trump que decía “cuando empieza el saqueo, empieza el tiroteo”. Los legisladores y los grupos de derechos civiles dijeron que la publicación impulsaba la violencia contra los manifestantes y pidieron que fuera retirada. Pero Zuckerberg dijo que la publicación no violaba las reglas de Facebook.
Para señalar su insatisfacción, varios empleados formaron un nuevo grupo en Workplace, llamado “Take Action”. La gente en el grupo, que se incrementó hasta alcanzar más de 1500 miembros, cambiaron sus fotos de perfil a una imagen de un puño levantado de Black Lives Matter.
El grupo se convirtió en un hogar para la disidencia interna y el humor negro sobre las debilidades de Facebook. En varias ocasiones, los empleados reaccionaron a las noticias negativas sobre la compañía publicando un meme de una escena de una comedia británica en la que dos nazis tienen una epifanía moral y se preguntan: “¿Somos los malos?”.
En junio, los trabajadores organizaron un paro virtual para protestar por las decisiones de Zuckerberg sobre las publicaciones de Trump.
En septiembre, Facebook actualizó sus políticas para los empleados con el fin de desalentar a los trabajadores de mantener debates políticos contenciosos en foros abiertos de Workplace, al decir que deberían limitar las conversaciones a espacios específicamente designados. También exigió a los empleados que usaran sus rostros reales o la primera inicial de sus nombres como la foto de su perfil, un cambio interpretado por algunos trabajadores como una medida represiva.
Varios empleados dijeron que se sentían frustrados porque, para abordar temas delicados como la desinformación, a menudo tenían que demostrar que las soluciones propuestas no enojarían a los poderosos partidarios ni se harían a expensas del crecimiento de Facebook.
Las ventajas y desventajas se evidenciaron este mes, cuando los ingenieros y científicos de datos de Facebook publicaron los resultados de una serie de experimentos llamados “P (Malo para el Mundo)”.
La compañía había encuestado a los usuarios acerca de si ciertas publicaciones que habían visto eran “buenas para el mundo” o “malas para el mundo”. Encontraron que las publicaciones de alto alcance —vistas por muchos usuarios— tenían más probabilidades de ser consideradas “malas para el mundo”, un hallazgo que algunos empleados dijeron que les alarmaba.
Así que el equipo entrenó un algoritmo de aprendizaje automático para predecir los mensajes que los usuarios considerarían como “malos para el mundo” y rebajarlos en los canales de noticias. En las primeras pruebas, el nuevo algoritmo redujo con éxito la visibilidad de los contenidos censurables. Pero también redujo el número de veces que los usuarios abrieron Facebook, una métrica interna conocida como “sesiones” que los ejecutivos monitorean de cerca.
“Los resultados fueron buenos, excepto que llevó a una disminución de las sesiones, lo que nos motivó a probar un enfoque diferente”, según un resumen de los resultados, que fue publicado en la red interna de Facebook y revisado por el Times.
Luego, el equipo realizó un segundo experimento en el que ajustaron el algoritmo para que un conjunto más grande de contenido “malo para el mundo” fuera rebajado con menos fuerza. Aunque eso dejaba publicaciones controversiales en los canales de noticias de los usuarios, no reducía sus sesiones o el tiempo empleado.
Ese cambio fue aprobado en última instancia. Pero otras características que los empleados desarrollaron antes de la elección nunca lo fueron.
Una, llamada “corregir el registro”, habría notificado retroactivamente a los usuarios que habían interactuado con noticias falsas y los habría dirigido a una verificación independiente de los hechos. Los empleados de Facebook propusieron ampliar el producto, que actualmente se utiliza para notificar a las personas que han compartido información falsa sobre la COVID-19, para que se aplique a otros tipos de información falsa.
Pero eso fue vetado por los ejecutivos de políticas que temían que mostrara desproporcionadamente las notificaciones a las personas que compartían noticias falsas de sitios web de derecha, según dos personas familiarizadas con las conversaciones.
Otro producto, un algoritmo para clasificar y degradar el “cebo de odio” —publicaciones que no violan estrictamente las reglas de discurso de odio de Facebook, pero que provocan una avalancha de comentarios de odio— se limitó a ser utilizado solo en grupos, en lugar de páginas, después de que el equipo de políticas determinó que afectaría principalmente a los editores de derecha si se aplicaba más ampliamente, dijeron dos personas familiarizadas con esa estrategia.
Rosen, el ejecutivo de integridad de Facebook, impugnó esas caracterizaciones en una entrevista, que se celebró con la condición de que no se le citara directamente.
Dijo que la herramienta “corregir el registro” no era tan eficaz como se esperaba, y que la empresa había decidido centrarse en otras maneras de poner freno a la información errónea. También dijo que la aplicación del detector de “cebo de odio” a las páginas de Facebook podría castigar injustamente a los editores por los comentarios de odio dejados por sus seguidores, o hacer posible que los malos actores dañen el alcance de una página al enviar spam con comentarios tóxicos. Ninguno de los dos proyectos fue archivado por preocupaciones políticas o porque redujo el uso de Facebook, dijo.
“Ningún cambio en el canal de noticias se realiza únicamente por su impacto en el tiempo empleado”, dijo Osborne, el portavoz de Facebook. Añadió que las personas que hablaron con el Times no tenían autoridad para tomar decisiones.
De alguna manera, al final del gobierno de Trump, los cambios de Facebook para limpiar su plataforma se volverán más fáciles. Por años, Trump y otros líderes conservadores acusaron a la compañía de tener sesgos anticonservadores cada vez que tomaba medidas para limitar la desinformación.
No obstante, incluso con el gobierno de Biden entrante, Facebook deberá equilibrar el deseo de los empleados de tener responsabilidad social con sus objetivos comerciales.
“La pregunta es esta: ¿qué han aprendido de estas elecciones para dar forma a sus políticas en el futuro?”, opinó Vanita Gupta, directora ejecutiva del grupo de derechos civiles Leadership Conference on Civil and Human Rights. “Mi preocupación es que reviertan todos estos cambios a pesar de que las condiciones que los impulsaron se sigan presentando”.
En una reunión virtual de empleados celebrada la semana pasada, los ejecutivos describieron lo que vieron como éxitos electorales de Facebook, dijeron dos personas que asistieron. Mientras que el sitio seguía lleno de publicaciones que afirmaban falsamente que la elección estaba amañada, Chris Cox, jefe de producto de Facebook, dijo que estaba orgulloso de cómo la compañía había aplicado etiquetas a la información errónea relacionada con la elección, e indicado a los usuarios la información autorizada sobre los resultados, dijeron las personas.
Luego la transmisión se cortó para mostrar un video que era una suerte de refuerzo moral por el Día de Acción de Gracias y que presentaba un desfile de empleados que hablaban sobre lo que estaban agradecidos este año.
