Las revelaciones de los denunciantes de Facebook apuntan a una contradicción entre el modelo de negocio de las redes sociales y el bien público

La contradicción entre la tecnología y la rentabilidad de las redes sociales y el bien público se puede abordar, hasta cierto punto, mediante mecanismos regulatorios sólidos. Sin embargo, a largo plazo, la tecnología detrás de las aplicaciones necesitará una actualización ética.

Como ha señalado el denunciante, el problema no es de malicia por parte del liderazgo de Facebook.

Nadie en Facebook es malévolo, pero los incentivos están desalineados. Frances Haugen, la denunciante de Facebook que proporcionó documentos al Wall Street Journal y a las agencias gubernamentales de EE. UU. Sobre el grado en que el gigante de las redes sociales es consciente y explota conscientemente el daño que causan sus aplicaciones, no ha revelado nada que la mayoría la gente aún no lo sabe. Pero su entrevista a 60 Minutes subraya el desafío: parece haber una contradicción fundamental entre cómo se diseñan las redes sociales y el bien público.

Los documentos filtrados por Haugen, y su reciente entrevista, indican que las tan promocionadas salvaguardias de Facebook contra el discurso de odio, la incitación a la violencia y el contenido dañino para el bienestar mental de los jóvenes son, en el mejor de los casos, una fachada. Por ejemplo, bajo presión política, la compañía ajustó su algoritmo y dio menor prioridad a la polarización del contenido político antes de las elecciones presidenciales estadounidenses de 2020. Pero, tan pronto como terminaron las urnas, eliminó estas salvaguardas, una acción que Haugen cree que fue al menos parcialmente responsable de los disturbios en el Capitolio en Washington el 6 de enero. violencia en ciertas partes del mundo. Hay documentos que detallan cómo Instagram, uno de sus productos más prolíficos, aumenta las nociones de vergüenza en el cuerpo y depresión entre las adolescentes. Pero, según Haugen, dado que los adolescentes que padecen estos problemas tienden a sumergirse más profundamente en las redes sociales, se hace poco para abordarlos.

Como ha señalado el denunciante, el problema no es de malicia por parte del liderazgo de Facebook. Los algoritmos basados ​​en inteligencia artificial están diseñados, en esencia, para mantener a las personas en el sitio / aplicación el mayor tiempo posible, y es este momento y los datos así recopilados los que finalmente se monetizan. El hecho es que el contenido que provoca una respuesta emocional (la indignación y la ira suele ser el camino de menor resistencia en este sentido) involucra más a las personas. A pesar de todo su discurso sobre la conexión de personas y la construcción de comunidades, la empresa parece ser agnóstica en lo que respecta al contenido y al impacto social. Según Haugen, en cada conflicto entre las ganancias y el bien público, sus antiguos empleadores eligieron el primero. La contradicción entre la tecnología y la rentabilidad de las redes sociales y el bien público se puede abordar, hasta cierto punto, mediante mecanismos regulatorios sólidos. Sin embargo, a largo plazo, la tecnología detrás de las aplicaciones necesitará una actualización ética.

Este editorial apareció por primera vez en la edición impresa el 5 de octubre de 2021 con el título 'Una actualización ética'.