A inicios de junio durante la Cumbre de las Américas celebrada en la ciudad de Los Ángeles sostuve una conversación en el campus de Arizona State University (ASU) con Frances Haugen, la ex empleada de Facebook que detonó la mayor crisis de reputación de la empresa ahora llamada Meta al hacer públicos documentos que muestran cómo Mark Zuckerberg y su equipo amplifican el contenido extremista, la discordia y la desinformación para maximizar las ganancias de la empresa.
No debe sorprendernos que una empresa favorezca utilidades sobre el bien colectivo. La historia está llena de ejemplos en este sentido, pero el caso de Facebook es particularmente preocupante si consideramos que para cientos de millones de personas alrededor del mundo, Facebook o Meta comprende la totalidad de su experiencia en internet, o en las palabras del nuevo CEO de la compañía, el español Javier Olivan: “Facebook es sinónimo de internet”.
Esto debido a que desde 2010, Facebook ha pagado a los operadores de telefonía móvil en regiones como África y América Latina para que proporcionen un paquete de aplicaciones simplificadas y de bajo consumo de datos a las que los usuarios pueden acceder de forma gratuita o a muy bajo costo. En la superficie parece un esquema ganador; los operadores móviles subsidian su servicio y llegan a más usuarios, mientras que los usuarios obtienen acceso gratuito o barato a Facebook. El problema es que Facebook no es internet, sino una entidad comercial que tiene como prioridad estimular el consumo y la dependencia.
Actualmente más del 91 por ciento de todos los usuarios mensuales de Facebook vienen de mercados internacionales, según documentos financieros presentados por la empresa. Pero Facebook prácticamente no invierte en la seguridad de esos usuarios. Casi 9 de cada 10 dólares del dinero invertido en detectar y limitar el consumo de contenidos extremistas o desinformación se enfoca en usuarios que hablan inglés, aunque estos solo representan 9% del total de los usuarios de Facebook.
La situación empeoró en 2018 cuando la empresa realizó cambios a su algoritmo y empezó a jerarquizar el contenido no en función del tiempo que los usuarios pasaban en línea sino en base al nivel de interacción o “engagement” que tiene con los usuarios. En inglés esto se conoce como “engagement based ranking” y significa que, si haces clic en algo, si compartes o comentas sobre la publicación, Facebook lo considera un contenido premium. Reportes internos y años de investigación psicológica muestran cómo los seres humanos nos sentimos más atraídos al contenido extremo. El propio Mark Zuckerberg ha dicho que esta forma de jerarquizar información es peligrosa.
El año pasado, en una entrevista para el programa 60 minutos, Frances Haugen le dijo al periodista Scott Pelley que la versión de Facebook que existía cuando habló con él en octubre de 2021 estaba destrozando nuestras sociedades. Durante mi conversación con Haugen le pregunté si ha cambiado algo desde entonces.
“Una de las cosas principales que debe cambiar en Facebook es que no tenemos idea de lo que sucede detrás de la cortina. Es posible que haya cambiado algo, aunque creo que es muy poco probable, pero en realidad no sabemos cómo funciona Facebook hoy y no podemos simplemente confiar en que digan que han cambiado desde entonces porque hasta que podamos supervisar, hasta que podamos hacer preguntas independientes y obtener respuestas independientes. Facebook no invertirá lo suficiente en la seguridad de sus usuarios”, me dijo Haugen.
“La salud pública es un gran ejemplo. El 4% de la población recibió 80% de toda la desinformación sobre Covid-19. Esto significa que la persona promedio en Facebook no recibió mucha desinformación sobre la pandemia, pero hubo un 4% que fue radicalizado. Son las personas que se presentaban a gritar en las reuniones de la junta escolar. Son las personas que amenazaron de muerte a los maestros porque obligaron a sus alumnos a utilizar mascarillas. Entonces, una de las cosas que debemos entender es que los algoritmos no distribuyen uniformemente el contenido. Y lo que hemos aprendido particularmente en las últimas semanas mientras hemos visto tragedia tras tragedia es que no podemos aceptar un mundo en el que permitimos que subsectores de nuestra población se radicalicen porque eso nos afecta a todos”, agregó.
La comunidad latina es particularmente vulnerable a este tipo de manipulación, pues cada vez consume menos medios tradicionales y más información en línea o por mensajes instantáneos, en donde proliferan las teorías de la conspiración, los rumores no verificados y el contenido falso, y en donde la información chatarra se puede difundir fácilmente.
“Uno de los patrones que vemos a nivel mundial es que las personas no obtienen el mismo nivel de inversión en los medios que consumen y por eso terminan acudiendo más a las redes sociales como una alternativa. Entonces, las mismas personas que no tienen fuentes de noticias confiables y de calidad terminan siendo dependientes de las redes sociales como Facebook”.
Entonces, ¿Por qué las personas que no hablan español y no consumen contenido en español deberían preocuparse de que los latinos sean objeto de tanta desinformación?
La experta en tecnología y seguridad cibernética expica: “Los latinos son el segundo segmento más grande del electorado y el español es el segundo idioma más hablado en los Estados Unidos. No vivimos en un mundo aislado y si los usuarios latinos no pueden consumir contenido en línea de forma segura y confiable, entonces todos estamos en riesgo”.
