Por Shoshana Zuboff
Originalmente publicado en New York Times.[1]
Traducido desde el inglés por el Grupo de Estudio Latinoamericano del Capitalismo de Vigilancia.
Facebook no es una corporación cualquiera. Alcanzó el estatus de un billón de dólares en una sola década al aplicar a su visión de conectar el mundo entero, la lógica de lo que yo llamo el capitalismo de vigilancia: un sistema económico construido sobre la extracción y manipulación secreta de los datos de las personas.[2] Facebook y otras corporaciones líderes del capitalismo de vigilancia ahora controlan los flujos de información y las infraestructuras de comunicación en todo el mundo.
Estas infraestructuras son críticas para la posibilidad de una sociedad democrática, sin embargo, nuestras democracias han permitido que estas empresas posean, operen y medien en nuestros espacios de información sin restricciones por parte de las leyes. El resultado ha sido una revolución oculta en cómo se produce, circula y se actúa sobre la información. Desde el 2016 un desfile de revelaciones, amplificado por la documentación y el testimonio personal de la denunciante Frances Haugen, da testimonio de las consecuencias de esta revolución.[3][4]
Las democracias liberales del mundo se enfrentan ahora a la tragedia de los "bienes no comunes".[5] Los espacios de información que la gente asume que son públicos están estrictamente regidos por intereses comerciales privados para obtener la máxima ganancia. El Internet como mercado autorregulado se ha revelado como un experimento fallido. El capitalismo de vigilancia deja un rastro de escombros sociales a su paso: la destrucción total de la privacidad, la intensificación de la desigualdad social, el envenenamiento del discurso social con información ausente de verdad, la redefinición de las normas sociales y el debilitamiento de las instituciones democráticas.[6]
Estos daños sociales no son casuales. Son efectos estrechamente vinculados a la evolución de las operaciones económicas. Cada daño allana el camino para el siguiente y depende de lo que sucedió antes.
No hay forma de escapar de los sistemas de máquinas que nos vigilan, ya sea que estemos comprando, conduciendo o caminando por el parque. Todos los caminos hacia la participación económica y social pasan ahora por el terreno institucional del capitalismo de vigilancia que busca maximizar sus ganancias, una condición que se ha intensificado durante casi dos años de plaga global.
¿La violencia digital de Facebook finalmente desencadenará nuestro compromiso de recuperar los "bienes no comunes"? ¿Nos enfrentaremos a las preguntas fundamentales, pero ignoradas durante mucho tiempo, de una civilización de la información?[7] Por ejemplo, ¿cómo deberíamos organizar y gobernar los espacios de información y comunicación del siglo digital de manera que sustenten y promuevan los valores y principios democráticos?
Facebook, como lo conocemos ahora, se creó a partir de la costilla de Google. El emprendimiento de Mark Zuckerberg no inventó el capitalismo de vigilancia. Google hizo eso. En 2000, cuando solo el 25 por ciento de la información mundial se almacenaba digitalmente, Google era un pequeño emprendimiento con un gran buscador pero pocos ingresos.[8]
En 2001, en medio del colapso de las empresas puntocom, los líderes de Google desarrollaron su gran innovación en una serie de inventos que transformarían la publicidad. Su equipo aprendió a combinar masivos flujos de datos de información personal con análisis computacionales avanzados, con el fin de predecir dónde se debe colocar un anuncio para obtener el máximo de "clics". Las predicciones se calcularon inicialmente mediante el análisis de los rastros de datos que los usuarios dejaron sin saberlo en los servidores de la empresa mientras buscaban y navegaban por las páginas de Google. Los científicos de Google aprendieron a extraer metadatos predictivos de este "exhosto de datos" y utilizarlos para analizar patrones probables de comportamiento futuro.[9]
La predicción fue el primer imperativo que determinó el segundo imperativo: la extracción. Las predicciones lucrativas requerían flujos de datos de las personas a una escala inimaginable. Los usuarios no sospecharon que sus datos fueron cazados y capturados en secreto desde todos los rincones de Internet y, más tarde, desde aplicaciones, teléfonos inteligentes, dispositivos, cámaras y sensores. La ignorancia del usuario se entendió como crucial para el éxito. Cada nuevo producto era un medio para una mayor "interacción", un eufemismo utilizado para ocultar las operaciones ilícitas de extracción.
Cuando se le preguntó "¿Qué es Google?" al cofundador Larry Page en 2001, según un relato detallado en el libro "I'm Feeling Lucky" de Douglas Edwards, el primer gerente de marca de Google, Page respondió: "El almacenamiento es barato. Las cámaras son baratas. La gente generará enormes cantidades de datos". A continuación dijo: "Todo lo que haya escuchado, visto o experimentado se podrá buscar. Toda su vida se podrá buscar".
En lugar de vender búsquedas a los usuarios, Google sobrevivió convirtiendo su buscador en un medio de vigilancia sofisticado para capturar los datos de las personas. Los ejecutivos de la empresa trabajaron para mantener en secreto estas operaciones económicas, ocultas a los usuarios, legisladores y competidores. Page se opuso a todo lo que pudiera "agitar la olla de la privacidad y poner en peligro nuestra capacidad para recopilar datos", escribió Edwards.
Las operaciones de extracción masiva fueron la piedra angular del nuevo edificio económico y reemplazaron otras consideraciones, comenzando con la calidad de la información, porque en la lógica del capitalismo de vigilancia, la integridad de la información no está correlacionada con los ingresos.
Este es el contexto económico en el que gana la desinformación. En 2017, Eric Schmidt, presidente ejecutivo de la empresa matriz de Google, Alphabet, reconoció el papel de los mecanismos de clasificación algorítmica de Google en la difusión de información carente de verdad.[10] "Hay una línea que realmente no podemos cruzar", dijo. "Es muy difícil para nosotros entender la verdad". Una empresa con la misión de organizar y hacer accesible toda la información del mundo utilizando los sistemas de máquinas más sofisticados no puede discernir información carente de verdad.[11]
Zuckerberg comenzó su carrera empresarial en 2003 mientras estudiaba en Harvard. Su sitio web, Facemash, invitaba a los visitantes a calificar el atractivo de otros estudiantes. Rápidamente provocó la indignación de sus compañeros y se cerró. Luego vino TheFacebook en 2004 y Facebook en 2005, cuando Zuckerberg adquirió sus primeros inversores profesionales.[12]
El número de usuarios de Facebook creció rápidamente; sus ingresos no lo hicieron. Como Google unos años antes, Zuckerberg no podía convertir la popularidad en ganancias. En cambio, se tambaleó de un error a otro.[13] Sus crudas violaciones de las expectativas de privacidad de los usuarios provocaron una intensa reacción pública, peticiones y demandas colectivas.[14] Zuckerberg pareció entender que la respuesta a sus problemas involucraba la extracción de los datos de las personas sin su consentimiento, en beneficio de los anunciantes, pero no entendió las complejidades de la nueva lógica.
Se dirigió a Google en busca de respuestas.
En marzo de 2008, Zuckerberg contrató a la jefa de publicidad global en línea de Google, Sheryl Sandberg, como su segunda al mando.[15] Sandberg se unió a Google en 2001 y fue un actor clave en la revolución del capitalismo de vigilancia. Lideró el desarrollo del motor de publicidad de Google, AdWords, y su programa AdSense, que en conjunto representaron la mayor parte de los ingresos de la empresa por valor de 16,600 millones de dólares en 2007.[16]
Sandberg, que ya se había hecho multimillonaria gracias a Google cuando conoció a Zuckerberg, tenía una astuta apreciación de las inmensas oportunidades de Facebook para la extracción de valiosos datos predictivos. "Tenemos mejor información que nadie. Conocemos el género, la edad, la ubicación y son datos reales, a diferencia de lo que infieren otras personas", explicó Sandberg, según David Kirkpatrick en el libro "El efecto Facebook".
La empresa tenía "mejores datos" y "datos reales" porque tenía un asiento de primera fila para lo que Page había llamado "toda su vida".
Facebook allanó el camino para la economía de la vigilancia con nuevas políticas de privacidad a fines de 2009. La Electronic Frontier Foundation advirtió que la nueva configuración, nombrada "Todos", eliminaba las opciones para restringir la visibilidad de los datos personales, en cambio, los trataba como información disponible públicamente.[17]
TechCrunch resumió la estrategia de la corporación: "Facebook está obligando a los usuarios a elegir sus nuevas opciones de privacidad para promover la nueva configuración "Todos" y absolverse de potenciales actos ilícitos en el futuro.[18] Si hay una significativa reacción negativa contra la red social, puede afirmar que los usuarios voluntariamente tomaron la decisión de compartir su información con todos".
Semanas más tarde, Zuckerberg defendió estas acciones ante un entrevistador de TechCrunch.[19] "Muchas empresas quedarían atrapadas por convencionalismos y sus legados", dijo, haciendo alarde. "Decidimos que estas serían las nuevas normas sociales, y simplemente lo hicimos".
Zuckerberg "simplemente lo hizo" porque no había leyes que le impidieran unirse a Google en la destrucción total de la privacidad. Si los legisladores quisieran sancionarlo como un despiadado negociante dispuesto a usar su red social contra la sociedad para maximizar sus ganancias, entonces de 2009 a 2010 habría sido una buena oportunidad.
Facebook fue el primer seguidor, pero no el último. Google, Facebook, Amazon, Microsoft y Apple son imperios de vigilancia privada, cada uno con distintos modelos de negocio. Google y Facebook son empresas de datos y expresiones puras del capitalismo de vigilancia. Los demás tienen diversas líneas de negocio que pueden incluir datos, servicios, software y productos físicos. En 2021, estos cinco gigantes tecnológicos de los EEUU representan cinco de las seis empresas más grandes del mundo por capitalización en la bolsa.[20]
A medida que avanzamos hacia la tercera década del siglo XXI, el capitalismo de vigilancia es la institución económica dominante de nuestro tiempo. En ausencia de leyes regulatorias, este sistema media con éxito en casi todos los aspectos de la interacción humana con la información digital. La promesa del dividendo de la vigilancia ahora lleva el modelo economico de la vigilancia a la economía "normal", desde los seguros, el comercio minorista, la banca y las finanzas hasta la agricultura, los automóviles, la educación, la atención médica y más. Hoy en día, todas las aplicaciones y el software, sin importar que tan benignos parezcan, están diseñados para maximizar la recopilación de datos.
Históricamente, las grandes concentraciones de poder corporativo se asociaron con daños económicos. Pero cuando los datos humanos son la materia prima y las predicciones del comportamiento humano son el producto, los daños son más sociales que económicos. La dificultad es que estos nuevos daños se entienden típicamente como problemas aislados, incluso no relacionados, lo que los hace imposibles de resolver. En cambio, cada nueva etapa de daño crea las condiciones para la siguiente etapa.
Todo comienza con la extracción. Un orden económico basado en la extracción secreta a gran escala de los datos de las personas asume la destrucción de la privacidad como una condición no negociable para sus operaciones comerciales. Con la privacidad fuera del camino, los datos de las personas injustamente adquiridos se concentran dentro de las corporaciones privadas, donde se reclaman como activos corporativos para ser aprovechados libremente.
El efecto social es una nueva forma de desigualdad, reflejada en la colosal asimetría entre lo que estas empresas saben de nosotros y lo que sabemos nosotros de ellas. El enorme tamaño de esta brecha de conocimiento se expresa en un documento de Facebook filtrado de 2018, que describía su centro de inteligencia artificial, ingiriendo billones de puntos de datos de comportamiento todos los días y produciendo seis millones de predicciones de comportamiento por segundo.[21]
A continuación, estos datos personales se convierten en armas mediante algoritmos de focalización de personas, diseñados para maximizar la extracción y dirigidos en contra sus desprevenidas fuentes humanas para aumentar la "interacción". Los mecanismos de focalización de personas cambian la vida real, a veces con graves consecuencias. Por ejemplo, los documentos contenidos en los "Facebook Files" muestran a Zuckerberg usando sus algoritmos para reforzar o alterar el comportamiento de miles de millones de personas.[22] La ira es premiada o ignorada. Las noticias se vuelven más confiables o desquiciadas. Los editores prosperan o se marchitan. El discurso político se vuelve más feo o más moderado. La gente vive o muere.
De vez en cuando, la niebla se aclara para revelar el daño final: el poder creciente de los gigantes tecnológicos dispuestos a usar su control sobre las infraestructuras críticas de información para competir con los legisladores elegidos democráticamente por el dominio de la sociedad. Al principio de la pandemia, por ejemplo, Apple y Google se negaron a adaptar sus sistemas operativos para alojar aplicaciones de rastreo de contactos desarrolladas por autoridades de salud pública y respaldadas por funcionarios electos.[23] En febrero, Facebook cerró muchas de sus páginas en Australia como una señal de negativa a negociar con el Parlamento australiano las tarifas por mostrar el contenido de los noticieros australianos.[24]
Por eso, cuando se trata del triunfo de la revolución del capitalismo de vigilancia, son los legisladores de todas las democracias liberales, especialmente en los Estados Unidos, quienes quedan con la mayor carga de responsabilidad. Permitieron que el capital privado dominara nuestros espacios de información durante dos décadas de crecimiento espectacular, sin leyes que lo detuvieran.
Hace cincuenta años, el economista conservador Milton Friedman exhortó a los ejecutivos estadounidenses: "Hay una y solo una responsabilidad social de las empresas: usar sus recursos y participar en actividades diseñadas para aumentar sus ganancias siempre que se mantengan dentro de las reglas del juego".[25] Incluso esta doctrina radical no contaba con la posibilidad de que no hubiera reglas.
Las sociedades democráticas enfermas de desigualdad económica, crisis climática, exclusión social, racismo, emergencia de salud pública e instituciones debilitadas tienen un largo camino hacia la sanación. No podemos solucionar todos nuestros problemas a la vez, pero no solucionaremos ninguno de ellos, nunca, a menos que recuperemos la inviolabilidad de la integridad de la información y la confiabilidad de las comunicaciones. La abdicación de nuestros espacios de información y comunicación al capitalismo de vigilancia se ha convertido en la metacrisis de todas las repúblicas, porque obstaculiza las soluciones a todas las demás crisis.
Ni Google, ni Facebook, ni ningún otro actor corporativo en este nuevo orden económico se propuso destruir la sociedad, como tampoco la industria de los combustibles fósiles se propuso destruir la tierra. Pero al igual que el calentamiento global, los gigantes tecnológicos y sus compañeros de viaje han estado dispuestos a tratar sus efectos destructivos sobre las personas y la sociedad como un daño colateral: el desafortunado pero inevitable subproducto de operaciones económicas perfectamente legales que han producido algunas de las corporaciones más ricas y poderosas en la historia del capitalismo.
¿Dónde nos deja eso? La democracia es el único orden institucional con autoridad y poder legítimo para cambiar nuestro rumbo. Si el ideal del autogobierno humano es sobrevivir el siglo digital, entonces todas las soluciones apuntan a una solución: una contrarrevolución democrática. Pero en lugar de las habituales extensas listas de remedios, los legisladores deben proceder con una comprensión clara del adversario: un marco conceptual claro de las causas económicas y sus daños sociales.
No podemos deshacernos de los daños sociales a futuro a menos que proscribamos sus causas económicas fundamentales. Esto significa que nos movamos más allá del enfoque actual basado en contrarestar efectos secundarios, con soluciones tales como la moderación del contenido y la vigilancia del contenido ilegal. Dichos "remedios" solo tratan los síntomas sin cuestionar la ilegitimidad de la extracción de los datos de las personas, que sustenta el control privado sobre los espacios de información de la sociedad. De manera similar, las soluciones estructurales como "dividir" a los gigantes tecnológicos pueden ser valiosas en algunos casos, pero no afectarán los mecanismos económicos de fondo del capitalismo de vigilancia.
En cambio, las discusiones sobre la regulación de los gigantes tecnológicos deberían centrarse en la base de la economía de la vigilancia: la extracción secreta de los datos de las personas de los ámbitos de la vida que alguna vez se llamaron "privados". Los remedios que se centran en regular la extracción son neutros con respecto al contenido. No amenazan la libertad de expresión. En cambio, liberan el discurso social y los flujos de información de la "selección artificial" de las operaciones comerciales, que maximizan las ganancias y que favorecen la carencia de verdad de la información sobre la integridad. Restauran la confiabilidad de las comunicaciones sociales y la expresión individual.
La prohibición de extracción secreta significa que no hay concentraciones ilegítimas de conocimiento sobre las personas. Sin concentraciones de conocimiento, no hay algoritmos de focalización de personas. La ausencia de focalización de personas significa que las corporaciones ya no pueden controlar y mediar los flujos de información y el discurso social o modificar el comportamiento humano para favorecer sus intereses. La regulación de la extracción eliminaría el dividendo de la vigilancia y con él los incentivos financieros para la vigilancia.
Si bien las democracias liberales han comenzado a enfrentar los desafíos de regular los espacios de información privados de hoy, la verdad es que necesitamos legisladores listos para participar en una oportunidad histórica de explorar preguntas mucho más básicas: ¿Cómo deberíamos estructurar y gobernar la información, las conexiones y las comunicaciones en un siglo digital democrático? ¿Qué nuevas cartas de derechos, marcos legislativos e instituciones se requieren para garantizar que la recopilación y el uso de datos satisfagan las necesidades verdaderas de las personas y la sociedad? ¿Qué medidas protegerán a los ciudadanos del poder irresponsable sobre la información, ya sea ejercida por empresas privadas o gobiernos?
Las democracias liberales deberían tomar la iniciativa porque tienen el poder y la legitimidad para hacerlo. Pero deben saber que entre sus aliados y colaboradores se encuentran las personas de todas las sociedades que luchan contra un futuro distópico.
La corporación que es Facebook puede cambiar su nombre o sus líderes, pero no cambiará voluntariamente su modelo económico.
¿El llamado a los legisladores para "regular Facebook" los distrairá de un ajuste de cuentas más profundo? ¿O provocará una mayor sensación de urgencia? ¿Rechazaremos finalmente las viejas respuestas y nos liberaremos para hacer las nuevas preguntas, comenzando con esto: qué se debe hacer para asegurar que la democracia sobreviva al capitalismo de vigilancia?
Enlaces alternativas en parentesis. Se pueden usar los enlaces de archive.today en caso de bloqueo o desaparación del fuente original.
Ayuda para acceder sitios onion.
Artículo original, inglés: You Are the Object of a Secret Extraction Operation (pagado) (nytimes onion, archive.today, at onion) ↩︎
"billón de dolares" = 1.000.000.000.000 USD. inglés: Facebook reaps $1 Trillion Reward for Grow-At-Any-Cost Culture. (archive.today, at onion) ↩︎
Inglés: Facebook doesn't tell users everything it really knows about them. (archive.today, at onion) ↩︎
Inglés: Whistle-blower Says Facebook 'Chooses Profits Over Safety'. (nytimes onion, archive.today, at onion) ↩︎
Nota de traducción. "tragedia de los bienes no comunes" ("tragedy of the un-commons"): Hace referencia al concepto de la tragedia de los bienes comunes, donde se agotan o se destruyen los bienes colectivos a través de la sobreexplotación de los mismos por parte de intereses particulares. En este contexto, se puede leer "un-commons" como un bien que es ampliamente percibido como colectivo, pero en realidad, está controlado por intereses privados. ↩︎
Nota de traducción. "redefinición de las normas sociales": el texto original usa la frase "demolition of social norms". Esto puede referirse a la destrucción de las normas de privacidad, pero también a la modificación del comportamiento de los usuarios y los algoritmos que refuerzan o amplifican ciertas creencias u opiniones. (véase la referencia para "The Facebook Files"). ↩︎
Nota de traducción. "civilización de la información" ("information civilization"). Un concepto acuñado por Zuboff (español, pdf): Big other: surveillance capitalism and the prospects of an information civilization. (archive.org, original (inglés, pdf), original en archive.org) ↩︎
Inglés: How much information is there in the "information society". (pdf, archive.today, at onion) ↩︎
Nota de traducción. Sobre "metadatos": Por qué los metadatos son importantes. (archive.today, at onion) ↩︎
Inglés: Alphabet's Eric Schmidt: It can be 'very difficult' for Google's search algorithm to understand truth. (archive.today, at onion) ↩︎
Video, inglés. Eric Schmidt habla de los problemas de Google para discernir la verdad @1:25:38: HISF 2017: Plenary 6: Satellite Armies: The Race in Space & Halifax Chat. (ytprivate.com) ↩︎
Inglés: Student's Start-up Draws Attention and $13 million. (nytimes onion, archive.today, at onion) ↩︎
Inglés: Facebook CEO Seeks Help as Site Grows Up. (archive.today, at onion) ↩︎
Inglés: How Facebook tried to put a shine on $9.5m privacy suit. (archive.today, at onion) ↩︎
Inglés: Meet Facebook's new number two. (archive.today, at onion) ↩︎
Inglés: Facebook Hires Google Executive as No. 2. (archive.today, at onion) ↩︎
Inglés: Facebook's New Privacy Changes: The Good, The Bad, and The Ugly. (archive.today, at onion) ↩︎
Inglés: The Facebook Privacy Fiasco Begins. (archive.today, at onion) ↩︎
Inglés: Facebook's Zuckerberg Says The Age of Privacy Is Over. (archive.today, at onion) ↩︎
Inglés: The Biggest Companies in the World in 2021. (imagen de alta resolución, archive.today, at onion) ↩︎
Inglés: Facebook Uses Artificial Intelligence to Predict Your Future Actions for Advertisers, Says Confidential Document. (theintercept onion, archive.today, at onion) ↩︎
Inglés: The Facebook Files. (archive.today, at onion) ↩︎
Inglés: How Google and Apple outflanked governments in the race to build coronavirus apps. (archive.today, at onion) ↩︎
Inglés: Facebook ban on news in Australia provokes fierce backlash. (archive.today, at onion) ↩︎
Inglés: A Friedman doctrine - The Social Responsibility Of Business Is to Increase Its Profits. (archive.today, at onion) ↩︎
Esta traducción es una obra de cultura libre bajo la licencia "CC0" (dominio público). Puede copiar, modificar, distribuir e interpretar la obra sin restricción.
