La economía de atención de Big Tech puede ser reformada. Aquí está cómo.

El modelo de negocios está haciendo un daño irreparable a la sociedad. Pero hay una alternativa, y no necesitamos destruir a los gigantes de la tecnología para llegar allí.

Por Tristan Harris

Esta semana una turba violenta montó el mayor ataque al Capitolio, la sede de la democracia americana, en más de 200 años, impulsada por la falsa creencia de que las elecciones presidenciales habían sido robadas. El principal autor de esa afirmación fue el Presidente Donald Trump, pero la disposición de la turba a creer que era en gran parte un producto de la economía de atención que la tecnología moderna ha creado.

Los canales de noticias en Facebook o Twitter operan con un modelo de negocio de mercantilización de la atención de miles de millones de personas al día, clasificando tweets, posts y grupos para determinar qué es lo que más se compromete (clics, opiniones y acciones) y qué es lo que más reacciones emocionales provoca. Estas plataformas de mercantilización de la atención han deformado la psique colectiva. Han conducido a visiones del mundo cada vez más estrechas y locas.

Los algoritmos de recomendación de YouTube, que determinan el 70% del tiempo de visualización diario para miles de millones de personas, “sugieren” lo que se supone que son videos similares, pero en realidad conducen a los espectadores a un contenido más extremo, más negativo o más conspirativo, porque eso es lo que los mantiene en sus pantallas por más tiempo. Durante años, YouTube recomendó la “delgadez” – videos que promueven la anorexia – a las adolescentes que veían videos sobre “dietas” Y cuando la gente veía videos científicos del alunizaje de la NASA, YouTube recomendaba videos sobre la teoría de la conspiración de la Tierra Plana. Lo hizo cientos de millones de veces. Las noticias y los sistemas de recomendación como este han creado una espiral descendente de negatividad y paranoia, desacoplando lentamente la percepción de miles de millones de personas de la realidad de la realidad misma.

Ver la realidad de forma clara y veraz es fundamental para nuestra capacidad de hacer cualquier cosa. Al monetizar y mercantilizar la atención, hemos vendido nuestra capacidad de ver los problemas y promulgar soluciones colectivas. Esto no es nuevo. Casi cada vez que permitimos que los sistemas de soporte de vida de nuestro planeta o sociedad sean mercantilizados, se producen otras averías. Cuando se mercantiliza la política con anuncios micro focalizados de la IA, se elimina la integridad de la política. Cuando mercantilizas los alimentos, pierdes el contacto con el ciclo de vida que hace que la agricultura sea sostenible. Cuando se mercantiliza la educación en contenidos digitales, se pierde la interrelación entre el desarrollo humano, la confianza, el cuidado y la autoridad de los maestros. Cuando mercantilizas el amor convirtiendo a las personas en cartas de juego en Tinder, rompes la compleja danza que implica forjar nuevas relaciones. Y cuando mercantilizas la comunicación en trozos de publicaciones y comentarios en Facebook, eliminas el contexto, los matices y el respeto. En todos estos casos, los sistemas extractivos lentamente erosionan los cimientos de una sociedad y un planeta saludables.

Sistemas de cambio para proteger la atención

E.O. Wilson, el famoso biólogo, propuso que los humanos deberían dirigir sólo la mitad de la Tierra, y que el resto debería dejarse en paz. Imagina algo similar para la economía de la atención. Podemos y debemos decir que queremos proteger la atención humana, incluso si eso sacrifica una parte de los beneficios de Apple, Google, Facebook, y otras grandes corporaciones tecnológicas.

Los bloqueadores de anuncios en los dispositivos digitales son un ejemplo interesante de lo que podría convertirse en un cambio estructural en el mundo digital. ¿Son los bloqueadores de anuncios un derecho humano? Si todo el mundo pudiera bloquear los anuncios en Facebook, Google y sitios web, Internet no podría financiarse a sí misma, y la economía de la publicidad perdería cantidades masivas de ingresos. ¿Ese resultado niega el derecho? ¿Es su atención un derecho? ¿Es usted el dueño? ¿Deberíamos ponerle un precio? La venta de órganos humanos o de personas esclavizadas puede satisfacer una demanda y generar beneficios, pero decimos que estos artículos no pertenecen al mercado. Al igual que los seres humanos y sus órganos, ¿debería la atención humana ser algo que el dinero no pueda comprar?

¿Es su atención un derecho? ¿Es usted el dueño? ¿Deberíamos ponerle un precio? Como los seres humanos y sus órganos, ¿debería la atención humana ser algo que el dinero no pueda comprar?

La pandemia covid-19, el movimiento Black Lives Matter, y el cambio climático y otras crisis ecológicas han hecho que cada vez más gente sea consciente de lo roto que están nuestros sistemas económicos y sociales. Pero no estamos llegando a las raíces de estas crisis interconectadas. Estamos cayendo en intervenciones que parecen la respuesta correcta pero que en cambio son trampas que mantienen subrepticiamente el status quo. Las prácticas policiales ligeramente mejores y las cámaras corporales no evitan la mala conducta de la policía. Comprar un Prius o un Tesla no es suficiente para reducir los niveles de carbono en la atmósfera. Reemplazar las pajillas de plástico por unas biodegradables no va a salvar los océanos. El movimiento de Instagram para ocultar el número de “gustos” no está transformando los problemas de salud mental de los adolescentes, cuando el servicio se basa en la constante comparación social y el secuestro sistémico del impulso humano para la conexión. Necesitamos una reforma sistémica mucho más profunda. Necesitamos cambiar las instituciones para servir al interés público de manera que sean proporcionales a la naturaleza y escala de los desafíos que enfrentamos.

En el Centro de Tecnología Humanitaria, una cosa que hicimos fue convencer a Apple, Google y Facebook para adoptar – al menos en parte – la misión de “Tiempo bien gastado”, incluso si iba en contra de sus intereses económicos. Este fue un movimiento que lanzamos a través de amplias campañas de sensibilización en los medios de comunicación públicos y la promoción, y ganó credibilidad con los diseñadores de tecnología, los padres preocupados, y los estudiantes. Se pedía cambiar los incentivos del mundo digital de una carrera por el “tiempo invertido” en pantallas y aplicaciones a una “carrera hacia la cima” para ayudar a la gente a pasar bien el tiempo. Ha llevado a un cambio real para miles de millones de personas. Apple, por ejemplo, introdujo las funciones de “Tiempo en pantalla” en mayo de 2018, que ahora se comercializan con todos los iPhones, iPads y otros dispositivos. Además de mostrar a todos los usuarios cuánto tiempo pasan en su teléfono, “Screen Time” ofrece un panel de controles parentales y límites de tiempo de las aplicaciones que muestran a los padres cuánto tiempo pasan sus hijos en línea (y lo que están haciendo). Google lanzó su iniciativa similar de Bienestar Digital

más o menos al mismo tiempo. Incluye otras características que habíamos sugerido, como facilitar la desconexión antes de acostarse y las notificaciones de límites. En la misma línea, YouTube introdujo notificaciones de “Tómese un descanso”.

Estos cambios muestran que las empresas están dispuestas a hacer sacrificios, incluso en el ámbito de los miles de millones de dólares. Sin embargo, aún no hemos cambiado la lógica central de estas corporaciones. Para una empresa hacer algo en contra de sus intereses económicos es una cosa; hacer algo en contra del ADN de su propósito y objetivos es una cosa totalmente diferente.

Trabajando hacia la acción colectiva

Necesitamos una reforma profunda y sistémica que cambie las corporaciones tecnológicas para servir al interés público primero y principalmente. Tenemos que pensar más en cuánto cambio sistémico podría ser posible, y cómo aprovechar la voluntad colectiva del pueblo.

Recientemente en el Centro de Tecnología Humanitaria, entrevistamos a Christiana Figueres, la ex secretaria ejecutiva de la Convención de las Naciones Unidas sobre el Cambio Climático (2010-2016), para nuestro podcast Your Undivided Attention. Ella fue la responsable de la “diplomacia de colaboración” que condujo al Acuerdo de París, y aprendimos cómo fue capaz de hacer esto – para conseguir que 195 países diferentes, contra todo pronóstico, hicieran resoluciones compartidas y de buena fe para abordar el cambio climático. Al principio, Figueres no creía que fuera posible conseguir que tantos países se pusieran de acuerdo, pero se dio cuenta de que ser anfitriona del Convenio de París significaba que ella misma tendría que cambiar. Tenía

que creer realmente que era posible lograr que los países se comprometieran con la acción climática. Así fue como pudo entonces centrarse en lograr que los países participantes creyeran en la posibilidad de abordar también el cambio climático. Donde las anteriores negociaciones internacionales sobre el clima habían fracasado, los esfuerzos de Figueres reunieron a las naciones para acordar la financiación, las nuevas tecnologías y otros instrumentos para mantener el aumento de la temperatura mundial por debajo de 2 o, mejor aún, 1,5 °C.

En el caso de la industria tecnológica, tenemos una ventaja en que no necesitamos convencer a cientos de países o millones de personas. Menos de 10 personas dirigen la infraestructura digital más poderosa del siglo XXI, las llamadas compañías FAANG, que comprenden a Facebook, Amazon, Apple, Netflix y Alphabet (antes Google). Si esas personas se reunieran y acordaran que maximizar el beneficio de los accionistas ya no es el objetivo común, la infraestructura digital podría ser diferente. Si Christiana Figueres pudiera lograr un consenso entre 195 naciones, podríamos considerar la posibilidad de hacerlo con 10 CEOs tecnológicos.

Una nueva economía de la tecnología humana

Es necesario cambiar varios principios económicos para que la tecnología se alinee con la humanidad y el planeta. Uno de ellos es el paradigma de crecimiento. Simplemente no se puede llevar a cabo una lógica de crecimiento infinito en un sustrato finito. El impulso para el crecimiento económico infinito está llevando a una crisis ecológica planetaria. Para las empresas tecnológicas, perseguir el crecimiento infinito de la atención humana extraída lleva a una crisis similar de la conciencia global y el bienestar social. Necesitamos cambiar a una economía de atención post-crecimiento que ponga la salud mental y el bienestar en el centro de nuestros resultados deseados.

Varios principios económicos deben cambiar para que la tecnología se alinee con la humanidad y el planeta.

Un pequeño indicio de este cambio se está produciendo en países como Nueva Zelandia y Escocia, donde organizaciones como la Wellbeing Economy Alliance están trabajando para pasar de una economía que promueve el producto interno bruto (PIB) a otra con estas prioridades alternativas. Los líderes se preguntan cómo puede el bienestar informar la comprensión pública de las políticas y las opciones políticas, orientar las decisiones y convertirse en una nueva base para el pensamiento y la práctica económicos.

Otro cambio hacia una tecnología más humana requiere una gama más amplia de interesados que puedan crear responsabilidad por el impacto social a largo plazo de nuestras acciones. En este momento, es posible que las grandes empresas de tecnología ganen dinero vendiendo rebanadas cada vez más finas de “atención”, vendiendo clics falsos de fuentes de noticias falsas a anunciantes falsos. Estas compañías ganan dinero incluso si lo que el enlace o el artículo lleva es atrozmente incorrecto y propaga información errónea. Este oportunismo degrada la ecología de la información al destruir nuestra capacidad de confiar en las fuentes de conocimiento o compartir creencias sobre lo que es verdad, lo que a su vez destruye nuestra capacidad de tomar buenas decisiones. El resultado es la polarización, la desinformación y la ruptura de la ciudadanía democrática. Necesitamos crear mecanismos que incentiven a los participantes en el mundo digital a considerar plazos más largos y el impacto más amplio que sus acciones están teniendo en la sociedad.

La voluntad humana juega un papel importante aquí. ¿Qué pasaría si los líderes que están detrás del modelo de distribución de ingresos de la App Store de Apple -que actúa como el banco central o la Reserva Federal de la economía de la atención- simplemente eligieran distribuir los ingresos a los fabricantes de aplicaciones basándose no en quiénes son los usuarios que compran la mayoría de los bienes virtuales o que pasan más tiempo usando la aplicación, sino en quiénes de los fabricantes de aplicaciones cooperan mejor con otras aplicaciones en el teléfono para ayudar a todos los miembros de la sociedad a vivir más de acuerdo con sus valores?

En última instancia, se trata de establecer las reglas correctas. Es difícil para cualquier actor optimizar el bienestar y la alineación con los valores de la sociedad cuando otros actores siguen compitiendo por recursos y poder finitos. Sin reglas y barandillas, los actores más despiadados ganan. Por eso son necesarias la legislación y las políticas, junto con la voluntad colectiva de la gente para promulgarlas. La metacrisis mayor es que los procesos democráticos para crear barandillas funcionan a un ritmo mucho más lento que el ritmo de desarrollo tecnológico que se necesita para marcar la diferencia. La tecnología continuará avanzando más rápido de lo que los daños pueden ser bien entendidos por las instituciones democráticas del siglo XX. El propio sector tecnológico necesita unirse, colaborar y encontrar formas de operar para que los objetivos sociales compartidos se sitúen por encima de la híper-competencia y la maximización de beneficios.

Finalmente, necesitamos reconocer el enorme poder asimétrico que las empresas tecnológicas tienen sobre los individuos y la sociedad. Nos conocen mejor que nosotros mismos. Cualquier estructura de poder asimétrico debe seguir el modelo fiduciario o de “deber de cuidado” ejemplificado por un buen maestro, terapeuta, médico o trabajador de cuidados, es decir, debe trabajar al servicio de los que tienen menos poder. No debe operar con un modelo de negocios basado en la extracción. Los modelos de negocio mejorados para la tecnología deben ser generativos: deben tratarnos como el cliente y no como el producto, y alinearse con nuestros valores y humanidad más profundos.

Hacia el ser humano

E.O. Wilson ha dicho, “El problema con la humanidad es que tenemos emociones paleolíticas, instituciones medievales y tecnología divina” Necesitamos abrazar nuestras emociones paleolíticas en todas sus debilidades y vulnerabilidades fijas. Necesitamos mejorar nuestras instituciones para incorporar más sabiduría, prudencia y amor. Y necesitamos frenar el desarrollo de una tecnología divina cuyos poderes van más allá de nuestra capacidad de dirigir la dirección de la nave en la que estamos.

El reino de lo posible continúa expandiéndose, pero está surgiendo contemporáneamente con temas globales exponencialmente desafiantes que requieren mejor información, liderazgo y acción. En lugar de aceptar una carrera hacia el fondo que nos degrada y divide, podemos crear juntos un paisaje tecnológico que permita una carrera hacia la cima, que apoye nuestra interconexión, civismo y profundo brillo. El cambio, creo, es humanamente posible.

Tristan Harris es cofundador y presidente del Centro de Tecnología Humanitaria. Este ensayo es un extracto adaptado de  The New Possible: Visions of Our World beyond Crisis “, que se publicará el 26 de enero de 2021, por Cascade Books.

Post Anterior

Tim Berners-Lee creó la web. Ahora ha salido a rehacer el mundo digital.

Siguiente Post

Big Tech ha ejercido su poder. ¿Y ahora qué?

Posts Relacionados