El mundo GAFA, y cómo hackearlo

Tan importantes como los inventores, son sus inventos. Tan importante como la crítica son los hacedores que vienen de trabajar en el mundo GAFA, y que de pronto se dan cuenta de que hay un elemento faltante en estas empresas de tamaño descomunal, que crean nuestra manera de entender al mundo, pero sin entenderse a si mismas (o criticarse) lo suficiente.

No puede haber pensamiento crítico sin un pensamiento crítico del mundo GAFA. Tristan Harris, ex diseñador ético de Google, muestra a qué enorme distancia estamos de entender gran parte de los problemas globales que queremos encarar, si no vemos como las empresas GAFA no son tanto el principio de su solución sino parte integral del problema.

En la presentación de Piscitelli del pasado 9 de noviembre una sección estuvo dedicada a esta problemática. Aquí tienen el backstage que ilumina en detalle qué entendemos por mundo GAFA y cómo empezar a lidiar con él, mas allá de nuestro rol de consumidores pasivos de sus pretendidos beneficios.

“How do you ethically steer the thoughts and actions of two billion people’s minds every day?” Tristan Harris ex-Design Ethicist at Google

“Nuestros mayores competidores son Facebook, YouTube y el sueño.” Red Hastings CEO de Netflix

1. Redes que (no) nos benefician como prometían

Hace poco menos de cinco años teóricos del fuste de Manuel Castells en Redes de de indignación y esperanza: los movimientos sociales en la era de internet,

imaginaban que la redes sociales serían una herramienta privilegiada, no sólo de mejora de la comunicación a nivel global, si no que mucho más contundentemente se convertirían en plataformas de intervención sociopolítica, que cambiaría de raíz la naturaleza de las relaciones sociales en países como los árabes, o en donde la democracia distara mucho de la que practicamos -o deseamos-, en algunos rincones del mundo occidental.

Algo sucedió en el camino, las promesas tan estentóreas de la tecnología emancipatoria no se cumplieron jamás. Al revés a fines del año 2016 nos encontramos con la tremenda sorpresa de que un outsider de la política se hizo del poder en Estados Unidos haciendo ab(uso) de las redes sociales del modo mas insospechado.

Si bien todavía falta atar unos cuantos cabos, no hay duda de que el saqueo (tolerado o ignorado por los mandamases de Facebook) permitió que se instalara un aparato de propaganda y de manipulación de la opinión pública jamás visto antes.

El resultado inmediato fue la derrota de la candidata demócrata Hillary Clinton a manos de los troles rusos en una operación de intervención política y de manipulación del lenguaje en una escala sorprendente (Williams, 2017).

No deberíamos sorprendernos tanto dado que el lenguaje originalmente se inventó para mentir. Y subsidiariamente para decir la verdad como muy bien nos enseñó Umberto Eco, 1997, hace muchos años atrás en su Tratado de Semiótica General.

Pero para este perfil de Tristan Harris, lo que nos interesa recalcar no es tanto estas dinámicas que merecerán estudios sesudos en curso, sino por el contrario profundizar en los procesos que han convertido a estas plataformas multitudinarias (que en el caso de Facebook ya cuentan con mas de 2000 millones de habitantes), en auténticas máquinas de diseño de las relacioens sociales, en aspiradoras de la atención, y sobretodo en interruptores sistemáticos de la atención colectiva.

2. La interrupción de la atenciòn como bien supremo

La novedad (si es que hay alguna) es ésta. No tanto atraer la atención (para un posicionamiento ideológico, conceptual, emocional, o lo que fuera), sino interrumpirla, volver difícil la concentración, el “long read”, la profundización, incluso el valor (limitado pero por eso no menos llamativo) de la expertise, y sobretodo, la capacidad de argumentar y de diseñar especulativamente, que van muy juntas.

Keynote – Anthony Dunne: What If… Crafting Design Speculations from Interaction Design Association on Vimeo.

Porque a lo que estamos asistiendo hoy no son a operaciones de lavado ideológico de la conciencia (si es que eso quiere decir algo, o mucho como suponían Mattelart y Schmuckler en Leyendo al Pato Donald), sino a una intervención en los propios circuitos cerebrales, responsables de la atención, la argumentación y el pensamiento (des)-interesado.

Al punto de llevarnos a preguntar ¿cómo (o si e posible) diseñar autonomía en la era de la interrupción algorítmica? Porque quizás uno de los problemas tecno-políticos más interesantes (pero también más peligrosos) que debemos afrontar actualmente es precisamente la cesión voluntaria de la atención de poblaciones humanas enteras (incluyéndonos por supuesto) a manos de las empresas GAFA (Facebook, Amazon, Google, Apple), tan virulentamente denunciadas -entre otros- por Scott Galloway, Jonathan Taplin, Franklin Foer).

Porque en el mundo de los algoritmos y el big data, mucho se sabe. Por ejemplo que la humanidad dedica 60 mil millones de horas por mes a Facebook. Ninguna tecnología ha crecido tan rápido, ningún dispositivo tuvo nunca tantos usuarios, no hay tecnología del conocimiento que haya aglutinado jamás a tantos usuarios, y a tantos activistas, desde las causas mas nobles a las mas inanes, como ha logrado esta plataforma en apenas una década.

3. El deseo mimético

¿Porqué Facebook funcione tan bien? Probablemente el hecho de que su dueño omnímodo y sus primeros inversiones no fueran gente de la tecnología o de los negocios, sino que tenían conocimientos -sino muy sólidos al menos astutamente correctos- como lo demuestran Mark Zuckerberg y Peter Thiel acerca de la naturaleza humana está en la base de su efectividad.

Esos pioneros conocían muy bien la necesidad humana de ser queridos y mirados/mimados. Conocían nuestra tendencia a fisgonear en lo que hacen los otros y a compararnos con ellos. No se trata solo de constataciones sino de procesos muy bien teorizados por un viejo amigo nuestro como fue Rene Girard.

La idea central de René Girard, es que una vez satisfecha nuestra necesidad de comida y techo, lo que nos mueve es el “deseo mimético“. Según Girard, no sabemos quiénes somos ni qué deseamos, pero miramos lo que otros hacen y los copiamos. Deseamos lo que otros desean.

Como para la publicidad tradicional (después de haber dado ya varios saltos mortales hacia la post-publicidad que siempre termina siendo la pre-publicidad) nuevamente somos solo carne de anunciantes.

Facebook ocupa el cuarto lugar entre las marcas más valiosas del mundo. Las primeras tres son Apple, Google y Microsoft. Coca-Cola ocupa el quinto lugar. Sin embargo, mientras Facebook gasta 310 millones de dólares anuales en publicidad, el promedio de las otras cuatro marcas es de 2800 millones.

¿Cómo logra esta magia Facebook? Mientras nosotros observamos a los demás, Facebook nos observa a nosotros y usa la información que le damos para ganar dinero vendiendo anuncios. He aquí una interesante linea de trabajo que no frecuentaremos (para ello tienen entre otras obras mayores Everybody lies. What the Internet Can Tell Us About Who We Really Are).

Porque lo que queremos enfatizar en este perfil, es otra dimensión. La forma en que los programadores y diseñadores munidos de las enseñanzas de Girard (pero también de las Lacan, de Freud, la psicología social, y muchas otras fuentes, generalmentehumanistas no tecnológicas), lograron construir la máquina de desear mas poderosa de la historia.

También -incipiente e inicialmente- nos interesa como hacer la ingeniería inversa de esa máquina y posicionarnos en el trabajo de desmontaje (de descajanegrizar a lo Latour), que venimos trasegando desde hace mucho tiempo atrás.

4. Descajanegrizar las interfases

Para ello lo que necesitamos hacer no es oponer literatura mayor a menor, recurrir a las bibliotecas de las denuncias o al lenguaje indignado de la alienación y la explotación, sino recorrer con algunos diseñadores, éticos y desarrolladores de experiencias, el modo en que las GAFA han logrado hipnotizar a las masas y como revertirlo.

Para ello conviene comenzar con Tristan Harris quien pasó tres años como diseñador de ética en Google, descubriendo cómo la tecnología secuestra las vulnerabilidades evolutivas de la mente humana para controlar nuestra atención.

Harris dejó Google en 2016 para trabajar a tiempo completo en la reforma de la economía de la atención en la iniciativa sin fines de lucro Time Well Spent. Time Well Spent tiene como objetivo catalizar un cambio rápido y coordinado entre las empresas de tecnología a través de la promoción pública, el desarrollo de normas de diseño ético, la educación en diseño y recomendaciones de políticas para protegernos de la manipulación nefasta.

Tristan ha pasado una década comprendiendo las influencias invisibles que secuestran el pensamiento y la acción humana. Basándose en la literatura de la adicción, la magia performativa, la ingeniería social, el diseño persuasivo (de nuestro conocido B.J.Fogg), y la economía del comportamiento (que le diera el Premio Nobel en Economìa en 2017 a Richard H. Thaler, actualmente está desarrollando un marco para la persuasión ética, especialmente en lo que se refiere a la responsabilidad moral de las empresas de tecnología.

En su última charla TED How a handful of tech companies control billions of minds every day Harris recuerda como ayer nomás fue un diseñador ético en Google, donde estudió cómo se controlan las acciones de la gente de forma (supuestamente) ética.

Sin caer en el tremendismo, el apocalipticismo o el reduccionismo ideológico nadie que esté en estas lides podría desconocer que la exaptación tecnológica en curso (Kevin Kelly) se juega en la carrera por nuestra atención. Porque cada sitio nuevo: TED, elecciones, políticos, juegos, incluso las aplicaciones de meditación, tienen que competir por una única e ineslático bien precioso, nuestra atención.

La mejor manera de capturar la atención de las personas, es saber cómo funciona nuestra mente. Y si alguien sabe cómo capturarlas nadie mejor que los especialistas en Tecnología Persuasiva con B.J.Fogg a la cabeza cuyo Persuasive Technology Lab se ha convertido en una mina de oro para las empresas GAFA.

5. Persuadiendo mejor para controlar exquisitamente y algunas propuests para revertilo

Hay una cantidad de técnicas de persuasión que permiten capturar nuestra atención, desde la reproducción automática de un video en YouTube, hasta ver ininterrumpidamente (binge watching) episodios de un serie en Netflix. Lo mismo ocurre con los Snapstreaks de Snapchat, que muestran el número de días seguidos que dos personas se han comunicado entre sí. Cuando los chicos se van de vacaciones, dan sus contraseñas hasta a cinco de sus amigos para mantener su Snapstreaks activo, Ni siquiera es como si conversaran realmente.

Indignarnos frente al comportamiento de estos diseñadores es parte del problema, no de la solución. La indignación también es una muy buena manera de capturar nuestra atención, ya que no elegimos la indignación, es algo que nos sucede. He aquí porque son infinitamente mas rentables (en tiempo de control de la atención, es decir de optimización de nuestra venta a los anunciantes) las noticias catastróficas que las normales, y las fake news antes que los hechos. Todo aquello que aumente la atención, vale y funciona y cada vez mas en una vertiginosidad incomprensible e imparable -por ahora.

En papers y otras charlas TED como How better tech could protect us from distraction Harris propone tres cambios radicales en la tecnología y en nuestra sociedad.

El primero, es reconocer que somos persuadibles. Si nos damos cuenta de que nuestros bloques de tiempo son controlados por el diseño de las GAFA ¿no querríamos usar esa comprensión y protegernos de como eso sucede?

El segundo, es que necesitamos nuevos modelos y sistemas de responsabilidad, para que a medida que el mundo se vuelve más persuasivo/controlado gracias a personas -como ex-Harris, un converso- esas salas de control empiecen a volverse responsables de lo que queremos.

Finalmente, necesitamos un renacimiento del diseño, que haga imposible que las GAFA se apropien del diseño mimético de la humanidad. De lo que s trata es de retomar el control de nuestras líneas de tiempos, es decir de nuestros flujos de la atención.

Imaginemos que estamos operando, como un “buscar/reemplazar” en todas las líneas de tiempo que actualmente nos manipulan persuasivamente hacia más y más tiempo en la pantalla y empezamos a reemplazarlas, con lo que sí queremos en nuestras vidas. Menudo desafío.

Contrariamente a lo que ocurre hoy -sugiere Harris- podríamos usar a toda esta información y a todo este poder, y a esta nueva visión de la naturaleza humana, para alcazar una habilidad sobrehumana de concentración y una habilidad sobrehumana para focalizar nuestra atención en lo que nos importa, y una habilidad sobrehumana para tener las conversaciones que importan y que necesitamos tener en la democracia. Y que las GAFA o tergiversan, o ignoran.

Si fallamos en la mayoria de los desafíos más complejos en el mundo, es porque nos enfocamos en ellos partiendo de nuestra atención en términos individuales. Estos “big challenges” exigen que concentremos nuestra atención y la coordinemos colectivamente, algo para lo que no estamos entrenados y en dirección de lo cual deben ir los bachilleratos del futuro, como el que estamos diseñando en UNOinternacional.

La arquitectura humana es limitada y tenemos ciertos límites o dimensiones de nuestras vidas, que queremos que sean honrados y respetados y la tecnología podría ayudar a hacer eso. Pero esto no ocurrirá espontáneamente o si seguimnos pagando un iluso homenaje a un futuro sin sorpresas.

Hoy en día toda nuestra tecnología tiene como interlocutor, solo a nuestro cerebro reptiliano: ¿Cuál es la mejor forma de lograr que hagamoss impulsivamente la siguiente cosa más pequeña con nuestro tiempo, en vez de preguntartnos: ¿Cuál sería la mejor forma de invertir mejor nuestro tiempo? ¿Cuál sería el cronograma perfecto que incluya algo para después?

Y esa manera se esta achicando cada vez mas con lo que quieren las empresas GAFA. Diseñar una escuela Post-GAFA es probablemente uno de los desafíos mas interesantes y llamativos que podemos afrontar hoy en día.

Referencias

Diseño de la atención

Fogg, B.J Persuasive Technology: Using Computers to Change What We Think and Do, Morgan Kaufmann 2002.

Harris, Tristan How Technology is Hijacking Your Mind?—?from a Magician and Google Design Ethicist

Shakya, Holly B. & Christakis, Nicholas A. A New, More Rigorous Study Confirms: The More You Use Facebook, the Worse You Feel

Stephens-Davidowitz, Seth Everybody Lies: What the Internet Can Tell Us About Who We Really Are. Harper Collins 2017

Mundo GAFA

Castells, Manuel Redes de indignación y esperanza: los movimientos sociales en la era de internet. Madrid, lLianza, 2012.

Eco, Umberto Tratado de semiótica general. Barcelona, Lumen,1977.

Foer, Franklin World Without Mind: The Existential Threat of Big Tech, 2017.

Galloway, Scott The Four: The Hidden DNA of Amazon, Apple, Facebook, and Google. Portafolio, 2017.

Graff, Garrett M. A Guide to Russia’s High Tech Tool Box for Subverting US Democracy

Taplin, Jonathan Move Fast and Break Things: How Facebook, Google, and Amazon Cornered Culture and Undermined Democracy. Little, Brown and Company 2017.

Tiku, Natasha How Russia ‘Pushed Our Buttons’ With Fake Online Ads

Williams, Greg From the Editor: how Russia hacked the internet