¿Y si las señales fueran mas (s)utiles que el lenguaje?

El fabuloso mundo sociomètrico de Alex “Sandy” Pentland

La formación de los docentes -salvo casos excepcionales- es deficitaria por donde se la vea. Piensan con las teorias (ya raídas) con las que estudiaron. Dividen al mundo en disciplinas, cuando lo que necesitamos es una visión anti- u omnidisciplinaria de la realidad. Siguen alternando sus lecturas (irreconciliables), entre científicas por un lado, y humanistas por el otro (fuzzy vs techie). Los que programan no interpretan, los que leen aborrecen a los números. Enseñan formalismos irrelevantes dictados por burócratas ministeriales, cuando lo que necesitamos es encarar los “big challenges”, viendo lo mismo con otros ojos. En esta serie de perfiles (donde hablamos previamente de Joi ito y de Tristan Harris) hoy los introducimos a los apoprtes de Alex “Sandy Pentland“, un pionero de los estudios sociométricos. Pentland está convencido de que el lenguaje no es un buen conductor de la verdad, que las señales honestas se pueden leer con dispositivos no-verbales adecuados, y que la inteligencia artificial que tenemos hoy es pobre y desarrapada, y necesita de una amplificación humana. Seguir sus sugerencias, contrastar sus resultados, cuestionar algunos de sus supuestos pero sobretodo abrirnos a conversaciones que importan como las que él propone, es acceder a una dieta cognitiva relevante y potente. UNOint dialoga con la avanzada del pensamiento mundial. Y baja sus propuestas al aula para que todos participemos del mundo que viene.

No se trata de describir al mundo sino de reinventarlo

¿A quien no le gustaría que el mundo funcionara mejor? Porque francamente mas allá de la riqueza objetiva (y pésimamente distribuida) que hemos alcanzado con un fabuloso PBI global de 126 billones de dólares (a valores de paridad de poder adquisitivo (PPA) según el Fondo Monetario Internacional 2017) los problemas del mundo en vez de reducirse al aumentar la riqueza no parecen sino multiplicarse, y fragmentarse cada vez mas.

Y si bien imaginar alguna solución mágica (desde la fusión nuclear que permitirá regalar la energía, o el cultivo sintético de carne y otras proteínas que terminará con el aesinato a mansalva de animales, o incluso el cerebro mágico de una inteligencia general, que se hiciera cargo de todos nuestros desconocimiento e insuficiencias) atrae en demasía, lo cierto es que tenemos muchos elementos para creer que el mundo está mejor que hace 10, 30 o 450 años. Pero también muchos para imaginar algún cisne negro que termine con la humanidad de un momento a otro.

Probablemente nuestro desconocimiento mas profundo radica en que no sabemos cómo funcionan las organizaciones, y en nuestra incapacidad sistemática de ponernos de acuerdo en cómo solucionar los big challenges, que desafían a la humanidad al punto de que creer que son solucionables (mas o menos fácilmente) es parte de la ceguera y el facilismo con que tratamos el tema.

Cada vez con mas frecuencia aparecen conceptos nuevos, atractores meméticos, modelos y hasta encuadres filosóficos que quieren terminar de una vez por todas con el oscurantismo anterior, y poner por fin a la humanidad en el camino del entendimiento pleno, del reconocimiento de la errores pasados y -lo mas importante- buscan allanar el camino para políticas que por fin puedan conciliar formas de autogobierno buenas con una eficacia redistributiva notable.

Desde hace la menos un quinquenio dichas propuestas y modelos vienen de la mano de la producción imparable de datos gestados por miles de millones de sensores, que en forma exponencial están radiografiando, ya no solo toda la geografía del planeta, sino incluso nuestras propias interacciones.

El Big Data como hilo conductor de nuevas líneas de investigación/acciòn

Es por ello que investigadores como Alex Sandy Pentland autor de dos libros curiosos y difíciles de encuadrar como son Honest Signals. How they shape our world (2010) y Social Physics. How Good Ideas Spread-The Lessons from a New Science (2014) busca convertir esa ingente masa de datos, no solo en el envoltorio cuantitativo de nuestra personalidad, sino también en una forma de discriminar las buenas de las malas interacciones en dirección de una sociedad mas transparente y honesta. Menuda propuesta.

Pentland da un paso más allá de lo que Flora Davis planteó hace algunos años en su celebérrimo estudio La comunicación no verbal. Para el investigador del MIT, estas señales fiables u “honestas”, de carácter ancestral, son las que verdaderamente guían a los seres humanos desde la noche de los tiempos y a las que ignoramos cubriéndolas con el manto mixtificador del lenguaje.

Este canal primitivo de comunicación, capaz de descodificar el más leve movimiento y de advertir incluso actitudes en el otro, ha sido sometido a una histórica represión convencional que, sin embargo, no ha logrado hacerlo callar.

Al contrario, Pentland afirma que es éste el lenguaje que gobierna el mundo y el que ha trenzado el tejido social al punto de haberse erigido en un sistema nervioso funcional para la raza humana.

La psicolingüística también está estudiando en profundidad este apasionante campo y dando excelentes frutos, en especial en el ámbito de las presuposiciones e inferencias, es decir, cómo anticiparnos al pensamiento del otro para que no nos haga daño o, simplemente, por un ejercicio de complicidad o de humor. (Arranz, 2014)

La Fisica social irreducionista

El título del segundo libro de Pentland publicado en 2014 después de casi 15 años de trabajar en The Human Dynamics Laboratory @ the MIT Media Lab se apropió del término que Auguste Comte, generalmente considerado el padre de la sociología, inicialmente aplicó a su propia disciplina.

Según Pentland, la proliferación de datos de sensores móviles en la era de Internet, el advenimiento de nuevas herramientas matemáticas para analizar las interdependencias de red, y el poder de las computadoras modernas hacen que la aspiración al rigor cuantitativo en el término “física social” esté menos alejado que antaño. Además de no usarse en el modo reduccionista del siglo XIX.

Tenemos suficientes datos para tomar todas estas teorías sobre las personas y la innovación y una buena toma de decisiones y hacer que sean cuantitativas“, dice Pentland. “Y cuando hacemos eso, encontramos que hay algunos principios razonablemente simples que explican el 80% o el 90% de la varianza en algunos casos“.

Exploración” y “compromiso” en la propagación de información

Como argumenta Pentland en su libro, esos principios tienen que ver con la interacción de dos tipos distintos de propagación de la información, que él llama “exploración” y “compromiso”. Explorar representa la exposición a ideas nuevas; el compromiso es el tipo de interacción social cara a cara en la que la comunicación no verbal.

De acuerdo con “Física social”, sin importar cuán buena pueda parecer una idea en papel, o en una pantalla de computadora, el compromiso sigue siendo el mecanismo por el cual se arraiga en una comunidad. “Adoptar hábitos es un proceso muy conservador que parece estar impulsado en gran parte por el aprendizaje social, al ver a otras personas haciendo lo mismo“, dice Pentland. “Los hábitos son cosas que se disparan automáticamente. No quiere tener malos hábitos en su repertorio, porque es realmente difícil deshacerse de ellos. Pero cuando estás explorando nuevas ideas, quieres tomar todo lo que puedas, porque realmente no hay ningún costo para eso “.

Toquecitos y Big Data

Una dinámica similar, dice Pentland, gobiernan un banco, una instalación militar, una consultoría de TI y varias otras organizaciones que su grupo estudió; en cada caso, crear oportunidades para que los empleados interactúen cara a cara, por ejemplo, sincronizando sus tiempos de descanso, aumenta la productividad. Sorprendentemente, el mismo principio parece aplicarse a ciudades enteras, donde el PIB está altamente correlacionado con las oportunidades de encuentros cara a cara.

Algo que el laboratorio de Pentland está investigando es cómo aprovechar estos efectos. Él y sus estudiantes, por ejemplo, han comparado esquemas para promover cambios en el ejercicio o la dieta entre grupos de voluntarios. En un esquema, los voluntarios reciben una pequeña recompensa financiera si cumplen objetivos particulares; en otro, reciben la misma recompensa solo si sus pares cumplen los mismos objetivos. La diferencia entre el éxito de los dos esquemas no es menor, informa Pentland: la adición de la presión de grupo hace que el programa tenga entre dos y 16 veces más éxito.

Ya que todos hablan de IA artificial hoy conviene separar la paja del trigo, desconfiar de los logros de las inteligencias generales (muy menores) y entender mucho mejor las particulares (sumamente exitosas), diseñar estrategias Centauro de acople humano/máquina cada vez mejor ensambladas y articuladas, y sobretodo crear una inteligencia artificial humana como propone Alex Pentland

¿Y si en vez de neuronas bobas las unidades de la IA fueran personas inteligentes?

La magia de la IA actual es la función de asignación de crédito. Lo que permite partir de neuronas estúpidas, esas pequeñas funciones lineales, y descubrir, en una gran red, cuáles están haciendo bien su trabajo y alentarlas a hacerlo mejor.

La parte mala de esta solución es que, debido a que esas pequeñas neuronas son estúpidas, lo que aprenden no se generaliza muy bien. Si ven algo que no han visto antes, o si el mundo cambia un poco (y el nuestro VUCA lo hace a una velocidad endemoniada), es probable que cometan horribles errores. Las neuronas-modelo no tienen absolutamente ninguna sensibilidad al contexto.

Pero si en lugar de usar neuronas tontas, usáramos elementos que incorporaron algo de conocimiento. Si en vez en de neuronas lineales, usáramos neuronas que fueran funciones en la física, e intentáramos ajustar los datos físicos. O tal vez si dispusiéramos de mucha información sobre los humanos y cómo interactúan entre si. Cuando lo hacemos y añadimos esta función de asignación de créditos, tomamos lo que sabemos, -ya sea físico o humano, y un montón de datos-, para reforzar las funciones que están funcionando, logrando una IA (humana) que funciona extremadamente bien y puede generalizar.

La conducta humana está determinada tanto por los patrones de nuestra cultura como por el pensamiento racional e individual. Estos patrones pueden describirse matemáticamente y usarse para hacer predicciones precisas. ¿Qué pasaría si tuviéramos una red de personas con la cual pudiéramos reforzar a los que ayudan y desanimar a los que no lo hacen?

Penland parte de esta nueva ciencia de “física social” y la ha ampliado, haciéndola accesible y procesable mediante el desarrollo de una plataforma predictiva que utiliza big data para construir una teoría predictiva y computacional del comportamiento humano.

¿De qué hacer a cómo hacerlo?

Si se segui este marco general de IA y se crea una IA humana, la pregunta es: ¿cuál es la forma correcta de hacerlo? ¿Es algo seguro? ¿Estamos (¿está Pentland?) completamente fuera de sus cabales?

¿De dónde viene la cultura? ¿Cómo podemos seleccionar la cultura cuando los individuos se reproducen? Necesitamos algo que seleccione en favor de las mejores culturas y de los mejores grupos, pero también seleccione a las mejores personas porque son los envoltorios que transmiten los genes.

Tenemos una manera de unir a las personas para tomar mejores decisiones, con cada vez más experiencia y se llama “distributed Thompson sampling”.

Pero si contamos con un algoritmo tan bueno, ¿qué pasa de verdad en el mundo real? ¿Por qué no lo usamos todo el tiempo? Somos bastante buenos hacièndolo pero hay formas en que esto puede desconyuntarse. Una de las formas es a través de la publicidad o las noticias falsas -es decir a través de la inhibiciòn de la transparencia y el diseño de opacidad (algo en lo que está empezando a sobresalir las grandes plataformas de Internet como veíamos en el post anterior).

Las fake news son mucho mas peligrosas de lo que generalmente creemos

Hay muchas maneras de hacer para que creamos que algo es popular y beneficioso cuando no lo es, y eso lo arruina todo. La forma en que puede hacerse que los grupos de personas sean más inteligentes, la mismo que puede construir una IA humana, funcionará solo si puede obtener una retroalimentación para el grupo que sea veraz. Tiene que estar basada en la constatación de que cada acción particular funcionó o no.

Necesitamos tener esa retroalimentación veraz para que este mecanismo humano funcione bien, y necesitamos tener buenas maneras de saber qué están haciendo otras personas, para que podamos evaluar la popularidad y la probabilidad de que éstas sea buenas opciones del modo correcto.

El equipo de Pentland está tratando de construir esta función de asignación de crédito, esta función de retroalimentación, para las personas para que podamos crear una inteligencia artificial humana, una organización inteligente y una cultura inteligente. Tratando de encontrar hechos básicos en los que todos puedan ponerse de acuerdo y comprender para que la transmisión de conocimiento y cultura pueda ocurrir en un manera que es veraz (un camino parecido pero en modo manual fue el que iniciò el diseño ontológico y la ontologpia de las conversaciones a mediados de los años 1980).

Pentland ha abordado este problema de asignación de crédito de muchas maneras. En las empresas, lo ha hecho con “badges” (distintivos) que prestan atención a quién está conectado con quién, y lo conectan con qué tan buenos fueron los resultados semanalmente. ¿Solucionaron más problemas? ¿Inventaron más? Ese tipo de cosas. Cuando puede obtener esa retroalimentación cuantitativamente, lo cual es difícil porque la mayoría de las cosas no se miden cuantitativamente, descubrimos que hemos sido capaces de mejorar la productividad y la tasa de innovación dentro de las organizaciones en un cinco y un diez por ciento. Puede que no suene bien, pero es enorme.

Algoritmos abiertos y Datos para el desarrollo

El enfoque que está usando se llama “algoritmos abiertos”. Es apoyado, curiosamente, por la Unión Europea como una forma de lidiar con la privacidad, la seguridad y la competitividad.

Es un modo de tomar datos de muchas fuentes, de empresas y gobiernos, y someterlo al escrutinio de todas las partes interesadas para asegurarse que la procedencia de los datos y las preguntas sobre los datos sean comprensibles y justas.

Luego, se publican abiertamente, como cuando se publican los datos censales. Pentland ha realizado una serie de experimentos para desarrollar estos sistemas operativos para la humanidad bajo la etiqueta Data for Development.

Lo que estamos viendo es una gran imagen de cómo lograr que la humanidad sea más inteligente, una IA humana, conformado a partir de varias capas. Una es la información en la que todos podemos confiar, datos que han sido examinados por una comunidad amplia, datos donde los algoritmos son conocidos y monitoreados, muy parecido a los datos censales en los que todos confiamos automáticamente que son al menos aproximadamente correctos (salvo como cuando ocurrió en Argentina que el gobierno deliberadamente los destruyò).

La otra es una evaluación justa de lo que hacen y no hacen las personas. Esa parte no existe todavía. Eso es parte de este problema de la asignación de crédito. Es la parte donde las noticias falsas, la propaganda y la publicidad se interponen en el camino. Y resolver (o siquiera plantear) el problema se convierte en el must ineludible de la reinvención del periodismo en la era de la post-verdad (debiendo renunciar incluso al uso de los videos por ser fabricables a voluntad).

¿Podemos imaginar una verdadera transparencia en el gobierno? ¿Ser capaces de hacer preguntas, como qué tan bien están haciendo cosas los gobernantes? ¿Cómo están cambiando la pobreza? ¿Hay migración forzada? Imaginemos que informaciones como éstas estuvieran verdaderamente disponibles en todo el mundo. Sería completamente transformador de la toma de decisiones gubernamental.

Algo en lo que soñaban Stafford Bear y Fernando Flores hace 4 décadas cuando crearon el proyecto Cybersyn

Nuestras instituciones funcionan horriblemente mal

Como bien dice Gerardo Young en El libro Negra de la Justicia argentina el problema no son los malos, sino los males. Con los primeros es posible lidiar, eventualmente, los segundos son estructurales, y estan muy ligados al DNA del capitalismo, y a tdoos los intentos de corregirlo en dirección de las democracias occidentales avanzadas.

(Para un relevamiento descorazonador de porqué y cómo funciona tan mal la Justicia en la Argentina es imperdible leer el último libro de Gerardo Yomal, el mejor ejemplo concebible de a quién benefician la opacidad, los acuerdos secretos y la manipulación de los datos)

Un punto clave de la IA es que si controlamos los datos, entonces controlamos la IA. Esto es lo que está haciendo el grupo de Pentland en el MIT, y de hecho están configurando los sistemas a escala nacional, entonces no necesitan saber en detalle cómo se toman las decisiones. Pero sí necesitan saber qué decidimos y sobre qué pruebas. Mientras podamos saber qué está haciendo la IA, podemos preguntarnos si nos gusta o no nos gusta lo que hace. El problema que tenemos en tantas partes del gobierno ahora, el sistema de justicia, el edcativo, el de seguridad social, etc., es que no hay datos confiables sobre lo que están haciendo y en qué situación.

La IA actual provee estadísticas descriptivas de manera no científica, y sería casi imposible convertirla en ciencia. Si asignamos un millón de pequeños valores de píxeles en un listado enorme, no podemos decir que se trata de una imagen de un rostro humano. Si los ponemos a todos juntos, el ser humano todavía tiene que percibir ese pasticho como una cara. La IA actual está haciendo todas estas pequeñas aproximaciones, y juntas pueden llegar a ser algo útil, pero la percepción no está en su modelo. La ciencia solo estaría en nuestra percepción del modelo.

Pentland está interesado sobre todo en cómo obtener información del sistema para poder diseñar todo el sistema, para poder obtener su integralidad y construirlo.

La larga y densa entrevista que le hace en su edición de esta semana la revista on-line Edge de John Brockman, acuñador del concepto de Tercera Cultura, a Pentland -que hemos transcripto libremente en gran parte- termina con un análisis sorprendente acerca de la polarización y la desigualdad.

La Politica de los datos cerrados y la manipulación sin fin

Hoy, asistimos a una increíble polarización y segregación por ingresos en casi todas partes del mundo, y eso amenaza con separar a los gobiernos y a la sociedad civil como los ejemplos del Brexit, el Cataxit, Colombia, etc nos lo recuerdan cada dia.

Tenemos una población en aumento (seremos 2.000 millones mas en 2050), que esta en parte en la raíz de todas estas imposibilidades para diseñar un futuro mas equitativo. Cada vez más, los medios nos están fallando, y la caída de los medios está logrando que las personas pierdan su rumbo. No sabemos en qué creer. Es fácil manipularnos. Existe una necesidad real de acuerdos significativos, y de poder saber qué cosas funcionan y cuáles no. Pero no sabemos a quien recurrir en esa búsqueda.

Contrariamente a las criticas previsible de un Morozov (2014) que tilda a Pentland de ingenuo y poco filosófico, una lectura mas atenta del investigador del MIT muestra que se siente igualmente cómodo entre los algoritmos, como entre las personas, entre los modelos matemáticos y la filosofía política. Se trata de un auténtico polímata al que debemos leer con mas cuidado, sumarnos a sus experimentos sociales, y valorar su dedicación a los datos (interpretados) como base para la construcción de una nueva física social post-comtiana, que nos saque del marasmo en el que estamos metidos, sin caer en los reduccionismos o el voluntarismo.

Cualquier estrategia que utilicemos para encarar los big challenges nos muestra que hasta que no nos metamos mucho mas a fondo en la problemática del Big data (social), pero sobretodo en el diseño de la inteligencia artificial humana, como corresponde a la política/poética del Mundo CENTAURO, los big challenges no tendrán ni solución, ni enfoques adecuados para afrontarlos.

REFERENCIAS

Arranz, David Felipe Las señales fiables del profesor Alex Pentland, 2014.

Coelo, Herder Pentland Social Physics: How Good Ideas Spread–the Lessons from a New Science Reseña

Morosov, Evgeny Every Little Byte Counts ‘The Naked Future’ and ‘Social Physics’ , 2014.

Pentland, Alex “Sandy” The Human Strategy A Conversation [10.30.17]

Pentland, Alex “Sandy” Media Lab professor’s new book ties more than a decade’s research into a new theory of information propagation in communities large and small.

Pentland, Alex “Sandy” Página central

Pentland, Alex (Sandy) Señales honestas. El lenguaje que gobierna el mundo Prólogo x