cat-in-the-machine

ALGORITHMIC ACCOUNTABILITY
Etica, Política y decision-making en la era del Big Data

Una de los rasgos distintivos del año 2016 fue la eclosión de décadas de trabajo en inteligencia artificial, y su conversión en productos y aplicaciones generadas a través de la combinación del machine learning y el deep learning. Desde apps inmersas en la vida cotidiana, hasta engendros casi mágicos y misteriosos, la IA se instaló entre nosotros de un modo inadvertido y profundo.

Mientras que para algunos este período es fascinante, y señala el advenimiento de una nueva especie del género humano (al que podemos denominar Homo Deus), muchos están preocupados por lo que un transhumanismo puede implicar en términos de dualización, en sociedades que cada vez lo están mas, para dividir finalmente a la humanidad en dos (inforricos-infopobres), cristalizado en distopías como Elysium.

Antes de expedirnos maniqueístamente sobre opciones tan dramáticas, debemos entender en mejor detalle de qué estamos hablando, quiénes son los grandes protagonistas de esta saga que supone la invención de las superinteligencias, cómo se manifiesta en distintos campos, y cómo podremos aprovechar del mejor modo posible sus postulados y propuestas. También qué rasgos y dimensiones debemos cuestionar y combatir, ante el advenimiento de inteligencias y emocionalidades post-humanas.

1. Deep Learning

El aprendizaje profundo (deep learning) es un conjunto de algoritmos en aprendizaje automático (machine learning) que busca modelizar abstracciones de alto nivel en datos usando arquitecturas compuestas de transformaciones no-lineales múltiples.

Se trata de un conjunto más amplio de métodos de aprendizaje automático basados en aprender mediante representaciones de datos. Una observación (por ejemplo, una imagen) puede ser representada en muchas formas (por ejemplo, como un vector de píxeles), pero algunas representaciones permiten maximizar el aprendizaje de tareas de alto valor cognitiva, emocional y económico (por ejemplo, ¿es esta imagen una cara humana?) sobre la base de ejemplos.

La intensa investigación en esta área -derivada de mas de 5 décadas de IA previa, y algunos de cuyos resultados inventariamos en las primeras cursadas de esta manteria en 1996/1998) intenta definir qué representaciones son mejores y cómo crear modelos para aprender estas representaciones.

Varias arquitecturas de aprendizaje, como las redes neuronales profundas, las redes neuronales profundas convolucionales, y las redes de creencia profundas, han sido aplicadas a campos como la visión por computadora, el reconocimiento automático del habla, y el reconocimiento de señales de audio y música, han producido resultados espectaculares al punto de poder sostener que las máquinas empieza a hacer ciencia (heurística) y arte (original).

A fin de afinar estas aseveraciones debemos responder preguntas y tratar temas como los siguientes:

¿De dónde viene la IA, hacia dónde va? ¿Qué es aprender, cómo aprendemos los humanos, como empiezan a aprender las máquinas? ¿Deep Learning como modelo de todo aprendizaje? El renacimiento de la IA. Etapas previas, el Master algorithm. ¿Es posible conocer sin saber? ¿La metacognición es una propiedad neuronal (física) o topología (metafísica)? La curadoría humano/maquinal como principio de colaboración transespecífica.

2. Ecologías de la información

Somos la información que consumimos y producimos. Pero no solo eso, somos los cuerpos que producen esa información y la consumen y no somos un cuerpo individual sino un cuerpo social en un ambiente en transformación constante, polarizado cada vez mas por descargas tecnológicas que se van sucediendo en cascada, y que están cambiando nuestro entorno de todo irreversible y también -inesperadamente- invisible.

Podemos auscultar las palabras del Zeitgeist o los rankings de los videos mas vistos, o los términos mas citados en los últimos 200 años, porque las compañías que poseen la data deciden compartirla, pero para todo lo demás nos encontramos con innumerable compuertas y filtros (burbuja y de otros tipos) la mayoría de los cuales desconocemos.

Ell Big Data, las bases de datos reemplazando a la novela del siglo XIX y al cine del siglo XX como organizadores perceptuales, la necesidad de cartografiar la complejidad para detectar las tendencia maestras de una cultura en ebullición cambian el predominio de la lectura profunda como eje sobre el cual construir conceptos y perceptos. Vuelve el paradigma indiciario pero a escala masiva y planetaria. ¿Cómo detectar a las pepitas de sentido en un mar de irrelevancia?

A fin de afinar estas aseveraciones debemos responder preguntas y tratar temas como los siguientes:

Big Data y las principales tendencias de transformación de las prácticas humanas. De lo material a lo simbólico. Tecnología como lenguaje. De las formas simbólicas al código como principio lingüístico esencial… Bases de datos como nuevo organizador perceptual. Las intenciones de la humanidad: de Google a lo que sigue. Visualización y conocimiento. Paradigma indiciario masivo. Procesando ideas como datos. Lo que no vemos. Lo que no podemos/lo que no queremos ver. Las sobredeterminaciones del conocimiento.

3. Fake news (again) y el sentido común post-crítico

Noticias falsas las hubo siempre y no en poca cantidad. De hecho el nacimiento de la prensa no es contemporáneo de la objetividad, ni los intereses generales siempre estuvieron bien representados en la prensa de las minorías. La post-verdad no es pues tan novedosa cono los inventarios de trending topics suponen. La novedad no es tanto su reinvención permanente, como el hecho de que cada vez mas estén asociada a las redes sociales como fabrica del sentido común.

El sentido común es la argamasa de la convivencia social, distorsionémoslo, polaricémoslo y nos encontraremos con las sociedades divididas por mitades de las últimas décadas. Con elecciones que se ganan por menos de 0.5-1% de diferencia de votos, y con programas electorales cada vez msa parecidos, por resultados cada vez mas increíbles pero no imprevisibles. Lo que el sentido común, la alta política y la sociología crítica imaginan que no ocurrirá, termina pasando, una y otra vez.

Nos llenamos de invocaciones al storytelling, a las narrativas con gancho, al periodismo interpretativo para generar visiones compartidas, pero rara vez lo logramos. Debemos aprender a releer la complejidad, los entramados contradictorios, las relaciones no-lineales entre actores humanos y no humanos.

A fin de afinar estas aseveraciones debemos responder preguntas y tratar temas como los siguientes:

Sentido común social. El periodismo del siglo XVIII y el interés general (acotado). La evolución de los medios y la democratización de la sociedad. Paralelismos y desfasajes. El filtrado colaborativo y la entronización de la homofilia. De los intereses de clase a los intereses perceptivos. ¿Qué ver?. ¿Cómo ver? ¿Para qué ver? El periodismo narrativo y el cuestionamiento (o no) de los puntos de vista. El pasaje de Obama a Trump y el entierro de las encuestas. La sociedad de la temperatura emocional en tiempo real. ¿Es posible la política en la era del Big Data?

4. Datascopia, datalogía y heurísticas híbridas

Gaston Bachelard nos enseñó que los instrumentos son teoría concretizada. Se trata expansores de la conciencia y del conocimiento, atados a la teoría y a los datos disponibles en cada época. Son el reflejo de ideologías y cosmovisiones y también del deseo (ocasional) de trascenderlos. Así como el telescopio y el microscopio aumentarón las potencias de 10 que somos capaces de auscultar, el macroscopio nos sirvió en la década de 1970 para empezar a cernir la complejidad organizada.

Hoy hemos transformado el macroscopio en un datascopio. Mientras algunos delirantes suponen que pronto los datos generarán sus propios hipotésis, no es menos cierto que la computación distribuida, la nube y los algoritmos sociales están permitiendo “hacer” ciencia colaborativa de formas inéditas y con resultados acumulativos mas que llamativos.

Desde el proyecto genoma humano, pasando por SETI, hasta las innumerables formas de uso (y abuso) del big data para procesar en tiempo real ingentes cantidades de datos, estamos asistiendo a la emergencia de heurísticas híbridas (hombre x máquina) que generan fenómenos fascinantes y aterradores por partes iguales. Perdida masiva de trabajo, aumento exponencial de la inteligencia humana, desconexión entre sectores enormes de la población, dualización de las prácticas y de los futuros.

A fin de afinar estas aseveraciones debemos responder preguntas y tratar temas como los siguientes:

Bachelard versión 2017. Von Foerster y McLuhan reloaded. El arte funcional: de ver la realidad con palabras representarla con nuevos ojos gráficos. De Manovich y Moretti a: Rossling, Agueras, Barlow & Gourley, Aiden & Michel. De las superinteligencias a las mininteligencias. Los no-proyectos que nos dicen tanto. La política de los datos y los datos de la política. Dataísmo, la ideología numerológica de Silicon Valley. ¿Cómo hacer ciencia cuando las herramientas no son del común? De la privatización de las emociones a la privatización de ls sensaciones. Cuando la globalización parecía llegar a su fin todo empieza de nuevo. Conectografía.

Las referencias y bibliografías sobre estos tema son infinitos. En los últimos 3 años hemos leído decenas de libros, visto centenares de charlas TED, acumulado otro tanto de papers, literatura gris, artículos periodísticos, entrevistas y contactos.

Habrá que hacer un rápido y eficiente trabajo de curadoría para que los alumnos y ayudantes puedan hacer un uso ad hoc de algunas de estas propuestas y no extraviarse ni en el tecnooptimismo ni el tecnopesimismo que muchas veces los carcome.

Para establecer agunos anclajes van aquí algunas referencias muy preliminares, a la brevedad pondremos el set de links y papers a su disposición.

1 Dramatis personae

Mayer-Schonberger, Viktor & Cukier, Kenneth Big Data: A Revolution That Will Transform How We Live, Work and Think Paperback (Hay trad.castellana)

Harari, Yuval Noah Homo Deus: a brief history of tomorrow (hay trad castellana)

Kelly III, John & Hamm, Steve IBM´s Watson and the era of cognitive computing

Brockam, John (ed) What to think about machines that think

2 Grandes estrategias de búsqueda y colaboración

Khanna, Parag Connectography: Mapping the Global Network Revolution.

Kelly, Kevin The inevitable

Tevelow, Jesse The connection algorithm, take risks…Defy the Status Quo, and Live Your Passions

Kurzweil, Ray The singularity is near

Kurzweil, Ray How to create a mind

3 Proyectos madre

Aiden, Erez & Michekle, jean-Baptiste Uncharted Big Data as a Lens on Human Culture http://amzn.to/2ikMAxn

Domingos, Pedro The Master Algorithm http://amzn.to/2iMFtRp

Dormehl, Luke The formula. How algorithms solve all our problems and Create More http://amzn.to/2hz602C

4 Lineas de trabajo y curaduría

5. Perspectivas dubitativas

Colvin, Geoof Humans Are Underrated. What High Achievers Know That Brilliant Machines Never Will

Bostrom, Nick Superintelligence Paths, Dangers, Strategies (hay trad castellana)

Kaplan, Jerry Humans Need not apply: A Guide to Wealth and Work in the Age of Artificial Intelligence

Turkle, Sherry Alone together Why We Expect More from Technology and Less from Each Other

Turkle, Sherry Reclaiming Conversation: The Power of Talk in a Digital Age

Lanier Jaron Your are not a gadget a manifesto

Lanier Jaron Who owns the future

6. Fundamentos conceptuales

Dyson, George Darwin Among the Machines: The Evolution of Global Intelligence

Douglas Rushkoff Present shock When Everything Happens Now

7. Aplicaciones de la vida cotidiana hoy y a futuro

Mason, Paul Postcapitalism: A Guide to Our Future

Ford, Martin Rise of the Robots: Technology and the Threat of a Jobless Future Hay trad castellana

Pearson, Taylor The end of jobs Money, Meaning and Freedom Without the 9-to-5

Wallerstein, Inmanuel et al Does capitalism have a future?

Clarke, Richard Cyberwar The Next Threat to National Security and What to Do About It

Kellmereit, Daniel, Obodovski, Daniel The Silent Intelligence: The Internet of Things

Brynjolfsson, Erik &, McAfee, Andrew The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies