LOS ALGORITMOS SE HACEN CARGO

Ética, Política y toma de decisiones en la era del Big Data

Una de los rasgos distintivos del año 2016 fue la eclosión de décadas de trabajo en inteligencia artificial, y su conversión en productos y aplicaciones generadas a través de la combinación del machine learning y el deep learning. Desde apps inmersas en la vida cotidiana, hasta engendros casi mágicos y misteriosos como el traductor Pilot, la IA se instaló entre nosotros de un modo inadvertido y profundo.

Mientras que para algunos este período es fascinante, y señala el advenimiento de una nueva especie del género humano (al que podemos denominar siguiendo Yuval Noah Harari como Homo Deus), muchos están preocupados por lo que un transhumanismo desaforado puede implicar en términos de dualización, en sociedades que cada vez lo están mas, para dividir finalmente a la humanidad en dos (inforricos-infopobres), cristalizado en distopías como Elysium o Gattaca.

Antes de pronunciarnos maniqueístamente sobre opciones tan dramáticas, debemos entender en mucho mayor detalle de qué estamos hablando, quiénes son los grandes protagonistas de esta saga que supone la invención de las superinteligencias, cómo ésta se manifiesta en distintos campos, y cómo podremos aprovechar del mejor modo posible sus postulados y propuestas. También qué rasgos y dimensiones debemos cuestionar y combatir, ante el advenimiento de inteligencias y emocionalidades post-humanas, que pudieran poner en riesgo la identidad humana ancestral.

Unidad 1. Cultura del software y big data

De los átomos de cultura a la cultura del software. El software es social, cultural y político. El usuario es productor de información. La interceptación de la información en grandes bases de datos. Formas de leer big data: lo humano y lo digital.

Los algoritmos son algo más que listas de instrucciones: definición, historia, importancia. Están donde no los vemos (o donde no los queremos ver). Sociotécnica de las redes sociales. Subjetividades técnicas, emociones que se contagian. Más big data: de la industria cultural al algoritmo cultural. Algoritmos top down y bottom up.

Bibliografía

1.1 Cultura del Software

1) Manovich, Lev “Introducción: Estudios de Software para Principiantes” en El Software toma el mando. Traducción al español a cargo de Adrián Yalj y Sofía Alamo, de uso exclusivo para la Cátedra de Datos (Piscitelli)- FSOC-UBA. Texto Original: “Software Studies for beginners” (2008).

Enlace de consulta: http://catedradatos.com.ar/recursos/el-software-toma-el-mando/

2) Manovich, Lev: “Columnista invitado: Lev Manovich nos lleva de la lectura al reconocimiento de patrones”. Traducción al español a cargo de Agustina Migliorini, de uso exclusivo para la Cátedra. Texto original: From Readers to pattern Recognition, publicado en enero 2012.

Enlace de consulta: http://catedradatos.com.ar/recursos/columna-del-invitado-lev-manovich-nos-lleva-de-la-lectura-al-reconocimiento-de-patrones/

1.2. Big Data y Algoritmos Sociales

3) Mayer-Schönberger, Viktor y Kenneth, C Big Data. “Ahora”, “Más”, “Confusión” “Datificación”, capítulos 1, 2, 3 y 5 de La revolución de los datos masivos Madrid: Turner, 2013. Edición original: Big Data. A Revolution That Will Transform How We Live, Work, and Think, 2013. Publicado por acuerdo especial con la editorial Houghton Mifflin Harcourt.

Enlace de consulta: http://catedradatos.com.ar/recursos/bigdatamayer/

4) Pariser, Eli Cuidado con los “filtros burbujas”. Charla TED, 2011.

Enlace de consulta: https://www.ted.com/talks/eli_pariser_beware_online_filter_bubbles

5) Mosco, Vincent. Big Data y la Cultura de la Nube. traducción para la Cátedra de Datos de Ignacio Escudero.

Enlace de consulta: http://catedradatos.com.ar/recursos/vincent-mosco-big-data-y-la-cultura-de-la-nube/

6) Slavin, Kevin, Cómo los algoritmos configuran nuestro mundo. Conferencia TEDxGlobal, julio 2011.

Enlace de consulta: https://www.ted.com/talks/kevin_slavin_how_algorithms_shape_our_world?language=es

7) Vanderbilt, Tom “Camioneros infelices y otros problemas algorítmicos”, traducción para la Cátedra de Datos de Gonzalo Vaccari URL original, julio 2013

Enlace de consulta: http://catedradatos.com.ar/media/7.-Vanderbilt-Camioneros-desafortunados.pdf

8) Magnani, Esteban “Hacete amigo del Big Data.” Revista Anfibia, febrero 2017.

Enlace de consulta: http://www.revistaanfibia.com/ensayo/hacete-amigo-del-big-data/

9) Hilbert, Martin “Obama y Trump usaron el Big Data para lavar cerebros”, The Clinic, enero 2017.

Enlace de consulta: http://www.theclinic.cl/2017/01/19/martin-hilbert-experto-redes-digitales-obama-trump-usaron-big-data-lavar-cerebros/

Unidad 2. Ecologías de la información

Somos la información que consumimos y producimos. Pero no solo eso, somos los cuerpos que producen esa información y la consumen y no somos un cuerpo individual sino un cuerpo social en un ambiente en transformación constante, polarizado cada vez mas por descargas tecnológicas que se van sucediendo en cascada, y que están cambiando nuestro entorno de todo irreversible y también -inesperadamente- invisible.

Podemos auscultar las palabras del Zeitgeist de Google, o los rankings de los videos mas vistos, o los términos mas citados en los últimos 200 años, porque las compañías que poseen los datos deciden compartirla (por ahora). Para todo lo demás nos encontramos con innumerable compuertas y filtros (burbuja y de otros tipos) la mayoría de los cuales desconocemos.

Ell Big Data, las bases de datos reemplazando a la novela del siglo XIX y al cine del siglo XX como organizadores perceptuales, la necesidad de cartografiar la complejidad para detectar las tendencias maestras de una cultura en ebullición, cambian el predominio de la lectura profunda como eje sobre el cual construir conceptos y perceptos. Vuelve el paradigma indiciario pero a escala masiva y planetaria. ¿Cómo detectar a las pepitas de sentido en un mar de irrelevancia?

A fin de afinar estas aseveraciones debemos responder preguntas y tratar temas como los siguientes: Big Data y las principales tendencias de transformación de las prácticas humanas. De lo material a lo simbólico. Tecnología como lenguaje. De las formas simbólicas al código como principio lingüístico esencial… Bases de datos como nuevos organizadores perceptuales. Las intenciones de la humanidad: de Google a lo que sigue. Visualización y conocimiento. Paradigma indiciario masivo. Procesando ideas como datos. Lo que no vemos. Lo que no podemos/lo que no queremos ver. Las sobredeterminaciones del conocimiento.

Bibliografía

2.1 Algoritmos Sociales II

10) Lazer, David The Rise of Social Algorithm. Does content curation by Facebook introduce ideological bias?. Revista Insight, VOL 348 ISSUE 6239, junio 2015. Traducción para la Cátedra de Datos a cargo de Victoria Carrizo.

Enlace de consulta: http://catedradatos.com.ar/recursos/david-lazer-el-surgimiento-del-algoritmo-social/

11) Steiner, Christopher “El tope del top 40”, cap 3 de Automate this, how algorithms came to rule our world. New York: Portfolio Penguin, 2012. Traducción para la Cátedra de Datos de Giselle Bordoy y Melisa Chetto.

Enlace de consulta: http://catedradatos.com.ar/recursos/el-tope-del-top-40-en-automatiza-esto/

12) Carr, Nicholas “Nuestros algoritmos, nosotros mismos”, traducción para la Cátedra de Datos de Guadalupe López e Ignacio Escudero.

Enlace de consulta: http://catedradatos.com.ar/recursos/nuestros-algoritmos-nosotros-mismos/

2.2 Lo vincular, lo público y lo privado.

13) Nissenbaum, Helen. “Introducción”, “Conocernos mejor que a nosotros mismos: Bases de datos inmensas y profundas” y “Capacidad para difundir y encontrar todo en todas partes”, Introducción, Cap. 2 y 3 de Privacidad Amenazada: Tecnología, política y la integridad de la vida social. México: Océano, 2011.

Enlace de consulta: http://catedradatos.com.ar/recursos/nissenbaumprivacidad/

14) Christakis, Nicholas. “Cuando tú sonríes el mundo entero sonríe”, “Hiperconectados” capítulos 1 y 8 de Conectados. El sorprendente poder de las redes sociales y cómo modelan nuestras vidas. Madrid: Santillana 2010.

Enlace de consulta: http://catedradatos.com.ar/recursos/christakis-nicholas-conectados/

15) Sherry Turkle. Alone Together? Conferencia TED2012, febrero 2012

Enlace de consulta: www.ted.com/talks/sherry_turkle_alone_together?language=es

2.3 De tecno-optimistas y tecno-críticos

16) Johnson, Steven “Comunidades. El caso del sirope de arce”, cap. 3 de Futuro perfecto. El progreso en la era de la red. Madrid, Turner: 2012.

Enlace de consulta: http://catedradatos.com.ar/recursos/comunidades-el-caso-del-sirope-del-arce/

17) Morozov, Evgeny. “Why Social Movements Should Ignore Social Media” New Republic, febrero 2013. Traducción para la Cátedra de Datos a cargo de Julio Alonso.

Enlace de consulta: http://catedradatos.com.ar/recursos/evgeny-morozov-los-movimientos-sociales-deberian-ignorar/

Unidad 3. Deep learning y superinteligencias

El aprendizaje profundo (deep learning) es un conjunto de algoritmos en aprendizaje automático (machine learning), que modeliza abstracciones de alto nivel en datos, usando arquitecturas compuestas por transformaciones no-lineales múltiples.

Se trata de un conjunto de métodos de aprendizaje automático, basados en aprender mediante representaciones de datos. Una observación (por ejemplo, una imagen) puede ser representada de muchas formas (por ejemplo, como un vector de píxeles), pero algunas representaciones permiten maximizar el aprendizaje de tareas de alto valor cognitiva, emocional y económico (por ejemplo, ¿es esta imagen una cara humana?) a partir de un número enorme de ejemplos.

La intensa investigación en esta área -derivada de mas de 5 décadas de IA previa, y algunos de cuyos resultados inventariamos en las primeras cursadas de esta materia en 1996/1998), intenta definir qué representaciones son mejores que otras, y cómo crear modelos para aprender de estas representaciones.

Varias arquitecturas de aprendizaje, como las redes neuronales profundas, las redes neuronales profundas convolucionales, y las redes de creencia profundas, han sido aplicadas a campos como la visión por computadora, el reconocimiento automático del habla, y el reconocimiento de señales de audio y música y han empezado a producir resultados espectaculares, al punto de poder sostener que las máquinas empieza a hacer ciencia (heurística) y arte (original).

A fin de afinar estas aseveraciones debemos responder preguntas y tratar temas como los siguientes:

¿De dónde viene la IA, hacia dónde va? ¿Qué es aprender, cómo aprendemos los humanos, como empiezan a aprender las máquinas? ¿El Deep Learning es el modelo de todo aprendizaje maquinal? El renacimiento de la IA. Etapas previas, el Master algorithm. ¿Es posible conocer sin saber? ¿La metacognición es una propiedad neuronal (física) o topología (metafísica)? La curadoría humano/maquinal como principio de colaboración transespecífica.

Bibliografía

3.1 Automatización

18) Worstall, Tim. “Race Against The Machine Again; But We Don’t Care If People Have Jobs Or Not“, Revista Forbes, Noviembre 2014. Traducción a cargo de Giselle Bordoy. Uso exclusivo de la Cátedra Datos.

Enlace de consulta: http://catedradatos.com.ar/recursos/tim-worstall-otra-vez-una-carrera-contra-las-maquinas/

19) Ford, Martin. Rise of the Robots: Technology and the Threat of a Jobless Future. 18 de Mayo de 2015. Entrevista recuperada de NPR: http://www.npr.org/sections/alltechconsidered/2015/05/18/407648886/attention-white-collar-workers-the-robots-are-coming-for-your-jobs

3.2 Lecturas de datos ¿No todo es apocalíptico?

20) Kelly, Kevin The Inevitable: Understanding the 12 Technological Forces That Will Shape Our Future . Capítulo 2. Traducción a cargo de María Ortiz y Victoria Carrizo. Uso exclusivo para la Cátedra de Datos.

Enlace de consulta: http://catedradatos.com.ar/recursos/kelly-kevin-the-inevitable/

21) Norberg, Johan. Introducción de Progress Ten Reasons to Look Forward to the Future. Traducción a cargo de Agustina Migliorini, de uso exclusivo para la Cátedra Datos.

Enlace de consulta: http://catedradatos.com.ar/recursos/norbergprogreso/

3.3 Aprendizaje profundo

22) Nick Bostrom, What happens when our computers get smarter than we are?, Charla TED, 2015.

Enlace de consulta: https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are

23) Brockman, John (ed) What to think about machines that thinkPregunta original Edge, 2015

3.4 Videografía para ver y recomendar

Google DeepMind’s Deep Q-learning playing Atari Breakout

Documental Plug and Pray

Unidad 4. Datascopía, datalogía y heurística híbridas

Gaston Bachelard nos enseñó que los instrumentos son teoría concretizada. Son expansores de la conciencia y del conocimiento, vinculados a la teoría y a los datos disponibles en cada época. Son el reflejo de ideologías y cosmovisiones y también del deseo (ocasional) de trascenderlos. Así como el telescopio y el microscopio aumentarón las potencias de 10 que somos capaces de auscultar Ray & Charles Eames Potencias de Diez), el macroscopio (Joel de Rosnay), nos sirvió en la década de 1970 para empezar a cernir la complejidad organizada.

Hoy hemos transformado el macroscopio en un datascopio (Erez Aiden, Jean-Baptiste Michel Uncharted: Big Data as a Lens on Human Culture. Mientras que algunos hiperoptimistas (como Chris Anderson en suponen que pronto los datos generarán sus propios hipotésis), no es menos cierto que la computación distribuida, la nube y los algoritmos sociales están permitiendo “hacer” ciencia colaborativa de formas inéditas y con resultados acumulativos mas que llamativos.

Desde el proyecto genoma humano, pasando por SETI, hasta las innumerables formas de uso (y abuso) del big data para procesar en tiempo real ingentes cantidades de datos, estamos asistiendo a la emergencia de heurísticas híbridas (personas + máquinas) que generan fenómenos fascinantes y aterradores por partes iguales. Perdida masiva de trabajo, aumento exponencial de la inteligencia humana, desconexión entre sectores enormes de la población, dualización de las prácticas y de los futuros.

A fin de afinar estas aseveraciones debemos responder preguntas y tratar temas como los siguientes:

Bachelard versión 2017. Von Foerster y McLuhan reloaded. El arte funcional: de ver la realidad con palabras a representarla con nuevos ojos gráficos. De Manovich y Moretti a: Rossling, Agueras, Barlow & Gourley, Aiden & Michel. De las superinteligencias a las mininteligencias. Los no-proyectos que nos dicen tanto. La política de los datos y los datos de la política. Dataísmo, la ideología numerológica de Silicon Valley. ¿Cómo hacer ciencia cuando las herramientas no son del común? De la privatización de las emociones a la privatización de las sensaciones. Cuando la globalización parecía llegar a su fin todo empieza de nuevo. Conectografía.

Bibliografía

24) Aiden, Erez & Michele, Jean-Baptiste “¿Qué aprendimos de 5 Millones de libros?”. Charla TED, 2011.

Enlace de consulta: https://www.ted.com/talks/what_we_learned_from_5_million_books

25) Charla Rosling (TED) The best stats you have ever seen. Charla TED, 2005.

Enlace de consulta: https://www.ted.com/talks/hans_rosling_shows_the_best_stats_you_ve_ever_seen

26) Manovich, Lev Instagram and Contemporary Images

4. 1 Proyectos de DatosUBA

 

Bibliografía Complementaria

1 Dramatis personae

Harari, Yuval Noah Homo Deus: a brief history of tomorrow (hay trad castellana)

2 Grandes estrategias de búsqueda y colaboración

Kurzweil, Ray The singularity is near

Kurzweil, Ray How to create a mind

Tevelow, Jesse The connection algorithm, take risks…Defy the Status Quo, and Live Your Passions

3 Proyectos madre

Domingos, Pedro The Master Algorithm http://amzn.to/2iMFtRp

Dormehl, Luke The formula. How algorithms solve all our problems and Create More http://amzn.to/2hz602C

4. Perspectivas dubitativas

Colvin, Geoof Humans Are Underrated. What High Achievers Know That Brilliant Machines Never Will

Kaplan, Jerry Humans Need not apply: A Guide to Wealth and Work in the Age of Artificial Intelligence

Lanier, Jaron Your are not a gadget a manifesto

Lanier, Jaron Who owns the future

Turkle, Sherry, Reclaiming Conversation: The Power of Talk in a Digital Age, Penguin Press (2015).

6. Fundamentos conceptuales

Dyson, George Darwin Among the Machines: The Evolution of Global Intelligence

Rushkoff, Douglas Present shock When Everything Happens Now

7. Aplicaciones de la vida cotidiana hoy y a futuro

Brynjolfsson, Erik &, McAfee, Andrew The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies

Clarke, Richard Cyberwar The Next Threat to National Security and What to Do About It

Kellmereit, Daniel, Obodovski, Daniel The Silent Intelligence: The Internet of Things .

Khanna, Parag Connectography: Mapping the Global Network Revolution. Charlas TED.

Mason, Paul Postcapitalism: A Guide to Our Future

Pearson, Taylor The end of jobs Money, Meaning and Freedom Without the 9-to-5

Wallerstein, Inmanuel et al Does capitalism have a future?

Kelly III, John & Hamm, Steve. Smart Machines. IBM´s Watson and the era of cognitive computing

 

Modalidad de trabajo y aprobación de la materia.

Esta materia orienta los conocimientos teóricos y conceptuales a su aplicación práctica en un trabajo grupal desarrollado a lo largo del cuatrimestre. Fundamentalmente éste se llevará a cabo en los prácticos. Las clases teóricas también brindarán herramientas para su desarrollo.

El trabajo práctico grupal se realizará durante toda la cursada, con presentaciones parciales obligatorias en el espacio de prácticos y teóricos. El producto final de ese trabajo será presentado en modalidad de coloquio para la evaluación final de la materia.
El trabajo deberá tener como punto de partida una problemática vinculada a la dimensión ética o política de los algoritmos, definida por cada equipo en función de su interés y relevancia del problema. Esa problemática deberá vincularse con algún eje de los planteados en el programa.
El objetivo es que puedan investigar/pensar a través del hacer: sea este hacer un ejercicio de investigación y visualización de datos, o el diseño de un algoritmo crítico, que reformule o intervenga aspectos identificados como limitaciones o riesgos.

La asistencia a los teóricos y prácticos será del 75% y será condición de regularidad.

Criterios de evaluación
– La vinculación entre la problemática planteada y el desarrollo propuesto.
– El desarrollo de la idea: a) base de datos b) visualizaciones c) diagrama de flujo o diseño propuesto.
– Comunicación de la idea.

Equipo docente

Prof Titular: Alejandro Piscitelli

Prof Adjunta: Estela Dominguez Halpern

Jefes de Trabajos Prácticos: Carolina Gruffat, Julio Alonso

Docentes: Mario Kiektik, Roberto Schimkus, Martín Rodriguez Kedikian, Gino Cingolani Trucco, Gabriela Sued

Ayudantes Adscriptos: Sophie Alamo, Agustina Migliorini, María Eugenia González Ocampo, Giselle Bordoy, Gonzalo Vaccari, Mariano Legname, Melisa Chetto, Nacho Escudero, Victoria Carrizo, Malvina Miranda, Enzo Tomás Evangelista, Guido Giambartolomei, Lucas Manchini.

Programador Web y asesor DIY: Valentín Muro

Comisiones 2017