25 de septiembre de 2019

Antes la caja tonta y ahora el smartphone idiotiza

Leyendo el artículo "Hace un siglo ya existía Facebook y la gente solo leía chorradas" en Yorokobu, en el que se sueltan perlas como que el smartphone no ha idiotizado a la gente: la gente ya venía idiota de casa, o que la tonta no era la caja, sino nosotros, he llegado a una entrevista a Antonio Escohotado de hace ya unos meses, donde nos recuerda que disponiendo ahora de un dispositivo donde se alberga todo el conocimiento de la humanidad, la gente opta por pasatiempos o por contenidos superfluos.
Y la verdad es que es un tema al que prestamos muy poca atención. El mismo Escohotado cree que el hombre nunca ha sido tan libre como desde que apareció internet. Que ha sido el obsequio mas grande a la humanidad desde que se inventó el fuego. Pero quizás faltan dos o tres generaciones para asimilarlo.

Han sido muchos los autores que han hablado de las dificultades en la apropiación del uso de las Nuevas Tecnologías de la Información y la Comunicación (NTIC) por parte de la población.

Podemos entender por apropiación social de las NTIC al proceso de uso, comprensión y relación entre nuevas tecnologías y sociedad.

Para explicar un poco estas ideas, y siguiendo a autores como Sáez (2010)* partiremos del concepto de capital informacional (Hamelink, 2000) que no es ni más ni menos que la capacidad financiera para pagar la utilización de redes electrónicas y servicios de información, la habilidad técnica para manejar las infraestructuras de estas redes, la capacidad intelectual para filtrar y evaluar la información, como también la motivación activa para buscar información, y la habilidad para aplicar la información a situaciones sociales.

A partir de esta definición, se pueden establecer distintos niveles de apropiación de las NTIC:
  • El primer nivel sería el acceso a las herramientas.
  • El segundo nivel haría referencia a la formación necesaria para manejar los equipos y los programas necesarios
  • El tercer nivel es el que relaciona la comunicación y el acceso tecnológico con los procesos de cambio social, verdadero eje vertebral, por ejemplo, de los nuevos modos comunicación y organización de los movimientos sociales. Descubriendo las posibilidades que ofrecen las tecnologías de la información para el trabajo en red.
Es en este tercer nivel dónde se producen cambios diferenciales.

Mucho se ha hablado de brecha digital, por las dificultades económicas de acceso a las tecnologías por ciertos sectores de la población, mucho se ha hablado también de la escasa formación para el manejo útil de estas tecnologías. Pero poco se habla del tercer nivel, ya que no todo se basa en capacidades intelectuales, sino también en motivación activa y las habilidades tecno-sociales mencionadas anteriormente.

Creo que tendremos que volver a usar los antiguos dichos y refranes, en este caso la información no es poder, ya que disponemos de ella en nuestra propia mano, en este caso el "querer" es poder. Y no veo yo a muchos queriendo...

Como podéis leer, esta semana estoy más ciberescéptico que ciberutópico.




* SÁEZ, Víctor Manuel Marí. Crítica del concepto de “capital social”(Putnam) y propuesta del enfoque de “capital informacional”(Hamelink) para el análisis y el diseño de estrategias de apropiación social de las TIC por parte de los movimientos sociales. Economia Política das Tecnologias da Informação e da Comunicação, 2011, vol. 12, no 1.

16 de septiembre de 2019

Ciberutópicos y Ciberescépticos

Hay mañanas que, como todo hijo de vecino, me levanto de mejor humor que otras. Hay mañanas que me levanto canturreando y hay otras que me dan ganas de lanzar el despertador contra la pared.

Hay días que me parece que esto tiene arreglo, y hay otros en los que pienso que esto no le arregla ni Dios.

Algunos de esos días pienso que internet y la tecnología nos ayudaran a salir del agujero en el que poco a poco nos estamos metiendo, pero otros me da por pensar que precisamente es internet y la tecnología quien nos está ayudando a cavar ese agujero.

Me da por pensar en su carácter democratizador unos días y por su poca accesiblidad, tanto económica como formativa, otros. A veces incluso pienso que todo esto de la participación y acceso a la información le importa un pito al común de los mortales.

Desde hace ya muchos años hay un debate general sobre el potencial democrático de las nuevas tecnologías, con autores que defienden posturas diferentes, algunos con más vehemencia que otros.

Como indica Jorge Resina De la Fuente*, identificando dos grandes posiciones, de un lado se encuentran los ciberoptimistas, aquellos para quienes internet supondría una estructura de oportunidad para la participación, y de otro los ciberescépticos, quienes subrayan la importancia de los aspectos textuales por encima del potencial tecnológico.

Aporta el autor una tabla resumen con las distintas posiciones del mencionado debate que reproduzco a continuación.

 Fuente: Resina De la Fuente , Jorge (2010).

Identificando los principales autores y teorías sobre las posibilidades que nos ofrece internet, vemos que el debate es prolífico y las posiciones aún son encontradas.

En los últimos años autores como Morozov nos deleitan de vez en cuando con frases y conceptos como "Todo va a ir mucho peor" o el "feudalismo tecnológico".

Yo esta mañana me he levantado más utópico que distópico, así que creo que el potencial social de la tecnología hace que, como decía Clay Shirky, estemos viviendo el mayor incremento de la capacidad expresiva en la historia de la humanidad. Y eso, aunque no todos seamos capaces de ser siempre memorables, me parece algo muy positivo.

Así que por aquí seguiremos una temporada más. Bienvenidos de nuevo.


* De la Fuente, J. R. (2010). Ciberpolítica, redes sociales y nuevas movilizaciones en España: el impacto digital en los procesos de deliberación y participación ciudadana. Mediaciones sociales, 7, 143-164.

 

3 de abril de 2019

Gobernanza algorítmica (II): más ejemplos y políticas que ya están aquí


Alegoría de la Aritmética. Laurent de La Hyre


Para terminar el repaso por iniciativas interesantes de este tipo, que iniciamos en el post anterior,Gobernanza Algorítmica, debemos citar un estudio de Cardiff University y Sky News según el cual al menos 53 ciudades de Reino Unido utilizan modelos informáticos para para detectar problemas antes de que ocurran. Los algoritmos predictivos, donde los ordenadores procesan estadísticas para asesorar sobre posibles resultados futuros, son cada vez más comunes.

Su investigación sobre estos algoritmos revela una revolución oculta que tiene lugar en los servicios públicos de Reino Unido. Hay muy poca supervisión de este nuevo campo, ya que ni el gobierno central ni el local de Reino Unido proporcionan listas de dónde se están introduciendo estos sistemas, cómo se utilizan y cómo se comparten los datos de los ciudadanos. Muy a menudo, comentan, las personas afectadas no saben que su vida ha sido víctima de una predicción algorítmica. La investigación encontró algoritmos predictivos que se utilizan para aplicaciones tan diversas como la gestión del tráfico, subsidios de vivienda y la identificación de niños en riesgo de abandono o abuso.

Pero hay una verdad oculta dentro de toda esta revolución, y es que la utilización de estos algoritmos son menos un signo de incorporación de nuevas tecnologías y más una señal de la llegada de la siguiente etapa de austeridad. El potencial de los algoritmos para reducir costes es demasiado atractivo como para resistirse.

Para terminar, estos artículos realizan unas reflexiones entorno a la privacidad, en el debate surgido en este propio medio, que indica que las autoridades, sin supervisión y con fondos insuficientes, han estado experimentando con nuevas herramientas que pretenden ayudar a resolver problemas complejos, que van desde el abuso infantil, los problemas familiares, el embarazo en la adolescencia, las pandillas juveniles y el derecho a la asistencia social, por lo que si las funciones del gobierno digital se vuelven más invasivas, opacas, crípticas y sin nadie que las  cuestione, nuestra capacidad para hacer frente a esas decisiones se convertirá en poco más que una ficción.

Otra noticia que viene a ahondar en el debate, y que se ha publicado recientemente indica que según el estudio « European Tech Insights 2019» de IE University, desarrollado por el nuevo Center for the Governance of Change (CGC), uno de cada cuatro europeos estaría a favor de que un dispositivo de inteligencia artificial tomara decisiones importantes sobre cuestiones que atañan a la administración de su país.

Pero si bien los ciudadanos demuestran una preferencia para que sea la IA la que sustituya en sus funciones a los responsables políticos, los europeos, a su vez, manifiestan un claro temor a los avances tecnológicos, sobre todo ante el impulso de la automatización de procesos, por la pérdida de puestos de trabajo que puede suponer.

Por otra parte, entre las iniciativas españolas hay poco que contar. Entre las que podemos citar, haciendo una simple búsqueda en internet, destacan las siguientes:

Un algoritmo para reducir la pobreza. El ayuntamiento de Madrid encargó a expertos de la Carlos III, el diseño de un algoritmo de la vulnerabilidad. Les dio 12 datos como paro, esperanza de vida, renta, vivienda y los agruparon en cinco indices. Y así analizaron los 128 barrios. Los datos los tiene en cuenta el Ayuntamiento para repartir los fondos de reequilibrio territorial. El algoritmo se actualiza con datos nuevos y permite evaluar los cambios aunque desde el ayuntamiento insiste que es una política a largo plazo.

¿Cuánto odio hay en Twitter? No mucho, pero es constante y hay para todos. Un algoritmo que ha empezado a usar el Ministerio del Interior sirve de termómetro de la red social. El algoritmo rastrea unos 6 millones de tuits en 24 horas con un filtro que incluye más de 500 palabras vinculadas a insultos y a grupos de víctimas de odio: política, género, etnicidad, discapacidad, religión y deportes.
La aplicación está instalada en la Oficina Nacional de Lucha contra Delitos de Odio, del Ministerio del Interior.

El algoritmo Euphemia fija el precio de la luz en España y en otros 22 países europeos. El operador del mercado mayorista afirma que Euphemia es un sistema que calcula los precios de la electricidad «de manera eficiente» y que se utiliza de manera común y sincronizada con los demás mercados europeos de la electricidad. Algunos sectores cuestionan el modelo porque la energía más cara, el gas, es la que determina el coste final del megavatio.

Accenture y Metro de Madrid equilibran eficiencia energética y confort gracias a la Inteligencia Artificial. Durante el último año, el sistema, diseñado por ambas compañías redujo un 25% los costes de energía y 1.800 toneladas de emisiones de CO2. El sistema utiliza un algoritmo de optimización capaz de movilizar grandes cantidades de datos para obtener todas las combinaciones posibles en cuanto a temperatura del aire, arquitectura de la estación, frecuencia de trenes, carga de pasajeros y precio de la electricidad a lo largo del día.

Y hablando de políticas y planes tenemos la Estrategia Española de I+D+I en Inteligencia Artificial, del Ministerio de Ciencia, Innovación y Universidades, que indica también los riesgos que debemos prevenir y solventar incluyendo transparencia en los algoritmos y modelos, evitando la manipulación de comportamientos, tomando medidas ante la automatización del trabajo, abordando la equidad de los modelos y promoviendo un uso honesto de la tecnología.

Afirma que aunque los algoritmos actuales son todavía deficientes, cabe esperar que en un futuro mejoren sus capacidades predictivas: el análisis de imágenes procedentes de cámaras de vídeo o el análisis de las redes sociales mediante tecnologías del lenguaje y el diseño de perfiles basados en el análisis de secuencias temporales de datos... Estas son áreas en las que deben realizarse avances para predecir comportamientos y potenciales incidentes manteniendo el respeto a las cuestiones éticas que plantean.

El ámbito de la seguridad incluye otros campos como es el aspecto asistencial a colectivos en riesgo de exclusión. La IA puede intervenir para mejorar la seguridad de estos colectivos mediante el análisis de patrones sociales para la prevención.

Y claro con esto mimbres surgen noticias que nos avanzan que el Gobierno diseña un 'Gran Hermano' con los datos de los ciudadanos, que planea la creación del Instituto Nacional de Datos, organismo que analizaría la información de los españoles con Inteligencia Artificial. Evidentemente la propuesta se recoge dentro de la mencionada estrategia de I+D+i en Inteligencia Artificial, pero creo que no en esos términos, pero evidentemente podría ser usada para eso.

Entre las pocas políticas municipales tenemos, dentro del Plan digital del Ayuntamiento de Barcelona, de mayo del 2018, la Medida de gobierno de gestión ética y responsable de datos: Barcelona Data Commons, la cual, entre otros aspectos indica:
Las diferencias entre el diseño y la operación de estos algoritmos y nuestra comprensión de lo que implican pueden tener consecuencias éticas graves que afecten tanto a personas individuales como a grupos de ciudadanos y ciudadanas. Es esencial que las decisiones que tome el Ayuntamiento utilizando algoritmos basados en nuestros datos sean accountable (aplicando el concepto de algorítmico accountability) y garanticen los principios éticos del respeto por los derechos, la justicia, el concepto de fairness, el bienestar y la virtud.

Como vemos el tema es muy interesante y todavía hay muchos aspectos para abordar. Podemos tener la sensación de que en España nuestras administraciones están muy lejos de otras, tanto europeas como de otros continentes, pero la verdad es que debemos comenzar a estar atentos, porque todo llega, tanto en la toma de decisiones, como en la automatización de tareas. Pero eso lo dejaremos para otra ocasión.


21 de marzo de 2019

Gobernanza algorítmica: lo que se nos viene encima a la Administración

  Retrato del matemático Luca Pacioli. IACO.BAR. VIGENNIS. P. 1495

En la era de la información, integrados en la sociedad del conocimiento, donde el acceso e intercambio de datos genera riqueza, donde palabras como big data, machine learnig e inteligencia artificial (IA) empiezan a ser comunes, nos encontramos ante la nueva posibilidad de traducirlo todo a datos.

Estamos en la era del yo cuantificado, que podríamos definir como el hábito de cuantificar todo lo que nos ocurre en la vida, recopilando información que se produce gracias a los medios sociales, los gadgets con Gps, las aplicaciones de los móviles y otras herramientas. Tenemos la manía de medir los pasos que damos, los kilómetros que corremos, las calorías que comemos y las que quemamos, nuestro ritmo cardíaco, lo que ahorramos al dejar de fumar, la calidad del sueño, la productividad en el trabajo....

En la era del internet de las cosas, de la interconexión de objetos cotidianos con internet, en la cual Gartner pronostica que se utilizarán 14,2 mil millones de objetos conectados en 2019, y que el total alcanzará los 25 mil millones para 2021. Esto nos está llevando a la era de internet de todo, que consiste en reunir personas, procesos, datos y cosas para conseguir que las conexiones de red sean más pertinentes y valiosas que nunca, convirtiendo la información en acciones que creen nuevas capacidades, experiencias más ricas y oportunidades económicas sin precedentes para las empresas, las personas y los países, (Cisco, 2013).

Por otra parte, los algoritmos están presentes en nuestra vida desde hace ya bastantes años, influyen en cuales son los resultados de Google al hacer una búsqueda, en lo que vemos en nuestras redes sociales, en los precios de los billetes de nuestro avión, lo que pagamos por nuestros seguros, o dónde invierten fondos y planes de pensiones.

Un algoritmo es, según el profesor Ricardo Peña Marí, un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales, es decir, que es ciego ante lo que está haciendo. Por ello y dado que cada vez son más usados en una infinidad de ámbitos, tanto privados como públicos, necesitamos tener más presente el componente humano de la ecuación, y por lo tanto pasar de políticas reactivas a políticas activas para intentar regular la mano invisible de la tecnología.

Para que no se piense en esto como un futuro muy lejano vamos a comentar algunas iniciativas que ya se están tomando en el sector público.

Algunas administraciones y ciudades han implementado sistemas automatizados de toma de decisiones basados en algoritmos, entre los que podemos destacar, el sistema de admisión en las escuelas secundarias de Nueva York, donde los estudiantes clasifican las escuelas en una lista en función de sus preferencias y las escuelas hacen los mismo con los estudiantes. Este algoritmo determina una primera ronda de coincidencias y después se realiza una segunda ronda similar. El resto de estudiantes es asignado administrativamente. El porcentaje de alumnos asignados administrativamente bajo de un 37% a un 10%.

El algoritmo para evitar delitos de la policía de Chicago, asigna puntuaciones en base a arrestos, disparos, afiliaciones con miembros de pandillas y una serie de variables para predecir quién es más probable que empuñe un arma para disparar a otra persona (o reciba un disparo). Con ayuda del aprendizaje automático, los sistemas tecnológicos de la policía de Chicago identifican tendencias y patrones para predecir eventos, incluidos los posibles crímenes y los lugares en que ocurrirán.

En Suecia un algoritmo gestiona el subsidio de desempleo, comprueba si las personas que reciben este tipo de subsidio cumplen con sus obligaciones, entre ellas, buscar activamente trabajo, enviar avisos o retener pagos si no cumplían los requisitos. Se supone que esta medida ayudaría a aumentar la eficiencia, pero desde el otoño pasado el sistema ha colapsado y los humanos han vuelto a ocupar su lugar para corregir el problema cuanto antes.

El ya famoso sistema de crédito social en China, un sistema de puntuación ciudadana basado en la confiabilidad, el cual se aplica para todos sus ciudadanos y de éste depende que puedan acceder a diversos servicios y créditos

La administración italiana utiliza una herramienta llamada redditometro, capaz de cruzar datos confidenciales de los contribuyentes para descubrir evasores potenciales, ya que en base a ciertos gastos establece unos ingresos probables.

Y para terminar, no hace todavía un año cuando un robot se presentó por primera vez a la alcaldía de un distrito de Tokio. Sus creadores explicaban que el futuro pasa por algoritmos capaces de analizar los deseos y las peticiones de la población, satisfaciendo necesidades y resolviendo conflictos como ya lo hace su sistema, la IA lo cambiará todo, es solo cuestión de tiempo. Podremos desarrollar políticas imparciales y equilibradas. Implementaremos medidas rápidamente, acumulando información y liderando la próxima generación”.

No sé si echarme a temblar.

Algunos nos estamos preguntando ya qué cantidad de gobierno queremos dejar en manos de los algoritmos. Hay muchos ciudadanos que comienzan a verse afectados, y de momento ninguna administración está haciendo mucho por incluir los algoritmos dentro de las políticas de transparencia.

Por gobernanza algorítmica entenderemos, como Micaela Mantegna, el control sobre debilidades o posibles distorsiones en la construcción de estos modelos que puedan determinar un resultado sesgado, discriminatorio, injusto o inescrutable. Y ese control se ejerce mejor con medidas éticas, de transparencia y rendición de cuentas.

Y aunque ya en 2014 se hablaba de algocracia, "el gobierno de los algoritmos", también se habla de Regulación algorítmica como apuntaba Tim O`Reilly: "...la idea de regulación algorítmica es fundamental para todas las plataformas de Internet y proporciona un área fructífera para la investigación en el diseño del gobierno del siglo XXI".

¿Qué hacen los gobiernos sobre la regulación algorítmica? Pues de momento poca cosa, ni para bueno ni para malo. Ni para regularse ellos ni para regular a los demás. Silicon Valley nos lleva ventaja, se está autorregulando.

Comentaba Evgeny Morozov que: "Además de hacer que nuestra vida sea más eficiente, este mundo inteligente también nos presenta una opción política emocionante. Si gran parte de nuestro comportamiento cotidiano ya es capturado, analizado y enviado, ¿por qué seguir con enfoques no empíricos de regulación? ¿Por qué confiar en las leyes cuando uno tiene sensores y mecanismos de retroalimentación? Pero no es todo tan sencillo como él mismo apunta, ni se pueden hacer reflexiones muy simplistas. 

Lo que para unos es hablar de un futuro en el que el feedback de los datos entre ciudadanos e instituciones sea capaz de crear enmiendas a las leyes y normas sociales más justas, para otros es simplemente la capacidad de la combinación Datos-Algoritmos para tomar mejores decisiones a nivel político.

Pero además, por otro lado los sectores civiles y expertos hacen hincapié en que no debemos olvidar que lo que el algoritmo hace es ponerte una puntuación y a veces clasificarte, y lo hace de una manera que puede llegar a ser tan complicada que no puedes entenderla, no puedes plantear un recurso... No hay que abandonar la automatización ni dejar de confiar en los algoritmos, pero sí exigir que rindan cuentas (Cathy O`Neil).


En la próxima entrega de Gobernanza Algorítmica pondremos más ejemplos, unos pocos que hemos encontrado en España, y hablaremos de ventajas y problemas que acarrea todo este maremágnum, de privacidad, de ética y de regulación... algorítmica, por supuesto.