21 de marzo de 2019

Gobernanza algorítmica: lo que se nos viene encima a la Administración

  Retrato del matemático Luca Pacioli. IACO.BAR. VIGENNIS. P. 1495

En la era de la información, integrados en la sociedad del conocimiento, donde el acceso e intercambio de datos genera riqueza, donde palabras como big data, machine learnig e inteligencia artificial (IA) empiezan a ser comunes, nos encontramos ante la nueva posibilidad de traducirlo todo a datos.

Estamos en la era del yo cuantificado, que podríamos definir como el hábito de cuantificar todo lo que nos ocurre en la vida, recopilando información que se produce gracias a los medios sociales, los gadgets con Gps, las aplicaciones de los móviles y otras herramientas. Tenemos la manía de medir los pasos que damos, los kilómetros que corremos, las calorías que comemos y las que quemamos, nuestro ritmo cardíaco, lo que ahorramos al dejar de fumar, la calidad del sueño, la productividad en el trabajo....

En la era del internet de las cosas, de la interconexión de objetos cotidianos con internet, en la cual Gartner pronostica que se utilizarán 14,2 mil millones de objetos conectados en 2019, y que el total alcanzará los 25 mil millones para 2021. Esto nos está llevando a la era de internet de todo, que consiste en reunir personas, procesos, datos y cosas para conseguir que las conexiones de red sean más pertinentes y valiosas que nunca, convirtiendo la información en acciones que creen nuevas capacidades, experiencias más ricas y oportunidades económicas sin precedentes para las empresas, las personas y los países, (Cisco, 2013).

Por otra parte, los algoritmos están presentes en nuestra vida desde hace ya bastantes años, influyen en cuales son los resultados de Google al hacer una búsqueda, en lo que vemos en nuestras redes sociales, en los precios de los billetes de nuestro avión, lo que pagamos por nuestros seguros, o dónde invierten fondos y planes de pensiones.

Un algoritmo es, según el profesor Ricardo Peña Marí, un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales, es decir, que es ciego ante lo que está haciendo. Por ello y dado que cada vez son más usados en una infinidad de ámbitos, tanto privados como públicos, necesitamos tener más presente el componente humano de la ecuación, y por lo tanto pasar de políticas reactivas a políticas activas para intentar regular la mano invisible de la tecnología.

Para que no se piense en esto como un futuro muy lejano vamos a comentar algunas iniciativas que ya se están tomando en el sector público.

Algunas administraciones y ciudades han implementado sistemas automatizados de toma de decisiones basados en algoritmos, entre los que podemos destacar, el sistema de admisión en las escuelas secundarias de Nueva York, donde los estudiantes clasifican las escuelas en una lista en función de sus preferencias y las escuelas hacen los mismo con los estudiantes. Este algoritmo determina una primera ronda de coincidencias y después se realiza una segunda ronda similar. El resto de estudiantes es asignado administrativamente. El porcentaje de alumnos asignados administrativamente bajo de un 37% a un 10%.

El algoritmo para evitar delitos de la policía de Chicago, asigna puntuaciones en base a arrestos, disparos, afiliaciones con miembros de pandillas y una serie de variables para predecir quién es más probable que empuñe un arma para disparar a otra persona (o reciba un disparo). Con ayuda del aprendizaje automático, los sistemas tecnológicos de la policía de Chicago identifican tendencias y patrones para predecir eventos, incluidos los posibles crímenes y los lugares en que ocurrirán.

En Suecia un algoritmo gestiona el subsidio de desempleo, comprueba si las personas que reciben este tipo de subsidio cumplen con sus obligaciones, entre ellas, buscar activamente trabajo, enviar avisos o retener pagos si no cumplían los requisitos. Se supone que esta medida ayudaría a aumentar la eficiencia, pero desde el otoño pasado el sistema ha colapsado y los humanos han vuelto a ocupar su lugar para corregir el problema cuanto antes.

El ya famoso sistema de crédito social en China, un sistema de puntuación ciudadana basado en la confiabilidad, el cual se aplica para todos sus ciudadanos y de éste depende que puedan acceder a diversos servicios y créditos

La administración italiana utiliza una herramienta llamada redditometro, capaz de cruzar datos confidenciales de los contribuyentes para descubrir evasores potenciales, ya que en base a ciertos gastos establece unos ingresos probables.

Y para terminar, no hace todavía un año cuando un robot se presentó por primera vez a la alcaldía de un distrito de Tokio. Sus creadores explicaban que el futuro pasa por algoritmos capaces de analizar los deseos y las peticiones de la población, satisfaciendo necesidades y resolviendo conflictos como ya lo hace su sistema, la IA lo cambiará todo, es solo cuestión de tiempo. Podremos desarrollar políticas imparciales y equilibradas. Implementaremos medidas rápidamente, acumulando información y liderando la próxima generación”.

No sé si echarme a temblar.

Algunos nos estamos preguntando ya qué cantidad de gobierno queremos dejar en manos de los algoritmos. Hay muchos ciudadanos que comienzan a verse afectados, y de momento ninguna administración está haciendo mucho por incluir los algoritmos dentro de las políticas de transparencia.

Por gobernanza algorítmica entenderemos, como Micaela Mantegna, el control sobre debilidades o posibles distorsiones en la construcción de estos modelos que puedan determinar un resultado sesgado, discriminatorio, injusto o inescrutable. Y ese control se ejerce mejor con medidas éticas, de transparencia y rendición de cuentas.

Y aunque ya en 2014 se hablaba de algocracia, "el gobierno de los algoritmos", también se habla de Regulación algorítmica como apuntaba Tim O`Reilly: "...la idea de regulación algorítmica es fundamental para todas las plataformas de Internet y proporciona un área fructífera para la investigación en el diseño del gobierno del siglo XXI".

¿Qué hacen los gobiernos sobre la regulación algorítmica? Pues de momento poca cosa, ni para bueno ni para malo. Ni para regularse ellos ni para regular a los demás. Silicon Valley nos lleva ventaja, se está autorregulando.

Comentaba Evgeny Morozov que: "Además de hacer que nuestra vida sea más eficiente, este mundo inteligente también nos presenta una opción política emocionante. Si gran parte de nuestro comportamiento cotidiano ya es capturado, analizado y enviado, ¿por qué seguir con enfoques no empíricos de regulación? ¿Por qué confiar en las leyes cuando uno tiene sensores y mecanismos de retroalimentación? Pero no es todo tan sencillo como él mismo apunta, ni se pueden hacer reflexiones muy simplistas. 

Lo que para unos es hablar de un futuro en el que el feedback de los datos entre ciudadanos e instituciones sea capaz de crear enmiendas a las leyes y normas sociales más justas, para otros es simplemente la capacidad de la combinación Datos-Algoritmos para tomar mejores decisiones a nivel político.

Pero además, por otro lado los sectores civiles y expertos hacen hincapié en que no debemos olvidar que lo que el algoritmo hace es ponerte una puntuación y a veces clasificarte, y lo hace de una manera que puede llegar a ser tan complicada que no puedes entenderla, no puedes plantear un recurso... No hay que abandonar la automatización ni dejar de confiar en los algoritmos, pero sí exigir que rindan cuentas (Cathy O`Neil).


En la próxima entrega de Gobernanza Algorítmica pondremos más ejemplos, unos pocos que hemos encontrado en España, y hablaremos de ventajas y problemas que acarrea todo este maremágnum, de privacidad, de ética y de regulación... algorítmica, por supuesto.

2 comentarios:

  1. Muy interesante y un poco perturbador Antonio: cada vez estamos ante problemas mas complejos y los algoritmos,de momento, ya apuntas a que resuleven aspectos en pasos finitos elementales. A la vez cuantas veces el ser humano que tiene que decidir se deja llevar sin un analisis completo
    A seguir aprendiendo y reflexionando

    ResponderEliminar
    Respuestas
    1. La verdad es que nos estamos adentrando en un mundo cada vez más complejo, pero no queda otra que seguir aprendiendo, porque todo esto llegará a nuestras administraciones, y más pronto que tarde.

      Gracias por pasarte y comentar Máximo.

      Eliminar