Retrato del matemático Luca Pacioli. IACO.BAR. VIGENNIS. P. 1495
En la era de la información, integrados en la sociedad del conocimiento, donde el acceso e intercambio de datos genera riqueza, donde palabras como
big data,
machine learnig e inteligencia artificial (IA) empiezan a ser comunes, nos encontramos ante la nueva posibilidad de traducirlo todo a datos.
Estamos en la era del
yo cuantificado, que podríamos definir como el hábito de cuantificar todo lo que nos ocurre en la vida, recopilando información que se produce gracias a los medios sociales, los gadgets con Gps, las aplicaciones de los móviles y otras herramientas. Tenemos la manía de medir los pasos que damos, los kilómetros que corremos, las calorías que comemos y las que quemamos, nuestro ritmo cardíaco, lo que ahorramos al dejar de fumar, la calidad del sueño, la productividad en el trabajo....
En la era del
internet de las cosas, de la interconexión de objetos cotidianos con internet, en la cual
Gartner pronostica que se utilizarán 14,2 mil millones de objetos conectados en 2019, y que el total alcanzará los 25 mil millones para 2021. Esto nos está llevando a la era de
internet de todo, que consiste en
reunir personas, procesos, datos y cosas para conseguir que las conexiones de red sean más pertinentes y valiosas que nunca, convirtiendo la información en acciones que creen nuevas capacidades, experiencias más ricas y oportunidades económicas sin precedentes para las empresas, las personas y los países, (
Cisco, 2013).
Por otra parte, los
algoritmos están presentes en nuestra vida desde hace ya bastantes años, influyen en cuales son los resultados de Google al hacer una búsqueda, en lo que vemos en nuestras redes sociales, en los precios de los billetes de nuestro avión, lo que pagamos por nuestros seguros, o dónde invierten fondos y planes de pensiones.
Un
algoritmo es, según el profesor Ricardo Peña Marí, un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales, es decir, que es ciego ante lo que está haciendo. Por ello y dado que cada vez son más usados en una infinidad de ámbitos, tanto privados como públicos, necesitamos tener más presente el componente humano de la ecuación, y por lo tanto pasar de políticas reactivas a políticas activas para intentar regular
la mano invisible de la tecnología.
Para que no se piense en esto como un futuro muy lejano vamos a
comentar algunas iniciativas que ya se están tomando en el sector
público.
Algunas administraciones y
ciudades han implementado sistemas automatizados de toma de decisiones
basados en algoritmos, entre los que podemos destacar, el
sistema de admisión en las escuelas secundarias de Nueva York,
donde los estudiantes clasifican las escuelas en una lista en función
de sus preferencias y las escuelas hacen los mismo con los estudiantes. Este algoritmo determina una primera ronda de coincidencias y después se
realiza una segunda ronda similar. El resto de estudiantes es asignado
administrativamente. El porcentaje de alumnos asignados
administrativamente bajo de un 37% a un 10%.
El
algoritmo para evitar delitos de la policía de Chicago,
asigna puntuaciones en base a arrestos, disparos, afiliaciones con
miembros de pandillas y una serie de variables para predecir quién es
más probable que empuñe un arma para disparar a otra persona (o reciba
un disparo). Con ayuda del aprendizaje automático, los sistemas
tecnológicos de la policía de Chicago identifican tendencias y patrones
para predecir eventos, incluidos los posibles crímenes y los lugares en
que ocurrirán.
En Suecia un
algoritmo gestiona el subsidio de desempleo, comprueba si las personas que reciben este
tipo de subsidio cumplen con sus obligaciones, entre
ellas, buscar activamente trabajo, enviar avisos o retener pagos si no
cumplían los requisitos. Se supone que esta medida ayudaría a aumentar
la eficiencia, pero desde el otoño pasado el sistema ha colapsado y los
humanos han vuelto a ocupar su lugar para corregir el problema cuanto
antes.
El ya famoso
sistema de crédito social en China,
un sistema de puntuación ciudadana basado en la confiabilidad, el cual
se aplica para todos sus ciudadanos y de éste depende que puedan acceder
a diversos servicios y créditos
La administración italiana utiliza una herramienta llamada
redditometro,
capaz de cruzar datos confidenciales de los contribuyentes para
descubrir evasores potenciales, ya que en base a ciertos gastos
establece unos ingresos probables.
Y para terminar, no hace todavía un año cuando
un robot se presentó por primera vez a la alcaldía de un distrito de Tokio. Sus creadores explicaban que
“el
futuro pasa por algoritmos capaces de analizar los deseos y las
peticiones de la población, satisfaciendo necesidades y resolviendo
conflictos como ya lo hace su sistema, la IA lo cambiará todo, es solo
cuestión de tiempo. Podremos desarrollar políticas imparciales y
equilibradas. Implementaremos medidas rápidamente, acumulando
información y liderando la próxima generación”.
No sé si echarme a temblar.
Algunos nos estamos preguntando ya qué cantidad de gobierno queremos
dejar en manos de los algoritmos. Hay muchos ciudadanos que comienzan
a verse afectados, y de momento ninguna administración está haciendo mucho
por incluir los algoritmos dentro de las políticas de transparencia.
Por gobernanza algorítmica entenderemos, como
Micaela Mantegna, el control sobre debilidades o posibles distorsiones en la construcción de estos modelos que puedan determinar un resultado sesgado, discriminatorio, injusto o inescrutable. Y ese control se ejerce mejor con medidas éticas, de transparencia y rendición de cuentas.
Y aunque ya en 2014 se hablaba de
algocracia,
"el gobierno de los algoritmos", también se habla de
Regulación algorítmica como apuntaba Tim O`Reilly: "
...la
idea de regulación algorítmica es fundamental para todas las
plataformas de Internet y proporciona un área fructífera para la
investigación en el diseño del gobierno del siglo XXI".
¿Qué hacen los gobiernos sobre la regulación algorítmica? Pues de momento poca cosa, ni para bueno ni para malo. Ni para regularse ellos ni para regular a los demás. Silicon Valley nos lleva ventaja, se está autorregulando.
Comentaba
Evgeny Morozov que: "
Además
de hacer que nuestra vida sea más eficiente, este mundo inteligente
también nos presenta una opción política emocionante. Si gran parte de
nuestro comportamiento cotidiano ya es capturado, analizado y enviado,
¿por qué seguir con enfoques no empíricos de regulación? ¿Por qué
confiar en las leyes cuando uno tiene sensores y mecanismos de
retroalimentación? Pero no es todo tan sencillo como él mismo apunta, ni se pueden hacer reflexiones muy simplistas.
Lo que para
unos es hablar de un futuro en el que el feedback de los datos entre ciudadanos e instituciones sea capaz de crear enmiendas a las leyes y normas sociales más justas, para
otros es simplemente la capacidad de la combinación Datos-Algoritmos para tomar mejores decisiones a nivel político.
Pero además, por otro lado los sectores civiles y expertos hacen hincapié en que no debemos olvidar que lo que el algoritmo hace es ponerte una puntuación y a veces clasificarte, y lo hace de una manera que puede llegar a ser tan complicada que no puedes entenderla, no puedes plantear un recurso... No hay que abandonar la automatización ni dejar de confiar en los algoritmos, pero sí exigir que rindan cuentas (
Cathy O`Neil).
En la próxima entrega de Gobernanza Algorítmica pondremos más ejemplos, unos pocos que hemos encontrado en España, y hablaremos de ventajas y problemas que acarrea todo este maremágnum, de privacidad, de ética y de regulación... algorítmica, por supuesto.
