3 de abril de 2019

Gobernanza algorítmica (II): más ejemplos y políticas que ya están aquí


Alegoría de la Aritmética. Laurent de La Hyre


Para terminar el repaso por iniciativas interesantes de este tipo, que iniciamos en el post anterior,Gobernanza Algorítmica, debemos citar un estudio de Cardiff University y Sky News según el cual al menos 53 ciudades de Reino Unido utilizan modelos informáticos para para detectar problemas antes de que ocurran. Los algoritmos predictivos, donde los ordenadores procesan estadísticas para asesorar sobre posibles resultados futuros, son cada vez más comunes.

Su investigación sobre estos algoritmos revela una revolución oculta que tiene lugar en los servicios públicos de Reino Unido. Hay muy poca supervisión de este nuevo campo, ya que ni el gobierno central ni el local de Reino Unido proporcionan listas de dónde se están introduciendo estos sistemas, cómo se utilizan y cómo se comparten los datos de los ciudadanos. Muy a menudo, comentan, las personas afectadas no saben que su vida ha sido víctima de una predicción algorítmica. La investigación encontró algoritmos predictivos que se utilizan para aplicaciones tan diversas como la gestión del tráfico, subsidios de vivienda y la identificación de niños en riesgo de abandono o abuso.

Pero hay una verdad oculta dentro de toda esta revolución, y es que la utilización de estos algoritmos son menos un signo de incorporación de nuevas tecnologías y más una señal de la llegada de la siguiente etapa de austeridad. El potencial de los algoritmos para reducir costes es demasiado atractivo como para resistirse.

Para terminar, estos artículos realizan unas reflexiones entorno a la privacidad, en el debate surgido en este propio medio, que indica que las autoridades, sin supervisión y con fondos insuficientes, han estado experimentando con nuevas herramientas que pretenden ayudar a resolver problemas complejos, que van desde el abuso infantil, los problemas familiares, el embarazo en la adolescencia, las pandillas juveniles y el derecho a la asistencia social, por lo que si las funciones del gobierno digital se vuelven más invasivas, opacas, crípticas y sin nadie que las  cuestione, nuestra capacidad para hacer frente a esas decisiones se convertirá en poco más que una ficción.

Otra noticia que viene a ahondar en el debate, y que se ha publicado recientemente indica que según el estudio « European Tech Insights 2019» de IE University, desarrollado por el nuevo Center for the Governance of Change (CGC), uno de cada cuatro europeos estaría a favor de que un dispositivo de inteligencia artificial tomara decisiones importantes sobre cuestiones que atañan a la administración de su país.

Pero si bien los ciudadanos demuestran una preferencia para que sea la IA la que sustituya en sus funciones a los responsables políticos, los europeos, a su vez, manifiestan un claro temor a los avances tecnológicos, sobre todo ante el impulso de la automatización de procesos, por la pérdida de puestos de trabajo que puede suponer.

Por otra parte, entre las iniciativas españolas hay poco que contar. Entre las que podemos citar, haciendo una simple búsqueda en internet, destacan las siguientes:

Un algoritmo para reducir la pobreza. El ayuntamiento de Madrid encargó a expertos de la Carlos III, el diseño de un algoritmo de la vulnerabilidad. Les dio 12 datos como paro, esperanza de vida, renta, vivienda y los agruparon en cinco indices. Y así analizaron los 128 barrios. Los datos los tiene en cuenta el Ayuntamiento para repartir los fondos de reequilibrio territorial. El algoritmo se actualiza con datos nuevos y permite evaluar los cambios aunque desde el ayuntamiento insiste que es una política a largo plazo.

¿Cuánto odio hay en Twitter? No mucho, pero es constante y hay para todos. Un algoritmo que ha empezado a usar el Ministerio del Interior sirve de termómetro de la red social. El algoritmo rastrea unos 6 millones de tuits en 24 horas con un filtro que incluye más de 500 palabras vinculadas a insultos y a grupos de víctimas de odio: política, género, etnicidad, discapacidad, religión y deportes.
La aplicación está instalada en la Oficina Nacional de Lucha contra Delitos de Odio, del Ministerio del Interior.

El algoritmo Euphemia fija el precio de la luz en España y en otros 22 países europeos. El operador del mercado mayorista afirma que Euphemia es un sistema que calcula los precios de la electricidad «de manera eficiente» y que se utiliza de manera común y sincronizada con los demás mercados europeos de la electricidad. Algunos sectores cuestionan el modelo porque la energía más cara, el gas, es la que determina el coste final del megavatio.

Accenture y Metro de Madrid equilibran eficiencia energética y confort gracias a la Inteligencia Artificial. Durante el último año, el sistema, diseñado por ambas compañías redujo un 25% los costes de energía y 1.800 toneladas de emisiones de CO2. El sistema utiliza un algoritmo de optimización capaz de movilizar grandes cantidades de datos para obtener todas las combinaciones posibles en cuanto a temperatura del aire, arquitectura de la estación, frecuencia de trenes, carga de pasajeros y precio de la electricidad a lo largo del día.

Y hablando de políticas y planes tenemos la Estrategia Española de I+D+I en Inteligencia Artificial, del Ministerio de Ciencia, Innovación y Universidades, que indica también los riesgos que debemos prevenir y solventar incluyendo transparencia en los algoritmos y modelos, evitando la manipulación de comportamientos, tomando medidas ante la automatización del trabajo, abordando la equidad de los modelos y promoviendo un uso honesto de la tecnología.

Afirma que aunque los algoritmos actuales son todavía deficientes, cabe esperar que en un futuro mejoren sus capacidades predictivas: el análisis de imágenes procedentes de cámaras de vídeo o el análisis de las redes sociales mediante tecnologías del lenguaje y el diseño de perfiles basados en el análisis de secuencias temporales de datos... Estas son áreas en las que deben realizarse avances para predecir comportamientos y potenciales incidentes manteniendo el respeto a las cuestiones éticas que plantean.

El ámbito de la seguridad incluye otros campos como es el aspecto asistencial a colectivos en riesgo de exclusión. La IA puede intervenir para mejorar la seguridad de estos colectivos mediante el análisis de patrones sociales para la prevención.

Y claro con esto mimbres surgen noticias que nos avanzan que el Gobierno diseña un 'Gran Hermano' con los datos de los ciudadanos, que planea la creación del Instituto Nacional de Datos, organismo que analizaría la información de los españoles con Inteligencia Artificial. Evidentemente la propuesta se recoge dentro de la mencionada estrategia de I+D+i en Inteligencia Artificial, pero creo que no en esos términos, pero evidentemente podría ser usada para eso.

Entre las pocas políticas municipales tenemos, dentro del Plan digital del Ayuntamiento de Barcelona, de mayo del 2018, la Medida de gobierno de gestión ética y responsable de datos: Barcelona Data Commons, la cual, entre otros aspectos indica:
Las diferencias entre el diseño y la operación de estos algoritmos y nuestra comprensión de lo que implican pueden tener consecuencias éticas graves que afecten tanto a personas individuales como a grupos de ciudadanos y ciudadanas. Es esencial que las decisiones que tome el Ayuntamiento utilizando algoritmos basados en nuestros datos sean accountable (aplicando el concepto de algorítmico accountability) y garanticen los principios éticos del respeto por los derechos, la justicia, el concepto de fairness, el bienestar y la virtud.

Como vemos el tema es muy interesante y todavía hay muchos aspectos para abordar. Podemos tener la sensación de que en España nuestras administraciones están muy lejos de otras, tanto europeas como de otros continentes, pero la verdad es que debemos comenzar a estar atentos, porque todo llega, tanto en la toma de decisiones, como en la automatización de tareas. Pero eso lo dejaremos para otra ocasión.


21 de marzo de 2019

Gobernanza algorítmica: lo que se nos viene encima a la Administración

  Retrato del matemático Luca Pacioli. IACO.BAR. VIGENNIS. P. 1495

En la era de la información, integrados en la sociedad del conocimiento, donde el acceso e intercambio de datos genera riqueza, donde palabras como big data, machine learnig e inteligencia artificial (IA) empiezan a ser comunes, nos encontramos ante la nueva posibilidad de traducirlo todo a datos.

Estamos en la era del yo cuantificado, que podríamos definir como el hábito de cuantificar todo lo que nos ocurre en la vida, recopilando información que se produce gracias a los medios sociales, los gadgets con Gps, las aplicaciones de los móviles y otras herramientas. Tenemos la manía de medir los pasos que damos, los kilómetros que corremos, las calorías que comemos y las que quemamos, nuestro ritmo cardíaco, lo que ahorramos al dejar de fumar, la calidad del sueño, la productividad en el trabajo....

En la era del internet de las cosas, de la interconexión de objetos cotidianos con internet, en la cual Gartner pronostica que se utilizarán 14,2 mil millones de objetos conectados en 2019, y que el total alcanzará los 25 mil millones para 2021. Esto nos está llevando a la era de internet de todo, que consiste en reunir personas, procesos, datos y cosas para conseguir que las conexiones de red sean más pertinentes y valiosas que nunca, convirtiendo la información en acciones que creen nuevas capacidades, experiencias más ricas y oportunidades económicas sin precedentes para las empresas, las personas y los países, (Cisco, 2013).

Por otra parte, los algoritmos están presentes en nuestra vida desde hace ya bastantes años, influyen en cuales son los resultados de Google al hacer una búsqueda, en lo que vemos en nuestras redes sociales, en los precios de los billetes de nuestro avión, lo que pagamos por nuestros seguros, o dónde invierten fondos y planes de pensiones.

Un algoritmo es, según el profesor Ricardo Peña Marí, un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales, es decir, que es ciego ante lo que está haciendo. Por ello y dado que cada vez son más usados en una infinidad de ámbitos, tanto privados como públicos, necesitamos tener más presente el componente humano de la ecuación, y por lo tanto pasar de políticas reactivas a políticas activas para intentar regular la mano invisible de la tecnología.

Para que no se piense en esto como un futuro muy lejano vamos a comentar algunas iniciativas que ya se están tomando en el sector público.

Algunas administraciones y ciudades han implementado sistemas automatizados de toma de decisiones basados en algoritmos, entre los que podemos destacar, el sistema de admisión en las escuelas secundarias de Nueva York, donde los estudiantes clasifican las escuelas en una lista en función de sus preferencias y las escuelas hacen los mismo con los estudiantes. Este algoritmo determina una primera ronda de coincidencias y después se realiza una segunda ronda similar. El resto de estudiantes es asignado administrativamente. El porcentaje de alumnos asignados administrativamente bajo de un 37% a un 10%.

El algoritmo para evitar delitos de la policía de Chicago, asigna puntuaciones en base a arrestos, disparos, afiliaciones con miembros de pandillas y una serie de variables para predecir quién es más probable que empuñe un arma para disparar a otra persona (o reciba un disparo). Con ayuda del aprendizaje automático, los sistemas tecnológicos de la policía de Chicago identifican tendencias y patrones para predecir eventos, incluidos los posibles crímenes y los lugares en que ocurrirán.

En Suecia un algoritmo gestiona el subsidio de desempleo, comprueba si las personas que reciben este tipo de subsidio cumplen con sus obligaciones, entre ellas, buscar activamente trabajo, enviar avisos o retener pagos si no cumplían los requisitos. Se supone que esta medida ayudaría a aumentar la eficiencia, pero desde el otoño pasado el sistema ha colapsado y los humanos han vuelto a ocupar su lugar para corregir el problema cuanto antes.

El ya famoso sistema de crédito social en China, un sistema de puntuación ciudadana basado en la confiabilidad, el cual se aplica para todos sus ciudadanos y de éste depende que puedan acceder a diversos servicios y créditos

La administración italiana utiliza una herramienta llamada redditometro, capaz de cruzar datos confidenciales de los contribuyentes para descubrir evasores potenciales, ya que en base a ciertos gastos establece unos ingresos probables.

Y para terminar, no hace todavía un año cuando un robot se presentó por primera vez a la alcaldía de un distrito de Tokio. Sus creadores explicaban que el futuro pasa por algoritmos capaces de analizar los deseos y las peticiones de la población, satisfaciendo necesidades y resolviendo conflictos como ya lo hace su sistema, la IA lo cambiará todo, es solo cuestión de tiempo. Podremos desarrollar políticas imparciales y equilibradas. Implementaremos medidas rápidamente, acumulando información y liderando la próxima generación”.

No sé si echarme a temblar.

Algunos nos estamos preguntando ya qué cantidad de gobierno queremos dejar en manos de los algoritmos. Hay muchos ciudadanos que comienzan a verse afectados, y de momento ninguna administración está haciendo mucho por incluir los algoritmos dentro de las políticas de transparencia.

Por gobernanza algorítmica entenderemos, como Micaela Mantegna, el control sobre debilidades o posibles distorsiones en la construcción de estos modelos que puedan determinar un resultado sesgado, discriminatorio, injusto o inescrutable. Y ese control se ejerce mejor con medidas éticas, de transparencia y rendición de cuentas.

Y aunque ya en 2014 se hablaba de algocracia, "el gobierno de los algoritmos", también se habla de Regulación algorítmica como apuntaba Tim O`Reilly: "...la idea de regulación algorítmica es fundamental para todas las plataformas de Internet y proporciona un área fructífera para la investigación en el diseño del gobierno del siglo XXI".

¿Qué hacen los gobiernos sobre la regulación algorítmica? Pues de momento poca cosa, ni para bueno ni para malo. Ni para regularse ellos ni para regular a los demás. Silicon Valley nos lleva ventaja, se está autorregulando.

Comentaba Evgeny Morozov que: "Además de hacer que nuestra vida sea más eficiente, este mundo inteligente también nos presenta una opción política emocionante. Si gran parte de nuestro comportamiento cotidiano ya es capturado, analizado y enviado, ¿por qué seguir con enfoques no empíricos de regulación? ¿Por qué confiar en las leyes cuando uno tiene sensores y mecanismos de retroalimentación? Pero no es todo tan sencillo como él mismo apunta, ni se pueden hacer reflexiones muy simplistas. 

Lo que para unos es hablar de un futuro en el que el feedback de los datos entre ciudadanos e instituciones sea capaz de crear enmiendas a las leyes y normas sociales más justas, para otros es simplemente la capacidad de la combinación Datos-Algoritmos para tomar mejores decisiones a nivel político.

Pero además, por otro lado los sectores civiles y expertos hacen hincapié en que no debemos olvidar que lo que el algoritmo hace es ponerte una puntuación y a veces clasificarte, y lo hace de una manera que puede llegar a ser tan complicada que no puedes entenderla, no puedes plantear un recurso... No hay que abandonar la automatización ni dejar de confiar en los algoritmos, pero sí exigir que rindan cuentas (Cathy O`Neil).


En la próxima entrega de Gobernanza Algorítmica pondremos más ejemplos, unos pocos que hemos encontrado en España, y hablaremos de ventajas y problemas que acarrea todo este maremágnum, de privacidad, de ética y de regulación... algorítmica, por supuesto.

5 de marzo de 2019

Brecha digital organizativa

El carro de heno. El Bosco

Cuando hablamos de brecha digital solemos referirnos, en la mayoría de las ocasiones, a la distancia que hay entre distintos grupos, debido a diferentes niveles de alfabetización y acceso a la tecnología, tanto a nivel geográfico como socioeconómico.

Pues bien, las organizaciones también sufren la brecha digital. Siendo en este caso el principal escollo, no el acceso a la tecnología, que en algunos casos también se produce, si no la integración de esas tecnologías en los procesos de dicha organización.

La brecha digital organizativa tiene dos vertientes: La brecha digital organizativa interna, que se presenta cuando secciones o departamentos de una misma organización trabajan a distintos niveles dentro de la transformación digital, con las distorsiones y prejuicios que eso conlleva tanto a la propia organización como al resto de agentes implicados (stakeholders que llaman a hora). Y la vertiente externa de esa brecha, que se produce entre dos organizaciones distintas dentro del mismo sector. Esto hace que, en el caso de la administración pública, nos encontremos con organizaciones plenamente digitalizadas, con otras que apenas han comenzado el camino, y en el medio todo un rosario de tipos y problemáticas diversas a la hora de conseguir esa plena digitalización. Esto también acarrea muchas dificultades a la hora de la relación entre estas administraciones.
Para no extenderme mucho hablaré hoy de la brecha digital interna, aquella que se produce dentro de la propia administración.

Suele afirmarse que las diferentes capacidades y cualificaciones de los empleados son el principal obstáculo para la integración de un modo homogéneo de esas tecnologías digitales. En ciertos sectores, como el público, también se suele incluir la cultura organizativa.

Hay un hecho que me gustaría resaltar, que muy a menudo se olvida, y es la escasa relevancia que damos en nuestras organizaciones a la comunicación interna. Por muy bueno que sea nuestro plan, nuestra estrategia, sin una comunicación bien diseñada, y sobre todo constante y reiterada, a todos los niveles de la organización, no conseguiremos nuestros objetivos.

Es curioso ver como el estudio "The Digital Culture Challenge; Bridging the employee-Leadership Disconnect", publicado en junio de 207, basado en 1.700 encuestas a profesionales de 340 compañías en 8 países y entrevistas en profundidad con expertos académicos, pone de manifiesto la considerable diferencia entre la percepción que la alta dirección y los empleados tienen respecto a la existencia de una cultura digital dentro de sus organizaciones. Frente al 40% de la alta dirección que cree que sus empresas tienen una cultura digital, solo el 27% de los empleados está de acuerdo con esta afirmación.

Y esto creo que se produce básicamente por la distancia que existe entre ambos grupos, dirección y empleados, a la hora de abordar esa transformación. Eso hace que los departamentos donde exista un liderazgo operativo, unido con la agilidad para aunar el trinomio toma de decisiones-comunicación de decisiones-feedback sobre resultados, a pequeña escala, avancen más rápidamente que aquellos otros donde liderazgo y comunicación no tienen esas características. En éstos últimos la falta de ese liderazgo, o su mera existencia centrada en otras cosas (en la administración seguro que se nos ocurren varias), y la débil presencia de una comunicación, que no va más allá de la transmisión de meras directrices, hacen muy difícil que tengan la misma agilidad y motivación que los primeros.

Esta brecha comentada puede llegar a ser un auténtico obstáculo, originando disfunciones importantes dentro de la organización. Su máximo nivel, mente analógica en cuerpo digital, que explicábamos en un anterior post, ya está creando algún que otro quebradero de "cabeza".

¿Cómo podemos evitar o mejorar este problema? ¿Podemos plantearnos, de nuevo, la pregunta sobre como aprenden las organizaciones?

El entorno actual nos hace exigirnos a nosotros mismos un cambio de actitud y de formas. Necesitamos organizaciones capaces de aprender en equipo, promoviendo el aprendizaje continuo. No ya de gestionar el cambio, sino de habitar en él, y ser capaces de compartir misión y objetivos, estrategias y tácticas.

27 de febrero de 2019

La nueva administración bipolar: Mente analógica y cuerpo digital

Extracción de la piedra de la locura. El Bosco.


Bipolar, que tiene dos polos, o partes opuestas.


La mente, aún analógica de nuestra Administración Pública, alimentada últimamente con leyes electrónicas, está comenzando a empacharse, y aunque ella no lo sabe, a desorientarse. Intenta aferrarse a su viejo pasado, quiere conservar su modo de hacer las cosas, quiere agarrarse a algo que la haga sentirse más segura, en estos tiempos de cambios y transformaciones. Y lo que está consiguiendo es sufrir pequeñas alucinaciones, engañarse a sí misma. Cree que eso que le cuentan, esas pequeñas victorias en la transformación digital, son un reflejo de que va por buen camino. Pero si las miramos detenidamente, no son más que pasos atrás.

Se ha separado de su cuerpo digital, de la posibilidad de iniciar un procedimiento realmente electrónico aprovechando todas las posibilidades que la tecnología pone a nuestro alcance. De iniciar otra manera de hacer administración, de pensar fuera de la caja, y actuar de acuerdo con los tiempos actuales, y sobre todo, pensando en el futuro.

Nuestras ventanillas y mostradores, donde hasta hace poco campaban a sus anchas los papeles, pertenecientes a vetustos procedimientos arcaicos, van transformándose, digitalizándose que llaman ahora, en malas copias digitales. Esta transformación digital no es sino una deformación, producida por una mala simbiosis entre lo analógico y lo digital.

Nuestra mente analógica se aferra al papel. Ha engañado a nuestro cuerpo digital para que se sienta seguro con el documento electrónico, con un pdf, a imagen y semejanza del papel. ¡Qué gran error! Nuestra mente analógica se aferra a la firma, todo debe estar firmado. Ha engañado a nuestro cuerpo digital para que se sienta seguro con una firma electrónica estampada en el documento electrónico, de nuevo a imagen y semejanza del papel. ¡Qué gran error!

¿Donde queda el dato electrónico, dónde el análisis, dónde el conocimiento, dónde la innovación con esos datos electrónicos? Ese documento electrónico nos está complicando la vida. No nos deja avanzar ¿De verdad necesitamos plasmarlo todo en un pdf con una firma visible, con un CSV? ¿De verdad que el único modo de tener prueba de una solicitud online es registrando en nuestros sistemas un pdf firmado electrónicamente por el ciudadano? ¿No sabemos hacerlo mejor?

Vamos hacia un sistema electrónico nefasto, antes inundados de papeles en mesas y archivos, ahora inundados de pdf´s, ocupando miles de terabytes, que en el mejor de los casos producen la misma sensación de burocracia del siglo pasado, y en el peor acaban de nuevo impresos inundando mesas.

Más que una transformación digital estamos asistiendo a una distorsión digital, donde las manías por llevar lo analógico a lo electrónico están desorientando a nuestro cuerpo. La administración es un enfermo digital, que con el tiempo irá empeorando, pues su mente cada vez está más lejos de su físico. Ahora perdido mezcla nuevos conceptos, que intenta interiorizarlos a bajo nivel, sin altura de miras, con criterios viejunos que nos lastraran indefinidamente.

¡Hay que matar al documento electrónico, larga vida al dato electrónico! Grita el cuerpo, ya sintiendo la evolución en sus venas. Pero la mente va a otro ritmo, incluso a veces parece que no juega al mismo juego.

Estamos lejos de encontrar el equilibrio, dice la mente... Y lo peor es que no es consciente, no somos conscientes, de que ese equilibrio ahora no es necesario. Ese equilibrio que buscamos nos está lastrando. No es hora de equilibrios, es hora de CAMBIOS, con mayúsculas.