Gobernanza algorítmica: lo que se nos viene encima a la Administración

  Retrato del matemático Luca Pacioli. IACO.BAR. VIGENNIS. P. 1495

En la era de la información, integrados en la sociedad del conocimiento, donde el acceso e intercambio de datos genera riqueza, donde palabras como big data, machine learnig e inteligencia artificial (IA) empiezan a ser comunes, nos encontramos ante la nueva posibilidad de traducirlo todo a datos.

Estamos en la era del yo cuantificado, que podríamos definir como el hábito de cuantificar todo lo que nos ocurre en la vida, recopilando información que se produce gracias a los medios sociales, los gadgets con Gps, las aplicaciones de los móviles y otras herramientas. Tenemos la manía de medir los pasos que damos, los kilómetros que corremos, las calorías que comemos y las que quemamos, nuestro ritmo cardíaco, lo que ahorramos al dejar de fumar, la calidad del sueño, la productividad en el trabajo....

En la era del internet de las cosas, de la interconexión de objetos cotidianos con internet, en la cual Gartner pronostica que se utilizarán 14,2 mil millones de objetos conectados en 2019, y que el total alcanzará los 25 mil millones para 2021. Esto nos está llevando a la era de internet de todo, que consiste en reunir personas, procesos, datos y cosas para conseguir que las conexiones de red sean más pertinentes y valiosas que nunca, convirtiendo la información en acciones que creen nuevas capacidades, experiencias más ricas y oportunidades económicas sin precedentes para las empresas, las personas y los países, (Cisco, 2013).

Por otra parte, los algoritmos están presentes en nuestra vida desde hace ya bastantes años, influyen en cuales son los resultados de Google al hacer una búsqueda, en lo que vemos en nuestras redes sociales, en los precios de los billetes de nuestro avión, lo que pagamos por nuestros seguros, o dónde invierten fondos y planes de pensiones.

Un algoritmo es, según el profesor Ricardo Peña Marí, un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales, es decir, que es ciego ante lo que está haciendo. Por ello y dado que cada vez son más usados en una infinidad de ámbitos, tanto privados como públicos, necesitamos tener más presente el componente humano de la ecuación, y por lo tanto pasar de políticas reactivas a políticas activas para intentar regular la mano invisible de la tecnología.

Para que no se piense en esto como un futuro muy lejano vamos a comentar algunas iniciativas que ya se están tomando en el sector público.

Algunas administraciones y ciudades han implementado sistemas automatizados de toma de decisiones basados en algoritmos, entre los que podemos destacar, el sistema de admisión en las escuelas secundarias de Nueva York, donde los estudiantes clasifican las escuelas en una lista en función de sus preferencias y las escuelas hacen los mismo con los estudiantes. Este algoritmo determina una primera ronda de coincidencias y después se realiza una segunda ronda similar. El resto de estudiantes es asignado administrativamente. El porcentaje de alumnos asignados administrativamente bajo de un 37% a un 10%.

El algoritmo para evitar delitos de la policía de Chicago, asigna puntuaciones en base a arrestos, disparos, afiliaciones con miembros de pandillas y una serie de variables para predecir quién es más probable que empuñe un arma para disparar a otra persona (o reciba un disparo). Con ayuda del aprendizaje automático, los sistemas tecnológicos de la policía de Chicago identifican tendencias y patrones para predecir eventos, incluidos los posibles crímenes y los lugares en que ocurrirán.

En Suecia un algoritmo gestiona el subsidio de desempleo, comprueba si las personas que reciben este tipo de subsidio cumplen con sus obligaciones, entre ellas, buscar activamente trabajo, enviar avisos o retener pagos si no cumplían los requisitos. Se supone que esta medida ayudaría a aumentar la eficiencia, pero desde el otoño pasado el sistema ha colapsado y los humanos han vuelto a ocupar su lugar para corregir el problema cuanto antes.

El ya famoso sistema de crédito social en China, un sistema de puntuación ciudadana basado en la confiabilidad, el cual se aplica para todos sus ciudadanos y de éste depende que puedan acceder a diversos servicios y créditos

La administración italiana utiliza una herramienta llamada redditometro, capaz de cruzar datos confidenciales de los contribuyentes para descubrir evasores potenciales, ya que en base a ciertos gastos establece unos ingresos probables.

Y para terminar, no hace todavía un año cuando un robot se presentó por primera vez a la alcaldía de un distrito de Tokio. Sus creadores explicaban que “el futuro pasa por algoritmos capaces de analizar los deseos y las peticiones de la población, satisfaciendo necesidades y resolviendo conflictos como ya lo hace su sistema, la IA lo cambiará todo, es solo cuestión de tiempo. Podremos desarrollar políticas imparciales y equilibradas. Implementaremos medidas rápidamente, acumulando información y liderando la próxima generación”.

No sé si echarme a temblar.

Algunos nos estamos preguntando ya qué cantidad de gobierno queremos dejar en manos de los algoritmos. Hay muchos ciudadanos que comienzan a verse afectados, y de momento ninguna administración está haciendo mucho por incluir los algoritmos dentro de las políticas de transparencia.

Por gobernanza algorítmica entenderemos, como Micaela Mantegna, el control sobre debilidades o posibles distorsiones en la construcción de estos modelos que puedan determinar un resultado sesgado, discriminatorio, injusto o inescrutable. Y ese control se ejerce mejor con medidas éticas, de transparencia y rendición de cuentas.

Y aunque ya en 2014 se hablaba de algocracia, "el gobierno de los algoritmos", también se habla de Regulación algorítmica como apuntaba Tim O`Reilly: "...la idea de regulación algorítmica es fundamental para todas las plataformas de Internet y proporciona un área fructífera para la investigación en el diseño del gobierno del siglo XXI".

¿Qué hacen los gobiernos sobre la regulación algorítmica? Pues de momento poca cosa, ni para bueno ni para malo. Ni para regularse ellos ni para regular a los demás. Silicon Valley nos lleva ventaja, se está autorregulando.

Comentaba Evgeny Morozov que: "Además de hacer que nuestra vida sea más eficiente, este mundo inteligente también nos presenta una opción política emocionante. Si gran parte de nuestro comportamiento cotidiano ya es capturado, analizado y enviado, ¿por qué seguir con enfoques no empíricos de regulación? ¿Por qué confiar en las leyes cuando uno tiene sensores y mecanismos de retroalimentación? Pero no es todo tan sencillo como él mismo apunta, ni se pueden hacer reflexiones muy simplistas. 

Lo que para unos es hablar de un futuro en el que el feedback de los datos entre ciudadanos e instituciones sea capaz de crear enmiendas a las leyes y normas sociales más justas, para otros es simplemente la capacidad de la combinación Datos-Algoritmos para tomar mejores decisiones a nivel político.

Pero además, por otro lado los sectores civiles y expertos hacen hincapié en que no debemos olvidar que lo que el algoritmo hace es ponerte una puntuación y a veces clasificarte, y lo hace de una manera que puede llegar a ser tan complicada que no puedes entenderla, no puedes plantear un recurso... No hay que abandonar la automatización ni dejar de confiar en los algoritmos, pero sí exigir que rindan cuentas (Cathy O`Neil).


En la próxima entrega de Gobernanza Algorítmica pondremos más ejemplos, unos pocos que hemos encontrado en España, y hablaremos de ventajas y problemas que acarrea todo este maremágnum, de privacidad, de ética y de regulación... algorítmica, por supuesto.

Brecha digital organizativa

 

El carro de heno. El Bosco

Cuando hablamos de brecha digital solemos referirnos, en la mayoría de las ocasiones, a la distancia que hay entre distintos grupos, debido a diferentes niveles de alfabetización y acceso a la tecnología, tanto a nivel geográfico como socioeconómico.

Pues bien, las organizaciones también sufren la brecha digital. Siendo en este caso el principal escollo, no el acceso a la tecnología, que en algunos casos también se produce, si no la integración de esas tecnologías en los procesos de dicha organización.

La brecha digital organizativa tiene dos vertientes: La brecha digital organizativa interna, que se presenta cuando secciones o departamentos de una misma organización trabajan a distintos niveles dentro de la transformación digital, con las distorsiones y prejuicios que eso conlleva tanto a la propia organización como al resto de agentes implicados (stakeholders que llaman a hora). Y la vertiente externa de esa brecha, que se produce entre dos organizaciones distintas dentro del mismo sector. Esto hace que, en el caso de la administración pública, nos encontremos con organizaciones plenamente digitalizadas, con otras que apenas han comenzado el camino, y en el medio todo un rosario de tipos y problemáticas diversas a la hora de conseguir esa plena digitalización. Esto también acarrea muchas dificultades a la hora de la relación entre estas administraciones.
Para no extenderme mucho hablaré hoy de la brecha digital interna, aquella que se produce dentro de la propia administración.

Suele afirmarse que las diferentes capacidades y cualificaciones de los empleados son el principal obstáculo para la integración de un modo homogéneo de esas tecnologías digitales. En ciertos sectores, como el público, también se suele incluir la cultura organizativa.

Hay un hecho que me gustaría resaltar, que muy a menudo se olvida, y es la escasa relevancia que damos en nuestras organizaciones a la comunicación interna. Por muy bueno que sea nuestro plan, nuestra estrategia, sin una comunicación bien diseñada, y sobre todo constante y reiterada, a todos los niveles de la organización, no conseguiremos nuestros objetivos.

Es curioso ver como el estudio "The Digital Culture Challenge; Bridging the employee-Leadership Disconnect", publicado en junio de 207, basado en 1.700 encuestas a profesionales de 340 compañías en 8 países y entrevistas en profundidad con expertos académicos, pone de manifiesto la considerable diferencia entre la percepción que la alta dirección y los empleados tienen respecto a la existencia de una cultura digital dentro de sus organizaciones. Frente al 40% de la alta dirección que cree que sus empresas tienen una cultura digital, solo el 27% de los empleados está de acuerdo con esta afirmación.

Y esto creo que se produce básicamente por la distancia que existe entre ambos grupos, dirección y empleados, a la hora de abordar esa transformación. Eso hace que los departamentos donde exista un liderazgo operativo, unido con la agilidad para aunar el trinomio toma de decisiones-comunicación de decisiones-feedback sobre resultados, a pequeña escala, avancen más rápidamente que aquellos otros donde liderazgo y comunicación no tienen esas características. En éstos últimos la falta de ese liderazgo, o su mera existencia centrada en otras cosas (en la administración seguro que se nos ocurren varias), y la débil presencia de una comunicación, que no va más allá de la transmisión de meras directrices, hacen muy difícil que tengan la misma agilidad y motivación que los primeros.

Esta brecha comentada puede llegar a ser un auténtico obstáculo, originando disfunciones importantes dentro de la organización. Su máximo nivel, mente analógica en cuerpo digital, que explicábamos en un anterior post, ya está creando algún que otro quebradero de "cabeza".

¿Cómo podemos evitar o mejorar este problema? ¿Podemos plantearnos, de nuevo, la pregunta sobre como aprenden las organizaciones?

El entorno actual nos hace exigirnos a nosotros mismos un cambio de actitud y de formas. Necesitamos organizaciones capaces de aprender en equipo, promoviendo el aprendizaje continuo. No ya de gestionar el cambio, sino de habitar en él, y ser capaces de compartir misión y objetivos, estrategias y tácticas.