Gobernanza algorítmica

08.08.2021 | 00:39
Gobernanza algorítmica

La gobernanza algorítmica no constituye una amenaza para la democracia porque condiciona nuestras decisiones presentes sino, sobre todo, porque se desentiende de nuestras decisiones futuras

Gobernar es ya en gran medida –y lo será aún más– un acto algorítmico; una buena parte de las decisiones de gobierno son adoptadas por sistemas automatizados. Podría denominarse "algocracia" a este sistema en el que se utilizan algoritmos para recoger, cotejar y organizar los datos a partir de los cuales se toman las decisiones. La gobernanza algorítmica potencia enormemente las capacidades de gestión a través de grandes cantidades de datos y en relación con problemas complejos.

La extensión de sistemas de decisión conducidos por algoritmos y datos significa que las máquinas apoyan a los humanos en sus decisiones e incluso los sustituyen, en parte o completamente. La cuestión que todo esto plantea es hasta qué punto y de qué modo la utilización de sistemas de decisión automatizada es compatible con lo que consideramos un sistema político de toma de decisiones. ¿Qué significa realmente la introducción masiva de procedimientos de decisión automatizada para la acción de gobierno? ¿Es congruente este tipo de gobernanza con la democracia?

La gran promesa de esta tecnología es que permite conocer la voluntad real de la gente. Con un mundo lleno de sensores, algoritmos, datos y objetos inteligentes se configura una suerte de sensorium social que permite personalizar la salud, los transportes o la energía. Gracias a la ingeniería de los datos nos estamos moviendo hacia una comprensión cada vez más granular de las interacciones individuales y unos sistemas más capaces de responder a las necesidades individuales.

Los sistemas algorítmicos sirven para categorizar a los individuos y prever sus preferencias a partir de una gran cantidad de datos acerca de ellos. El modelo de negocio de muchas empresas digitales se apoya en el hecho de que conocen a los usuarios mejor que ellos mismos y, en virtud de la previsión de su comportamiento, les ofrecen lo más adecuado en el momento oportuno.

El cómodo paternalismo de las sociedades algorítmicas consiste en que da a las personas lo que estas quieren, que gobierna con incentivos proporcionados, que se adelanta, invita y sugiere. Trasladar este modelo a la política no tendría mayores problemas si no fuera porque el precio de estas prestaciones suele ser el sacrificio de alguna esfera de libertad personal. Teniendo en cuenta que hay una discrepancia en la autodeterminación que supuestamente exigimos y la que de hecho estamos dispuestos a ejercer cuando hay comodidades y prestaciones de por medio, el resultado es que la satisfacción de necesidades se hace con frecuencia a cambio de espacios de libertad.

¿Cuál es entonces el valor democrático de datos, recomendaciones y prediciones? Hay quien dirá que todo eso son nuestras decisiones libres del pasado, invitaciones a decidir en el presente o apuestas acerca de cómo decidiremos en el futuro, es decir, se trata de nuestras decisiones en cualquier caso. Desde este punto de vista no habría ninguna tensión entre big data y democracia, sino todo lo contrario. Pero la democracia no es la traducción inmediata y agregada de lo que decidimos individualmente; el carácter dinámico y transformador de la vida democrática incluye un elemento de cambio, descubrimiento y emergencia para lo que no sirve un sistema pensado para hacernos descubrir únicamente lo que ya sabemos. Hoy por hoy la inteligencia artificial no parece apropiada para realizar esta voluntad de transformación, que constituye un elemento esencial de nuestra decisión democrática.

El problema estriba en que la mayor parte de las previsiones algorítmicas se basan en la idea de que el futuro será lo más parecido al pasado, de que nuestras preferencias futuras representarán una continuidad de nuestro comportamiento anterior tal y como queda registrado en los datos de nuestra movilidad o consumo. Ahora bien, la política no aspira solo a reflejar lo que hay sino a cambiar ciertas cosas de algún modo intencional. Tal vez lo más insatisfactorio de esta revolución de los cálculos es que no es nada revolucionaria. El análisis de datos actúa como un dispositivo de registro, hasta el punto de tener grandes dificultades para identificar lo que en esa realidad hay de aspiración, deseo o contradicción. Pero es que, además, si hemos de tomarnos nuestra libertad en serio, también forma parte de ella nuestra aspiración de modificar lo que hemos sido dando así lugar a situaciones hasta cierto punto impredecibles. Y a este respecto los algoritmos que se dicen predictivos son muy conservadores. Son predictivos porque formulan continuamente la hipótesis de que nuestro futuro será una reproducción de nuestro pasado, pero no entran en la compleja subjetividad de las personas y de las sociedades, donde también se plantean deseos y aspiraciones. ¿Cómo queremos entender la realidad de nuestras sociedades si no introducimos en nuestros análisis, además de los comportamientos de los consumidores, las enormes asimetrías en términos de poder, las injusticias de este mundo y nuestras aspiraciones de cambiarlo?

La gobernanza algorítmica no constituye una amenaza para la democracia porque condiciona nuestras decisiones presentes sino, sobre todo, porque se desentiende de nuestras decisiones futuras. La democracia no es hacer lo que queremos sino, muchas veces, poder cambiar lo que queremos. ¿Conocen realmente los algoritmos nuestra voluntad profunda o solo su dimensión más superficial, las rutinas más que los anhelos?

La política no es una simple administración continuista del pasado sino la posibilidad siempre abierta de quebrar esa inercia del pasado. De esa fuerza carecen los algoritmos en la medida en que hacen predicciones sin otra referencia que el pasado. ¿Cómo especificamos nuestros objetivos de modo que las máquinas no tengan que hacer otra cosa que perseguirlos eficientemente? ¿Estamos seguros de que lo que deseamos ahora será lo que deseemos en el futuro? Los algoritmos del machine learning pueden anticipar nuestras propensiones futuras y amenazar así que hagamos posibles futuros alternativos. Shoshana Zuboff formulaba acertadamente esta tendencia cuando escribía que en la era digital está en juego un derecho al futuro.

* Catedrático de Filosofía Política, investigador Ikerbasque en la Universidad del País Vasco y profesor en el Instituto Europeo de Florencia. @daniInnerarity

noticias de noticiasdealava