Nuevas tecnologías: nuevas discriminaciones

Ilya Pavlov @ilyapavlov

 

En 2011 caían las dictaduras de Egipto y Túnez. Dos regímenes cuyos líderes parecía que iban a fallecer en la cama. Sin embargo, las movilizaciones que provocaron su derrocamiento difícilmente podrían haberse llevado a cabo con tanto éxito sino fuera por el advenimiento de las nuevas tecnologías de la comunicación. Organizarse, responder de forma inmediata y comunicarse de forma segura nunca había sido tan fácil. A partir de entonces el optimismo de las organizaciones y activistas en defensa de los DDHH se disparaba: el poder emancipador de las nuevas tecnologías abrían una nueva fase en la lucha por el progreso. Desafortunadamente, continuaba Jordi Vaquer, director de la Open Society Initiative para Europa, el triunfalismo no duró: esas mismas tecnologías pretendidamente fantásticas aupaban al máximo poder a políticos como Trump o Bolsonaro. ¿Conclusión? Como en la guerra, el surgimiento de nuevas herramientas cambiaba el modo de luchar, en este caso por la extensión y respeto de los DDHH. Toca entonces reunirse para repensar su uso. Cerraba así la introducción de la primera mesa redonda con la que inaugurar el ciclo de charlas sobre ética, tecnología y derechos humanos que se darán cita en los próximos meses en la Calle Sant Eusebi de Barcelona, en el local de Espai Societat Oberta.

 

La primera palabra la tomaba el ingeniero informático David Cabo, en representación de CIVIO (“una organización independiente y sin ánimo de lucro que vigila a los poderes públicos, informa a todos los ciudadanos y presiona para lograr una transparencia real y eficaz en las instituciones”). La primera reflexión que David nos proponía tenía que ver con sospechar de la aparente neutralidad de los programas o algoritmos que poco a poco van introduciéndose en la Administración Pública para ayudarla a desempeñar sus funciones. Aparentemente un programa informático debiera ser una gran herramienta para racionalizar la actuación administrativa y evitar sesgos o favoritismos del tipo que sea. La neutralidad de los 1 y los 0 debería ser bienvenida. No obstante, dice David, en su experiencia a lo largo de los años han atestiguado cuan sencillo es esconder prácticas más que dudosas bajo la excusa de “no lo he decidido yo, lo ha decidido el programa”. Mencionaba en este sentido el programa usado en algunas cortes estadounidenses para determinar la peligrosidad de los acusados que, en su opinión, estaría lejos de ser ideológicamente aséptica, al contrario, tendría un importante sesgo racial.

 

En el caso español, y en relación a sus últimas actividades, CIVIO ha estado centrado en el programa que rige la entrega del “Bono social eléctrico”. En su opinión la complejidad info-burocrática del proceso necesario para obtenerlo provoca que sean muchos los que, aun y estando legitimados para su disfrute, se vean privados del mismo. Unas complejidades y vericuetos que, se sugirió, no eran casuales, sino que perseguían minimizar su impacto. En respuesta a estas problemáticas CIVIO está enfrascado en diversos pleitos contencioso-administrativos para exigir que el programa que regula esta cuestión no sea secreto. Y es que, del mismo modo en que las leyes que regulan nuestra vida deben ser por todos conocidos, el código fuente de los programas de análoga incidencia no pueden quedar fuera del examen ciudadano. 

 

A continuación tomaba la palabra el empresario y arqueólogo Genís Roca que proponía una reflexión de tipo histórico. En su opinión el surgimiento de las nuevas tecnologías de la información supondría un punto de inflexión social que podría ser comparado con el descubrimiento de la agricultura y la ganadería, o con la máquina de vapor. Y así como estas nuevas tecnologías obligaron a repensar el contrato social, las próximas décadas estarán marcadas por las luchas de poder sobre la información. Los casos de Julian Assange o Edward Snowden –villanos o héroes según se pregunte- vendrían a ilustrar este conflicto en las distintas maneras de entender cómo debe gestionarse la información.

 

Añadía además que este conflicto –pues así proponía conceptualizarlo- es de tipo supragenearcional, esto es, que nadie espere que puedan establecerse grandes consensos sobre cómo debe fluir y controlarse la información en los tempos a las que las nuevas tecnologías nos tienen acostumbrados. Genís hablo de tres grandes modelos en disputa: el americano, para quienes las grandes empresas deberían encargarse de llevar la batuta; el asiático, que encomendaría la tarea al Estado; y el europeo, que apostaría por el control ciudadano.

 

Representando al comisionado de Innovación digital del Ayuntamiento de Barcelona Michael Donaldson nos acerba el modo en que la Administración local enfrenta las nuevas tecnologías. De acuerdo con su testimonio el Ayuntamiento estaría interesado en aplicar la tecnología de Big Data para mejorar los servicios públicos y aumentar la accountability de su gestión. Consciente de los peligros de entregar al Estado grandes cantidades de información personal, Michael destacaba el modo en que la falta de información actual de la Administración conllevaba importantes ineficacias a la hora de asistir a sus ciudadanos y garantirles sus derechos. Según los cálculos manejados por el Ayuntamiento cerca de un 30% de las ayudas no conseguirían llegar a sus destinatarios por este motivo.

 

En este sentido, se planteaba una comparación muy provocadora: del mismo modo que plataformas como Netflix te avisan de sus nuevas películas y series que podrían interesarte –gracias al estudio de los datos que tu consumo les ha proporcionado- la Administración debería plantearse un comportamiento proactivo. Es decir, en vez de limitarse a esperar “en ventanilla” a que el ciudadano se presente a hacer alguna gestión, que sea el propio Ayuntamiento quien se anticipe en la resolución de los distintos problemas.

 

Cerraba el turno de exposiciones Adriana Ribas, directora de Amnistía Internacional Cataluña, hablando de la Declaración de Toronto (2018). Se trata de un protocolo con distintos principios generales guiados a evitar que el desarrollo de la inteligencia artificial conlleve nuevas formas de discriminación. Y es que si bien es evidente que estas nuevas tecnologías pueden ser poderosas herramientas para mejorar la eficacia de la actuación policial o judicial, un uso irresponsable de las mismas sería muy peligroso. En particular Adriana destacaba los límites del aprendizaje automático cuando la base de datos con la que se la alimenta ya está sesgada. Por ejemplo, decía Adriana, cuando Amazon diseñó un nuevo programa de selección de personal enseñó al robot encargado de escoger a las personas más preparadas para cada puesto introduciendo los datos recabados en los últimos 10 años. El resultado fue que el robot estaba fuertemente inclinado a escoger solo a los hombres para los puestos más técnicos o las posiciones de dirección pues esa era la norma con la que había aprendido a pensar.

Los actuales avances tecnológicos aparecen pues como una arma de doble filo: emancipadora a la vez que potencialmente opresora, en favor de los débiles pero también de las élites, una escalera hacia una mayor justicia, si bien con peldaños rotos que auguran peligrosas caídas. No cabe duda que su uso, control y regulación es ya un nuevo campo de batalla para las relaciones de poder del siglo XXI.

 

Compartir en Facebook
Compartir en Twitter
Please reload

Buscador

Entrevistas

Qué opinan las voces más destacadas sobre los asuntos más candentes.s

Series

Diversos temas tratados con mayor profundidad y extensión en formato de series de artículos monotemáticos

colabora.jpg

Si quieres quieres criticar o complementar este texto, si no compartes su perspectiva, no lo dudes, haznos tu propuesta a la redacción.

¿En desacuerdo con este artículo?

Please reload

Revista Libertalia

Filosofía y Humanidades

  • Twitter - Revista Libertalia
  • Facebook - Revista Libertalia
  • LinkedIn - Revista Libertalia
  • SoundCloud - Revista Libertalia

Revista Libertalia es un proyecto sin ánimo de lucro ni línea editorial centrado en la filosofía y las humanidades.

 

Nuestro objetivo es promover la reflexión seria y profunda entre gente joven de dentro y fuera de la academia, tratando los diversos temas de forma compleja, pero con un lenguaje claro y directo.

 

Si estás interesado en colaborar con nosotros no lo dudes, enviándonos tus textos; nuestro equipo estará a tu disposición para acompañarte en el proceso de edición y publicación;  o bien ayudándonos a financiarnos a través de Patreon. 

Recibe la Newsletter