Vigilancia digital. La UE debe hacer más

El asunto es complejo por decir lo mínimo; por este motivo, la propuesta de Reglamento para la Inteligencia Artificial publicada por la Comisión Europea la semana pasada es en sí misma un hecho positivo. La política continental muestra que ha entendido la vida cotidiana de estos temas, su impacto en nuestras vidas, y ha comenzado a poner algunos límites al riesgo de que los algoritmos y formas de IA se conviertan en herramientas de vigilancia masiva.

El tema está sometido a constantes cambios, el alcance de las posibles aplicaciones aún no se conoce en todo su potencial: por eso una «regulación» aparece como un proceso en marcha, sobre todo en una época de constantes emergencias. Sin embargo, según algunas de las organizaciones que llevan tiempo ocupándose de estos temas, en el plan de la Comisión faltan aspectos fundamentales. Algunos de estos son técnicos, otros son políticos. En primer lugar, la Comisión ha dividido las aplicaciones de la IA en diferentes grados de riesgo, prohibiendo los usos más sutiles.

Un primer problema es que, sin embargo, algunos de estos límites no parecen suficientes. Según el Centro Hermes para la Transparencia y los Derechos Humanos Digitales «la propuesta se contradice, permitiendo algunas formas de vigilancia biométrica masiva que, sin embargo, reconoce incompatibles con nuestros derechos y libertades fundamentales protegidos en Europa». En particular, sobre la identificación biométrica y el uso del reconocimiento facial, la propuesta de la UE deja un amplio margen de interpretación y por tanto de uso, centrándose principalmente en el uso que estas herramientas hacen por parte de la policía, sin decir nada sobre gobiernos y empresas. Por estas razones, la vigilancia biométrica, en tiempo real o diferida, simplemente debería prohibirse en este momento.

El camino de la propuesta, además, ciertamente no será fácil, porque tendrá que ser votada por el Parlamento Europeo y los países miembros. Como sucede a menudo, todos los estados están regulando, o dejando ir, los usos cada vez más invasivos de estas tecnologías. Solo piense en Francia: París aprobó recientemente una ley de seguridad que permite a los agentes del orden una amplia discreción y una extraordinaria variedad de herramientas tecnológicas que corren el riesgo de convertirse en dispositivos de control total (y discriminación).

Pero la mayor limitación de esta propuesta es de carácter político y tiene que ver no solo con Europa, sino con la consideración de que el capitalismo de vigilancia puede ser modificado por el mercado o por la actividad de los estados. Es la política la que debe intervenir para que la inteligencia artificial y los algoritmos sean útiles, como pueden ser, para nuestras sociedades. Y el origen de todo está relacionado con los datos (el motor real de la IA), la transparencia de su recopilación y uso. Sólo considerando el Big Data como una infraestructura pública, un activo de los ciudadanos (del que, de diversas formas, se «extraen» los datos), Europa podrá encontrar verdaderamente un camino autónomo entre el liderazgo estatal chino y el liberalismo estadounidense de Silicon Valley.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *