Bruselas obligará a que un juez autorice el uso de reconocimiento facial y solo para casos concretos

Bruselas se propone acelerar la inversión en inteligencia artificial en Europa, pero no a cualquier precio. La UE no quiere perder más terreno respecto a Estados Unidos y China y movilizará al menos 20.000 millones de euros a lo largo de la próxima década con el objetivo de intensificar la digitalización de la industria, la energía o la salud. Sin embargo, la Comisión Europea pondrá límites estrictos a aplicaciones como el reconocimiento facial en tiempo real y en lugares públicos. La vicepresidenta ejecutiva del Ejecutivo comunitario, Margrethe Vestager, ha advertido de que esa tecnología estará “en principio prohibida” y solo se abrirá la mano en casos “extremos”, al considerar que los riesgos que conlleva son “inaceptables”.

La Comisión Europea ha lanzado este miércoles un paquete sobre inteligencia artificial tras un intenso debate que arrancó hace ya tres años. “No estamos regulando la tecnología, sino su uso. Y lo hacemos buscando un enfoque equilibrado entre la confianza, la excelencia y los valores europeos”, explica una alta funcionaria comunitaria. Bruselas, que destinará el 20% de los fondos de recuperación a la transición tecnológica, quiere atar corto el empleo de una tecnología que puede permitir dar un salto enorme, por ejemplo, en el diagnóstico de las enfermedades, pero cuyo empleo también puede amenazar las libertades de los ciudadanos.

En el punto de mira están sobre todo las aplicaciones para el reconocimiento facial remoto, que generó una gran controversia a raíz de su uso por parte de las autoridades en las movilizaciones de Hong Kong. No es lo mismo el reconocimiento facial para identificarse para acceder al móvil que ser capturado por una aplicación en la calle en tiempo real. La Comisión, que de entrada era muy reacia a ese uso, quería estudiar detenidamente si podía hacer algún tipo de excepción. Ha decidido que lo hará, pero se tratará de casos “extremos”, en palabras de Vestager. Es decir, solo se podrá usar con una autorización judicial previa y en casos muy determinados: búsquedas de víctimas o autores de crímenes, niños desaparecidos o si hay ataques terroristas. Son salvedades. La regla general es, en cualquier caso, su prohibición.

Al margen de esa aplicación, el Ejecutivo comunitario ha optado por una regulación consistente en una graduación de los riesgos de la inteligencia artificial en cuatro categorías: inaceptables, altos, limitados y mínimos. Dentro de los que Bruselas considera intolerables están todos aquellos que pueden suponer una violación de los derechos fundamentales, entre los cuales hay la tentación de los países de crear una especie de “puntuación social” construida con su historial de deudas, condenas o multas. Esa práctica, así como el resto que se considere que son inaceptables, estará prohibida en la UE.

En el caso de las empresas que desarrollen tecnología que pongan en un riesgo elevado los derechos fundamentales, la Comisión pedirá la máxima transparencia, documentación técnica y garantías sobre ciberseguridad, entre otras cosas. Los criterios serán más relajados en el caso de que el riesgo sea limitado –por ejemplo, el uso de chatbots—, mientras que no habrá restricciones para las actividades que Bruselas cree que no amenazan los derechos de sus ciudadanos. Fuentes comunitarias explican que la regulación se ha basado en necesidad de evitar la fragmentación del mercado único, por lo que se ha centrado en el uso civil de esas tecnologías y ha dejado fuera las aplicaciones militares.

Coordinación entre países

Como en todas las ocasiones en las que Bruselas exhibe su músculo regulador, las grandes tecnológicas habían intensificado en las últimas semanas sus presiones sobre el Ejecutivo comunitario al temer que este pudiera ahogar la innovación. Bruselas cree, no obstante, que la amenaza era la contraria si no actuaba: que a causa de los riesgos que conlleva esa tecnología, algunos socios hubieran decidido prohibirla directamente. “Seremos el primer continente en dar unas orientaciones, por lo que estamos diciendo que si alguien quiere desarrollar esa tecnología venga a Europa”, ha afirmado el comisario de Mercado Interior, Thierry Breton.

Bruselas creará un Consejo Europeo de Inteligencia Artificial que deberá supervisar todas esas actividades. El cumplimiento de la normativa deberá ser controlado, sin embargo, por las autoridades nacionales. En caso de incumplimiento de esas reglas, las empresas pueden ser sancionadas con una multa de hasta 20 millones de euros o el 4% de la facturación mundial de la compañía. Pero también ahí Bruselas prevé una graduación. La propuesta deberá ser adoptada ahora por el Parlamento Europeo y el Consejo de la UE, el órgano en el que están representados los 27 socios del club comunitario.

El paquete aprobado por la Comisión también contempla un plan coordinado sobre inteligencia artificial de los Veintisiete. De hecho, 19 países (entre ellos, España) han aprobado ya sus planes nacionales, por lo que la Comisión quiere canalizar los recursos hacia siete grandes áreas. Dos de ellas responden a las grandes prioridades del momento: el Pacto Verde y la lucha contra la pandemia. Bruselas ha trazado otras cinco grandes actividades: el sector público, la robótica, la movilidad, agricultura y asuntos interiores. El Ejecutivo comunitario prevé dos vías de financiación: el plan de recuperación, con 134.000 millones dedicados al sector digital, y el programa Horizonte Europa, con el que pretende movilizar hasta 20.000 millones de euros.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter.