IBM

IBM abandona la tecnología de reconocimiento facial por las dudas éticas sobre su uso

En una carta al Congreso de EE UU, el CEO de la compañía afirma que la medida forma parte de su rechazo al uso de la innovación que promueve “el racismo y la injusticia social”

Manifestación en San Francisco el pasado 30 de mayo en protesta por la muerte de George Floyd en Minneapolis.
Manifestación en San Francisco el pasado 30 de mayo en protesta por la muerte de George Floyd en Minneapolis.JOHN G. MABANGLO / EFE

La compañía estadounidense IBM ha anunciado que dejará de comercializar software propio de reconocimiento facial “de uso general”, según asegura el CEO de la compañía, Arvind Krishna, en una carta abierta dirigida al Congreso de Estados Unidos. Esta iniciativa forma parte, asegura, de su rechazo al uso de la tecnología en la promoción del “racismo y de la injusticia social”. La compañía no ha explicado qué calendario maneja y qué productos específicos se verán afectados por la medida, si bien fuentes del sector apuntan a que puede tratarse de los servicios de visual recognition alojados en la nube. Fuentes de la compañía en España rehusaron ofrecer más explicaciones.

Krishna ha asegurado en su misiva que la compañía “se opone firmemente" al uso de cualquier tecnología para la “videovigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas”. Por ello, señala, “ya no ofrece el software de análisis o reconocimiento facial de uso general”. El anuncio llega en un momento en el que las protestas contra los excesos policiales, y muy especialmente contra las minorías, se han extendido por todo Estados Unidos tras la muerte de George Floyd durante un arresto en Minneapolis.

El CEO de la compañía ha defendido también que “es el momento de iniciar un diálogo nacional sobre si estos sistemas deberían usarse por parte de las agencias nacionales de seguridad". Como se trata de una tecnología que puede caer en el sesgo, considera que es responsabilidad de las empresas asegurarse de que la inteligencia artificial “ayude a las fuerzas de seguridad a mantener a salvo a los ciudadanos”.

En este sentido, Krishna ha señalado que el Congreso debería hacer más por “combatir los abusos policiales, como llevar más casos ante la Corte federal o retirar la inmunidad que impide que los ciudadanos puedan buscar una reparación cuando se viole sus derechos constitucionales”.

“La Inteligencia Artificial es una herramienta poderosa que puede ayudar a las fuerzas del orden a mantener a los ciudadanos seguros”, ha asegurado. “Pero los vendedores y usuarios de los sistemas de Al tienen la responsabilidad compartida de asegurar que se compruebe la imparcialidad de Al, en particular cuando se utiliza en la aplicación de la ley, y que se audite y se informe sobre dicha prueba de parcialidad”.

"Creo que constituye una buena noticia que una de las grandes empresas, finalmente, pida un debate ético sobre el uso de la tecnología de reconociento facial, ha asegurado a EL PAÍS Mónica Villas, ex ejecutiva de IBM y actual profesra de IE y de Inmune Institute.

En lo referente a la economía, Krishna ha resaltado la necesidad de “crear vías más abiertas y equitativas para que todos los estadounidenses adquieran habilidades y capacitación,” una necesidad “particularmente aguda en las comunidades de color”. Por ello, insta a la promoción de programas como P-Tech para los estudios de secundaria, con un “fuerte enfoque en estudiantes de áreas educativamente desatendidas en los Estados Unidos”, y las Becas Pell, que constituyen “una vía importante para que los estudiantes de color vayan a la universidad”.

Puedes seguir a EL PAÍS TECNOLOGÍA RETINA en Facebook, Twitter, Instagram o suscribirte aquí a nuestra Newsletter.


Más información

Lo más visto en...

Top 50