¿La privatización de la Inspección?

El cruce de datos es un instrumento habitual por parte de nuestras instituciones en la prevención del fraude. Sin embargo, desde hace ya unos años, la Administración parece no considerarse suficientemente capacitada para continuar haciéndolo eficientemente solo a cargo de medios propios y, por ello, ha decidido externalizar en una empresa privada el desarrollo y mantenimiento de un algoritmo, cuyo objetivo es el de examinar dónde existe mayor fraude en nuestro país, permitiendo a la Inspección de Trabajo priorizar su actividad.

No voy a criticar las razones por las que se decide privatizar esta actividad (para ello, mejor les recomiendo leer a Mariana Mazzucato), sino a señalar algunos retos que plantea el recurso a un algoritmo para seleccionar las empresas a investigar.

Para comprender el calado del problema, es esencial resaltar que un algoritmo no es un elemento neutro ni objetivo y, consecuentemente, tampoco lo serán sus “decisiones”. En función de cómo se diseñe, las instrucciones y datos que se inserten en su código, los resultados cambiarán.

Por ejemplo, una de las propuestas sugeridas ha consistido en otorgar preferencia a la inspección de empresas conforme al coste-beneficio esperado de la misma. Algo que, si bien desde una perspectiva eficientista podría tener sentido, ha provocado efectos indeseados en otros países: el algoritmo prioriza la inspección de las pequeñas empresas sobre las grandes, dado que las primeras se predicen menos onerosas.

Una situación similar se produciría si se decidiera incluir en el algoritmo como parámetro datos sobre trabajadores inmigrantes, presuponiendo mayor fraude en materia de permisos de trabajo, incurriendo en una discriminación por razón de nacionalidad. El efecto indeseado de la mayor intensidad investigadora en empresas con altas tasas de trabajadores extranjeros sería el de reducir los incentivos de su contratación (desde el momento en que los empresarios sepan que eso les acarreará más inspecciones). De hecho, en Holanda, un tribunal de La Haya anuló el sistema algorítmico de la Inspección de Trabajo precisamente por falta de transparencia y discriminación.

De esta forma, si no se toman las debidas cautelas, podría acabar pasando que la consecución del interés público se vea truncada por el deficiente diseño de la herramienta, originando consecuencias perversas o, peor, que se externalice la determinación democrática del interés público en quien crea y tiene el conocimiento para adaptar y modificar el algoritmo.

Desde la OCDE se lleva años recomendando el recurso a estas técnicas para reducir el fraude, habiendo arrojado muy buenos resultados en otros países (Suecia, Holanda, Noruega…). Siendo esto cierto, y sin pretender poner en duda la necesidad del uso del big data en la lucha contra el fraude, el reto de la Administración ante este escenario es doble: controlar que el algoritmo funciona sin efectos perversos como la discriminación y, más importante aún, asegurar que éste se encuentra al servicio del interés público.

Adrián Todolí es profesor de Derecho del Trabajo de la Universidad de Valencia.