Pilar Manchón, de Google: “Con la IA, el mayor riesgo que tenemos es la estupidez humana”

Los riesgos asociados a la inteligencia artificial están bien documentados: infracciones a la privacidad, el robo de la propiedad intelectual o el gran reemplazo del trabajador humano, por nombrar algunos. Pero Pilar Manchón, experta en IA en Google, destaca uno más: “la estupidez humana”. Para Manchón, este es el mayor riesgo que se debe tener en cuenta a la hora de regular esta tecnología, según indicó este martes durante el panel ‘El estado de la IA generativa en la empresa: Ahora decide el próximo’ celebrado en el marco del foro Latinoamérica, Estados Unidos y España en la economía global, organizado en Nueva York por EL PAÍS y la Cámara de Comercio España-Estados Unidos.

“Sabemos que iremos tan lejos y tan rápido porque estamos en control. Así que depende de nosotros asegurarnos de que damos los pasos necesarios y tomamos las precauciones necesarias para utilizar la IA de la forma más constructiva, justa y adecuada”, explicó Manchón, directora senior de Ingeniería, Estrategia de Investigación de IA de Google, durante su intervención en el evento patrocinado por DLA Piper, Iberia, Inditex, Indra, NTT Data y Total Protect en colaboración con la Organización de Estados Iberoamericanos (OEI). La experta destacó además que la “IA es solo una herramienta, es un medio para un fin”. Por tanto, son los humanos quienes deciden el uso que hacen de ella, para bien o para mal. “En este ámbito, yo diría que somos nuestros mejores aliados, y también nuestros mejores y más peligrosos enemigos”, añadió.

Para hacer frente a este riesgo y a otros, Manchón considera que es necesario un marco de regulación común que combine los que ya están en marcha en Europa y Estados Unidos, entre otros. “Diferentes sociedades, en Europa, Estados Unidos o Asia, tendrán diferentes interpretaciones de cuánto riesgo queremos asumir y cuánta sensibilidad hay sobre ciertos datos, ciertas aplicaciones, ciertas cosas. Así que tenemos que encontrar la manera de compatibilizar los diferentes marcos jurídicos que se están elaborando en Europa, Estados Unidos y otras partes del mundo. Y tenemos que llegar a un entendimiento en el que la movilidad y la transitoriedad enriquezcan nuestro mundo”, señaló.

Se trata de encontrar “el equilibrio entre riesgo y valor”, destacó Domingo González, director de Innovación en TI de Nestlé para Norteamérica. “Y dependiendo del riesgo, hay algunas garantías y algunos cumplimientos que deben cumplirse”, aseguró. Parte de esas garantías pueden abordarse mediante la educación: “Siempre que implementamos herramientas de IA generativa en Nestlé, dedicamos mucho tiempo a la formación, a enseñar a la gente cómo utilizar la herramienta, cómo hablar con ella, cómo obtener valor de ella”. “Pensando a nivel de un país, tenemos que enseñar a los ciudadanos lo mismo”, añadió.

“Creo que todos sabemos que la IA es demasiado importante como para no regularla, pero también es importante no regularla en exceso”, advirtió Manchón, coincidiendo en la necesidad de encontrar el “equilibrio adecuado” al que se refería González. “También es importante asegurarse de que no estamos regulando la tecnología, sino las aplicaciones de la tecnología, porque la tecnología no es buena o mala, lo que importa es cómo se utiliza, y depende de nosotros cómo la usemos”, agregó Manchón.

Por su parte, Mariano Jabonero, Secretario General de la OEI-Organización de Estados Iberoamericanos, destacó durante un segundo panel centrado en la inteligencia artificial, que la regulación de esta tecnología debe también priorizar la protección de la propiedad intelectual. “Hemos creado una cátedra específica en el tema porque si había un expolio fuerte en la región con patrimonio físico, que es histórico, además, ahora nos encontramos con un expolio del trabajo de creativos que viven de eso, que están desprotegidos por completo. Hay que presionar a los Gobiernos en esa dirección porque forma parte de la riqueza de la región”, advirtió.

IA para todos

Durante el segundo panel sobre la IA también se abordaron los posibles usos de la IA en sectores como la educación, ciencia y cultura. Pero tanto Carme Artigas, copresidenta del órgano asesor sobre IA en Naciones Unidas, como Jabonero, destacaron la importancia de que las herramientas llegan todos los países, no solos los ricos.

“Necesitamos compensar las grandes diferencias entre el norte y el sur global”, apuntó Artigas. “De los 100 supercomputadores que hay en el mundo, no hay uno solo en el sur global. Estamos en una batalla geopolítica por el control de las materias primas, de los chips... No queremos un nuevo tecno-colonialismo, buscamos que Latinoamérica y África puedan generar sus propias soluciones con las herramientas que el norte puede aportar”, agregó.

Jabonero destacó el caso de América Latina, una región cuyo PIB lleva años estancado porque los países dependen de “un modelo económico, un modelo de conocimiento, absolutamente primario” y cuyo sistema educativo tiene graves deficiencias. “Es un sistema de baja calidad, ineficiente y además no inclusivo”, explicó. Ante este contexto, señaló, la IA puede servir como “una gran herramienta” para impulsar el desarrollo en la región. Pero para ello la tecnología debe estar a su alcance, para lo cual es necesaria la cooperación entre países como, por ejemplo, España y Brasil, que firmaron el año pasado un acuerdo sobre la IA en español y portugués. “Ese es nuestro horizonte de desarrollo”, concluyó el Secretario General de la OEI.