New York. El secretario general de la Organización de las Naciones Unidas (ONU), António Guterres, propuso este lunes un pacto mundial para gestionar las tecnologías digitales, incluido el rápido avance de la inteligencia artificial (IA), que según advierte, puede traer amenazas difíciles de controlar.
Guterres, en 2021 propuso un Pacto Digital Mundial que aboga por promover la regulación de la IA, detalló hoy sus ideas sobre cómo hacerlo.
Un acuerdo digital con énfasis en la inteligencia artificial
La intención de la ONU es que gobiernos, sector privado y la sociedad civil adopten ese acuerdo en septiembre de 2024, durante la Cumbre del Futuro convocada por la organización.
En ese sentido, uno de los ejes más destacados del Pacto Digital es el de la inteligencia artificial, sobre todo después de los rápidos avances que se han visto en los últimos meses.
“Empezamos a darnos cuenta de la escala de su potencial disruptivo, tanto positivo como negativo”, dijo.
Asimismo, mencionó que se deben considerar los problemas y “colaborar en la identificación de riesgos y formas de mitigarlos”.
Guterres, en un discurso este lunes, destacó que recientemente se ha superado un “umbral digital, con el uso generalizado de IA generativa en la forma de ChatGPT“.
Una tecnología que tendrá un gran impacto, pero que no está claro que vaya a ser bueno.
“La perspectiva de un mayor progreso tecnológico ahora plantea a menudo más miedo que esperanza”, remarcó el funcionario portugués.
Incluso aquellos que han desarrollado IA y “que se beneficiarían de ella han expresado una preocupación y pedido, incluso suplicado, acciones para su gobernanza”.
Una IA controlada por humanos a los que pedir cuentas
Guterres considera necesario asegurar que el diseño y uso de la IA sea transparente, seguro y que esté bajo un control de humanos a los que se puedan pedir cuentas.
Asimismo que, combine guías y normas internacionales, marcos regulatorios nacionales y estándares técnicos que facilite una gestión “ágil” de estas nuevas tecnologías.
Las recetas que propone, en general, buscan la cooperación entre autoridades y la industria.
Así, entre las acciones que plantea aparecen un trabajo de investigación junto a las empresas para asegurar que los sistemas de IA sean seguros.
De la misma forma, propone que se alineen con valores humanos para reforzar la transparencia, los derechos humanos y ética.
Además, pide a los Gobiernos que pacten con la industria unas directrices que guíen el desarrollo de la inteligencia artificial.
Guterres, por último, llama a considerar “prohibiciones al uso de aplicaciones de tecnología cuyo potencial no pueda justificarse bajo la ley internacional de derechos humanos”.
Lea también: Dron controlado por Inteligencia Artificial mata a un operador humano
Desde hace años, el secretario general viene advirtiendo del riesgo que plantean las llamadas armas autónomas, sistemas militares guiados por inteligencia artificial que pueden tomar sus propias decisiones a la hora de lanzar un ataque. EFE