Corea del Sur se convirtió en el primer país del mundo en aprobar una ley que regula de manera integral el uso de la inteligencia artificial (IA), informó la agencia Yonhap. La legislación entró en vigor este jueves y tiene como objetivo principal combatir la desinformación, los deepfakes y otros efectos perjudiciales derivados del uso de esta tecnología.
De acuerdo con la normativa, las empresas que suministren directamente productos o servicios basados en IA deberán incorporar una “marca de agua” en todo contenido de voz, imagen o video generado mediante inteligencia artificial. Esta medida busca facilitar la identificación del material creado artificialmente.
“Aplicar marcas de agua al contenido generado con IA es la medida mínima de protección para evitar los efectos perjudiciales del abuso de esta tecnología, como el contenido deepfake”, afirmó un funcionario del Ministerio de Ciencia, citado por Yonhap.
La ley también incluye disposiciones específicas para la industria de los videojuegos. Los desarrolladores que utilicen IA generativa deberán advertirlo expresamente mediante avisos como “este juego utiliza IA generativa en determinados aspectos”, mientras que los personajes creados por esta tecnología deberán etiquetarse como “creados con IA”.
Asimismo, los chatbots deberán identificarse como “conversación a través de IA generativa”, según informó el diario Chosun.
IA de alto riesgo
La legislación introduce además el concepto de “IA de alto riesgo”, aplicable a tecnologías que puedan afectar de manera sustancial la vida, la seguridad o los derechos fundamentales de las personas. Entre los ejemplos se incluyen el uso de IA en procesos de contratación, evaluaciones crediticias o asesoramiento médico.
Las empresas que desarrollen o utilicen sistemas de IA considerados de alto riesgo estarán obligadas a informar explícitamente a los usuarios que sus servicios se basan en inteligencia artificial y deberán asumir la responsabilidad de garantizar su seguridad.
La ley también establece que las compañías de IA que operen en Corea del Sur y cumplan ciertos criterios (como ingresos anuales globales de 681 millones de dólares o más, ventas en el país por aproximadamente siete millones de dólares, o al menos un millón de usuarios diarios) deberán designar un representante local. Empresas como OpenAI y Google cumplen con estos requisitos, según Yonhap.
El incumplimiento de esta disposición podría acarrear multas de hasta 20.000 dólares, aunque las autoridades anunciaron que se aplicará un período de transición de un año antes de imponer sanciones.