El desarrollo acelerado de la inteligencia artificial ha incorporado nuevas cuestiones a las agendas gubernamentales. La capacidad de los sistemas automatizados para analizar información, generar contenidos y apoyar decisiones plantea desafíos que superan las fronteras tradicionales entre política tecnológica, protección de datos, seguridad, competencia económica y derechos fundamentales.
Los gobiernos enfrentan una tensión importante. Por una parte, desean promover el crecimiento de sectores tecnológicos capaces de incrementar la productividad y generar nuevas oportunidades económicas. Por otra, tienen la responsabilidad de proteger a los ciudadanos frente a posibles daños.
La gobernanza pública de la inteligencia artificial consiste precisamente en gestionar esta tensión mediante instrumentos legislativos, administrativos, técnicos y económicos.
El presente artículo examina el papel gubernamental desde distintas dimensiones: regulación basada en riesgos, fortalecimiento institucional, supervisión de sistemas de alto impacto, contratación pública, formación de funcionarios, políticas de innovación y cooperación internacional. Se argumenta que la eficacia de la regulación depende no solamente de la existencia de leyes, sino también de la capacidad del Estado para implementarlas, supervisarlas y adaptarlas frente a los cambios tecnológicos.
Regulación basada en riesgos
Una de las tendencias más importantes en las políticas públicas sobre inteligencia artificial consiste en clasificar las aplicaciones según el nivel de riesgo que representan.
Este enfoque parte de la idea de que una regulación idéntica para todas las tecnologías podría resultar poco eficiente. Una aplicación empleada para organizar documentos no presenta necesariamente los mismos riesgos que una herramienta utilizada para determinar el acceso de una persona a determinados servicios.
Los sistemas de mayor impacto pueden requerir controles adicionales, entre ellos documentación técnica, pruebas de seguridad, análisis de sesgos y procedimientos de supervisión humana.
La ventaja del enfoque basado en riesgos consiste en permitir que las obligaciones regulatorias sean proporcionales a las consecuencias potenciales de cada aplicación.
Protección de derechos fundamentales
La protección de derechos constituye otra función esencial del Estado. Los sistemas de inteligencia artificial pueden procesar grandes cantidades de datos personales. Por ello, la regulación debe coordinarse con los marcos de protección de datos, privacidad y seguridad de la información.
También existen preocupaciones relacionadas con la discriminación algorítmica. Cuando los datos utilizados para entrenar un sistema reflejan desigualdades históricas, los resultados automatizados pueden reproducir determinados patrones.
Los gobiernos deben establecer mecanismos para que las personas puedan cuestionar decisiones de alto impacto y obtener explicaciones cuando corresponda.
Esto resulta particularmente importante cuando los sistemas automatizados intervienen en sectores como empleo, servicios financieros, salud, justicia o administración pública.
Capacidad institucional del Estado
La eficacia de una política tecnológica no depende exclusivamente de las normas jurídicas. También depende de la capacidad de las instituciones encargadas de aplicarlas.
Regular inteligencia artificial exige funcionarios con conocimientos interdisciplinarios. Los organismos de supervisión necesitan comprender elementos de ciencia de datos, seguridad informática, regulación, ética y gestión de riesgos.
Por esta razón, los gobiernos deben invertir en capacitación institucional y atraer talento especializado.
Una regulación ambiciosa acompañada de instituciones con capacidades limitadas corre el riesgo de convertirse en un conjunto de obligaciones difíciles de supervisar.
Inteligencia artificial en la administración pública
Los gobiernos no son únicamente reguladores. También son usuarios de inteligencia artificial. Los organismos públicos pueden utilizar sistemas automatizados para analizar documentación, administrar solicitudes, detectar irregularidades o mejorar determinados servicios.
Sin embargo, el uso gubernamental de estas tecnologías requiere estándares especialmente rigurosos, debido a la relación directa entre administración pública y derechos ciudadanos.
La implementación de IA en el sector público debería estar acompañada de evaluaciones de impacto, documentación sobre su finalidad y mecanismos de supervisión. Además, determinados sistemas deberían permitir revisión humana cuando una decisión automatizada pueda tener efectos significativos sobre una persona.
Contratación pública como instrumento de gobernanza
La contratación pública constituye una herramienta relevante para mejorar los estándares tecnológicos.
Los Estados adquieren cantidades significativas de software, infraestructura y servicios digitales. Esto les permite establecer criterios de contratación relacionados con seguridad, protección de datos, interoperabilidad y transparencia.
Cuando un gobierno exige estándares elevados a sus proveedores, puede incentivar cambios en todo el mercado.
Por ejemplo, los contratos podrían exigir documentación sobre funcionamiento, medidas de ciberseguridad, mecanismos de auditoría y procedimientos para gestionar incidentes.
De esta manera, la contratación pública puede convertirse en una forma indirecta pero significativa de gobernanza tecnológica.
Innovación y regulación
La regulación no necesariamente debe considerarse una fuerza contraria a la innovación. Un entorno regulatorio claro puede aumentar la confianza de consumidores, empresas e inversionistas. Cuando las organizaciones conocen anticipadamente las reglas aplicables, pueden diseñar estrategias de desarrollo más previsibles.
Los gobiernos también pueden crear espacios regulatorios de experimentación, frecuentemente denominados sandboxes, en los que las empresas prueban nuevas tecnologías bajo supervisión institucional.
Estos mecanismos permiten observar riesgos reales antes de establecer regulaciones generales y facilitan el aprendizaje tanto de empresas como de autoridades.
Educación y alfabetización en inteligencia artificial
La gobernanza pública requiere también mejorar la capacidad de los ciudadanos para comprender la tecnología.
La alfabetización en IA permite reconocer las posibilidades y limitaciones de los sistemas automatizados. También facilita la identificación de contenidos sintéticos, errores tecnológicos y riesgos relacionados con la privacidad.
Por ello, las políticas públicas deberían incorporar formación sobre inteligencia artificial en escuelas, universidades y programas de capacitación profesional. Una ciudadanía con mayores conocimientos digitales puede participar de forma más activa en las discusiones relacionadas con regulación y desarrollo tecnológico.
Cooperación internacional
La inteligencia artificial es una tecnología global. Los modelos pueden desarrollarse en un país, ejecutarse mediante infraestructura localizada en otro y ofrecer servicios a usuarios distribuidos internacionalmente.
Esta característica dificulta la regulación exclusivamente nacional. Los gobiernos necesitan establecer mecanismos de cooperación sobre estándares de seguridad, investigación, protección de datos y gestión de riesgos.
La armonización regulatoria también puede reducir costos para las organizaciones que operan en múltiples jurisdicciones. Sin embargo, esta cooperación debe respetar las diferencias institucionales y culturales entre países.
Apuntes finales
Los gobiernos poseen una responsabilidad central en la construcción de sistemas de gobernanza de la inteligencia artificial.
Su función no se limita a aprobar leyes. También deben desarrollar capacidades técnicas, supervisar sistemas de alto impacto, promover educación digital, establecer estándares mediante contratación pública y participar en procesos de cooperación internacional.
La regulación efectiva requiere combinar protección de derechos, innovación, capacidad institucional y adaptabilidad.
En consecuencia, el éxito de las políticas sobre inteligencia artificial dependerá tanto de la calidad de las normas como de las instituciones responsables de convertirlas en prácticas concretas.
Fuente: Este artículo puede fundamentarse principalmente en los Principios de IA de la OCDE, actualizados en 2024, y en el AI Risk Management Framework (AI RMF 1.0) del NIST. La OCDE aborda IA confiable, derechos humanos, transparencia, responsabilidad y gestión de riesgos, mientras que NIST desarrolla un marco práctico para identificar y gestionar riesgos durante el ciclo de vida de los sistemas de IA
Edición: Equipo editorial de IMKGlobal, con apoyo de herramientas de inteligencia artificial.
👉 Mira el catálogo de soluciones y mentoría de IMKGlobal AQUI
Soluciones digitales completas
Julian Andrés Castiblanco Herrera
🟢 CEO – Chief Executive Officer
ImkGlobal – Ingenieros de Marketing
✉ ceo@imk.global
📞 CO: +57 300 639 8181