Tres marcos éticos globales para la IA: UNESCO, OECD y Rome Call
Cómo se relacionan los principios OECD, la Recomendación UNESCO y la Rome Call for AI Ethics. Mapa práctico para profesionales que necesitan operar en línea con marcos europeos e internacionales.
- UNESCO
- OECD
- Rome Call
- Ética IA
Hay tres documentos internacionales que orientan la conversación global sobre ética de la inteligencia artificial: los principios OECD sobre IA, la Recomendación UNESCO sobre la ética de la IA y la Rome Call for AI Ethics. Cada uno opera en una capa distinta, y los tres se complementan en lugar de superponerse.
Para profesionales hispanohablantes que trabajan con clientes europeos, instituciones públicas u organismos internacionales, conocer la relación entre los tres marcos no es opcional: es lo que permite hablar el mismo idioma técnico-ético que sus interlocutores.
OECD: el lenguaje técnico común
Los principios OECD sobre IA se adoptaron en 2019 y se actualizaron en 2024. Son la primera referencia intergubernamental sobre IA con apoyo de las economías de la OECD y de varios países asociados.
Cinco principios:
- Crecimiento inclusivo, desarrollo sostenible y bienestar.
- Respeto del estado de derecho, derechos humanos y valores democráticos, incluida la equidad y la privacidad.
- Transparencia y explicabilidad.
- Robustez, seguridad y protección.
- Rendición de cuentas por el funcionamiento de los sistemas de IA.
El valor operativo de OECD es que es el lenguaje técnico que comparten 47 países y que sirve de base a la mayoría de regulaciones nacionales emergentes. Cuando un regulador mexicano, argentino o colombiano discute IA en un foro internacional, lo hace habitualmente sobre la base del léxico OECD.
UNESCO: derechos humanos y desarrollo
La Recomendación UNESCO sobre la ética de la IA se adoptó en noviembre de 2021. La firmaron los 193 Estados miembros de UNESCO. Es el primer instrumento normativo global sobre ética de IA con vocación universal.
Su aportación distintiva es conectar la ética de IA con el marco internacional de derechos humanos y con los Objetivos de Desarrollo Sostenible. Va más allá de OECD en tres puntos:
- Diversidad cultural e inclusión: aborda la representación lingüística y cultural en datos y sistemas.
- Impacto medioambiental: introduce la dimensión ecológica del entrenamiento y uso de modelos.
- Brecha digital Norte-Sur: reconoce desigualdades estructurales y exige medidas para reducirlas.
Para profesionales en países hispanohablantes, la Recomendación UNESCO tiene un peso particular: muchos gobiernos de América Latina y el Caribe la han adoptado como referencia para sus estrategias nacionales de IA.
Rome Call: la capa humanista
La Rome Call for AI Ethics se firmó el 28 de febrero de 2020 en el Vaticano. Promovida por la Pontificia Academia para la Vida, ha sido suscrita por la Santa Sede, instituciones académicas como Harvard y MIT, empresas tecnológicas (IBM, Microsoft, Cisco) y gobiernos.
Introduce el concepto de algorética (algoritmo + ética) y propone seis principios:
- Transparencia: los sistemas de IA deben ser explicables.
- Inclusión: las necesidades de todas las personas deben considerarse.
- Responsabilidad: quien diseña y despliega responde por los efectos.
- Imparcialidad: no actuar con sesgos.
- Fiabilidad: los sistemas deben funcionar de forma robusta.
- Seguridad y privacidad: protección de datos y prevención de daños.
La aportación de la Rome Call no es jurídica sino antropológica. Coloca la cuestión técnica dentro de la pregunta más amplia sobre qué tipo de sociedad construimos con estas herramientas. Es por eso que AIPIA es endorser oficial de la Rome Call: la dimensión humanista no es un anexo del código ético profesional, es su fundamento.
Cómo se relacionan los tres marcos
La forma más útil de pensarlos es como capas:
| Capa | Marco | Aportación distintiva |
|---|---|---|
| Técnico-económica | OECD | Lenguaje común, base para regulación |
| Derechos humanos | UNESCO | Vinculación con derechos, diversidad, sostenibilidad |
| Humanista-ética | Rome Call | Algorética, pregunta antropológica de fondo |
OECD describe qué deben hacer técnicamente los sistemas. UNESCO describe qué derechos deben proteger y a quién deben servir. La Rome Call pregunta qué tipo de humanidad queremos a través de esas herramientas.
Por encima de los tres marcos opera el Reglamento de IA de la UE 2024/1689, que traduce muchos de estos principios en obligaciones jurídicas vinculantes para proveedores y desplegadores que operan en territorio europeo.
Implicaciones prácticas para profesionales
Operar en línea con los tres marcos significa, en términos concretos:
- Documentar modelos con tarjetas técnicas que cubran rendimiento, sesgos, limitaciones, casos de uso aceptables.
- Evaluar impacto sobre derechos antes del despliegue en contextos sensibles (educación, sanidad, empleo, justicia, servicios financieros).
- Garantizar representatividad en datos de entrenamiento, con atención específica a comunidades infrarrepresentadas.
- Mantener supervisión humana efectiva —no decorativa— en decisiones que afectan a personas.
- Asegurar trazabilidad de las decisiones tomadas por sistemas automatizados.
El código ético AIPIA sintetiza estos principios en seis pilares operativos que las personas asociadas asumen como conducta profesional.
Por qué importa para profesionales hispanohablantes
Una asesoría con sede en Madrid, una consultoría en Buenos Aires o un equipo de desarrollo en Bogotá que trabaja con clientes europeos o instituciones públicas necesita acreditar que conoce y aplica estos marcos. La credencial europea AIPIA certifica precisamente esa alineación, con sello eIDAS verificable en Europass.