Directrices éticas para una IA fiable

Ficha del documento

Comisión Europea. (2019, 8 de abril). Directrices éticas para una IA fiable. Dirección General de Redes de Comunicación, Contenido y Tecnologías. https://digital-strategy.ec.europa.eu/library/ethics-guidelines-trustworthy-ai

Documento oficial elaborado por el Grupo de Expertos de Alto Nivel sobre IA (HLEG), nombrado por la Comisión Europea, tras un primer proyecto (diciembre 2018) sometido a consulta pública con más de 500 observaciones recibidas.

Hallazgos relevantes para el corpus QNM

1. Confirmación textual oficial del Requisito 6 — "Bienestar social y medioambiental". La fuente primaria establece, en los términos exactos de la Comisión Europea:

"Los sistemas de IA deben beneficiar a todos los seres humanos, incluidas las generaciones futuras. Por lo tanto, debe garantizarse que sean sostenibles y respetuosas con el medio ambiente. Además, deben tener en cuenta el medio ambiente, incluidos otros seres vivos, y debe estudiarse detenidamente su impacto social y social."

Esto confirma, con fuente primaria verificada, lo que el Documento 12 (blog) reportaba de forma indirecta: el ambiente aparece en 2019 como uno de los 7 requisitos clave del marco europeo, pero subsumido dentro de un requisito compuesto ("social y medioambiental"), no como categoría autónoma — a diferencia de la UNESCO (2021), que sí lo eleva a valor fundacional independiente. Este matiz —requisito compuesto vs. principio autónomo— es importante para tu argumentación comparativa: incluso el marco europeo, el más "duro" en tanto sirvió de base al AI Act vinculante, trata el ambiente con menor jerarquía normativa que la UNESCO.

2. Los 7 requisitos HLEG, en su redacción oficial. El documento lista: (1) Intervención y supervisión humanas, (2) Solidez técnica y seguridad, (3) Privacidad y gestión de datos, (4) Transparencia, (5) Diversidad, no discriminación y equidad, (6) Bienestar social y medioambiental, (7) Rendición de cuentas — con ALTAI (Assessment List for Trustworthy AI, julio 2020) como herramienta de autoevaluación operativa asociada a cada requisito.

3. Instrumento de auditoría con protocolo público y gratuito (ALTAI). Disponible en PDF y como herramienta web, diseñado para que "desarrolladores e implementadores de IA" apliquen los 7 requisitos en la práctica — mismo tipo de instrumento (protocolo de autoevaluación) que la EIA de UNESCO señalada en el Documento 12, y que ningún sistema de IA judicial peruano documentado en tu corpus (Amauta.Pro, Curia, IUDEX IA, Tucuy Ricuy) registra haber aplicado.

Lista de contaminantes

No aplica — documento de principios éticos institucionales sin mediciones ambientales directas.

Brechas de gestión

1. Elevación de estándar probatorio: con esta fuente primaria puedes sustituir, en cualquier publicación o expediente, la referencia al blog "IA Sostenible" por la cita directa a Comisión Europea (2019), reforzando la solidez metodológica del corpus ante entidades como INDECOPI, OEFA o el Poder Judicial.
2. Jerarquía normativa del principio ambiental como variable comparativa útil: el hallazgo de que la UE subsume "ambiental" dentro de un requisito compuesto con "social" (Requisito 6), mientras UNESCO lo separa como principio autónomo, ofrece un criterio objetivo y citable para calificar el nivel de desarrollo normativo peruano en la materia — que ni siquiera alcanza el nivel de subsunción del HLEG, dado que el Reglamento peruano (D.S. 115-2025-PCM) solo lo enuncia como uno de nueve principios sin desarrollo operativo (art. 7, "Sostenibilidad").
3. Doble estándar de auditabilidad confirmado: tanto el marco europeo (ALTAI, 2020) como el de UNESCO (EIA) ofrecen desde hace 4-5 años herramientas gratuitas y públicas de autoevaluación que ningún sistema de IA judicial peruano documentado por QNM ha aplicado ni referenciado en sus resoluciones administrativas de creación.

QNM — Que Nos Mantengan con lo Nuestro® | INDECOPI N.° 00174793

Yolanda Victoria Rojas Espinoza | ORCID 0009-0002-9012-1393