IA EN EL MUNDO: LA RECOMENDACIÓN DE LA UNESCO SOBRE ÉTICA DE LA IA — EL DOCUMENTO QUE 193 PAÍSES FIRMARON Y QUE CASI NADIE CUMPLE
QUÉ ENCONTRAMOS
¿Qué establece?
Cuatro valores fundamentales: respeto a los derechos humanos y la dignidad, prosperidad del medio ambiente y los ecosistemas, diversidad e inclusión, y sociedades pacíficas, justas e interconectadas.
Siete principios: proporcionalidad e inocuidad, seguridad y protección, equidad y no discriminación, sostenibilidad, privacidad y protección de datos, supervisión y decisión humanas, y transparencia y explicabilidad.
Once ámbitos de acción política: evaluación del impacto ético, gobernanza ética, política de datos, cooperación internacional, medio ambiente y ecosistemas, género, cultura, educación e investigación, comunicación e información, economía y trabajo, y salud y bienestar social.
ANÁLISIS CRÍTICO QNM — Lo que el documento dice y lo que el Perú no hace
Dimensión ambiental: la UNESCO lo dijo en 2021 y el Perú sigue sin escuchar
El párrafo 17 de la Recomendación establece que la prosperidad del medio ambiente y los ecosistemas debe ser reconocida, protegida y promovida a lo largo del ciclo de vida de los sistemas de IA. El párrafo 18 va más allá: todos los actores que participan en el ciclo de vida de los sistemas de IA deben respetar las normas para la protección del medio ambiente y deberían reducir el impacto ambiental de los sistemas de IA, en particular su huella de carbono, para prevenir la explotación y utilización no sostenibles de los recursos naturales.
El Ámbito de Actuación 5 (párrafos 84-86) es específico: los Estados y las empresas deben evaluar el impacto ambiental directo e indirecto de los sistemas de IA a lo largo de su ciclo de vida, incluyendo su consumo de energía y el impacto de la extracción de materias primas, y reducir el impacto ambiental de los sistemas de IA y las infraestructuras de datos. Y el párrafo 86 establece que cuando existan impactos negativos desproporcionados en el medio ambiente, no debería utilizarse la IA.
Cinco años después de esta Recomendación, seis instituciones del Estado peruano — MINAM, PCM, ANA, OEFA, SENACE y MTC — confirmaron no tener regulación para centros de datos. No hay evaluación de impacto ambiental. No hay medición de consumo de agua. No hay reducción de huella. La Recomendación de la UNESCO que el Perú suscribió es letra muerta en materia ambiental digital.
Dimensión judicial: la UNESCO advirtió sobre la IA en tribunales
El párrafo 63 establece que los Estados deben reforzar la capacidad del poder judicial para adoptar decisiones relacionadas con sistemas de IA, velando por que se respete la supervisión humana. Y agrega que se necesitan suficientes salvaguardias para garantizar la protección de los derechos humanos, el estado de derecho, la independencia judicial y el principio de supervisión humana.
El Poder Judicial del Perú implementó Curia, Amauta.Pro e IUDEX IA sin que conste evaluación de impacto ético, sin auditoría de sesgo algorítmico, sin transparencia hacia el justiciable y sin las salvaguardias que la UNESCO exige. El párrafo 63 no es una sugerencia genérica: es una directriz específica para el uso de IA en el poder judicial que el Perú suscribió y no cumple.
Dimensión de transparencia: el derecho a saber que una IA decidió sobre tu vida
El párrafo 38 establece que las personas deben estar plenamente informadas cuando una decisión se basa en algoritmos de IA, en particular cuando afecta a su seguridad o a sus derechos humanos, y deberían tener la oportunidad de solicitar explicaciones. El párrafo 127 establece que los usuarios deben poder determinar fácilmente si interactúan con un sistema de IA y poder rechazar dicha interacción y solicitar intervención humana.
En el Perú, ninguno de los tres sistemas de IA del Poder Judicial informa al justiciable que su caso fue procesado por IA. La mujer víctima de violencia familiar cuya medida de protección generó Amauta.Pro no sabe que una máquina la redactó. El litigante cuya demanda calificó IUDEX IA no sabe que un algoritmo decidió si era competente. La parte cuya sentencia proyectó Curia no sabe que un sistema de IA la escribió. Todos tienen derecho a saberlo según la UNESCO. Ninguno lo sabe en la práctica.
Dimensión de datos de entrenamiento: la UNESCO exige lo que nadie audita
El párrafo 76 establece que los Estados deben promover conjuntos de datos sólidos y de calidad para el entrenamiento de IA y ejercer vigilancia al supervisar su recopilación y utilización. El párrafo 66 exige que los actores de IA revelen y combatan toda clase de estereotipos en los datos de entrenamiento y velen por que los conjuntos de datos no fomenten desigualdades ni prejuicios.
Curia fue entrenado con "información seleccionada y la base del sistema peruano de información jurídica." ¿Quién seleccionó? ¿Qué sesgos contiene la jurisprudencia peruana histórica? ¿Se auditaron los datos contra estereotipos de género, raza o condición socioeconómica? La UNESCO exige esta vigilancia. No se ha cumplido.
BRECHAS IDENTIFICADAS POR QNM
Brecha 1 — Medio ambiente: cinco años de incumplimiento
La UNESCO estableció en 2021 que los sistemas de IA deben reducir su impacto ambiental y que los Estados deben evaluar su consumo de energía y recursos. En 2024, Perú firmó acuerdo con UNESCO para implementar la Recomendación. En 2026, seis instituciones del Estado confirmaron no tener regulación ambiental para centros de datos. Cinco años de vigencia de la Recomendación, cero implementación en materia ambiental digital. La brecha entre lo firmado y lo cumplido es total.
Brecha 2 — Evaluación de impacto ético: el Ámbito de Actuación 1 no existe en el Perú judicial
Los párrafos 50 a 53 exigen marcos de evaluación del impacto ético para sistemas de IA, incluyendo repercusiones en derechos humanos, medio ambiente y consecuencias sociales, con mecanismos de auditoría, trazabilidad y explicabilidad. El Poder Judicial peruano implementó tres sistemas de IA sin evaluación de impacto ético conforme a la Recomendación UNESCO. El D.S. 115-2025-PCM incorpora esta exigencia pero con plazo hasta septiembre de 2026, lo que significa que los sistemas operan antes de ser evaluados.
Brecha 3 — Supervisión humana: la UNESCO exige lo que el Poder Judicial asume sin verificar
El párrafo 36 establece que un sistema de IA nunca podrá reemplazar la responsabilidad final de los seres humanos. Los tres sistemas del Poder Judicial peruano afirman que "no reemplazan al juez." Pero la UNESCO no se conforma con declaraciones: exige mecanismos verificables de supervisión. La diferencia entre decir "el juez revisa" y garantizar que la revisión sea sustantiva y no meramente formal es la diferencia entre cumplir la Recomendación y aparentar cumplirla.
Brecha 4 — Proporcionalidad: ¿la IA era necesaria?
El párrafo 26 establece que la decisión de utilizar sistemas de IA debe justificarse: el método elegido debe ser adecuado y proporcional para lograr un objetivo legítimo, no debe vulnerar valores fundamentales y debe basarse en fundamentos científicos rigurosos. ¿Se evaluó si Curia, Amauta.Pro e IUDEX IA eran la solución proporcionada al problema de la carga procesal? ¿Se consideraron alternativas menos invasivas, como la contratación de más personal jurisdiccional? ¿Se documentó la base científica de la decisión? La UNESCO exige esta justificación. No consta que se haya producido.
Brecha 5 — Empresa privada en función judicial: la UNESCO exige responsabilidad empresarial
Los párrafos 42 y 68 establecen que los actores de la IA deben asumir responsabilidad ética y jurídica, y que los Estados deben garantizar que la responsabilidad recaiga siempre en personas físicas o jurídicas y nunca en el propio sistema de IA. IUDEX IA fue desarrollado por Timix SAC. ¿Qué responsabilidad asume Timix SAC si el sistema califica incorrectamente una demanda y el ciudadano pierde acceso a la justicia? El convenio de cooperación interinstitucional ¿establece cláusulas de responsabilidad? La UNESCO exige claridad en la atribución de responsabilidad. En el caso de IUDEX IA, la cadena de responsabilidad está fracturada entre el Poder Judicial, el ETII y una empresa privada.
Brecha 6 — Principio precautorio ambiental: la UNESCO vs. el vacío peruano
El párrafo 86 establece que si no es posible demostrar que una aplicación de IA tendrá el efecto deseado, deberá privilegiarse el principio de precaución, y que cuando haya impactos negativos desproporcionados en el medio ambiente, no debería utilizarse la IA. Los centros de datos en Lurín operan sobre el acuífero Lurín — calificado como excelente en calidad por la propia ANA — sin demostrar que su operación no causará impactos ambientales negativos. La carga de la prueba, según la UNESCO, recae en quien usa la IA, no en quien la cuestiona. En el Perú, la carga se invierte: los centros de datos operan sin demostrar nada y es la ciudadana quien debe probar el daño.
Brecha 7 — Conexión entre la Recomendación UNESCO y la propuesta QNM ante Naciones Unidas
La propuesta normativa "Nuevo Contrato Social Tecnológico" (Rojas Espinoza, 2026), presentada ante los Procedimientos Especiales de Naciones Unidas (referencia 5kzh8es0), desarrolla exactamente lo que la Recomendación UNESCO establece como obligación de los Estados pero que ninguno ha implementado plenamente: evaluación de impacto ambiental de la IA, transparencia en consumo de recursos, protección del agua como derecho humano frente a la expansión tecnológica, y el Principio de Coherencia Material como mecanismo de implementación.
La Recomendación UNESCO es el marco. El Nuevo Contrato Social Tecnológico es la herramienta para hacerlo realidad. La UNESCO dice "deberían." QNM dice "así se hace."
CUADRO COMPARATIVO: UNESCO vs. REALIDAD PERUANA
| Exigencia UNESCO | Párrafo | Situación en el Perú |
|---|---|---|
| Evaluar impacto ambiental de IA | 84 | Seis instituciones sin regulación para centros de datos |
| Reducir huella ambiental de infraestructura de datos | 84 | Cero medición de consumo hídrico o energético |
| Supervisión humana verificable en IA judicial | 63 | Tres sistemas judiciales sin protocolo público de supervisión |
| Informar al ciudadano que IA decide sobre su caso | 38, 127 | Ningún sistema judicial informa al justiciable |
| Evaluación de impacto ético antes de implementar | 50-53 | Sistemas operativos sin evaluación previa |
| Auditoría de sesgo en datos de entrenamiento | 66, 76 | Cero auditoría pública de sesgo algorítmico |
| Principio precautorio ambiental | 86 | Centros de datos operan sin demostrar ausencia de daño |
| Responsabilidad atribuible a personas jurídicas | 42, 68 | IUDEX IA: responsabilidad fracturada entre PJ y Timix SAC |
| Protección del medio ambiente como valor | 17-18 | Sin Límites Máximos Permisibles para efluentes de centros de datos |
| Transparencia algorítmica | 37-41 | Plazo septiembre 2026, sin evidencia de avance |
Sistemas de IA en el Poder Judicial Peruano:
| N° | Sistema | Desarrollador | Función | Riesgo | Cumple UNESCO |
|---|---|---|---|---|---|
| 1 | Amauta.Pro | CSJ Lima Norte | Resoluciones violencia familiar | Alto | No verificado |
| 2 | Curia | Quinta Sala CS | Proyección resoluciones | Alto | No verificado |
| 3 | IUDEX IA | ETII + Timix SAC | Calificación demandas | Alto | No verificado |
Marco normativo aplicable:
| N° | Instrumento | Ámbito | Vigencia | Implementación en Perú |
|---|---|---|---|---|
| 1 | Recomendación UNESCO Ética IA | Global, 193 Estados | Noviembre 2021 | Parcial: Ley 31814 y D.S. 115-2025-PCM sin implementación ambiental |
| 2 | Ley N° 31814 | Perú | Julio 2023 | Vigente, enfoque promocional |
| 3 | D.S. N° 115-2025-PCM | Perú | Enero 2026 | Implementación gradual, plazo justicia septiembre 2026 |
| 4 | Ley N° 32314 | Perú | Abril 2025 | Vigente, agravantes penales por uso de IA |
| 5 | AI Act UE | Unión Europea | Agosto 2024 | No aplicable en Perú, referente comparado |
PATRÓN ACUMULATIVO (cuatro publicaciones):
La Recomendación UNESCO de 2021 establece con claridad los valores, principios y acciones que los Estados deben implementar. El Perú aprobó la Ley 31814 y su Reglamento como respuesta parcial. Pero la implementación real en dos dimensiones críticas — impacto ambiental de la infraestructura digital y uso de IA en el poder judicial — presenta brechas totales entre lo firmado y lo cumplido. Los tres sistemas de IA del Poder Judicial operan sin cumplir las salvaguardias que la UNESCO exige para IA en la justicia. Los centros de datos operan sin cumplir las evaluaciones ambientales que la UNESCO exige para toda infraestructura de IA. El Estado peruano firmó un compromiso global en 2021, legisló parcialmente en 2023-2025, y en 2026 la brecha entre el compromiso y la realidad sigue abierta.
Esta es la cuarta publicación de la serie "IA en el Perú: lo que hay, lo que falta y lo que nadie te dice."
No hay comentarios:
Publicar un comentario