IA Y DERECHOS HUMANOS EN EL PERÚ: LO QUE DICE LA ACADEMIA Y LO QUE NADIE INVESTIGA
QUÉ ENCONTRAMOS
¿Qué encontraron los investigadores?
Tres riesgos principales cuantificados: opacidad algorítmica identificada como riesgo central en el 35.5% de los estudios (11 investigaciones), vacíos regulatorios en el 32.3% (10 estudios), y amenazas a la privacidad en el 29% (9 estudios). La discriminación algorítmica aparece en el 23.3% (7 estudios).
¿Qué propone la academia peruana?
La solución más frecuente es la creación de un marco regulatorio específico (40%, 12 estudios). El control humano en procesos automatizados aparece en el 16.6% (5 estudios). La actualización de deberes fiduciarios en el 10% (3 estudios). Conceptos como transparencia algorítmica, participación comunitaria y armonización con estándares internacionales aparecen en el 76.6% de las conclusiones (23 estudios).
¿Cuál es la brecha que la propia revisión detecta?
Solo el 20% de los estudios (6 investigaciones) propone instrumentos concretos de política pública. El 26.6% restante (8 trabajos) se limita a señalar principios generales. Los autores reconocen una brecha significativa entre la identificación de problemas y la formulación de mecanismos implementables.
ANÁLISIS CRÍTICO QNM — Lo que la academia peruana ve y lo que no ve
Lo que la revisión confirma: la academia peruana sabe que hay un problema
Esta revisión sistemática es valiosa porque demuestra con metodología PRISMA que la comunidad académica jurídica peruana ha identificado consistentemente los mismos riesgos: opacidad algorítmica, vacíos regulatorios, amenazas a la privacidad y discriminación. No es una preocupación aislada de un investigador. Es un patrón documentado en 30 estudios de dos de las revistas jurídicas más prestigiosas del país, con autores de universidades reconocidas.
Los hallazgos coinciden con lo que QNM ha documentado en las publicaciones anteriores de esta serie: los tres sistemas de IA del Poder Judicial (Amauta.Pro, Curia e IUDEX IA) operan exactamente con las características que la academia identifica como riesgosas: opacidad algorítmica, ausencia de auditoría, falta de transparencia hacia el justiciable y vacío en mecanismos de control.
Lo que la revisión no ve: la dimensión ambiental no existe en la literatura jurídica peruana
Y aquí está el hallazgo más significativo para nuestra investigación.
De los 30 estudios revisados, ninguno aborda el impacto ambiental de la inteligencia artificial. Ninguno menciona el consumo de agua de los centros de datos. Ninguno analiza la huella energética de la infraestructura digital. Ninguno conecta el derecho humano al agua con la expansión de la IA. Ninguno examina el impacto de las descargas de sistemas de enfriamiento sobre cuerpos de agua. Ninguno cuestiona dónde están los servidores que procesan los datos del Poder Judicial peruano ni cuánta agua consumen.
La dimensión ambiental de la IA simplemente no existe en la producción académica jurídica peruana entre 2018 y 2025. Es un punto ciego total.
Esto tiene implicancias profundas. La academia jurídica peruana discute la opacidad algorítmica (35.5% de los estudios) pero no discute la opacidad ambiental. Se preocupa por la discriminación que generan los algoritmos (23.3%) pero no por el agua que consumen. Propone marcos regulatorios para proteger la privacidad (29%) pero no para proteger los acuíferos. Exige transparencia sobre cómo decide la IA (32.3%) pero no sobre cuánta agua evapora.
La Recomendación UNESCO sobre Ética de la IA (2021) — que analizamos en la Publicación N° 4 de esta serie — establece expresamente en sus párrafos 17, 18 y 84-86 que la protección del medio ambiente y los ecosistemas es un valor fundamental y un ámbito de acción política obligatorio. El 76.6% de los estudios peruanos revisados menciona la necesidad de armonización con estándares internacionales. Pero ninguno armoniza con la dimensión ambiental que esos mismos estándares internacionales exigen.
Esta ausencia no es responsabilidad de los autores de la revisión. Es una característica estructural de la producción académica jurídica peruana que la revisión documenta involuntariamente: la academia peruana estudia la IA como un fenómeno inmaterial. No la estudia como una actividad que consume agua, energía y territorio.
Lo que la revisión confirma sobre el Poder Judicial: la advertencia académica ignorada
Castellano (2021) advierte sobre los límites éticos de delegar la valoración de pruebas a sistemas automatizados. Quispe (2021) señala la sustitución parcial de jueces por IA y la necesidad de capacitación tecnológica para juristas. Ambos enfatizan la preservación del control humano en instancias superiores.
El Poder Judicial implementó Curia en la Corte Suprema, Amauta.Pro en juzgados de violencia familiar e IUDEX IA en oralidad civil sin que conste que haya considerado estas advertencias académicas publicadas en THEMIS — una de las revistas jurídicas más citadas del Perú. La academia advirtió. El Poder Judicial implementó. La brecha entre el diagnóstico académico y la acción institucional que los autores de esta revisión identifican como problemática (solo 20% de los estudios propone instrumentos concretos) se reproduce exactamente en la relación entre la academia y el Poder Judicial: los académicos diagnostican riesgos, el Poder Judicial implementa IA sin atender esos diagnósticos.
El hallazgo de Mamani y Pacco (2022): colonialismo digital y pueblos indígenas
Merece atención especial el estudio de Mamani y Pacco (2022) sobre apropiación cultural y derechos de pueblos indígenas frente a la IA. Este estudio alerta sobre el riesgo de que los sistemas de IA consoliden nuevas formas de colonialismo digital. Esta dimensión conecta directamente con la investigación QNM: si la IA consume el agua de comunidades rurales e indígenas para enfriar servidores que generan ganancias en otro continente, el neo-extractivismo digital no es solo un concepto teórico. Es una realidad material que opera sobre los mismos territorios y las mismas comunidades que el extractivismo minero ha afectado durante décadas.
BRECHAS IDENTIFICADAS POR QNM
Brecha 1 — Punto ciego ambiental: cero estudios sobre impacto hídrico de la IA en el Perú
De 478 registros identificados inicialmente y 30 estudios incluidos en la revisión final, ninguno aborda la dimensión ambiental de la IA. Esto significa que entre 2018 y 2025, la academia jurídica peruana no produjo ni un solo estudio indexado sobre el consumo de agua, la contaminación hídrica o la huella ambiental de la infraestructura digital y los centros de datos. La publicación de QNM "Nuevo Contrato Social Tecnológico" (2026) es, según esta evidencia, la primera obra peruana que aborda sistemáticamente esta dimensión con fundamentación jurídica, técnica y ambiental integrada.
Brecha 2 — Diagnóstico sin instrumentos: la academia describe pero no construye
Los autores reconocen que solo el 20% de los estudios propone instrumentos concretos de política pública. El 80% restante diagnostica problemas y enuncia principios generales. Esta es exactamente la brecha que el proyecto de ley presentado por QNM ante el Colegio de Abogados de Lima y la Contraloría General busca cerrar: no solo identifica el vacío sino que propone 19 artículos, 6 disposiciones complementarias y un régimen sancionador con 16 infracciones tipificadas. La academia peruana necesita transitar del diagnóstico a la propuesta normativa operativa.
Brecha 3 — Ausencia de investigación empírica sobre los sistemas judiciales de IA existentes
Ninguno de los 30 estudios revisados analiza empíricamente el funcionamiento de Curia, Amauta.Pro o IUDEX IA. Estos sistemas fueron implementados entre marzo y mayo de 2025, dentro del período de cobertura de la revisión (2018-2025). La academia jurídica peruana discute los riesgos teóricos de la IA en la justicia pero no investiga los sistemas que ya están operando en los tribunales peruanos. La serie de publicaciones QNM es, hasta donde hemos podido verificar, el primer análisis crítico sistemático de los tres sistemas de IA del Poder Judicial peruano publicado en un medio accesible al público.
Brecha 4 — Concentración institucional del debate académico
El 66.6% de la producción se concentra en dos revistas (Derecho PUCP y THEMIS), ambas vinculadas a universidades limeñas de élite. La voz de las universidades regionales, de los investigadores independientes y de la sociedad civil está subrepresentada. La producción académica sobre IA y derechos humanos en el Perú refleja la misma centralización que afecta al sistema jurídico: Lima investiga, las regiones no participan. QNM, desde Trujillo, representa una voz regional e independiente que aporta una perspectiva diferente — la perspectiva del impacto material de la tecnología sobre los recursos naturales de las comunidades que más la padecen.
Brecha 5 — Desconexión entre la academia y la regulación vigente
La revisión cubre hasta 2025 pero no analiza en profundidad el D.S. N° 115-2025-PCM (Reglamento de la Ley 31814) ni la Ley N° 32314 (delitos con IA), ambas publicadas dentro del período de estudio. Esto sugiere que la producción académica no se actualiza con la velocidad que la regulación requiere. Para cuando un estudio académico se publica, la normativa que debería analizar ya está vigente y generando efectos sin escrutinio académico.
Brecha 6 — El Principio de Coherencia Material como respuesta a lo que la academia no aborda
Franco et al. (2024), estudio incluido en la revisión, concluyen que "la positivización de valores éticos resulta insuficiente sin mecanismos de exigibilidad que garanticen efectividad material." Esta conclusión es exactamente la premisa del Principio de Coherencia Material propuesto por QNM: toda actividad económica con impacto material en recursos naturales debe tener mecanismos de exigibilidad equivalentes, independientemente de su carácter digital o físico. Lo que Franco et al. identifican como necesidad teórica, QNM lo convierte en principio jurídico operativo con proyecto de ley y expedientes institucionales activos.
Producción académica peruana sobre IA y derechos humanos (2018-2025):
| Dimensión analizada | Estudios | Porcentaje | Estudios sobre impacto ambiental |
|---|---|---|---|
| Opacidad algorítmica | 11 | 35.5% | 0 |
| Vacíos regulatorios | 10 | 32.3% | 0 |
| Amenazas a privacidad | 9 | 29% | 0 |
| Discriminación algorítmica | 7 | 23.3% | 0 |
| Impacto ambiental/hídrico de IA | 0 | 0% | 0 |
PATRÓN ACUMULATIVO (cinco publicaciones):
La quinta publicación cierra un círculo: los tres sistemas de IA del Poder Judicial (Publicaciones 1-3) operan con los riesgos que la academia identifica (Publicación 5), incumpliendo el marco internacional que el Perú suscribió (Publicación 4). Pero la dimensión que QNM aporta — el impacto ambiental — no aparece en ninguno de los 30 estudios académicos, ni en los documentos institucionales del Poder Judicial, ni en la implementación práctica de la Recomendación UNESCO. Es el punto ciego compartido por la academia, el Estado y el Poder Judicial. Y es exactamente el punto que el "Nuevo Contrato Social Tecnológico" ilumina.
La brecha más reveladora: 30 estudios de las mejores universidades peruanas, publicados en las revistas jurídicas más prestigiosas del país, analizan los riesgos de la IA para los derechos humanos. Cero estudian el riesgo de la IA para el agua. La IA consume millones de litros por día. Los juristas peruanos no lo ven. Eso no es una omisión académica. Es un síntoma de la misma invisibilidad material que QNM documenta: la tecnología se estudia como si fuera inmaterial. No lo es.
Esta es la quinta publicación de la serie "IA en el Perú: lo que hay, lo que falta y lo que nadie te dice."
No hay comentarios:
Publicar un comentario