Sinopsis

La Carta Iberoamericana de Inteligencia Artificial en la Administración Pública, aprobada en 2023 por el Centro Latinoamericano de Administración para el Desarrollo (CLAD), aborda dos perspectivas complementarias: el uso de la inteligencia artificial en la actividad administrativa y la ordenación y limitación de esa tecnología por parte de la Administración. Ambas perspectivas se tratan desde los estándares de la buena administración, reforzando la centralidad de la dignidad humana en el uso y regulación de la inteligencia artificial. El libro analiza las diversas implicaciones teóricas y prácticas de estos principios desde distintos países de Iberoamérica, así como desde una perspectiva comparada, abarcando temas de gran actualidad que marcarán el Derecho administrativo en los próximos años. Al mismo tiempo, el libro recoge las regulaciones más recientes dictadas en los países iberoamericanos en esta materia, apuntando además a los cambios normativos que se podrán esperar. El lector encontrará, en los diversos artículos de este libro, una guía académicamente rigurosa para aproximarse a la inteligencia artificial desde el Derecho administrativo, con una perspectiva interdisciplinaria que facilita la mejor comprensión del impacto de esta nueva tecnología desde las categorías jurídico-administrativas.

Índice

Presentación 21
JAIME RODRÍGUEZ-ARANA MUÑOZ
JOSÉ IGNACIO HERNÁNDEZ G.
Capítulo 1
Tecnología, inteligencia artificial y estado de derecho
JAIME RODRÍGUEZ-ARANA MUÑOZ
I. INTRODUCCIÓN 29
II. ESTADO DE DERECHO, NUEVAS TECNOLOGÍAS E INTELIGENCIA ARTIFICIAL 32
III. REFLEXIONES CONCLUSIVAS 41
Capítulo 2
Introducción a la carta iberoamericana de Inteligencia
Artificial en la Administración Pública desde el Derecho
Administrativo Iberoamericano
JOSÉ IGNACIO HERNÁNDEZ G.
I. INTRODUCCIÓN 51
II. EL ÁMBITO DE APLICACIÓN DE LA CARTA. LOS BENEFICIOS Y RIESGOS DE LA INTELIGENCIA ARTIFICIAL DESDE EL DERECHO ADMINISTRATIVO 59
1. El concepto de Inteligencia Artificial y sus relaciones con la Administración pública desde el Derecho administrativo iberoamericano 60
2. La actividad administrativa automatizada y el postulado de la gobernanza inteligente 70
3. Esquema institucional de los usos de la Inteligencia Artificial en la actividad administrativa. La perspectiva de la ciberseguridad 74
3.1. Los cinco usos de la Inteligencia Artificial en la actividad administrativa automatizada 76
3.2. Los usos de los sistemas de Inteligencia Artificial en la actividad administrativa de limitación y de prestación 79
3.3. Los retos éticos y legales de la actividad administrativa automatizada 81
3.4. La perspectiva de la ciberseguridad 84
4. El ciclo de toma de decisiones administrativas y sus valores claves. La importancia del valor público desde el Derecho administrativo global 86
III. LAS TÉCNICAS DE LA ACTIVIDAD ADMINISTRATIVA DESDE LA CARTA IBEROAMERICANA Y LOS PRINCIPIOS GENERALES DEL DERECHO ADMINISTRATIVO 95
1. El uso de la Inteligencia Artificial en la actividad administrativa: una perspectiva desde la buena administración. Los principios generales y el Derecho administrativo global. 97
2. La ordenación y limitación del uso de la Inteligencia Artificial y los espacios de prueba controlados. El reto de los riesgos trasnacionales 113
IV. CONCLUSIONES 123
Capítulo 3
La necesidad de la intervención del derecho en el ámbito
de la Inteligencia Artificial
MIREN SARASÍBAR IRIARTE
I. LA NECESIDAD DE UN MARCO NORMATIVO PROPIO DE LA INTELIGENCIA ARTIFICIAL Y LA APLICACIÓN ANALÓGICA DEL PRINCIPIO DE INTEGRACIÓN AMBIENTAL 129
II. LA PROTECCIÓN DE LAS PERSONAS CON DISCAPACIDAD COMO FUNDAMENTO DE LA NECESARIA REGULACIÓN JURÍDICA DE LA INTELIGENCIA ARTIFICIAL 131
III. EL RIESGO COMO LÍMITE EN EL USO DE LA INTELIGENCIA ARTIFICIAL PARA PROTEGER LOS DERECHOS Y LAS GARANTÍAS DE LAS PERSONAS 136
IV. LA NECESARIA COBERTURA LEGAL DE LA APLICACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LAS ACTUACIONES ADMINISTRATIVAS 140
V. REFERENCIAS BIBLIOGRÁFICAS 148
Capítulo 4
Los Principios del Derecho Administrativo y su Metamorfosis
en Tiempos de Inteligencia Artificial
ALFREDO DELGADILLO
I. INTRODUCCIÓN 151
II. TRANSFORMACIÓN DIGITAL DE LAS ADMINISTRACIONES PÚBLICAS 152
III. INTELIGENCIA ARTIFICIAL EN GESTIONES DE LO PÚBLICO Y CONSIDERACIONES SOBRE SU REGULACIÓN 155
IV. CARTA IBEROAMERICANA DE INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA DEL CLAD. ESTRUCTURA PÚBLICA 161
V. DIÁLOGO ENTRE EL DERECHO ADMINISTRATIVO Y LA CARTA IBEROAMERICANA DE INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA DEL CLAD 163
VI. CONCLUSIONES 175
VII. REFERENCIAS BIBLIOGRÁFICAS 176
Capítulo 5
Beneficios y desafíos de la implementación de la Inteligencia
Artificial en la Administración Pública
JAIME ANDRÉS VILLACRESES VALLE
I. INTRODUCCIÓN 180
II. DE LA ADMINISTRACIÓN PÚBLICA ELECTRÓNICA A LA ADMINISTRACIÓN PÚBLICA INTELIGENTE 181
III. LA CARTA IBEROAMERICANA DE INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA 187
IV. BENEFICIOS DE LA IMPLEMENTACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA 189
V. DESAFÍOS DE LA IMPLEMENTACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA 192
VI. REGULACIÓN DEL USO DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA 196
VII. REFLEXIONES FINALES 198
VIII. FUENTES CONSULTADAS 199
Capítulo 6
Transparencia y rendición de cuentas: principios orientadores
de la Inteligencia Artificial en la Administración Pública
PABLO SCHIAVI
I. EL NUEVO PARADIGMA ADMINISTRATIVO EN LA SOCIEDAD DE LA INFORMACIÓN Y DE LAS NUEVAS TECNOLOGÍAS 201
II. GOBERNANZA Y TRANSPARENCIA EN LA ERA DE LA INTELIGENCIA ARTIFICIAL 204
III. NUEVA DIMENSIÓN DE LA TRANSPARENCIA Y RENDICIÓN DE CUENTAS COMO PRINCIPIOS ORIENTADORES EN LA IA. 211
IV. GOBERNANZA, CAPACIDADES Y DESARROLLO SOSTENIBLE EN LA ESTRATEGIA NACIONAL DE INTELIGENCIA ARTIFICIAL EN URUGUAY 214
V. RECOMENDACIONES PARA UNA REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL 216
VI. REFLEXIONES FINALES 217
Capítulo 7
La publicidad activa en el uso de la IA por la Administración pública: hacia un registro público de algoritmos
ENRIQUE MENA CASTRO
I. INTRODUCCIÓN 221
II. CONCEPTO INCLUSIVO DE IA 223
III. LA PUBLICIDAD ACTIVA EN EL USO DE LA IA 225
1. Fundamento 225
2. Algunas aproximaciones regulatorias sobre transparencia en el uso de la IA 227
2.1. El Reglamento Europeo sobre IA 230
2.2. En España 232
3. Sobre qué ha de versar la transparencia 234
4. Los límites a la transparencia 237
IV. HACIA UN REGISTRO PÚBLICO DE ALGORITMOS 238
1. Definición y características del registro público 239
V. LA TRANSPARENCIA ALGORÍTMICA Y SU IMPORTANCIA DESDE EL PUNTO DE VISTA DEL CONTROL LA ACTUACIÓN PÚBLICA Y DEL DERECHO DE DEFENSA 240
VI. CONCLUSIÓN 242
VII. REFERENCIAS BIBLIOGRÁFICAS 243
Capítulo 8
Agentes de inteligencia artificial generativa
en la Administración Pública a la luz de la Carta Iberoamericana
de Inteligencia Artificial
JUAN GUSTAVO CORVALÁN
CARINA MARIEL PAPINI
I. INTRODUCCIÓN 249
II. VISIÓN GENERAL AMPLIA DE LA CARTA IBEROAMERICANA DE INTELIGENCIA ARTIFICIAL 252
III. OBJETIVOS Y FINES DE LA CARTA 253
IV. INTELIGENCIA ARTIFICIAL, INTELIGENCIA ARTIFICIAL GENERATIVA Y AGENTES BASADOS EN IAGEN 254
1. Inteligencia artificial 254
2. Inteligencia Artificial Generativa 255
3. Agentes basados en inteligencia artificial generativa 257
V. NIVELES DE MADUREZ DE LA INTELIGENCIA ARTIFICIAL 258
1. IA Internet 259
2. IA Negocio 259
3. IA percepción 260
4. IA Autónoma 261
5. Distintos niveles de autonomía 261
VI. ESCENARIOS DE IMPACTO DE LOS AGENTES BASADOS EN IAGEN Y LAS CUESTIONES DE COMPETENCIA 265
VII. BENEFICIOS DE LA INTELIGENCIA ARTIFICIAL E N LA ADMINISTRACIÓN PÚBLICA 266
1. Mejorar procesos administrativos y servicios públicos 266
2. Perfeccionar la toma de decisiones 268
VIII. RIESGOS DE LOS AGENTES BASADOS EN INTELIGENCIA ARTIFICIAL GENERATIVA EN LA ADMINISTRACIÓN PÚBLICA 268
1. Problemática de los sesgos 268
2. Opacidad algorítmica en los servicios y decisiones públicas automatizadas 270
3. Riesgos de reemplazo de trabajadores en el Sector Público 271
4. Vulneración de derechos fundamentales como consecuencia de decisiones basadas en algoritmos 272
IX. PRINCIPIOS GENERALES DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA 273
1. Principio de autonomía humana 273
2. Principio de transparencia, trazabilidad y explicabilidad 275
3. Principio de rendición de cuentas, responsabilidad y auditabilidad 278
4. Principio de confianza, proporcionalidad y prevención del daño 281
5. Principio de privacidad y protección de datos 282
6. Principio de calidad e integridad de los datos 284
7. Principio de equidad, inclusividad y no discriminación 285
8. Principio de centralidad de las personas, valor público y responsabilidad social 287
X. SOBRE LA ASIGNACIÓN DE RIESGOS A LOS SISTEMAS DE IA 290
XI. CONCLUSIÓN 292
Capítulo 9
Transformación Digital de la Contratación Pública
en América Latina: Inteligencia Artificial como Herramienta
de Transparencia y Eficiencia
ERICK RINCÓN CÁRDENAS
I. INTRODUCCIÓN 295
II. MARCO GENERAL DEL USO DE LA INTELIGENCIA ARTIFICIAL EN LA CONTRATACIÓN PÚBLICA 296
1. Beneficios de la IA en la Contratación Pública 297
2. Riesgos en la Implementación de la Inteligencia Artificial en la Contratación Estatal 299
III. APLICACIONES DE LA INTELIGENCIA ARTIFICIAL EN LA CONTRATACIÓN PÚBLICA 301
1. Análisis de Necesidades y Planeación Contractual 301
2. Fase de Selección 302
3. Fase de Adjudicación del Contrato 303
4. Ejecución del contrato y monitoreo 303
IV. CASOS DE ESTUDIO 304
1. Brasil 304
2. Perú 306
3. Ecuador 308
4. Colombia 309
V. CONCLUSIONES Y RECOMENDACIONES 310
VI. BIBLIOGRAFÍA 312
Capítulo 10
Carta Iberoamericana de Inteligencia Artificial
en la Administración Pública y los desafíos de su implementación
en la realidad brasileña: preconceptos y perspectivas de la Inteligencia Artificial en la gestión de políticas públicas
VIVIAN CRISTINA LIMA LÓPEZ VALLE
LUCAS POGANSKI
I. INTRODUCCIÓN 316
II. INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA BRASILEÑA 317
1. Retos normativos, de aplicación y de desarrollo 322
III. IMPACTO DE LA CARTA IBEROAMERICANA DE INTELIGENCIA ARTIFICIAL GESTIÓN DE LAS POLÍTICAS PÚBLICAS 326
1. Aplicación de la CTI y la IA 329
IV. PREJUICIOS Y SESGOS EN LA APLICACIÓN DE LA IA 332
1. Perspectivas de la IA en Brasil 333
V. NUEVA ESTRATEGIA DE GOBERNANZA Y IA 334
VI. CONCLUSIÓN 336
VII. REFERENCIAS 337
Capítulo 11
Perú: Algunas preocupaciones respecto de la Carta Iberoamericana
de Inteligencia Artificial en la Administración Pública como instrumento de soft law para la construcción de un ordenamiento peruano
para el empleo legítimo, ético y racional de la Inteligencia Artificial
en el ámbito de la Administración Pública
RAMÓN HUAPAYA TAPIA
Capítulo 12
La Inteligencia Artificial en el Derecho Administrativo Mexicano.
Reflexiones desde la Carta Iberoamericana de Inteligencia
Artificial en la Administración Pública
MIGUEL ALEJANDRO LÓPEZ OLVERA
I. INTRODUCCIÓN 353
II. RECOPILACIÓN Y USO DE INFORMACIÓN, DATOS Y DOCUMENTOS POR LAS ADMINISTRACIONES PÚBLICAS 355
III. LA MENCIÓN DEL TÉRMINO INTELIGENCIA ARTIFICIAL EN DIFERENTES DOCUMENTOS NORMATIVOS 360
IV. RESERVA DE LEY E INTELIGENCIA ARTIFICIAL 364
V. ADMINISTRACIONES PÚBLICAS E INTELIGENCIA ARTIFICIAL 367
VI. TUTELA JUDICIAL EFECTIVA E INTELIGENCIA ARTIFICIAL 372
VII. BIBLIOGRAFÍA 374
Capítulo 13
Definición estratégica de Uruguay para el desarrollo
de la Inteligencia Artificial
CARLOS E. DELPIAZZO
I. ANTE UN CAMBIO CIVILIZATORIO 378
II. IMPORTANCIA DE LA CARTA IBEROAMERICANA DE INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA 380
III. CONCRECIÓN ESTRATÉGICA NACIONAL 381
1. Bases 381
2. Contenido 383
3. Seguimiento 388
IV. RESCATE DEL HUMANISMO PERSONALISTA 389
1. Antecedente esencial 389
2. Consecuente necesario 391
V. PROSPECTIVA 396
Capítulo 14
España como referente de automatización administrativa inteligente: claves para una transición tecnológica en Latinoamérica
MARÍA FERNANDA VALARINO GONZÁLEZ
I. INTRODUCCION 400
II. DE LOS SERVICIOS BASADOS EN LA WEB A LOS PRIMEROS INTENTOS DE DIGITALIZACIÓN EN LA ADMINISTRACIÓN PÚBLICA ESPAÑOLA 401
III. SISTEMAS DE INTEROPERABILIDAD Y AUTOMATIZACIÓN INTELIGENTE EN LA ADMINISTRACIÓN PÚBLICA ESPAÑOLA 403
1. Sistemas de interoperabilidad 403
2. Automatización inteligente 405
IV. LA CARTA IBEROAMERICANA DE INTELIGENCIA ARTIFICIAL FRENTE A LOS AVANCES TECNOLÓGICOS DE AUTOMATIZACIÓN EN EL SECTOR PÚBLICO 409
V. EL MODELO ESPAÑOL COMO REFERENTE HISPANOAMERICANO EN SU EVOLUCIÓN HACIA LA AUTOMATIZACIÓN INTELIGENTE EN EL SECTOR PÚBLICO 410
1. Liderazgo en iniciativas de datos abiertos 411
2. Sistemas automatizados, algorítmicos o de Inteligencia Artificial: 412
3. Principales desafíos y limitaciones para el desarrollo de las automatizaciones de procedimientos impulsados con Inteligencia Artificial 413
3.1. Desafíos técnicos y organizativos: 413
3.2. Desafíos regulatorios y éticos 414
3.3. Desafíos concretos para el resto de los países que suscriben la Carta Iberoamericana de Inteligencia Artificial 416
3.4. Ejemplos de avances importantes en automatización administrativa en algunos países latinoamericanos 417
VI. CONCLUSIONES 419
Capítulo 15
Inteligencia artificial y derechos humanos.
Desafíos para el Sistema Interamericano de Derechos Humanos
y para las Administraciones Públicas
DANIELA UROSA M.
I. INTRODUCCIÓN 421
II. IMPACTO Y RIESGOS DE LA INTELIGENCIA ARTIFICIAL Y LAS NUEVAS TECNOLOGÍAS EMERGENTES EN LOS DERECHOS HUMANOS 424
1. Derechos civiles, IA y NTDEs 425
2. Derechos políticos, IA y NTDEs 428
3. DESCA, IA y NTDEs 428
III. SISTEMA INTERAMERICANO DE DERECHOS HUMANOS, IA Y NEDTS 430
1. En espera de estándares interamericanos especiales frente al impacto de la IA y TDEs. Su necesaria inserción en el marco de la gobernanza global y protección universal de derechos humanos frente a estas nuevas tecnologías 430
1.1. El Derecho Internacional de los derechos humanos y su consideración por el SIDH para la fijación de estándares de protección frente a la IA y las NTDEs 433
1.2. El Convenio marco sobre Inteligencia Artificial y DDHH, Democracia y Estado de Derecho y su referencia en el SIDH para la fijación de estándares de protección frente a la IA y las NTDEs 436
2. Análisis deductivo de las normas y estándares generales del corpus iuris interamericano frente a los impactos negativos de la IA y TDEs 438
2.1. Obligaciones de los Estados 438
2.2. Principios transversales aplicables 440
2.3. Empresas y derechos humanos 442
IV. CARTA IBEROAMERICANA Y ESTÁNDARES INTERAMERICANOS DE DERECHOS HUMANOS FRENTE A LA INTELIGENCIA ARTIFICIAL Y NEDTS 444
V. CONCLUSIONES 447
VI. REFERENCIAS BIBLIOGRÁFICAS 448