EL VALOR DE LA PERSONA EN TIEMPOS DE LA INTELIGENCIA ARTIFICIAL

Prólogo...................................................................................................... 15
Juan Manuel Corchado
El sistema VioGén para la evaluación del nivel de riesgo de las
víctimas de violencia de género-........................................................ 19
Mª Consuelo Alonso García
1. DEFINICIÓN DE VIOGÉN.............................................................. 19
2. CONTEXTO DE VIOGÉN: LA LUCHA CONTRA LA
VIOLENCIA DE GÉNERO EN ESPAÑA........................................ 21
3. FUNCIONAMIENTO DE VIOGÉN................................................. 28
3.1. Funcionamiento de VioGén................................................... 28
3.2. Eficacia de VioGén............................................................... 33
4. FALLOS DEL SISTEMA Y ALGUNAS PROPUESTAS DE MEJORA... 34
4.1. Fallos advertidos en relación con el algoritmo........................ 35
a) Falta de transparencia del algoritmo.................................... 35
b) Redacción de los formularios de valoración policial............... 37
c) Valoración del riesgo......................................................... 38
d) Seguimiento de casos......................................................... 40
4.2. Problemas relacionados con el contexto en que se
desenvuelve VioGén............................................................ 42
5. BIBLIOGRAFÍA............................................................................... 44
El Derecho como instrumento para la humanización de la
Inteligencia Artificial......................................................................... 47
Paula Casadesús Ripoll
1. INTRODUCCIÓN........................................................................... 47
2. CONCEPTO DE “INTELIGENCIA “ARTIFICIAL”........................... 53
3. LA INTELIGENCIA ARTIFICIAL COMO AMENAZA A LOS
DERECHOS FUNDAMENTALES.................................................. 56
4. EL PAPEL DEL DERECHO Y DE UNA FUTURA REGULACIÓN..... 59
4.1. La protección de los derechos fundamentales en la era
de la inteligencia artificial.................................................... 63

4.2. El Derecho antidiscriminatorio ante los casos de
discriminación algorítmica.................................................. 64
4.3. El Reglamento General de Protección de Datos ante los
avances de la inteligencia artificial........................................ 67
5. CONCLUSIÓN............................................................................... 71
6. BIBLIOGRAFÍA............................................................................... 71
Inteligencia artificial, persona y administración pública:
¿Hacia la marginación de lo humano?............................................ 75
Isaac Martín Delgado
1. PLANTEAMIENTO CONCEPTUAL: TECNOLOGÍA,
DERECHO, PERSONA, MÁQUINAS............................................. 75
1.1. Tecnología y Derecho........................................................... 75
1.2. Persona y máquinas.............................................................. 89
2. LA CENTRALIDAD DE LA PERSONA EN EL DERECHO
ADMINISTRATIVO: UNA ADMINISTRACIÓN AL
SERVICIO DE LOS CIUDADANOS................................................ 92
3. ¿HACIA LA DESPERSONALIZACIÓN DE LOS ÓRGANOS
ADMINISTRATIVOS?................................................................. 107
3.1. Las categorías de órgano y acto administrativo..................... 110
a) Órgano administrativo y persona...................................... 114
b) Acto administrativo y persona.......................................... 120
3.2. El control efectivo por la persona responsable del
órgano y del procedimiento: precaución, aprobación y
supervisión....................................................................... 127
a) El riesgo de despersonalización......................................... 127
b) Tres garantías concretas................................................... 134
4. A MODO DE CONCLUSIÓN........................................................ 147
5. BIBLIOGRAFÍA............................................................................. 148
Nuevos Riesgos de la Inteligencia Artificial en la Protección de
la Imagen Personal.......................................................................... 155
María Teresa Martín López
1. INTELIGENCIA ARTIFICIAL Y DERECHOS HUMANOS............. 155
2. LA IMAGEN PERSONAL: NUEVOS RIESGOS CON LA IA........... 163
2.1. Empresas de búsquedas de reconocimiento facial con IA....... 169
2.2. El uso de la identificación personal (sea huella, rostro o
voz) por su titular para acceder a dispositivos..................... 171

2.3. La entrega de otros elementos de nuestra imagen
personal, como la huella dactilar o el iris para distintos
fines como el acceso a recintos........................................... 174
2.4. La economía y las transacciones de pago digital................... 177
2.5. El uso no consentido para fines públicos restringidos por ley... 179
3. PROTECCIÓN Y REPARACIÓN FRENTE A LOS RIESGOS
DE LA IA.................................................................................... 185
4. ÚLTIMA RATIO: DEEPFAKE Y DERECHO PENAL....................... 196
5. REFLEXIONES FINALES.............................................................. 209
6. BIBLIOGRAFÍA............................................................................. 214
El uso de inteligencia artificial en los procesos de compra pública.... 219
Javier Miranzo Díaz
1. LOS RIESGOS DE IMPLANTACIÓN............................................. 219
2. FACTORES CONDICIONANTES DEL RIESGO............................ 223
2.1. El contexto........................................................................ 224
2.2. El momento procedimiental del uso del algoritmo................ 227
2.3. La existencia de revisión humana y su efectividad................. 228
3. LA APLICACIÓN DE IA EN LAS DIFERENTES FASES DEL
CONTRATO PÚBLICO............................................................... 231
3.1. La IA en la planificación y diseño contractual....................... 231
3.2. La IA en la adjudicación del contrato................................... 234
3.3. Los chatbots y asistentes virtuales........................................ 236
3.4. IA en la supervisión y prevención de la corrupción................ 237
a) La inspección general de servicios de la Generalitat
Valenciana.................................................................... 239
b) Arachne......................................................................... 242
c) Dozorro........................................................................ 243
4. CONCLUSIONES.......................................................................... 247
5. BIBLIOGRAFÍA............................................................................. 248
Inteligencia artificial y discapacidad: entre el optimismo y la
prevención......................................................................................... 251
Juana Morcillo Moreno
1. INTRODUCCIÓN......................................................................... 251
2. HACIA UNA INTELIGENCIA ARTIFICIAL “UNIVERSAL”........... 253
3. APUNTE NORMATIVO................................................................ 256

3.1. Unión Europea: impacto del “Reglamento de Inteligencia
Artificial” en los derechos de las personas con discapacidad... 257
3.2. España: de la Constitución Española al Real Decreto-ley
6/2023, pasando por la Carta de Derechos Digitales........... 264
4. OPORTUNIDADES DE LA INTELIGENCIA ARTIFICIAL.............. 270
5. EL DESAFÍO EMERGENTE MÁS IMPORTANTE: LA
DISCRIMINACIÓN ALGORÍTMICA.......................................... 273
5.1. Concepto y causas: su conexión con la discapacidad............. 273
5.2. Algunas estrategias para prevenir y controlar la
discriminación algorítmica................................................ 275
6. A MODO DE COROLARIO.......................................................... 278
7. REFERENCIAS BIBLIOGRÁFICAS................................................ 280
Los nuevos retos contables y su relación con el desarrollo de la
Inteligencia Artificial....................................................................... 283
Javier Parra-Domínguez
Laura Sanz-Martín
1. INTRODUCCIÓN......................................................................... 283
2. EL NACIMIENTO DE LA PREOCUPACIÓN POR LA
TECNOLOGÍA Y LOS DATOS.................................................... 286
3. INCORPORACIÓN ACTUAL DE LA IA A ACTIVIDADES
CONTABLES Y FINANCIERAS................................................... 290
3.1. Análisis de estados financieros............................................. 290
3.2. Toma de decisiones de inversión y financiación en las
empresas.......................................................................... 292
3.3. Valoración de activos.......................................................... 293
3.4. Evaluación del riesgo.......................................................... 294
3.5. Detección del fraude........................................................... 296
3.6. Nuevos paradigmas............................................................ 297
4. XAI E IA GENERATIVA................................................................ 297
5. CONCLUSIONES.......................................................................... 299
6. BIBLIOGRAFÍA............................................................................. 300
El problema del sesgo en los algoritmos de inteligencia artificial....... 305
Jesús Punzón Moraleda
1. PLANTEAMIENTO...................................................................... 305
2. EL PROBLEMA DEL SESGO EN ALGORITMOS DE IA:
CONCEPTO............................................................................... 308

3. TIPOLOGÍA DE SESGOS EN SISTEMAS DE IA:
PREEXISTENTES, TÉCNICOS Y EMERGENTES......................... 313
4. CONCLUSIONES.......................................................................... 334
5. BIBLIOGRAFÍA............................................................................. 335

La irrupción de la Inteligencia Artificial ha puesto de manifiesto la necesidad de una reflexión profunda sobre uno de los mayores cambios que va a afectar a nuestras sociedades. El Derecho y la Economía no son ajenos a esta repercusión ni a las diferentes problemáticas que pueden aparecen al enfrentar derechos fundamentales, prácticas empresariales o proyecciones económicas a una Inteligencia Artificial que no deja de construirse y que parece no tener límites tecnológicos.
Esta obra tiene un marcado carácter interdisciplinar. En ella se dan cita expertos en la interacción de la Inteligencia Artificial con sus distintas especialidades; de los problemas regulatorios, económicos y sociales que pueden surgir; así como de las ventajas que una correcta utilización de la misma puede tener en la sociedad actual y futura. De su lectura se obtendrá una visión clara, pero también rigurosa, de las nuevas perspectivas de la relación de la persona con esta nueva herramienta.