APRENDIZAJE PROFUNDO
Deep Learning
Dimensiones: 17 × 23 cm
Autor: Gonzalo Pajares Martinsanz, Pedro Javier Herrera Caro, Eva Besada Portas
ISBN: 9788412106985
Nº Páginas: 554
Año publicación: 2021

Este libro expone aspectos fundamentales sobre Aprendizaje Profundo, un área en clara expansión conceptual y de aplicación tecnológica en el mundo de la Inteligencia Artificial en general y de los Sistemas Inteligentes, en particular, donde la Robótica, las Ciudades Inteligentes, los Vehículos Autónomos o Internet de las Cosas son claros exponentes receptores de su aplicación que, sin duda, contribuirán enormemente a los avances de futuro.

El texto conjuga rigurosidad con claridad y exposición didáctica, útil tanto para estudiantes e investigadores, en sus distintos niveles, como para ingenieros que ejercen su actividad profesional en diferentes ámbitos, proporcionando la base suficiente para afrontar los retos que puedan surgir en cada momento y donde este tipo de aprendizaje ofrezca posibles soluciones.

ÍNDICE

APRENDIZAJE PROFUNDO

3.5 REDES DE CREENCIA/BAYESIANAS PROFUNDAS----------76
CAPÍTULO 4. OPERACIONES REDES NEURONALES CONVOLUCIONALES I .--------- 79
4.1 INTRODUCCIÓN .----------- 79
4.2 OPERACIÓN DE CONVOLUCIÓN.......... 80
4.2.1 Sin relleno con ceros y una unidad de desplazamiento............... 87
4.2.2 Relleno con ceros y una unidad de desplazamiento............................. 88
4.2.3 Relleno para obtener la misma dimensión de salida......................... 89
4.2.4 Relleno completo para obtener una mayor dimensión de salida................... 90
4.2.5 Sin relleno con ceros y desplazamientos superiores a la unidad.......... 91
4.2.6 Relleno con ceros y desplazamientos superiores a la unidad...................... 91
4.3 AGRUPAMIENTO (POOLING)...................................... 93
4.4 CONVOLUCIÓN ARITMÉTICA TRANSPUESTA................................... 98
4.4.1 Transposición no zero-padding y una unidad de desplazamiento................... 101
4.4.2 Transposición zero-padding y una unidad de desplazamiento...................... 102
4.4.3 Transposición half (same) padding............................................ 103
4.4.4 Transposición full padding................................................. 103
4.4.5 Transposición no zero-padding y desplazamientos superiores a la unidad.......... 104
4.4.6 Transposición zero-padding y desplazamientos superiores a la unidad............... 105
CAPÍTULO 5. OPERACIONES REDES NEURONALES CONVOLUCIONALES I I..................... 109
5.1 INTRODUCCIÓN ............................................................................................... 109
5.2 CONVOLUCIONES DILATADAS................................................ 109
5.3 CONVOLUCIÓN NO LINEAL.................................................... 112
5.4 CONVOLUCIONES 1D, 2D y 3D................................................. 115
5.5 SOBREAJUSTE, WEIGHT DECAY Y DROPOUT.......................... 123
5.6 NORMALIZACIÓN..................................................... 129
5.7 SOFTMAX............................................................................... 133
CAPÍTULO 6. MOTIVACIÓN DE LAS REDES NEURONALES CONVOLUCIONALES......... 135
6.1 INTRODUCCIÓN......................................... 135
6.2 COMPARTICIÓN DE PARÁMETROS....................... 135
6.3 BASE NEUROCIENTÍFICA DE LAS CNN.................... 140
CAPÍTULO 7. ARQUITECTURAS DE LAS REDES NEURONALES CONVOLUCIONALES I... 149
7.1 INTRODUCCIÓN........................................... 149
7.2 ORGANIZACIÓN DE CAPAS EN LAS CNN................ 149
7.3 CAPAS INCEPTION........................................... 150
7.4 ALEXNET.......................................................... 156
7.4.1 Niveles de activación y visualización en las capas de la red.................... 158
7.4.2 Agrupamiento piramidal espacial.................... 160
7.5 VGGNET............................................... 161
7.6 LENET .............................................................. 163
7.7 RESNET........................................................ 164
CAPÍTULO 8. ARQUITECTURAS DE LAS REDES NEURONALES CONVOLUCIONALES II.......... 173
8.1 INTRODUCCIÓN..................................... 173
8.2 GOOGLENET......................................................... 173
8.3 OTRAS REDES CON MÓDULOS INCEPTION....................... 184
8.3.1 Red Inception-V4.................. 185
8.3.2 Redes híbridas Inception-ResNet............... 187
8.4 ARQUITECTURA XCEPTION....................... 191
8.5 SQUEEZENET............................................ 191
8.6 MÓDULOS DE CONVOLUCIONES DILATADAS PARALELAS........................ 199
8.7 REDES DENSAS
8.8 REDES DENTRO DE REDES........................ 202
CAPÍTULO 9. ARQUITECTURAS DE LAS REDES NEURONALES CONVOLUCIONALES III.. 205
9.1 INTRODUCCIÓN.............................................. 205
9.2 AUTOCODIFICADORES............................ 206
9.2.1 Arquitectura de un autocodificador.................... 207
9.2.2 Funciones de activación y pérdida......................... 213
9.2.3 Aplicaciones de los autocodificadores------------. 219
9.3.1 Arquitectura de las redes siamesas.................. 220
9.3.2 Entrenamiento de las redes siamesas.................. 223
9.3.3 Aplicaciones de las redes siamesas............... 225
9.4 REDES NEURONALES DE CÁPSULAS (CAPSNET) .............. 228
CAPÍTULO 10. SEGMENTACIÓN SEMÁNTICA DE IMÁGENES CON CNN............ 239
10.1 INTRODUCCIÓN.............................................. 239
10.2 CODIFICADOR-DECODIFICADOR (AUTOENCODER).............. 240
10.3 RED CONVOLUCIONAL TOTAL (FCN)........................... 241
10.4 PARSENET..................................... 244
10.5 U-NET................................................ 244
10.6 RED PIRAMIDAL DE CARACTERÍSTICAS........................ 246
10.7 PSPNET............................................ 250
10.8 DEEPLAB........................................................... 251
10.8.1 DeepLabv3 ................................................................. 259
10.8.2 DeepLabv3+ ......................................... 261
10.9 ENCNET........................................................... 263
10.9.1 Codificación de contexto................................... 264
10.9.2 Enfatización del mapa de características .......................... 264
10.9.3 SE-Loss ................................................. 265
10.10 MEDIDAS DE DESEMPEÑO ......................................... 266
CAPÍTULO 11. REDES CONVOLUCIONALES PARA ANÁLISIS DE VÍDEO................... 267
11.1 INTRODUCCIÓN.................................................... 267
11.2 MODELOS CNN CON LSTM..................................... 268
11.3 REDES DE DOS FLUJOS...................................... 268
11.3.1 Modelo-1............................................. 269
11.3.2 Modelo-2......................................... 281
11.4 REDES CONVOLUCIONALES 2D, 3D Y MIXTAS....................................... 284
11.4.1 R2D: Convoluciones 2D sobre el vídeo completo......................... 285
11.4.2 R3D: Convoluciones 3D.......................................... 286
11.4.3 MCx y rMCx: convoluciones mixtas 3D y 2D.............................. 287
11.4.4 R(2+1)D: (2+1)D convoluciones ................................... 288
11.5 REDES DE SEGMENTOS TEMPORALES .............................. 289
CAPÍTULO 12. DETECCIÓN DE OBJETOS EN IMÁGENES I....................... 297
12.1 INTRODUCCIÓN....................................................... 297
12.2 COEFICIENTES DE REGRESIÓN DEL RECTÁNGULO..................... 299
12.3 SOLAPAMIENTO DE REGIONES Y PRECISIÓN................ 302
12.4 ANCHOR BOXES................................................................ 304
12.5 DETECCIÓN DE OBJETOS MULTIESCALA........................ 310
12.6 R-CNN
12.7 FAST R-CNN ................................................. 313
12.7.1 Función de pérdida multi-task .................................... 316
12.7.2 Estrategia de muestreo del mini-batch..................... 318
12.7.3 Retropropagación a través de las capas de pooling de la RoI..................... 319
12.7.4 Hiperparámetros SGD................................... 319
12.7 FASTER R-CNN...................................................... 320
12.8.1 Generación de regiones (anchors generation).............................. 322
12.8.2 Función de pérdida (loss function)....................................... 322
12.8.3 Entrenamiento............................................ 324
12.9 MASK R-CNN................................................................................. 325
12.9.1 Entrenamiento....................................... 326
12.9.2 Representación de la máscara................................. 326
12.9.3 Alineamiento de la RoI............................ 326
12.9.4 Arquitectura de red............................. 330
12.10 SSD: SINGLE SHOT MULTIBOX DETECTOR......................... 331
12.10.1 Bases para el entrenamiento del SSD.............................. 333
12.10.2 Objetivo de entrenamiento del SSD............................. 334
CAPÍTULO 13. DETECCIÓN DE OBJETOS EN IMÁGENES II................................ 335
13.1 INTRODUCCIÓN.............................................................. 335
13.2 YOLO.............................................................................. 335
13.2.1 Primera versión (YOLOv1) ............................... 336
13.2.2 Segunda versión (YOLOv2)......................................................... 340
13.2.3 Tercera versión (YOLOv3)................................................... 351
13.2.4 Cuarta y quinta versiones (YOLOv4, YOLOv5) ................................ 355
13.3 PANET.................................. 357
13.3.1 Incremento de ruta abajo-arriba......................................... 357
13.3.2 Pooling adaptativo de características......................................... 359
13.3.3 Fusión totalmente conectada ........................................... 360
13.4 CORNERNET/CENTERNET .............................................. 362
13.4.1 Red hourglass ........................................................... 363
13.4.2 Detección de esquinas .................................................... 365
13.4.3 Agrupación de esquinas....................................... 366
13.4.4 Corner pooling ......................................................... 367
CAPÍTULO 14. DETECCIÓN DE OBJETOS EN IMÁGENES III................... 371
14.1 INTRODUCCIÓN........................................................ 371
14.2 OVERFEAT ................................................................. 371
14.2.1 Clasificación............................................ 372
14.2.2 Localización...................................... 375
14.2.3 Detección..................................................... 376
14.3 RETINANET..................................................... 377
14.4 R-FCN .................................................................. 380
14.5 FCOS.............................................. 390
14.6 EFFICIENTDET....................................... 393
14.7 TRANSFORMADOR ESPACIAL.............................................. 397
14.7.1 Red de localización............................................... 397
14.7.2 Rejilla de muestreo parametrizada..................................... 398
14.7.3 Muestreador de imagen diferenciable................................. 399
CAPÍTULO 15. REDES PARA DISPOSITIVOS MÓVILES.................................. 403
15.1 INTRODUCCIÓN................................................................ 403
15.2 MOBILENET (V1, V2, V3)................................................. 403
15.2.1 MobileNetV1 .......................................................... 403
15.2.2 MobileNetV2................................................. 405
15.2.3 MobileNetV3..................................................... 410
15.3 SHUFFLENET.................................................... 414
CAPÍTULO 16. PLATAFORMAS PARA ESPACIOS DE BÚSQUEDA EN CLASIFICACIÓN DE IMÁGENES ........................ 419
16.1 INTRODUCCIÓN ....................................................................... 419
16.2 NAS ............................................................................................ 419
16.3 NASNET..................................................................................... 424
16.4 NETADAPT .......................................................................... 431
CAPÍTULO 17. ALGORITMO DEEPDREAM Y REDES GENERATIVAS ANTAGÓNICAS....... 437
17.1 INTRODUCCIÓN........................................................... 437
17.2 DEEPDREAM..................................................... 438
17.3 REDES GENERATIVAS ANTAGÓNICAS ............................................... 449
CAPÍTULO 18. REDES NEURONALES RECURRENTES, RECURSIVAS Y LSTM........... 459
18.1 INTRODUCCIÓN...................................................... 459
18.2 CONSIDERACIONES PRELIMINARES.............................................. 459
18.3 REDES NEURONALES RECURRENTES.............................................. 463
18.4 REDES NEURONALES RECURSIVAS......................................... 469
18.5 LONG SHORT-TERM MEMORY (LSTM).............................................. 470
18.5.1 LSTM Bidireccional (BiLSTM)........................................................ 475
18.5.2 Predicción utilizando LSTM................................................................ 477
18.5.3 Clasificación utilizando LSTM...................................................... 480
18.6 GATED RECURRENT UNITS (GRU).......................................................... 482
18.7 ENCODER-DECODER UTILIZANDO LSTM ...................................................... 485
ANEXO: RETROPROPAGACIÓN ....................................................................... 487
A.1 ESQUEMA DEL MODELO DE ENTRENAMIENTO.................................... 487
A.2 REGLA DELTA ............................................................................... 488
A.3 MECANISMO DE RETROPROPAGACIÓN............................................... 490
A.3.1 Ejemplo 1: una neurona de entrada y una de salida.................................. 492
A.3.2 Ejemplo 2: dos neuronas de entrada y una de salida ....................................... 493
A.3.3 Ejemplo 3: dos neuronas de entrada y dos de salida.................................. 496
A.4 ENTROPÍA CRUZADA Y SU DERIVADA......................................... 500
BIBLIOGRAFÍA.................................................................... 503
ÍNDICE ANALÍTICO............................................................................................. 533