Redes Neuronales Artificiales, Aprendizaje Automático y Pensamiento Profundo

DÍA 1 - REDES NEURONALES ARTIFICIALES

Introducción y Estructura de las RNA.

• Neuronas biológicas y neuronas artificiales.
• Modelo de una RNA.
• Funciones de activación utilizadas en las RNA.
• Clases típicas de arquitecturas de redes.

Fundamentos Matemáticos y Mecanismos de Aprendizaje.

• Repaso del álgebra vectorial y matricial.
• Conceptos de espacio de estados.
• Conceptos de optimización.
• Aprendizaje por corrección de errores.
• Aprendizaje basado en memoria.
• Aprendizaje Hebbiano.
• Aprendizaje competitivo.

Perceptrones de una sola capa.

• Estructura y aprendizaje de perceptrones.
• Clasificador de patrones: introducción y clasificadores de Bayes.
• Perceptrón como clasificador de patrones.
• Convergencia del perceptrón.
• Limitaciones de los perceptrones.

RNA Feedforward.

• Estructuras de redes feedforward multicapa.
• Algoritmo de propagación hacia atrás (backpropagation).
• Propagación hacia atrás: entrenamiento y convergencia.
• Aproximación funcional con propagación hacia atrás.
• Aspectos prácticos y de diseño del aprendizaje por propagación hacia atrás.

Redes de Funciones Radiales (RBF).

• Separabilidad e interpolación de patrones.
• Teoría de regularización.
• Regularización y redes RBF.
• Diseño y entrenamiento de redes RBF.
• Propiedades de aproximación de RBF.

Aprendizaje Competitivo y RNA Autoorganizativas.

• Procedimientos generales de agrupamiento (clustering).
• Cuantización de Vectores de Aprendizaje (LVQ).
• Algoritmos y arquitecturas de aprendizaje competitivo.
• Mapas de características autoorganizativas.
• Propiedades de los mapas de características.

Redes Neuronales Difusas (Fuzzy).

• Sistemas neuro-difusos.
• Introducción a conjuntos difusos y lógica difusa.
• Diseño de sistemas difusos.
• Diseño de RNA difusas.

Aplicaciones

• Se discutirán algunos ejemplos de aplicaciones de Redes Neuronales, sus ventajas y problemas.

DÍA 2 - APRENDIZAJE AUTOMÁTICO

• Marco de Aprendizaje PAC
  • Garantías para conjunto de hipótesis finito – caso consistente
  • Garantías para conjunto de hipótesis finito – caso inconsistente
  • Generalidades
    • Escenarios deterministas vs. estocásticos
    • Ruido de error de Bayes
    • Errores de estimación y aproximación
    • Selección de modelo
• Complejidad de Rademacher y Dimensión VC
• Compromiso Sesgo-Varianza
• Regularización
• Sobreajuste (Over-fitting)
• Validación
• Máquinas de Vectores de Soporte (SVM)
• Kriging (regresión de procesos gaussianos)
• PCA y PCA de Kernels (Kernel PCA)
• Mapas de Autoorganización (SOM)
• Espacio vectorial inducido por Kernel
  • Kernels de Mercer y métricas de similitud inducidas por Kernels
• Aprendizaje por Refuerzo (Reinforcement Learning)

DÍA 3 - APRENDIZAJE PROFUNDO

Se impartirá en relación con los temas cubiertos el Día 1 y el Día 2

• Regresión Logística y Softmax
• Autoencoders Esparcidos (Sparse Autoencoders)
• Vectorización, PCA y Blanqueamiento (Whitening)
• Aprendizaje Autónomo (Self-Taught Learning)
• Redes Profundas
• Decodificadores Lineales
• Convolución y Aglutinamiento (Pooling)
• Codificación Esparsa (Sparse Coding)
• Análisis de Componentes Independientes
• Análisis de Correlación Canónica
• Demonstraciones y Aplicaciones