Deep Learning — Avanzado

Curso dirigido a profesionales con experiencia consolidada en el diseño y entrenamiento de redes neuronales que buscan llevar sus modelos a un nivel de producción real y reproducible. A lo largo de las 8 horas, el participante profundizará en las decisiones de arquitectura que distinguen un modelo funcional de uno óptimo —eligiendo entre CNNs, RNNs y Transformers según el problema—, dominará las estrategias avanzadas de optimización del entrenamiento y aprenderá a diagnosticar patologías frecuentes con rigor técnico. Además, adquirirá criterio para aplicar transfer learning de forma justificada, construir pipelines de experimentación reproducibles y razonar sobre los compromisos entre rendimiento, coste computacional y responsabilidad del modelo, obteniendo al final una visión integral que le permite tomar decisiones técnicas fundamentadas en contextos de alta complejidad.

1. Comprender los principios que rigen el diseño de arquitecturas profundas —capas, activaciones y mecanismos de atención— y los factores del problema que determinan su elección (conceptual).
2. Optimizar el proceso de entrenamiento combinando al menos dos estrategias complementarias —schedulers de learning rate, búsqueda bayesiana de hiperparámetros y early stopping adaptativo— contrastando métricas antes y después de cada intervención (procedimental).
3. Diagnosticar patologías de entrenamiento como vanishing/exploding gradients, overfitting severo o inestabilidad en GANs, y aplicar las técnicas de corrección adecuadas verificando su efecto con métricas (procedimental).
4. Aplicar transfer learning con criterio técnico, justificando la selección del backbone, la estrategia de congelación de capas y el régimen de fine-tuning en función de la similitud entre dominios y el tamaño del dataset (procedimental).
5. Automatizar un pipeline de experimentación que garantice la trazabilidad completa mediante versionado de datos, configuración parametrizada y registro automático de métricas y artefactos (procedimental).
6. Integrar la evaluación del rendimiento, el análisis de sesgos y los trade-offs de despliegue en un juicio técnico global que permita tomar decisiones de compresión, simplificación o mitigación coherentes con el contexto real de producción (integrador).

Bloque 1 — Diseño y arquitectura de redes neuronales profundas El bloque parte del marco conceptual que sustenta las decisiones de arquitectura: cómo las características del problema y de los datos condicionan la elección entre CNNs, RNNs y Transformers, y qué criterios guían la definición del número de capas, las funciones de activación y los mecanismos de atención. Se trabaja la justificación explícita de cada decisión de diseño como práctica profesional esencial, contrastando distintas configuraciones sobre casos reales y examinando el coste que cada elección impone en términos de capacidad y generalización.

Bloque 2 — Optimización avanzada del entrenamiento y diagnóstico de patologías Se abordan las estrategias que permiten llevar un modelo más allá de la convergencia básica: schedulers de learning rate, búsqueda bayesiana de hiperparámetros y early stopping adaptativo se presentan como intervenciones complementarias cuyo efecto debe medirse sistemáticamente. En la segunda parte del bloque se estudia el reconocimiento y la resolución de patologías habituales —vanishing y exploding gradients, overfitting severo e inestabilidad en redes generativas— mediante inicialización adecuada, gradient clipping y regularización diferenciada, con verificación métrica de cada corrección aplicada.

Bloque 3 — Transfer learning y pipelines de experimentación reproducible El bloque examina el transfer learning como decisión técnica informada: selección del backbone, análisis de la similitud entre dominio fuente y destino, estrategias de congelación y descongelación de capas y regímenes de fine-tuning adaptados al tamaño del dataset. A continuación se introduce la automatización de la experimentación como disciplina de ingeniería: versionado de datos, configuración parametrizada de experimentos y registro sistemático de métricas y artefactos para garantizar la trazabilidad completa de cada ejecución.

Bloque 4 — Evaluación crítica, sesgo y trade-offs de despliegue El bloque final integra las perspectivas de rendimiento, equidad y viabilidad operativa. Se trabajan conjuntos de métricas apropiados al tipo de problema —F1, AUC-ROC, calibración, mAP— junto con el análisis cualitativo y cuantitativo de errores. Se complementa con la identificación de distribuciones de datos problemáticas, el diseño de estrategias de mitigación de sesgos medibles, y el razonamiento sobre los trade-offs entre capacidad del modelo, coste computacional y latencia de inferencia, incluyendo técnicas de compresión —pruning, quantization y destilación de conocimiento— aplicadas cuando el contexto de despliegue lo exige.

• Python 3.10 o superior con entorno virtual (conda o venv).
• PyTorch ≥ 2.0 o TensorFlow ≥ 2.12, instalados con soporte GPU si se dispone de él.
• Biblioteca de seguimiento de experimentos: MLflow ≥ 2.x o Weights & Biases (cuenta gratuita válida).
• Optuna ≥ 3.x para búsqueda bayesiana de hiperparámetros.
• Acceso a GPU (NVIDIA con CUDA 11.8+) recomendado; los ejercicios incluyen versiones reducidas ejecutables en CPU con mayor tiempo de cómputo.
• Cuenta en Hugging Face Hub para la descarga de modelos preentrenados en los ejercicios de transfer learning.
• DVC ≥ 3.x para versionado de datos en el bloque de pipelines reproducibles.
• 16 GB de RAM recomendados; almacenamiento libre mínimo de 10 GB.

• Diseño, entrenamiento y evaluación de redes neuronales profundas básicas e intermedias (cubiertos en DEL01 y DEL02).
• Manejo fluido de al menos un framework de deep learning (PyTorch o TensorFlow/Keras).
• Comprensión de las funciones de pérdida habituales, backpropagation y optimizadores estándar (SGD, Adam).
• Experiencia práctica con ciclos completos de entrenamiento, incluyendo validación cruzada y ajuste de hiperparámetros básico.
• Familiaridad con entornos de cuadernos interactivos (Jupyter) y control de versiones con Git.