Aprendizaje Automático

Aprendizaje Automático

“A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E.” — Tom Mitchell

Estructura del módulo

Parte Sección Título Núcleo matemático
I 22.1 El problema de aprendizaje $R(f)$, $\hat{R}$, i.i.d., parámetros vs. hiperparámetros
II 22.2 Generalización $\varepsilon_{\text{approx}} + \varepsilon_{\text{estim}}$, VC, Lagrangiano, ridge
III 22.3 Evaluación y selección de modelos Alg. 22.1/22.2/22.3, sesgo del entrenamiento, k-fold
IV 22.4 Fundamentos estadísticos Bias²+Var+σ², MLE=KL, MSE↔Gauss, CE↔Bernoulli
V 22.5 Desafíos y motivación profunda Maldición, constancia local, manifold, bridge a DL

Materiales y flujo de trabajo

Paso Material Colab Descripción
1 Lecturas — Capítulo 5 de Goodfellow et al. (pre-clase)
2 Secciones 22.1–22.5 — Marco teórico completo con plots
3 Notebook 01 Open In Colab Alg. 22.1–22.3 desde cero, sesgo, U-curva, bias-var
4 lab_ml.py — cd clase/22_machine_learning && python3 lab_ml.py

En los módulos anteriores tratamos el mundo como conocido: en decisión (Módulo 9) asumimos distribuciones dadas, en programación dinámica (Módulo 21) conocíamos costos y transiciones, en HMMs (Módulo 20) conocíamos parámetros. Pero en la realidad, los parámetros rara vez están ahí servidos. Están escondidos en datos, y hay que extraerlos.

El aprendizaje automático (machine learning, ML) es el toolkit que responde exactamente esa pregunta: cómo aprender patrones a partir de datos. En este curso lo ocupamos por dos razones:

  1. Como herramienta general — muchos problemas prácticos de IA son “tengo datos, quiero predecir”. Regresión, clasificación, estimación de densidades.
  2. Como preparación para RL — en unas clases, cuando volvamos al agente, ya no vamos a conocer las transiciones ni las recompensas. El agente va a tener que aprenderlas mientras actúa. Para hacer eso bien, necesitamos primero entender qué significa aprender de datos en general.

Esta clase no intenta cubrir ML desde cero en 90 minutos — no se puede. En lugar de eso, la estructura es:

  • Tú lees el Capítulo 5 (“Machine Learning Basics”) de Goodfellow, Bengio & Courville (Deep Learning, 2016). Es la lectura canónica del área al nivel de abstracción que el resto del curso asume.
  • En clase discutimos, contextualizamos, y conectamos lo que leíste con lo que ya sabes (probabilidad, información, optimización) y con lo que sigue (redes neuronales, RL).

La lectura y las instrucciones específicas están en la siguiente página: Lecturas →.

¿Qué vas a poder hacer al terminar la clase?

  1. Explicar qué es ML en términos de tareas, medidas de desempeño y experiencia.
  2. Distinguir entrenamiento, validación y prueba — y por qué necesitas los tres.
  3. Articular el dilema capacidad–sesgo–varianza (underfitting vs. overfitting) y cómo la regularización lo modula.
  4. Reconocer cuándo estás haciendo estimación por máxima verosimilitud (MLE) y cuándo estimación bayesiana — y qué distingue a las dos.
  5. Explicar por qué la mayoría de los algoritmos modernos usan stochastic gradient descent como solver subyacente (conexión directa con el Módulo 7 — Optimización).
  6. Identificar la “maldición de la dimensionalidad” y la hipótesis del manifold como las dos ideas que motivan el aprendizaje profundo (la próxima clase).

Prerrequisitos — herramientas que vas a reusar en la lectura

Concepto Módulo Cómo aparece en la lectura
Distribuciones, esperanza, varianza 05 — Probabilidad Fundamento de todo ML: los datos son muestras de una distribución; los estimadores son variables aleatorias
Entropía, KL-divergence, entropía cruzada 06 — Teoría de la Información La pérdida cross-entropy es literalmente la KL entre la distribución empírica y la predicha
Descenso de gradiente, optimización 07 — Optimización Entrenar un modelo = resolver un problema de optimización; SGD es el caballo de batalla
Teoría de la decisión, máxima utilidad esperada 09 — Teoría de la Decisión Elegir una hipótesis óptima es decidir bajo una función de pérdida

No vas a tener que releer estos módulos — la lectura los asume y los reusa. Si algo te confunde, el módulo correspondiente es el lugar para regresar.

Mapa conceptual

graph TD
    A["Módulo 05: Probabilidad"] --> E["ML: aprender de datos"]
    B["Módulo 06: Entropía, KL"] --> E
    C["Módulo 07: Optimización (SGD)"] --> E
    D["Módulo 09: Decisión, pérdida"] --> E
    E --> F["Módulo 23: Redes Neuronales<br>(aprender funciones flexibles)"]
    F --> G["Módulos 24–26: RL<br>(aprender el mundo mientras actúas)"]
    style E fill:#2E86AB,color:#fff
    style F fill:#F39C12,color:#fff
    style G fill:#27AE60,color:#fff

Cómo estudiar esta clase

  1. Antes de clase: lee los rangos de páginas indicados en Lecturas. No necesitas entender cada detalle matemático — identifica las ideas principales.
  2. Toma notas de dos tipos:
    • Conceptos que ya conocías de los prerrequisitos y reapareceron aquí con otro nombre.
    • Conceptos nuevos que no entiendes bien — son candidatos para discutir en clase.
  3. En clase: vamos a discutir, aclarar dudas, y conectar la lectura con lo que sigue.

Secciones: 22.1 El problema de aprendizaje → · 22.2 Generalización → · 22.3 Evaluación → · 22.4 Estimadores → · 22.5 Desafíos →

Siguiente: Lecturas →