D4: Arquitectura de Variables y D5: Supuestos Inductivos

Dimensión 4: Arquitectura de Variables

Las variables no son islas. O sí lo son — y esa es una decisión.

Pregunta clave: “¿Las variables solo se usan como inputs, o tienen una relación estructural específica entre ellas?”

Terminología de grafos

flowchart LR
    subgraph DAG ["DAG (Bayesian Network)"]
        direction TB
        A1["A"] --> B1["B"]
        A1 --> C1["C"]
        B1 --> D1["D"]
        C1 --> D1
    end
    subgraph MRF ["MRF (Markov Random Field)"]
        direction TB
        A2["A"] --- B2["B"]
        A2 --- C2["C"]
        B2 --- D2["D"]
        C2 --- D2
    end

Las 5 arquitecturas

Discriminativo vs Generativo — La distinción clave

flowchart LR
    subgraph DISC ["DISCRIMINATIVO"]
        X1["X"] --> F1["f(θ)"] --> PY1["P(Y|X) → Ŷ"]
    end
    subgraph GEN ["GENERATIVO"]
        PXY["Aprende P(X|Y) para cada Y"] --> BAYES["Clasifica via Bayes: P(Y|X) ∝ P(X|Y)P(Y)"]
        PXY --> GENERA["Genera muestreando de P(X|Y=clase)"]
    end

Dos significados de “Generativo”

El término “generativo” se usa en ML con dos significados que a veces se confunden:

P(X₂|X₁) × P(X₃|X₁,X₂) × P(X₄|X₁,X₂,X₃) × ... = P(X₁,X₂,X₃,X₄,...)
────────────────────────────────────────────────────────────────────
Predicciones condicionales encadenadas = Distribución conjunta P(X)

Visualización de arquitecturas

Nota: θ (theta) representa los parámetros del modelo — los números que se aprenden/ajustan durante el entrenamiento (pesos, coeficientes, etc.)

flowchart LR
    subgraph FLAT ["FLAT"]
        direction LR
        XF["X₁, X₂, Z₁, Z₂"] --> FF["f(·;θ)"] --> YF["Y"]
    end

flowchart TD
    subgraph GEN_LABEL ["GENERATIVA (con etiquetas)"]
        direction TB
        TH["θ"] --> PXY_G["P(X|Y;θ)"]
        PXY_G --> CLAS["Clasificar: P(Y|X) ∝ P(X|Y)P(Y)"]
        PXY_G --> SAMP["Generar: X ~ P(X|Y=clase)"]
    end

flowchart LR
    subgraph GEN_NOLABEL ["GENERATIVA (sin etiquetas: VAE, GAN)"]
        direction LR
        L_G["L ~ P(L) (latente)"] --> DEC["Decoder: P(X|L;θ)"] --> XG["X generado"]
    end

flowchart TD
    subgraph LATENTE ["LATENTE"]
        direction TB
        LL["L (oculto)"]
        LL --> XL["X (vista ruidosa 1)"]
        LL --> ZL["Z (vista ruidosa 2)"]
        LL --> YL["Y"]
    end

flowchart TD
    subgraph PGM_EXAMPLES ["PGM"]
        direction TB
        subgraph MARKOV ["Cadena de Markov"]
            direction LR
            Xt["X_t"] --> Xt1["X_{t+1}"] --> Xt2["X_{t+2}"]
        end
        subgraph HMM ["Hidden Markov Model"]
            direction LR
            Lt["L_t"] --> Lt1["L_{t+1}"] --> Lt2["L_{t+2}"]
            Lt --> Yt["Y_t"]
            Lt1 --> Yt1["Y_{t+1}"]
            Lt2 --> Yt2["Y_{t+2}"]
        end
    end

flowchart TD
    subgraph CAUSAL ["CAUSAL"]
        direction TB
        Z_C["Z (confounder)"]
        X_C["X"]
        Y_C["Y"]
        Z_C --> X_C
        Z_C --> Y_C
        X_C -->|"do()"| Y_C
    end

¿Qué arquitectura elegir?

Estas son heurísticas, no reglas. La elección óptima en esta dimensión depende de las otras cuatro — entender el sistema completo es más importante que optimizar cada eje por separado.

Dimensión 5: Supuesto Inductivo y Estructural

Todo modelo hace supuestos sobre cómo funciona el mundo — sin ellos, generalizar sería imposible.

Este eje captura qué creencias estructurales incorpora el modelo. En la literatura se conoce como:

• Sesgo inductivo (inductive bias) — término técnico en ML: es el conjunto de supuestos o creencias previas que un sistema —ya sea una persona o un modelo de aprendizaje automático— utiliza para generalizar a partir de datos limitados.Es la “idea previa” que guía cómo interpretamos la información cuando no tenemos todos los datos.
• Prior — término bayesiano para creencias previas
• Restricción — porque limita el espacio de hipótesis

Usamos “supuesto” porque enfatiza que es una decisión filosófica sobre la naturaleza del problema, no solo una técnica de regularización.

Miguel Ángel decía que la escultura ya existía dentro del mármol — él solo quitaba lo que sobraba. La predicción funciona igual: el espacio de modelos posibles es infinito, y tus supuestos determinan cuáles consideras plausibles.

Cada tipo de supuesto es un cincel diferente:

• La arquitectura asume ciertas invarianzas (espaciales, temporales)
• La regularización asume que funciones simples son más probables
• Los priors expresan creencias explícitas sobre parámetros
• La validación asume que el futuro se parecerá al pasado

Pregunta clave: “Dado que tengo datos finitos, ¿qué supuesto estructural uso para elegir entre los infinitos modelos que ajustan los datos?”

Equivalencia Bayesiana

Insight fundamental: Todo supuesto inductivo es matemáticamente equivalente a algún tipo de “prior” o creencia sobre qué funciones son más plausibles.

¿Qué supuesto elegir?

Estas son heurísticas, no reglas. La elección óptima en esta dimensión depende de las otras cuatro — entender el sistema completo es más importante que optimizar cada eje por separado.

El Rol de Z vs L (Variables Auxiliares y Latentes)

Distinción fundamental:

• Z (observable): Información adicional que tienes en tus datos
• L (latente): Representación oculta que infiere el modelo

flowchart TD
    subgraph OBSERVABLE ["OBSERVABLE"]
        direction LR
        XO["X"] --- YO["Y"]
        XO --- ZO["Z"]
    end
    subgraph LATENTE_ZL ["LATENTE"]
        direction LR
        XL["X"] --> LL["L"] --> XL2["X̂"]
    end

Roles de Z (variable auxiliar observable)

Roles de L (variable latente)

Anterior: Incertidumbre y objetivo (D2 + D3) | Siguiente: Atlas de métodos →