Racionalidad

Los Cuatro Enfoques de la IA

Antes de definir qué es un agente racional, debemos preguntarnos: ¿Qué es la Inteligencia Artificial?

Russell & Norvig (AIMA) identifican cuatro enfoques históricos, organizados en dos dimensiones:

graph TD
    subgraph "¿Respecto a qué?"
        H[Humanamente]
        R[Racionalmente]
    end
    subgraph "¿Qué aspecto?"
        T[Pensar]
        A[Actuar]
    end
    
    style H fill:#7dd3fc,stroke:#0284c7,color:#0c4a6e
    style R fill:#5eead4,stroke:#14b8a6,color:#134e4a
    style T fill:#a78bfa,stroke:#7c3aed,color:#4c1d95
    style A fill:#f472b6,stroke:#db2777,color:#831843

1. Thinking Humanly: El Enfoque Cognitivo

“El emocionante nuevo esfuerzo de hacer que las computadoras piensen… máquinas con mentes, en el sentido completo y literal” — Haugeland, 1985

Objetivo: Crear sistemas que piensen como humanos.

Método:

• Introspección (¿cómo pienso yo?)
• Experimentos psicológicos
• Neuroimágenes del cerebro

Disciplina: Ciencia Cognitiva — la intersección de IA y psicología.

Ejemplo: Si queremos que un programa resuelva problemas, estudiamos cómo los humanos los resuelven y replicamos ese proceso.

Limitación: Los humanos no siempre piensan de manera óptima. Tenemos sesgos, heurísticas imperfectas, y limitaciones de memoria.

2. Acting Humanly: El Test de Turing

“Si una máquina puede engañar a un humano haciéndole creer que es humana, entonces es inteligente” — Turing, 1950

Objetivo: Crear sistemas que actúen de manera indistinguible de un humano.

El Test de Turing (Juego de Imitación):

• Un interrogador humano hace preguntas por texto
• Debe determinar si habla con humano o máquina
• Si la máquina engaña consistentemente → es “inteligente”

Capacidades requeridas para pasar el test:

El Test de Turing Total añade:

Críticas al Test de Turing:

• Mide imitación, no inteligencia real
• Los humanos son fáciles de engañar (ELIZA, chatbots simples)
• No todos los comportamientos inteligentes son humanos (¿un avión “vuela mal” porque no aletea?)

3. Thinking Rationally: Las Leyes del Pensamiento

“El estudio de las facultades mentales mediante el uso de modelos computacionales” — Charniak & McDermott, 1985

Objetivo: Crear sistemas que piensen correctamente según las leyes de la lógica.

Base filosófica: La tradición logicista, desde Aristóteles:

Sócrates es hombre.
Todos los hombres son mortales.
∴ Sócrates es mortal.

Silogismos: Estructuras de razonamiento que siempre producen conclusiones correctas si las premisas son correctas.

La promesa: Si podemos formalizar todo conocimiento en lógica, podemos razonar perfectamente.

Problemas:

Extensiones:

• Lógica probabilística: Maneja incertidumbre
• Lógica fuzzy: Maneja vaguedad
• Lógica no-monótona: Permite revisar conclusiones

4. Acting Rationally: El Enfoque de Agentes Racionales

“La IA es el estudio del diseño de agentes inteligentes” — Poole et al., 1998

Objetivo: Crear sistemas que actúen de manera óptima dado lo que saben.

Definición de Agente Racional: Un agente que actúa para maximizar el logro de sus objetivos, dadas sus creencias.

¿Por qué este enfoque es el mejor?

Racionalidad vs Inferencia Correcta:

• Inferencia correcta es parte de la racionalidad, pero no todo
• A veces la acción racional no involucra razonamiento explícito (reflejos)
• A veces es racional actuar sin certeza total

El Enfoque de Este Curso: Acting Rationally

En este curso adoptamos el enfoque de Acting Rationally porque:

1. Es el estándar moderno en IA
2. Unifica diferentes técnicas bajo un mismo marco
3. Es medible — podemos evaluar qué tan racional es un agente
4. Es práctico — nos importa lo que el agente hace, no solo lo que “piensa”

graph LR
    P[Percepts] --> A[Agent]
    A --> AC[Actions]
    AC --> E[Environment]
    E --> P
    
    A --> |"Maximiza"| G[Expected Performance]
    
    style A fill:#5eead4,stroke:#14b8a6,color:#134e4a
    style G fill:#fbbf24,stroke:#d97706,color:#78350f

Nota filosófica: No afirmamos que las máquinas “realmente piensan” o tienen “conciencia”. Solo que actúan de manera que maximiza sus objetivos. El debate filosófico sobre la mente permanece abierto.

¿Qué significa actuar racionalmente?

Un agente racional es uno que hace “lo correcto”. Pero ¿qué es “lo correcto”?

Esta pregunta ha ocupado a filósofos durante siglos. En IA, adoptamos una definición precisa y operacional:

Definición: Un agente racional selecciona acciones que maximizan su expected performance measure, dado:

• El performance measure que define el éxito
• El conocimiento previo del environment
• Las acciones disponibles
• La secuencia de percepts hasta el momento

Esta definición tiene implicaciones profundas:

• La racionalidad depende de lo que el agente sabe, no de lo que es verdad
• La racionalidad es sobre expectativas, no sobre resultados
• El agente no elige su performance measure, lo hace el diseñador

Performance Measure

El performance measure es una función que evalúa qué tan deseable es una secuencia de estados del environment. Es la “vara” con la que medimos al agente.

¿Quién define el Performance Measure?

• Para agentes artificiales: El diseñador
• Para humanos: Evolución + cultura + preferencias personales
• Para empresas: Stakeholders (accionistas, clientes, reguladores)

Ejemplos Detallados

⚠️ El Problema del Specification Gaming

Los agentes optimizan exactamente lo que les pides, no lo que quieres. Esto se llama specification gaming o reward hacking.

Racionalidad ≠ Perfección

Esta distinción es fundamental y frecuentemente malentendida.

graph TD
    subgraph "Información Disponible"
        P[Percepts recibidos]
        K[Conocimiento previo]
        A[Acciones posibles]
    end
    subgraph "Información NO Disponible"
        F[Eventos futuros]
        H[Estado oculto]
        O[Acciones de otros]
    end
    P --> D[Decisión Racional]
    K --> D
    A --> D
    F -.->|Imposible de conocer| D
    H -.->|No observable| D
    O -.->|Impredecible| D
    D --> R[Resultado]
    R --> E{¿Éxito?}
    E -->|Sí| OK[Bien]
    E -->|No| X[¿Fue irracional?]
    X --> N[No necesariamente]

Ejemplo Clásico: Cruzando la Calle

Estás caminando por los Campos Elíseos en París. Ves a un viejo amigo al otro lado de la calle.

Tu análisis:

• Miras a ambos lados: no hay tráfico
• La calle no es muy ancha
• No estás ocupado con nada urgente
• Quieres saludar a tu amigo

Tu decisión: Cruzar la calle. Es la decisión racional.

Lo que no podías saber: A 10,000 metros de altura, la puerta de carga de un avión acaba de desprenderse…

Pregunta: ¿Fuiste irracional al cruzar?

Respuesta: No. Tu obituario no diría “Idiota intenta cruzar calle”. La racionalidad se evalúa con la información disponible al momento de decidir, no con el resultado.

Más Ejemplos de Racionalidad vs Perfección

Patrón: La racionalidad se mide por el proceso, no por el resultado.

Racionalidad ≠ Omnisciencia

La Ecuación de la Racionalidad

Un agente racional elige la acción $a^*$ que maximiza la utilidad esperada:

$$a^* = \arg\max_a \mathbb{E}[U(resultado) | percepts, conocimiento, a]$$

Nota que es esperada (expected), no real. El agente trabaja con probabilidades, no certezas.

Information Gathering: La Racionalidad de Buscar Información

Un agente verdaderamente racional no solo actúa, también reconoce cuándo necesita más información.

graph TD
    S[Estado actual] --> V{¿Valor de información > Costo?}
    V -->|Sí| G[Buscar información]
    G --> U[Actualizar creencias]
    U --> S
    V -->|No| A[Actuar con info actual]
    A --> R[Resultado]

El Valor de la Información

La información tiene valor cuando cambiaría tu decisión.

Ejemplos de Information Gathering

Cuándo NO Buscar Información

La búsqueda de información también tiene costos:

• Tiempo: Mientras investigas, no actúas
• Recursos: Sensores, pruebas, consultas cuestan
• Oportunidad: La ventana para actuar puede cerrarse

Un agente racional balancea el valor de la información contra su costo.

Bounded Rationality: Racionalidad con Límites

En la práctica, los agentes tienen recursos limitados:

• Tiempo finito para decidir
• Memoria limitada
• Capacidad de cómputo finita

Herbert Simon introdujo el concepto de bounded rationality (racionalidad limitada):

Un agente con recursos limitados no puede calcular la decisión óptima. En su lugar, busca una decisión “suficientemente buena”.

Estrategias de Bounded Rationality

Autonomía vs Conocimiento Inicial

¿Cuánto debe saber un agente “de nacimiento” vs cuánto debe aprender?

graph LR
    subgraph "Espectro"
        A[Todo Innato] --> B[Mayormente Innato]
        B --> C[Balance]
        C --> D[Mayormente Aprendido]
        D --> E[Todo Aprendido]
    end
    A -.-> P1[Frágil]
    E -.-> P2[Muy lento]
    C -.-> P3[Óptimo]

1. Cavar nido
2. Salir a buscar bola de estiércol
3. Traer bola hasta la entrada del nido
4. Entrar al nido a verificar que todo está bien
5. Salir y meter la bola
6. Poner huevos

Ejercicios

Puntos Clave

Fundamentos Filosóficos

1. Hay 4 enfoques a la IA: pensar/actuar × humanamente/racionalmente
2. Acting Rationally es el enfoque dominante moderno — nos enfocamos en comportamiento óptimo
3. La tradición logicista (Laws of Thought) es importante pero limitada por incertidumbre y complejidad
4. El Test de Turing mide imitación, no necesariamente inteligencia

Racionalidad en la Práctica

5. Racionalidad = Maximizar expected performance dada la información disponible
6. Racionalidad ≠ Perfección: Se juzga por el proceso, no el resultado
7. Racionalidad ≠ Omnisciencia: Trabaja con probabilidades, no certezas
8. El performance measure debe capturar lo que realmente queremos (¡cuidado con specification gaming!)
9. Agentes racionales buscan información cuando su valor supera su costo
10. Bounded rationality: Con recursos limitados, buscamos “suficientemente bueno”
11. Balance entre conocimiento innato y capacidad de aprender