Lección 3 de 17

Cómo Funcionan los Modelos de Lenguaje

Comprender el Cerebro de la IA

Para diseñar prompts efectivos, necesitas entender cómo piensa un modelo de lenguaje. No es magia: es matemática, patrones y probabilidades.

Qué es un Large Language Model

Un LLM es un modelo de Inteligencia Artificial entrenado en cantidades masivas de texto para predecir la siguiente palabra más probable en una secuencia.

Limitaciones Clave

  • No entienden como humanos: Manipulan patrones estadísticos
  • Fecha de corte: Su conocimiento tiene límites temporales
  • Alucinaciones: Pueden generar información falsa con confianza
  • Sesgo: Reflejan sesgos de datos de entrenamiento

Ventana de Contexto

Cantidad de texto que el modelo puede recordar simultáneamente.

  • GPT-4 Turbo: 128,000 tokens (~96,000 palabras)
  • Claude 3.5: 200,000 tokens (~150,000 palabras)
  • Gemini 2.0 Pro: 1,000,000 tokens (~750,000 palabras)

Insight Fundamental

Los LLMs son máquinas de completar patrones increíblemente sofisticadas. Tu prompt no es una pregunta sino el inicio de un patrón que el modelo completará.