¿Qué es la temperatura en un modelo de IA?

Contenido revisado:

Temperatura: La temperatura es un parámetro de muestreo que modifica la aleatoriedad de la selección de tokens. En términos generales, valores más bajos concentran la elección en opciones probables y valores más altos distribuyen más probabilidad entre alternativas.

Cómo funciona

La temperatura actúa sobre la distribución usada para seleccionar el siguiente token; no vuelve al modelo más informado ni garantiza creatividad, exactitud o determinismo. El efecto concreto depende del modelo, proveedor y otros controles de muestreo. Algunos sistemas ignoran o limitan el parámetro.

Ejemplo práctico

Para extraer campos de una factura, un equipo prueba una configuración baja y mide errores de formato. Para idear titulares, compara varias configuraciones. En ambos casos conserva el mismo conjunto de evaluación para atribuir diferencias al cambio.

Cómo evaluarlo con rigor

Cambie un control por vez, repita cada prueba, mida consistencia y calidad, registre modelo y versión y no use una temperatura baja como sustituto de validación factual.

Lista de comprobación

  • Defina el resultado esperado antes de probar.
  • Mida el sistema completo y no solo una respuesta aislada.
  • Documente modelo, versión, datos, controles y limitaciones.

Referencia primaria: Google for Developers — definición de temperatura

Preguntas frecuentes

¿Cuál es la definición breve de temperatura?

La temperatura es un parámetro de muestreo que modifica la aleatoriedad de la selección de tokens. En términos generales, valores más bajos concentran la elección en opciones probables y valores más altos distribuyen más probabilidad entre alternativas.

¿Cómo se debe evaluar?

Cambie un control por vez, repita cada prueba, mida consistencia y calidad, registre modelo y versión y no use una temperatura baja como sustituto de validación factual.