Saltar al contenido
Volver al Glosario
◉ ai

Inferencia

Usar un modelo de IA entrenado para generar outputs

¿Qué es Inferencia?

El proceso de pasar nuevos inputs a través de un modelo de IA entrenado para generar predicciones, texto, clasificaciones u otros outputs. El entrenamiento construye el modelo; la inferencia lo usa. Cada vez que envías un prompt a ChatGPT, eso es inferencia. Entender la inferencia importa porque es donde se acumulan los costos, optimizar la velocidad y eficiencia de inferencia es crítico para aplicaciones de IA en producción, especialmente a escala.

Siguiente paso útil

Hub de IA de LV

Contexto original sobre IA aplicada a creación, investigación y sistemas.

Creator OS

Útil cuando la IA forma parte de un flujo de contenido que aún necesita criterio humano.

💡

En palabras simples

"Es como pedirle a un chef entrenado que cocine — el entrenamiento ya pasó, ahora es actuación en vivo."

Cómo funciona

Claves para recordar

  • Ejecutar el modelo con inputs nuevos = inferencia

  • Aquí está tu costo por consulta

  • Latencia y throughput son métricas clave

▸

En la práctica

Cada vez que ChatGPT genera una respuesta, eso es inferencia. Los pesos del modelo están congelados — ejecuta un forward pass con tu input. La inferencia es lo que cuesta dinero por consulta, y optimizarla es toda una disciplina.

Términos relacionados

LLM (Modelo de Lenguaje Grande)

Modelos de IA que entienden y generan texto

Fine-Tuning

Entrenar un modelo de IA con tus datos específicos

Tokens (IA)

Las unidades básicas que la IA usa para procesar texto

Pesos Abiertos

Modelos de IA que cualquiera puede usar y modificar

Copied