Inferencia

El proceso de pasar nuevos inputs a través de un modelo de IA entrenado para generar predicciones, texto, clasificaciones u otros outputs. El entrenamiento construye el modelo; la inferencia lo usa. Cada vez que envías un prompt a ChatGPT, eso es inferencia. Entender la inferencia importa porque es donde se acumulan los costos — optimizar la velocidad y eficiencia de inferencia es crítico para aplicaciones de IA en producción, especialmente a escala.