FastAPI hace fácil levantar un endpoint de IA con rapidez. La parte difícil es decidir cómo debe ser el contrato cuando el workflow incluye retrieval, tareas de larga duración, respuestas parciales y failure modes operativos.
Muchos sistemas RAG decepcionan por la misma razón: el equipo trata retrieval como una única decisión de implementación en lugar de como una capacidad de producto que debe evolucionar. En la práctica, distintas clases de consulta necesitan fortalezas distintas.
La forma más rápida de crear un sistema de IA frágil es tratar cada paso como una decisión abierta del modelo. La forma más rápida de crear uno útil es decidir explícitamente dónde debe vivir el determinismo y dónde el modelo está aportando valor de verdad.