Limitaciones de los modelos, HITL y monitorización
Identificar qué práctica mitiga cada limitación del modelo —dependencia de datos, knowledge cutoff, sesgo, equidad, alucinaciones y casos límite— y en qué decisiones de alto riesgo el human-in-the-loop es obligatorio.
1. El problema de negocio
Una entidad de crédito al consumo prueba un modelo generativo que redacta la evaluación de cada solicitud de préstamo. En el piloto, algunas evaluaciones citaron ingresos que no figuraban en el expediente y los rechazos se concentraron en solicitantes de determinados barrios. Aun así, la dirección de operaciones propone que el modelo apruebe o deniegue cada solicitud de forma automática para absorber el crecimiento previsto del volumen.
2. Solución de Google
- Servicio
- Grounding y human-in-the-loop con monitorización continua
- Capa
- Modelos
- Por qué
- El grounding ancla cada evaluación en los datos reales del expediente y reduce las alucinaciones; la revisión humana de cada decisión frena el sesgo y los casos límite antes de que afecten al solicitante; y la monitorización continua, con KPIs y control del drift, detecta la degradación del modelo a medida que crece el volumen de solicitudes.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Gemini for Google Workspace
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Customer Engagement Suite
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos[Capa de esta lección]
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- Las salidas son de bajo impacto y llegan en un volumen tan alto que revisar cada una antes de entregarla no escala ni protege ninguna decisión crítica.
- Variable que fuerza el cambio
- Volumen de usuarios o datos
- Alternativa
- Monitorización y evaluación continua con KPIs y Model Monitoring, más revisión humana continua tras el despliegue en lugar de aprobar cada salida.
4. La trampa del examen
- [✗] Distractor
- Dejar que el modelo apruebe o deniegue cada solicitud de forma autónoma una vez anclado en los datos del expediente, para absorber el volumen previsto.
- Por qué tienta
- Con el grounding ya no aparecen ingresos inventados, y la automatización total promete atender el crecimiento de solicitudes sin ampliar el equipo.
- Por qué es incorrecto
- La concesión de crédito es una decisión de alto riesgo en la que el HITL es obligatorio. Grounding, RAG, prompt engineering o fine-tuning mejoran el output, pero no sustituyen el juicio humano ante el sesgo que ya mostró el piloto.