Transparencia, explicabilidad y responsabilidad
Distinguir qué falta en un sistema de IA cuando alguien pide cuentas: saber que hay IA y qué hace (transparencia), entender un resultado concreto (explicabilidad) o saber quién responde de él (responsabilidad).
1. El problema de negocio
Una empresa de paquetería usa desde hace meses un asistente de IA generativa que resuelve miles de reclamaciones al mes por envíos dañados y propone la indemnización. Llegan tres quejas distintas: hay clientes que no sabían que les respondía una IA, otros no entienden por qué se les denegó la indemnización y, cuando el asistente se equivoca, ningún departamento se hace cargo.
2. Solución de Google: Transparencia, explicabilidad y responsabilidad asignada
- Servicio
- Transparencia, explicabilidad y responsabilidad asignada
- Capa
- Aplicaciones
- Por qué
- A quien no sabía que le respondía una IA le falta transparencia: informar de que se usa IA, qué hace, con qué datos y limitaciones. A quien no entiende la denegación, explicabilidad: entender y justificar un resultado concreto. Los errores piden responsabilidad (accountability): que un área identificada responda y los corrija. La IA responsable abarca todo el ciclo de vida.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones[Capa de esta lección]
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Google Workspace with Gemini
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Gemini Enterprise for Customer Experience
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- El asistente resuelve unas pocas reclamaciones al mes: no hace falta repartir responsables por área, porque una persona puede revisar y firmar cada respuesta antes de enviarla y responder de ella.
- Variable que fuerza el cambio
- Volumen de usuarios o datos
- Alternativa
- Revisión humana de cada respuesta antes de enviarla (human-in-the-loop), informando igualmente al cliente de que interviene una IA.
4. La trampa habitual
- [✗] Distractor
- Publicar un aviso de que el servicio usa IA y dar por resueltas las tres quejas.
- Por qué tienta
- «Transparencia» suena a la palabra que lo cubre todo, y el aviso es barato y rápido.
- Por qué es incorrecto
- El aviso resuelve solo la primera queja: informar de que se usa IA no explica un resultado concreto ni dice quién responde de corregirlo. Tampoco agota la transparencia, que pide que los usuarios entiendan cómo se usa su información y cómo funciona el sistema de IA.