IA responsable: privacidad, equidad y AI Principles
Gobernar el uso responsable de la IA generativa eligiendo entre anonimización y seudonimización según si hace falta poder recuperar la identidad, y sosteniéndolo con transparencia y supervisión humana.
1. El problema de negocio
Un organismo público quiere usar un asistente generativo para resumir expedientes ciudadanos y responder consultas sobre su estado. El equipo jurídico exige poder auditar cada decisión y rendir cuentas, y que, si un ciudadano lo solicita, se pueda volver a identificarlo para atender un recurso, sin perder la trazabilidad de quién accedió a cada expediente ni sesgar el trato entre colectivos.
2. Solución de Google
- Servicio
- Seudonimización o anonimización según el caso, con transparencia y human-in-the-loop
- Capa
- Modelos
- Por qué
- La seudonimización sustituye los identificadores por alias y permite revertirlos con una clave custodiada cuando hace falta atender un recurso, mientras que la anonimización elimina la vinculación de forma irreversible cuando no hace falta recuperarla; ambas se combinan con transparencia, supervisión humana y los AI Principles revisados en 2025, que piden equidad en el trato entre colectivos y decisiones explicables.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Gemini for Google Workspace
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Customer Engagement Suite
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos[Capa de esta lección]
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- El caso no trata datos personales de ciudadanos, así que el esfuerzo operativo de aplicar seudonimización o anonimización no está justificado.
- Variable que fuerza el cambio
- Esfuerzo operativo
- Alternativa
- Un proceso interno sin técnicas de privacidad, con supervisión humana convencional.
4. La trampa del examen
- [✗] Distractor
- Anonimizar los expedientes del ciudadano y dar por hecho que, si hace falta atender un recurso, se podrá volver a identificarlo más adelante.
- Por qué tienta
- Las dos técnicas parecen intercambiables porque ambas ocultan la identidad del ciudadano en el expediente.
- Por qué es incorrecto
- La anonimización elimina la vinculación de forma irreversible por definición; si hay que poder volver a identificar al ciudadano para atender un recurso, la técnica correcta es la seudonimización, reversible con una clave custodiada.