IA responsable: privacidad, equidad y AI Principles
Gobernar el uso responsable de la IA generativa eligiendo entre anonimización y seudonimización según haya que recuperar la identidad, con supervisión humana y equidad. Como ampliación, añade una marca de agua imperceptible al contenido generado con IA de Google.
1. El problema de negocio
Un organismo público quiere usar un asistente generativo para resumir expedientes ciudadanos y responder consultas sobre su estado. El equipo jurídico exige que los resúmenes no dejen a la vista los datos personales, que una persona supervise las respuestas, que se pueda volver a identificar a un ciudadano si presenta un recurso y que el asistente no sesgue el trato entre colectivos.
2. Solución de Google: Seudonimización o anonimización según el caso, con human-in-the-loop
- Servicio
- Seudonimización o anonimización según el caso, con human-in-the-loop
- Capa
- Modelos
- Por qué
- La seudonimización sustituye los identificadores por alias y, con tokens de dos sentidos, permite revertirlos con una clave custodiada para atender un recurso; la anonimización elimina la vinculación de forma irreversible cuando no hace falta recuperarla. Se combinan con la equidad y, como ampliación, los AI Principles revisados en 2025, que piden supervisión humana apropiada y evitar el sesgo injusto.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Google Workspace with Gemini
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Gemini Enterprise for Customer Experience
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos[Capa de esta lección]
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- El caso no trata datos personales de ciudadanos, así que el esfuerzo operativo de aplicar seudonimización o anonimización no está justificado.
- Variable que fuerza el cambio
- Esfuerzo operativo
- Alternativa
- Un proceso interno sin técnicas de privacidad, con supervisión humana convencional.
4. La trampa habitual
- [✗] Distractor
- Anonimizar los expedientes del ciudadano y dar por hecho que, si hace falta atender un recurso, se podrá volver a identificarlo más adelante.
- Por qué tienta
- Las dos técnicas parecen intercambiables porque ambas ocultan la identidad del ciudadano en el expediente.
- Por qué es incorrecto
- La anonimización elimina la vinculación de forma irreversible por definición; si hay que poder volver a identificar al ciudadano para atender un recurso, la técnica correcta es la seudonimización con tokens de dos sentidos, que se revierten con una clave custodiada.
5. Micro-check
Fuentes oficiales
Tecnología de Google DeepMind que inserta una marca de agua digital imperceptible en el contenido generado con modelos de IA de Google, ya sean imágenes, audio, texto o vídeo, y permite detectarla después para identificar ese contenido como generado.
Ficha de SynthID