IA segura: SAIF y herramientas de seguridad
Proteger la IA en todo el ciclo de vida de ML, de los datos y el entrenamiento al despliegue y la gestión, con un marco estandarizado como SAIF y controles gestionados de plataforma, en lugar de herramientas caseras por equipo.
1. El problema de negocio
Una aseguradora tiene cuatro proyectos internos de IA generativa, del resumen de siniestros al análisis de pólizas, cada uno creado por un equipo distinto. Una auditoría de seguridad revela que cada equipo gestiona los accesos a su manera, que nadie monitoriza las cargas de trabajo de forma común y que el responsable de seguridad no tiene una visión conjunta del riesgo. El equipo de seguridad es pequeño y no puede mantener herramientas propias.
2. Solución de Google: SAIF con IAM y Security Command Center
- Servicio
- SAIF con y
- Capa
- Infraestructura
- Por qué
- SAIF, el marco de Google para gestionar los riesgos de los modelos de IA, da a todos los equipos un criterio común para proteger el ciclo de vida de ML; IAM controla el acceso, Security Command Center da visibilidad de la postura de seguridad y la monitorización de cargas de trabajo completa la vigilancia, sin construir herramientas propias.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Google Workspace with Gemini
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Gemini Enterprise for Customer Experience
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura[Capa de esta lección]
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- Los proyectos tratan PII o datos regulados, o están expuestos a prompt injection, y ese riesgo justifica el esfuerzo operativo de controles adicionales a IAM y Security Command Center.
- Variable que fuerza el cambio
- Esfuerzo operativo
- Alternativa
- Añadir , CMEK, y sobre la misma base de plataforma.
4. La trampa habitual
- [✗] Distractor
- Desarrollar un sistema propio de control de accesos y un panel de alertas sobre máquinas virtuales, mantenido por el equipo de seguridad.
- Por qué tienta
- Parece dar control total y adaptarse a cada proyecto, y el equipo de seguridad ya conoce las herramientas con las que lo construiría.
- Por qué es incorrecto
- Contradice SAIF, que pide armonizar los controles a nivel de plataforma. Como ampliación, ese es uno de sus seis elementos, junto a ampliar las bases de seguridad al ecosistema de IA, extender la detección y respuesta, automatizar las defensas, adaptar los controles y contextualizar los riesgos de los sistemas de IA. Además, mantener herramientas caseras dispara el esfuerzo operativo de un equipo de seguridad pequeño.
5. Micro-check
Fuentes oficiales
Servicio de Google Cloud que gestiona la autorización: decide quién puede hacer qué sobre cada recurso. Concede a cada identidad, sea una persona o un sistema, roles con los permisos que necesita sobre proyectos, datos o modelos.
Ficha de Identity and Access ManagementSolución de gestión de riesgos de Google Cloud que da a los equipos de seguridad una visión común de su postura: detecta vulnerabilidades y configuraciones erróneas, identifica amenazas activas y comprueba el cumplimiento de marcos de seguridad habituales.
Ficha de Security Command CenterControl de seguridad de Google Cloud que crea perímetros alrededor de servicios gestionados, como BigQuery o Cloud Storage, y limita desde qué redes se accede a ellos. Reduce el riesgo de exfiltración de datos con una capa independiente de IAM.
Ficha de VPC Service ControlsServicio de Google Cloud que descubre, clasifica y desidentifica datos sensibles, como PII o credenciales, en repositorios y en flujos de datos. Inspecciona el contenido con detectores gestionados y lo enmascara, lo oculta o lo seudonimiza antes de usarlo.
Ficha de Sensitive Data ProtectionServicio de Google Cloud que inspecciona los prompts y las respuestas de las aplicaciones de IA para bloquear prompt injection y jailbreak, contenido dañino y fuga de datos sensibles, con políticas de seguridad comunes a todas ellas.
Ficha de Model Armor