IA segura: SAIF y herramientas de seguridad
Proteger la IA en todo el ciclo de vida de ML, de los datos y el entrenamiento al despliegue y la operación, con un marco estandarizado como SAIF y controles gestionados de plataforma, en lugar de herramientas caseras por equipo.
1. El problema de negocio
Una aseguradora tiene cuatro proyectos internos de IA generativa, del resumen de siniestros al análisis de pólizas, cada uno creado por un equipo distinto. Una auditoría de seguridad revela que cada equipo gestiona los accesos a su manera, que nadie monitoriza las cargas de trabajo de forma común y que el responsable de seguridad no tiene una visión conjunta del riesgo. El equipo de seguridad es pequeño y no puede mantener herramientas propias.
2. Solución de Google
- Servicio
- SAIF con IAM y Security Command Center
- Capa
- Infraestructura
- Por qué
- SAIF, el marco de Google para gestionar los riesgos de los modelos de IA, da a todos los equipos un criterio común para proteger el ciclo de vida de ML; IAM controla el acceso, Security Command Center da visibilidad de la postura de seguridad y la monitorización de cargas de trabajo completa la vigilancia, sin construir herramientas propias.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Gemini for Google Workspace
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Customer Engagement Suite
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura[Capa de esta lección]
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- Los proyectos tratan PII o datos regulados, o están expuestos a prompt injection, y ese riesgo justifica el esfuerzo operativo de controles adicionales a IAM y Security Command Center.
- Variable que fuerza el cambio
- Esfuerzo operativo
- Alternativa
- Añadir VPC Service Controls, CMEK, Sensitive Data Protection y Model Armor sobre la misma base de plataforma.
4. La trampa del examen
- [✗] Distractor
- Desarrollar un sistema propio de control de accesos y un panel de alertas sobre máquinas virtuales, mantenido por el equipo de seguridad.
- Por qué tienta
- Parece dar control total y adaptarse a cada proyecto, y el equipo de seguridad ya conoce las herramientas con las que lo construiría.
- Por qué es incorrecto
- Contradice SAIF, que pide armonizar los controles a nivel de plataforma junto a sus otros cinco elementos: ampliar las bases de seguridad al ecosistema de IA, extender la detección y respuesta, automatizar las defensas, adaptar los controles y contextualizar los riesgos de los sistemas de IA. Además, mantener herramientas caseras dispara el esfuerzo operativo de un equipo de seguridad pequeño.