IA en el edge: Gemini Nano y LiteRT
Ejecutar el modelo en el propio dispositivo, con IA en el edge, cuando la falta de conexión fiable, la latencia o la privacidad del dato impiden depender de un modelo servido en la nube.
1. El problema de negocio
Los repartidores de una empresa de logística trabajan con dispositivos móviles en rutas rurales y muelles de carga donde la cobertura no es fiable. En cada entrega necesitan, al instante, un resumen de las instrucciones del albarán y de las incidencias del destinatario, que incluyen datos personales que la empresa no quiere que salgan del dispositivo. Hoy, cuando la conexión falla, la herramienta no responde y las entregas se retrasan.
2. Solución de Google: IA en el edge con Gemini Nano y LiteRT
- Servicio
- IA en el edge con y LiteRT
- Capa
- Infraestructura
- Por qué
- La IA en el edge ejecuta el modelo en dispositivos o servidores cercanos a donde ocurre la acción. es el modelo más eficiente y compacto de Google, diseñado para ejecutarse en dispositivos, y LiteRT, el runtime para desplegar modelos en ellos: ejecutar ahí aporta respuesta en tiempo real, más privacidad del dato y menos dependencia de la conexión.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Google Workspace with Gemini
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Gemini Enterprise for Customer Experience
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura[Capa de esta lección]
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- La respuesta depende de datos que cambian en los sistemas centrales, como el estado de un pedido: el modelo del dispositivo no los tiene, y consultarlos exige conexión.
- Variable que fuerza el cambio
- Frescura del dato
- Alternativa
- Un modelo servido en , con acceso a los datos centrales actualizados.
4. La trampa habitual
- [✗] Distractor
- Resolverlo con una aplicación o un modelo servidos en la nube, a los que el dispositivo llama en cada petición.
- Por qué tienta
- Llamar a un servicio en la nube evita desplegar un modelo en cada dispositivo, por lo que parece la opción con menos esfuerzo.
- Por qué es incorrecto
- Sin conexión fiable, la llamada a la nube falla justo cuando el repartidor necesita la respuesta. Además, cada petición enviaría fuera del dispositivo datos que no deben salir de él.
5. Micro-check
Fuentes oficiales
Modelos fundacionales multimodales nativos de Google: procesan texto, código, imagen, audio y vídeo. Gamas: Pro (razonamiento complejo), Flash (equilibrio entre coste y latencia), Flash-Lite (volumen masivo a mínimo coste) y Nano (en el dispositivo). «Gemini» es también la marca de aplicaciones como la Gemini app.
Ficha de GeminiPlataforma unificada de ML de Google Cloud para construir, entrenar, desplegar y gestionar soluciones de ML, de IA generativa y agentes. Agrupa Model Garden, Model Builder, Agent Studio, Agent Search y Agent Runtime, con controles de gobierno según el servicio y la región.
Ficha de Agent PlatformFamilia de modelos abiertos y ligeros de Google, construida con la misma investigación y tecnología que Gemini. Sus pesos son descargables: se puede personalizar con técnicas de ajuste y desplegar en local, en el edge, en dispositivos o en una nube privada.
Ficha de Gemma