Modelos fundacionales, LLM y modelos de difusión
Aprovechar un modelo fundacional existente, sea un LLM, un modelo multimodal o uno de difusión, y adaptarlo con prompt engineering o, si no basta, con prompt tuning, en lugar de construir un modelo propio.
1. El problema de negocio
El área de comunicación de un banco quiere producir cada mes borradores de textos explicativos sobre sus productos y las ilustraciones que los acompañan. Un responsable técnico propone entrenar un modelo propio desde cero con todo el archivo documental de la entidad. El equipo de datos lo forman tres personas ya ocupadas en otros proyectos, y la dirección quiere los primeros borradores en pocas semanas.
2. Solución de Google
- Servicio
- Modelos fundacionales de Model Garden adaptados con prompt engineering
- Capa
- Modelos
- Por qué
- Un modelo fundacional ya está entrenado con datos masivos y diversos y se adapta a muchas tareas: un LLM redacta los textos, un modelo de difusión como Imagen genera las ilustraciones y un modelo multimodal procesa y genera varios tipos de dato. Elegirlos en Model Garden y guiarlos con prompt engineering evita entrenar y mantener un modelo propio.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Gemini for Google Workspace
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Customer Engagement Suite
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos[Capa de esta lección]
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- El prompt engineering no consigue un comportamiento o un formato estable y mantener instrucciones cada vez más largas dispara el esfuerzo operativo.
- Variable que fuerza el cambio
- Esfuerzo operativo
- Alternativa
- Prompt tuning del modelo fundacional, que ajusta de forma eficiente un pequeño conjunto de parámetros sin reentrenar el modelo completo.
4. La trampa del examen
- [✗] Distractor
- Entrenar desde cero un modelo fundacional propio con el archivo documental del banco para que redacte los textos y genere las ilustraciones.
- Por qué tienta
- Un modelo entrenado solo con los documentos de la entidad parece más ajustado a sus productos y da sensación de control total.
- Por qué es incorrecto
- Preentrenar un modelo fundacional exige datos masivos y diversos y un esfuerzo que un equipo de tres personas no puede asumir en pocas semanas. Un modelo fundacional existente ya cubre texto e imagen y se adapta con prompt engineering.