Modelos fundacionales, LLM y modelos de difusión
Aprovechar un modelo fundacional existente, sea un LLM, un modelo multimodal o uno de difusión, y adaptarlo con prompt engineering o, si no basta, con prompt tuning, en lugar de construir un modelo propio.
1. El problema de negocio
El área de comunicación de un banco quiere producir cada mes borradores de textos explicativos sobre sus productos y las ilustraciones que los acompañan. Un responsable técnico propone entrenar un modelo propio desde cero con todo el archivo documental de la entidad. El equipo de datos lo forman tres personas ya ocupadas en otros proyectos, y la dirección quiere los primeros borradores en pocas semanas.
2. Solución de Google: Modelos fundacionales de Model Garden adaptados con prompt engineering
- Servicio
- Modelos fundacionales de adaptados con prompt engineering
- Capa
- Modelos
- Por qué
- Un modelo fundacional, ya entrenado con datos masivos y diversos, se adapta a muchas tareas: un LLM redacta los textos, un modelo de difusión genera las ilustraciones y uno multimodal procesa y genera varios tipos de dato. Elegirlos en (antes Vertex AI Model Garden) y guiarlos con prompt engineering evita entrenar y mantener un modelo propio.
Ver la capa en el mapa de 5 capas
Capa 5Aplicaciones
La parte con la que interactúa el usuario final.
- Gemini app
- Gemini Enterprise
- Google Workspace with Gemini
- Gemini Notebook
- Gemini for Google Cloud
Capa 4Agentes
Software que persigue un objetivo usando un modelo y herramientas.
- Agentes en Agent Platform
- Gemini Enterprise for Customer Experience
Capa 3Plataforma
APIs, gestión de datos y despliegue de modelos; abstrae la infraestructura.
- Agent Studio
- Agent Search
- Model Garden
- Agent Platform AutoML
- RAG Engine
- Agent Runtime
Capa 2Modelos[Capa de esta lección]
Algoritmos entrenados con grandes volúmenes de datos que generan contenido.
- Gemini
- Gemma
- Imagen
- Veo
Capa 1Infraestructura
Cómputo y almacenamiento físico para entrenar y servir modelos.
- AI Hypercomputer
- Cloud TPU
- GPU
- Centros de datos de Google
3. Límites
- No la uses si
- El prompt engineering no consigue un comportamiento o un formato estable y mantener instrucciones cada vez más largas dispara el esfuerzo operativo.
- Variable que fuerza el cambio
- Esfuerzo operativo
- Alternativa
- Prompt tuning del modelo fundacional, que aprende un pequeño conjunto de parámetros propios, un soft prompt, sin modificar los pesos del modelo base.
4. La trampa habitual
- [✗] Distractor
- Entrenar desde cero un modelo fundacional propio con el archivo documental del banco para que redacte los textos y genere las ilustraciones.
- Por qué tienta
- Un modelo entrenado solo con los documentos de la entidad parece más ajustado a sus productos y da sensación de control total.
- Por qué es incorrecto
- Preentrenar un modelo fundacional exige datos masivos y diversos y un esfuerzo que un equipo de tres personas no puede asumir en pocas semanas. Un modelo fundacional existente ya cubre texto e imagen y se adapta con prompt engineering.
5. Micro-check
Fuentes oficiales
Biblioteca de modelos de Agent Platform: reúne modelos de Google, de terceros y open source para descubrirlos, probarlos, adaptarlos y desplegarlos. La guía de estudio la presenta también como el lugar donde almacenar y organizar los modelos.
Ficha de Model Garden