Flujos de trabajo de LLM multimodales en Vertex AI

Introducción a los LLMs multimodales en Vertex AI

• Visión general de las capacidades multimodales en Vertex AI
• Modelos de Gemini y modalidades compatibles
• Casos de uso en entornos empresariales e investigación

Configuración del entorno de desarrollo

• Configuración de Vertex AI para flujos de trabajo multimodales
• Trabajo con conjuntos de datos a través de diferentes modalidades
• Laboratorio práctico: configuración del entorno y preparación de datos

Ventanas de contexto largo y razonamiento avanzado

• Comprensión de flujos de trabajo con contexto largo
• Casos de uso en planificación y toma de decisiones
• Laboratorio práctico: implementación del análisis con contexto largo

Diseño de flujos de trabajo multimodales

• Combinación de análisis de texto, audio e imágenes
• Cadena de pasos multimodales en canalizaciones
• Laboratorio práctico: diseño de una canalización multimodal

Trabajo con parámetros de la API de Gemini

• Configuración de entradas y salidas multimodales
• Optimización del proceso de inferencia y eficiencia
• Laboratorio práctico: ajuste fino de los parámetros de la API de Gemini

Aplicaciones avanzadas e integraciones

• Agentes y asistentes multimodales interactivos
• Integración de APIs externas y herramientas
• Laboratorio práctico: construcción de una aplicación multimodal

Evaluación e iteración

• Pruebas del rendimiento multimodal
• Métricas para precisión, alineación y deriva (drift)
• Laboratorio práctico: evaluación de flujos de trabajo multimodales

Resumen y próximos pasos