Contacta con nosotros

Temario del curso

Introducción a los LLMs de código abierto

  • ¿Qué son los modelos de pesos abiertos y por qué son importantes?
  • Visión general de LLaMA, Mistral, Qwen y otros modelos de la comunidad
  • Casos de uso para despliegues privados, in situ o seguros

Configuración del entorno y herramientas

  • Instalación y configuración de las bibliotecas Transformers, Datasets y PEFT
  • Selección del hardware adecuado para el ajuste fino
  • Carga de modelos preentrenados desde Hugging Face u otros repositorios

Preparación y procesamiento de datos

  • Formatos de conjuntos de datos (ajuste por instrucciones, datos de chat, solo texto)
  • Tokenización y gestión de secuencias
  • Creación de conjuntos de datos personalizados y cargadores de datos (data loaders)

Técnicas de ajuste fino

  • Ajuste fino completo estándar frente a métodos eficientes en parámetros
  • Aplicación de LoRA y QLoRA para un ajuste fino eficiente
  • Uso de la API Trainer para experimentación rápida

Evaluación y optimización del modelo

  • Valoración de modelos ajustados mediante métricas de generación y precisión
  • Gestión del sobreajuste, la generalización y los conjuntos de validación
  • Consejos de ajuste de rendimiento y registro (logging)

Despliegue y uso privado

  • Guardado y carga de modelos para inferencia
  • Despliegue de modelos ajustados en entornos empresariales seguros
  • Estrategias de despliegue in situ frente a nube

Casos de estudio y ejemplos de uso

  • Ejemplos de uso empresarial de LLaMA, Mistral y Qwen
  • Gestión del ajuste fino multilingüe y específico de dominio
  • Debate: Compensaciones entre modelos abiertos y cerrados

Resumen y próximos pasos

Requerimientos

  • Comprensión de los modelos de lenguaje grande (LLMs) y su arquitectura
  • Experiencia con Python y PyTorch
  • Conocimientos básicos del ecosistema de Hugging Face

Audiencia

  • Profesionales de ML
  • Desarrolladores de IA
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas