Contacta con nosotros

Temario del curso

Introducción a QLoRA y Cuantificación

  • Vista general de la cuantificación y su papel en la optimización de modelos
  • Introducción al framework QLoRA y sus beneficios
  • Diferencias clave entre QLoRA y métodos tradicionales de ajuste fino

Fundamentos de los Modelos de Lenguaje Grande (LLM)

  • Introducción a los LLMs y su arquitectura
  • Desafíos del ajuste fino de grandes modelos a escala
  • Cómo la cuantificación ayuda a superar las limitaciones computacionales en el ajuste fino de LLMs

Implementación de QLoRA para el Ajuste Fino de LLMs

  • Configuración del framework y entorno QLoRA
  • Preparación de conjuntos de datos para el ajuste fino con QLoRA
  • Guía paso a paso para implementar QLoRA en LLMs utilizando Python y PyTorch/TensorFlow

Optimización del rendimiento del ajuste fino con QLoRA

  • Cómo equilibrar la precisión y el rendimiento del modelo con la cuantificación
  • Técnicas para reducir los costos de cómputo y el uso de memoria durante el ajuste fino
  • Estrategias para ajustar finamente con requisitos mínimos de hardware

Evaluación de Modelos Ajustados Finamente

  • Cómo evaluar la efectividad de los modelos ajustados finamente
  • Métricas de evaluación comunes para modelos de lenguaje
  • Optimización del rendimiento del modelo post-ajuste y resolución de problemas

Despliegue y Escalado de Modelos Ajustados Finamente

  • Mejores prácticas para desplegar LLMs cuantificados en entornos de producción
  • Escalado del despliegue para manejar solicitudes en tiempo real
  • Herramientas y frameworks para el despliegue y monitoreo de modelos

Casos de Uso y Estudios de Caso en el Mundo Real

  • Estudio de caso: Ajuste fino de LLMs para soporte al cliente y tareas de PLN
  • Ejemplos de ajuste fino de LLMs en diversas industrias como salud, finanzas y comercio electrónico
  • Lecciones aprendidas de despliegues reales de modelos basados en QLoRA

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de los fundamentos del aprendizaje automático y las redes neuronales
  • Experiencia con el ajuste fino de modelos y el aprendizaje por transferencia
  • Familiaridad con modelos de lenguaje grande (LLM) y frameworks de aprendizaje profundo (por ejemplo, PyTorch, TensorFlow)

Público objetivo

  • Ingenieros de aprendizaje automático
  • Desarrolladores de IA
  • Científicos de datos
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas