Ponte en Contacto
 Duración 14 horas

Temario del curso

Introducción al Refuerzo por Aprendizaje a partir de Retroalimentación Humana (RLHF)

  • ¿Qué es RLHF y por qué es importante?
  • Comparación con métodos de ajuste fino supervisado.
  • Aplicaciones de RLHF en sistemas de IA modernos.

Modelado de Recompensas con Retroalimentación Humana

  • Recopilación y estructuración de la retroalimentación humana.
  • Construcción y entrenamiento de modelos de recompensa.
  • Evaluación de la efectividad de los modelos de recompensa.

Entrenamiento con Optimización de Política Proximal (PPO)

  • Resumen de los algoritmos de PPO para RLHF.
  • Implementación de PPO con modelos de recompensa.
  • Afinación iterativa y segura de modelos.

Ajuste Fino Práctico de Modelos de Lenguaje

  • Preparación de conjuntos de datos para flujos de trabajo de RLHF.
  • Ajuste fino práctico de un LLM pequeño utilizando RLHF.
  • Desafíos y estrategias de mitigación.

Escala de RLHF a Sistemas de Producción

  • Consideraciones de infraestructura y cómputo.
  • Garantía de calidad y bucles de retroalimentación continua.
  • Mejores prácticas para implementación y mantenimiento.

Consideraciones Éticas y Mitigación de Sesgos

  • Abordaje de riesgos éticos en la retroalimentación humana.
  • Estrategias de detección y corrección de sesgos.
  • Garantizar la alineación y salidas seguras.

Estudios de Caso y Ejemplos del Mundo Real

  • Estudio de caso: Ajuste fino de ChatGPT con RLHF.
  • Otros despliegues exitosos de RLHF.
  • Lecciones aprendidas e insights de la industria.

Requerimientos

  • Comprensión de los fundamentos del aprendizaje supervisado y del aprendizaje por refuerzo.
  • Experiencia en el ajuste fino de modelos y arquitecturas de redes neuronales.
  • Conocimiento de programación en Python y marcos de aprendizaje profundo (p. ej., TensorFlow, PyTorch).

Audiencia

  • Ingenieros de machine learning.
  • Investigadores de IA.

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas