Contacta con nosotros

Temario del curso

Conceptos y métricas de rendimiento

  • Latencia, throughput, consumo de energía, utilización de recursos.
  • Cuellos de botella a nivel del sistema frente a nivel del modelo.
  • Análisis (profiling) para inferencia frente a entrenamiento.

Análisis en Huawei Ascend

  • Uso de CANN Profiler y MindInsight.
  • Diagnóstico de núcleos y operadores.
  • Patrones de descargo (offload) y mapeo de memoria.

Análisis en GPU Biren

  • Características de monitoreo de rendimiento del SDK de Biren.
  • Fusión de núcleos, alineación de memoria y colas de ejecución.
  • Análisis consciente del consumo energético y la temperatura.

Análisis en Cambricon MLU

  • Herramientas de rendimiento de BANGPy y Neuware.
  • Visibilidad a nivel de núcleo e interpretación de registros (logs).
  • Integración del analizador (profiler) de MLU con frameworks de implementación.

Optimización a nivel de grafo y modelo

  • Estrategias de poda de grafos y cuantización.
  • Fusión de operadores y reestructuración del grafo computacional.
  • Estándarización del tamaño de entrada y ajuste por lotes (batch tuning).

Optimización de memoria y núcleos

  • Optimización del diseño de la memoria y su reutilización.
  • Gestión eficiente de búferes entre diferentes conjuntos de chips.
  • Técnicas de ajuste a nivel de núcleo por plataforma.

Mejores prácticas multiplataforma

  • Portabilidad del rendimiento: estrategias de abstracción.
  • Construcción de pipelines de ajuste compartidos para entornos de múltiples chips.
  • Ejemplo: ajuste de un modelo de detección de objetos en Ascend, Biren y MLU.

Resumen y próximos pasos

Requerimientos

  • Experiencia trabajando con pipelines de entrenamiento o implementación de modelos de IA.
  • Comprensión de los principios de cálculo GPU/MLU y optimización de modelos.
  • Conocimiento básico de herramientas y métricas de análisis de rendimiento (profiling).

Público objetivo

  • Ingenieros de rendimiento.
  • Equipos de infraestructura de aprendizaje automático.
  • Arquitectos de sistemas de IA.
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas