Contacta con nosotros

Temario del curso

Resumen de las capacidades de optimización de CANN

  • Cómo se maneja el rendimiento de la inferencia en CANN
  • Objetivos de optimización para sistemas de IA para dispositivos periféricos y embebidos
  • Comprensión del uso del Núcleo de IA y la asignación de memoria

Uso del Motor de Grafos para análisis

  • Introducción al Motor de Grafos y el flujo de ejecución
  • Visualización de grafos de operadores y métricas en tiempo de ejecución
  • Modificación de grafos computacionales para optimización

Herramientas de perfilado y métricas de rendimiento

  • Uso de la herramienta de perfilado de CANN (profiler) para el análisis de cargas de trabajo
  • Análisis del tiempo de ejecución de kernels y cuellos de botella
  • Perfilado del acceso a memoria y estrategias de fragmentación (tiling)

Desarrollo de operadores personalizados con TIK

  • Vista general del modelo de programación de TIK y operadores
  • Implementación de un operador personalizado utilizando la DSL de TIK
  • Pruebas y medición del rendimiento del operador

Optimización avanzada de operadores con TVM

  • Introducción a la integración de TVM con CANN
  • Estrategias de autoajuste para grafos computacionales
  • Cuándo y cómo cambiar entre TVM y TIK

Técnicas de optimización de memoria

  • Gestión del diseño de memoria y colocación de búferes
  • Técnicas para reducir el consumo de memoria on-chip
  • Mejores prácticas para la ejecución asíncrona y reutilización

Implementación en el mundo real y estudios de caso

  • Estudio de caso: ajuste de rendimiento para el flujo de trabajo de cámaras de ciudad inteligente
  • Estudio de caso: optimización del stack de inferencia de vehículos autónomos
  • Directrices para el perfilado iterativo y la mejora continua

Resumen y próximos pasos

Requerimientos

  • Sólido conocimiento de las arquitecturas de modelos de aprendizaje profundo y los flujos de trabajo de entrenamiento
  • Experiencia en la implementación de modelos utilizando CANN, TensorFlow o PyTorch
  • Conocimiento de la CLI de Linux, scripting de shell y programación en Python

Público objetivo

  • Ingenieros de rendimiento de IA
  • Especialistas en optimización de inferencia
  • Desarrolladores que trabajan con IA en el borde o sistemas en tiempo real
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas