Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción al desarrollo de operadores personalizados
- ¿Por qué construir operadores personalizados? Casos de uso y restricciones
- Estructura del tiempo de ejecución de CANN y puntos de integración de operadores
- Visión general de TBE, TIK y TVM en el ecosistema de Huawei AI
Uso de TIK para la programación de operadores de bajo nivel
- Comprensión del modelo de programación TIK y las APIs admitidas
- Gestión de memoria y estrategia de fragmentación (tiling) en TIK
- Creación, compilación y registro de un operador personalizado con CANN
Pruebas y validación de operaciones personalizadas
- Pruebas unitarias e integración de operadores en el grafo
- Depuración de problemas de rendimiento a nivel de kernel
- Visualización de la ejecución del operador y el comportamiento de los búferes
Planificación y optimización basada en TVM
- Visión general de TVM como compilador para operaciones tensoriales
- Escritura de un esquema (schedule) para un operador personalizado en TVM
- Ajuste, evaluación comparativa y generación de código en TVM para Ascend
Integración con frameworks y modelos
- Registro de operaciones personalizadas para MindSpore y ONNX
- Verificación de la integridad del modelo y comportamiento de recuperación (fallback)
- Soporte para grafos multi-operadores con precisión mixta
Estudios de caso y optimizaciones especializadas
- Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas
- Estudio de caso: optimización de operadores de atención conscientes de la memoria
- Mejores prácticas en el despliegue de operaciones personalizadas entre dispositivos
Resumen y próximos pasos
Requerimientos
- Conocimientos sólidos de los internals de los modelos de IA y del cómputo a nivel de operador
- Experiencia con entornos de desarrollo en Python y Linux
- Familiaridad con compiladores de redes neuronales u optimizadores a nivel de grafo
Público objetivo
- Ingenieros de compiladores que trabajan en herramientas para IA
- Desarrolladores de sistemas enfocados en la optimización de bajo nivel para IA
- Desarrolladores que construyen operaciones personalizadas o se dirigen a nuevas cargas de trabajo de IA
14 Horas