Implementación de modelos de IA con CANN y procesadores de IA Ascend

Introducción a CANN y los procesadores de IA Ascend

• ¿Qué es CANN? Su papel en el stack de cómputo de IA de Huawei.
• Visión general de la arquitectura del procesador Ascend (310, 910, etc.).
• Visión general de los frameworks de IA soportados y la cadena de herramientas.

Conversión y compilación de modelos

• Uso de la herramienta ATC para la conversión de modelos (TensorFlow, PyTorch, ONNX).
• Creación y validación de archivos de modelo OM.
• Manejo de operadores no admitidos y problemas comunes de conversión.

Implementación con MindSpore y otros frameworks

• Implementación de modelos con MindSpore Lite.
• Integración de modelos OM con APIs de Python o SDKs de C++.
• Trabajo con Ascend Model Manager.

Optimización del rendimiento y perfiles de ejecución

• Comprensión de las optimizaciones de AI Core, memoria y tiling.
• Perfiles de ejecución de modelos con las herramientas CANN.
• Mejores prácticas para mejorar la velocidad de inferencia y el uso de recursos.

Manejo de errores y depuración

• Errores comunes de implementación y su resolución.
• Lectura de registros y uso de la herramienta de diagnóstico de errores.
• Pruebas unitarias y validación funcional de los modelos implementados.

Escenarios de implementación en periferia y nube

• Implementación en Ascend 310 para aplicaciones en la periferia.
• Integración con APIs basadas en la nube y microservicios.
• Estudios de casos reales en visión por computadora y PLN.

Resumen y próximos pasos