Temario del curso

Introducción a Cambricon y la Arquitectura MLU

  • Visión general del portafolio de chips AI de Cambricon
  • Arquitectura MLU y canal de instrucciones
  • Tipo de modelos compatibles y casos de uso

Instalación de la Cadena de Herramientas de Desarrollo

  • Instalar BANGPy y Neuware SDK
  • Configuración del entorno para Python y C++
  • Compatibilidad con modelos y preprocesamiento

Desarrollo de Modelos con BANGPy

  • Estructura de tensores y gestión de formas
  • Construcción del grafo de cálculo
  • Soporte para operaciones personalizadas en BANGPy

Distribución con Neuware Runtime

  • Convertir y cargar modelos
  • Ejecución y control de inferencia
  • Prácticas de implementación en la frontera y centros de datos

Otorgamiento de Rendimiento

  • Mapeo de memoria y ajuste de capas
  • Rastreo y perfilado de ejecución
  • Bloqueos comunes y soluciones

Integración de MLU en Aplicaciones

  • Usar APIs Neuware para la integración de aplicaciones
  • Soporte para flujo continuo y múltiples modelos
  • Casos de inferencia híbrida CPU-MLU

Proyecto Final y Use Case

  • Laboratorio: Implementación de un modelo de visión o NLP
  • Inferencia en la frontera con integración BANGPy
  • Pruebas de precisión y rendimiento

Resumen y Próximos Pasos

Requerimientos

  • Un conocimiento de las estructuras de modelos de aprendizaje automático
  • Experiencia con Python y/o C++
  • Familiaridad con los conceptos de implementación y aceleración de modelos

Audiencia

  • Desarrolladores de AI embebida
  • Ingenieros de ML que despliegan en el borde o en el centro de datos
  • Desarrolladores que trabajan con infraestructura de AI china
 21 Horas

Número de participantes


Precio por Participante​

Próximos cursos

Categorías Relacionadas