Temario del curso
Fundamentos de la gobernanza de seguridad de la IA
- Principios fundamentales de la gobernanza de IA.
- Marco de seguridad empresarial para IA.
- Roles y responsabilidades de las partes interesadas.
Metodologías de evaluación de riesgos de la IA
- Identificación y categorización de riesgos de seguridad de la IA.
- Modelado de amenazas para sistemas habilitados con IA.
- Evaluación del impacto y priorización.
Diseño seguro de sistemas de IA
- Diseño orientado a la confidencialidad, integridad y disponibilidad.
- Implementación de controles de seguridad en los flujos de trabajo de IA.
- Consideraciones sobre la gestión del ciclo de vida del modelo.
Protección y privacidad de los datos de la IA
- Gobernanza de datos para el aprendizaje automático.
- Gestión de datos sensibles y regulados.
- Tecnologías para mejorar la privacidad.
Supervisión y seguridad de las operaciones de IA
- Evaluación continua del comportamiento de la IA.
- Detección de deriva, anomalías y mal uso.
- Inteligencia operativa de amenazas para sistemas de IA.
Alineación regulatoria y de cumplimiento
- Normas globales que impactan la seguridad de la IA.
- Documentación y preparación para auditorías.
- Alineación de la gobernanza con las obligaciones legales.
Respuesta a incidentes para sistemas de IA
- Vector de ataque e indicadores específicos de la IA.
- Flujos de respuesta para modelos comprometidos.
- Revisión post-incidente y remediación.
Gestión estratégica de la seguridad de la IA
- Construcción de capacidades de seguridad de IA a largo plazo.
- Integración del riesgo de IA en la estrategia empresarial.
- Evaluaciones de madurez y mejora continua.
Resumen y próximos pasos
Requerimientos
- Conocimiento de los principios de gestión de riesgos de ciberseguridad.
- Experiencia con sistemas de IA o basados en datos.
- Conocimiento de la gobernanza de seguridad empresarial.
Público objetivo
- Directores de seguridad que supervisan iniciativas de IA.
- Profesionales de gobernanza y gestión de riesgos.
- Líderes técnicos responsables de la adopción segura de IA.
Testimonios (3)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
La forma de recibir la información del formador
Mohamed Romdhani - Shams Power
Curso - CISM - Certified Information Security Manager
Traducción Automática