Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Duración 21 horas
Temario del curso
Fundamentos: Modelos de Amenazas para IA Agéntica
- Tipos de amenazas agénticas: uso indebido, escalonamiento, fuga de datos y riesgos de la cadena de suministro.
- Perfiles de adversarios y capacidades de atacantes específicos para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos críticos de control para agentes.
Gobernanza, Políticas y Gestión de Riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades y puertas de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalonamiento, manejo de datos y auditabilidad.
- Consideraciones de cumplimiento normativo y recopilación de evidencia para auditorías.
Identidad y Autenticación No Humana para Agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de vida corta.
- Patrones de acceso de menor privilegio y acreditación en tiempo real (just-in-time).
- Estrategias de ciclo de vida, rotación, delegación y revocación de identidades.
Controles de Acceso, Secretos y Protección de Datos
- Modelos de control de acceso granular y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensibles y datos personales (PII) contra el acceso no autorizado de agentes.
Observabilidad, Auditoría y Respuesta a Incidentes
- Diseño de telemetría para el comportamiento de agentes: seguimiento de intenciones, registros de comandos y procedencia.
- Integración con SIEM, umbrales de alertas y preparación forense.
- Runbooks y guiones de acción (playbooks) para incidentes relacionados con agentes y su contención.
Red-Teaming de Sistemas Agénticos
- Planificación de ejercicios de red-team: alcance, reglas de compromiso y conmutación de seguridad.
- Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación de la cadena de razonamiento y abuso de APIs.
- Ejecución de ataques controlados y medición de la exposición e impacto.
Endurecimiento y Mitigaciones
- Controles de ingeniería: limitación de respuestas, control de capacidades y entornos aislados (sandboxing).
- Controles de políticas y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y puntos de anclaje de gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, normalización y filtros de salida.
Operacionalización de Despliegues Seguros de Agentes
- Patrones de despliegue: estacionamiento (staging), canario y despliegue progresivo para agentes.
- Control de cambios, pipelines de pruebas y verificaciones de seguridad pre-despliegue.
- Gobernanza interfuncional: guiones de seguridad, legal, producto y operaciones.
Proyecto Integral: Ejercicio Red-Team / Blue-Team
- Ejecución de un ataque simulado de red-team contra un entorno de agentes aislado (sandbox).
- Defensa, detección y remediación como equipo azul utilizando controles y telemetría.
- Presentación de hallazgos, plan de remediación y actualizaciones de políticas.
Resumen y Próximos Pasos
Requerimientos
- Sólida base en ingeniería de seguridad, administración de sistemas o operaciones en la nube.
- Conocimiento de conceptos de IA/ML y comportamiento de los modelos de lenguaje grandes (LLM).
- Experiencia en gestión de identidades y accesos (IAM) y diseño de sistemas seguros.
Público Objetivo
- Ingenieros de seguridad y especialistas en red-teaming.
- Ingenieros de operaciones de IA y de plataformas.
- Oficiales de cumplimiento normativo y gestores de riesgos.
- Líderes de ingeniería responsables de los despliegues de agentes.
Reseñas (1)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática
