Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de amenaza para IA agéntica
- Tipos de amenazas agénticas: mal uso, escalada, fugas de datos y riesgos en la cadena de suministro.
- Perfiles de adversario y capacidades del atacante específicas para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos de control críticos para agentes.
Gobernanza, política y gestión de riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades y fases de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y capacidad de auditoría.
- Consideraciones de cumplimiento y recopilación de evidencia para auditorías.
Identidad no humana y autenticación para agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de corta duración.
- Patrones de acceso de mínimo privilegio y aprovisionamiento de credenciales bajo demanda (just-in-time).
- Estrategias de ciclo de vida de la identidad, rotación, delegación y revocación.
Controles de acceso, secretos y protección de datos
- Modelos de control de acceso detallado y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensibles y datos personales (PII) contra accesos no autorizados por agentes.
Observabilidad, auditoría y respuesta a incidentes
- Diseño de telemetría para el comportamiento del agente: trazado de intenciones, registros de comandos y procedencia.
- Integración con SIEM, umbrales de alerta y preparación forense.
- Manuales y procedimientos para incidentes relacionados con agentes y su contención.
Pruebas de intrucción (red-teaming) en sistemas agénticos
- Planificación de ejercicios de red-teaming: alcance, reglas de participación y redundancia segura.
- Técnicas adversarias: inyección de prompts, mal uso de herramientas, manipulación del pensamiento encadenado y abuso de APIs.
- Ejecución de ataques controlados y medición de exposición e impacto.
endurecimiento y mitigaciones
- Controles de ingeniería: límites de respuesta (throttling), gatekeeping de capacidades y sandboxing.
- Controles de política y orquestación: flujos de aprobación, intervención humana y puntos de integración con gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, canonicización y filtros de salida.
Operacionalización de despliegues seguros de agentes
- Patrones de despliegue: staging, despliegue canario y lanzamiento progresivo para agentes.
- Control de cambios, pipelines de pruebas y verificaciones de seguridad previas al despliegue.
- Gobernanza transversal: manuales compartidos entre seguridad, legal, producto y operaciones.
Proyecto final: Ejercicio red-teaming / blue-teaming
- Ejecutar un ataque simulado de red-teaming contra un entorno de agente en sandbox.
- Defender, detectar y remediar como equipo azul mediante controles y telemetría.
- Presentar hallazgos, plan de mitigación y actualizaciones de políticas.
Resumen y próximos pasos
Requerimientos
- Sólida base en ingeniería de seguridad, administración de sistemas u operaciones en la nube.
- Familiaridad con conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM).
- Experiencia con gestión de identidades y accesos (IAM) y diseño de sistemas seguros.
Público objetivo
- Ingenieros de seguridad y equipos de pruebas de intrucción.
- Ingenieros de operaciones e infraestructura de IA.
- Oficiales de cumplimiento y gestores de riesgos.
- Líderes de ingeniería responsables del despliegue de agentes.
21 Horas
