Temario del curso
IA en la Empresa: Perspectivas Estratégicas y Legales
- Adopción de IA en funciones comerciales clave: oportunidades y riesgos
- Responsabilidad ejecutiva en la gobernanza de IA
- Sistemas de IA de alto riesgo y exposición organizacional
Clasificación de Riesgos y Panorama Regulatorio Global de IA
- Reglamento de IA de la UE: niveles de riesgo, requisitos, sanciones
- Orden Ejecutiva sobre IA de Estados Unidos y reglas federales/estatales emergentes
- Cumplimiento relacionado con IA dentro del RGPD, HIPAA y otros marcos
- Panorama de ISO/IEC 42001, NIST AI RMF, Principios de IA de la OCDE
Seguridad y Supervisión de Sistemas de IA
- Postura de seguridad de IA: amenazas, vulnerabilidades y salvaguardias
- Respuesta a incidentes y notificación de brechas en flujos de trabajo impulsados por IA
- Auditoría y trazabilidad de entradas, decisiones y salidas del modelo
Adquisición Responsable de IA y Riesgo del Proveedor
- Diligencia debida al seleccionar herramientas de IA (incluyendo LLMs y APIs)
- Elementos clave del contrato: propiedad de los datos, explicabilidad del modelo, SLAs
- Evaluación de las afirmaciones del proveedor: mitigación de sesgos, garantías de privacidad, seguridad
Marco Interno de Gobernanza y Controles Organizacionales
- Creación de políticas de uso de IA en diferentes departamentos
- Comités éticos, comités de revisión de riesgos y supervisión interfuncional
- Capacitación, documentación e integración de cumplimiento
Evaluación de Casos de Uso y Escenarios de Riesgo
- Evaluación de casos de uso de alto impacto (por ejemplo, selección de personal en RRHH, puntuación financiera, bots de servicio al cliente)
- Herramientas y plantillas para evaluaciones de riesgo de IA
- Escenarios: desalineación, deriva, alucinación, discriminación
Tendencias Emergentes y Consideraciones Futuras
- Anticipar la evolución regulatoria y la convergencia global
- Riesgos específicos de GenAI y extensiones de gobernanza
- Escalado responsable de operaciones de IA en la empresa
Resumen y Pasos Siguientes
Requerimientos
- Comprensión de marcos empresariales de riesgo, legales o tecnológicos
- Experiencia en liderazgo ejecutivo, ciberseguridad o supervisión de cumplimiento
- No se requiere conocimiento técnico previo del desarrollo de IA
Audiencia
- Directores de Seguridad de la Información (CISO)
- Asesores legales y oficiales de cumplimiento
- Directores de Tecnología (CTO)
Testimonios (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática