Introducción a la Gestión de Confianza, Riesgo y Seguridad en IA (AI TRiSM)

AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Esta formación en vivo impartida por instructores (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar controles de seguridad efectivos y prácticas de gobernanza para entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA mediante metodologías reconocidas por la industria.
• Implementar modelos de gobernanza para un despliegue responsable de la IA.
• Alinear las políticas de seguridad de la IA con los objetivos organizativos y las expectativas regulatorias.
• Mejorar la resiliencia y la responsabilidad en las operaciones impulsadas por IA.

Formato del curso

• Clases magistrales facilitadas con soporte de análisis experto.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados con escenarios reales de gobernanza de IA.

Opciones de personalización del curso

• Para una formación adaptada alineada con la estrategia de IA de su organización, contáctenos para personalizar el curso.

Esta capacitación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a líderes empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar sistemas de IA de manera responsable y conforme a marcos globales emergentes como la Ley de IA de la UE, el GDPR, la ISO/IEC 42001 y la Orden Ejecutiva de EE. UU. sobre IA.

Al finalizar esta capacitación, los participantes podrán:

• Comprender los riesgos legales, éticos y regulatorios del uso de la IA en todos los departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros e internos.

La Inteligencia Artificial (IA) introduce nuevas dimensiones de riesgos operativos, desafíos de gobernanza y exposición a ciberseguridad para las agencias y departamentos gubernamentales.

Este curso impartido por un instructor y en vivo (en línea o presencial) está dirigido a profesionales de TI y gestión de riesgos del sector público con experiencia limitada en IA que desean comprender cómo evaluar, monitorear y proteger los sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al finalizar esta capacitación, los participantes podrán:

• Interpretar los conceptos clave de riesgo relacionados con los sistemas de IA, incluyendo sesgo, imprevisibilidad y desviación del modelo.
• Aplicar marcos específicos de gobernanza y auditoría de la IA, como NIST AI RMF e ISO/IEC 42001.
• Reconocer las amenazas de ciberseguridad dirigidas a los modelos de IA y a las tuberías de datos (data pipelines).
• Establecer planes de gestión de riesgos interdepartamentales y alineación de políticas para el despliegue de la IA.

Formato del Curso

• Conferencia interactiva y discusión de casos de uso del sector público.
• Ejercicios de marcos de gobernanza de la IA y mapeo de políticas.
• Modelado de amenazas basado en escenarios y evaluación de riesgos.

Opciones de Personalización del Curso

• Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinar.

Este curso proporciona una introducción práctica para asegurar aplicaciones modernas impulsadas por IA, APIs, copilotos y agentes autónomos. Los participantes aprenden cómo la seguridad de IA difiere de la seguridad web tradicional, exploran amenazas comunes específicas de IA como la inyección de instrucciones (prompt injection), el envenenamiento de RAG y el abuso de agentes, y entienden cómo proteger los sistemas de IA utilizando defensas en capas que incluyen WAFs, puertas de enlace de IA, seguridad de APIs y guardrails. A través de laboratorios prácticos y ejemplos del mundo real, los estudiantes adquieren las habilidades para identificar patrones de ataque de IA, asegurar aplicaciones basadas en LLM e implementar defensas eficaces en runtime para entornos de producción.

Esta formación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de producto de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones impulsadas por LLM, como inyección de prompts, fugas de datos y salidas no filtradas, al tiempo que incorporan controles de seguridad como validación de entradas, supervisión humana en el bucle y guardias de salida.

Al finalizar esta formación, los participantes podrán:

• Comprender las vulnerabilidades principales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones LLM.
• Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
• Integrar técnicas como sandboxing, pruebas de penetración (red teaming) y revisión humana en el bucle en pipelines de grado productivo.

Este curso enseña a los desarrolladores de software cómo construir aplicaciones impulsadas por IA con un diseño seguro por defecto. Los participantes aprenden a proteger chatbots, copilotos, pipelines de RAG y agentes de IA contra amenazas específicas de la IA como inyección de prompts, envenenamiento de datos, abuso de herramientas, fugas de secretos e instrucciones inseguras del modelo. El curso cubre el diseño seguro de prompts, seguridad de RAG, acceso de menor privilegio, guardrails y pruebas de red-team, ayudando a los desarrolladores a crear funciones de IA que sean seguras, confiables y resilientes en entornos del mundo real.

Esta capacitación en vivo dirigida por un instructor en México (en línea o presencial) está dirigida a profesionales de IA y ciberseguridad de nivel intermedio que desean comprender y abordar las vulnerabilidades de seguridad específicas de los modelos y sistemas de IA, especialmente en industrias altamente reguladas como las finanzas, la gobernanza de datos y la consultoría.

Al finalizar esta capacitación, los participantes podrán:

• Comprender los tipos de ataques adversarios dirigidos a sistemas de IA y los métodos para defenderse de ellos.
• Implementar técnicas de endurecimiento de modelos para proteger los procesos de aprendizaje automático.
• Garantizar la seguridad y la integridad de los datos en los modelos de aprendizaje automático.
• Navegar por los requisitos de cumplimiento normativo relacionados con la seguridad de la IA.

Esta formación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen fortalecer las implementaciones de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecuten exclusivamente on-premise.

Esta formación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a profesionales de la ciberseguridad, gestión de riesgos y cumplimiento de nivel principiante que desean comprender los conceptos fundamentales de la seguridad de la IA, los vectores de amenaza y los marcos globales como el NIST AI RMF y ISO/IEC 42001.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los riesgos de seguridad únicos introducidos por los sistemas de IA.
• Identificar vectores de amenaza como ataques adversarios, envenenamiento de datos e inversión de modelos.
• Aplicar modelos de gobernanza fundamentales como el Marco de Gestión de Riesgos de IA del NIST.
• Alinear el uso de la IA con estándares emergentes, directrices de cumplimiento y principios éticos.

Esta formación en vivo con instructor en México (en línea o en sitio) está dirigida a ingenieros de seguridad y ML que necesitan identificar, probar y defenderse contra ataques dirigidos a modelos de ML y aplicaciones potenciadas por LLM.

Basado en las últimas guías del Proyecto de Seguridad OWASP para IA Generativa, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Esta formación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar y evaluar técnicas como el aprendizaje federado, el cálculo multipartito seguro, la cifría homomórfica y la privacidad diferencial en flujos de trabajo de aprendizaje automático del mundo real.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender y comparar las técnicas clave de preservación de privacidad en el aprendizaje automático.
• Implementar sistemas de aprendizaje federado utilizando marcos de código abierto.
• Aplicar la privacidad diferencial para compartir datos de forma segura y entrenar modelos.
• Utilizar técnicas de cifrado y cómputo seguro para proteger las entradas y salidas de los modelos.

Esta capacitación en vivo con instructor en México (en línea o presencial) está dirigida a profesionales avanzados de la ciberseguridad y especialistas en ML que deseen simular ataques contra sistemas de IA, descubrir vulnerabilidades y mejorar la robustez de los modelos de IA implementados.

Al finalizar esta capacitación, los participantes serán capaces de:

• Simular amenazas del mundo real contra modelos de aprendizaje automático.
• Generar ejemplos adversarios para evaluar la robustez de los modelos.
• Evaluar la superficie de ataque de las APIs y pipelines de IA.
• Diseñar estrategias de red teaming para entornos de despliegue de IA.

Esta capacitación en vivo con instrucción en México (en línea o presencial) está dirigida a ingenieros y profesionales de seguridad de nivel intermedio que desean proteger los modelos de IA implementados en el borde contra amenazas como la manipulación, la filtración de datos, las entradas adversas y los ataques físicos.

Al finalizar esta capacitación, los participantes serán capaces de:

• Identificar y evaluar los riesgos de seguridad en implementaciones de IA en el borde.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Fortalecer los modelos implementados en el borde y proteger las tuberías de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas emparentados y limitados.

Esta formación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a profesionales de nivel intermedio en aprendizaje automático y ciberseguridad que deseen comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas, como entrenamiento robusto y privacidad diferencial.

Al finalizar esta formación, los participantes serán capaces de:

• Identificar y clasificar amenazas específicas de la IA, como ataques adversarios, inversión de datos y envenenamiento.
• Utilizar herramientas como la Caja de Herramientas de Robustez Adversaria (ART) para simular ataques y probar los modelos.
• Aplicar defensas prácticas que incluyen entrenamiento adversario, inyección de ruido y técnicas de preservación de la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.