Contacta con nosotros

Temario del curso

Fundamentos de una IA segura e imparcial

  • Conceptos clave: seguridad, sesgo, equidad, transparencia.
  • Tipos de sesgo: conjunto de datos, representación, algorítmico.
  • Visión general de los marcos regulatorios (Ley de IA de la UE, GDPR, etc.).

Sesgos en los modelos ajustados finamente

  • Cómo el ajuste fino puede introducir o amplificar sesgos.
  • Estudios de caso y fracasos en el mundo real.
  • Identificación de sesgos en los conjuntos de datos y las predicciones del modelo.

Técnicas para la mitigación de sesgos

  • Estrategias a nivel de datos (rebalanceo, aumento de datos).
  • Estrategias durante el entrenamiento (regularización, desbiasamiento adversarial).
  • Estrategias de post-procesamiento (filtrado de salidas, calibración).

Seguridad y robustez del modelo

  • Detección de salidas inseguras o dañinas.
  • Manejo de entradas adversariales.
  • Pruebas con equipos rojos (red teaming) y pruebas de estrés en modelos ajustados finamente.

Auditoría y monitoreo de sistemas de IA

  • Métricas de evaluación de sesgo e imparcialidad (por ejemplo, paridad demográfica).
  • Herramientas de explicabilidad y marcos de transparencia.
  • Prácticas de monitoreo continuo y gobernanza.

Moldes y prácticas manuales

  • Uso de bibliotecas de código abierto (por ejemplo, Fairlearn, Transformers, CheckList).
  • Práctica práctica: detección y mitigación de sesgos en un modelo ajustado finamente.
  • Generación de salidas seguras mediante el diseño de prompts y restricciones.

Casos de uso empresarial y preparación para el cumplimiento normativo

  • Mejores prácticas para integrar la seguridad en los flujos de trabajo de LLM.
  • Documentación y fichas de modelo para el cumplimiento.
  • Preparación para auditorías y revisiones externas.

Resumen y próximos pasos

Requerimientos

  • Comprensión de los modelos de aprendizaje automático y los procesos de entrenamiento.
  • Experiencia trabajando con ajustes finos y modelos de lenguaje grande (LLM).
  • Conocimiento familiar de Python y conceptos de procesamiento del lenguaje natural (NLP).

Público objetivo

  • Equipos de cumplimiento de IA.
  • Ingenieros de ML.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas