Programa del Curso

Fundamentos de Ética en Sistemas Autónomos

  • Definición de autonomía en agentes de IA
  • Principales teorías éticas aplicadas al comportamiento de las máquinas
  • Perspectivas de los stakeholders y diseño sensible a valores

Riesgos Societarios y Casos de Alto Riesgo Use Case

  • Agentes autónomos en seguridad pública, salud y defensa
  • Colaboración humano-AI y límites de confianza
  • Escenarios de consecuencias no intencionales y amplificación del riesgo

Marco Legal y Regulatorio

  • Visión general de la legislación y tendencias políticas en IA (Acto AI de la UE, NIST, OCDE)
  • Responsabilidad, responsabilidad legal y personalidad jurídica de los agentes de IA
  • Iniciativas globales de gobernanza e huecos

Explicabilidad y Transparencia en las Decisiones

  • Desafíos del proceso de toma de decisiones opaco de los agentes autónomos
  • Diseño de agentes explicables y auditables
  • Herramientas y marcos de transparencia (por ejemplo, tarjetas de modelos, hojas de datos)

Alineación, Control y Responsabilidad Moral

  • Estrategias de alineación de IA para el comportamiento del agente
  • Paradigmas de control humano-en-la-bucle vs. humano-sobre-la-bucle
  • Responsabilidad compartida entre diseñadores, usuarios e instituciones

Evaluación y Mitigación de Riesgos Éticos

  • Mapeo del riesgo y análisis de fallos críticos en el diseño de agentes
  • Medidas de seguridad y mecanismos de apagado seguro
  • Auditoría de sesgo, discriminación y equidad

[Diseño de] Governance e Intervención Institucional

  • Principios de gobernanza responsable de la IA
  • Modelos de supervisión multistakeholder y auditorías
  • Diseño de marcos de cumplimiento para agentes autónomos

Resumen y Próximos Pasos

Requerimientos

  • Comprender los sistemas de IA y los fundamentos del aprendizaje automático
  • Familiaridad con agentes autónomos y sus aplicaciones
  • Conocimiento de los marcos éticos y legales en la política tecnológica

Publico objetivo

  • Éticos de IA
  • Legisladores y reguladores
  • Profesionales avanzados e investigadores en IA
 14 Horas

Número de participantes


Precio por Participante​

Testimonios (1)

Próximos cursos

Categorías Relacionadas