IA responsable: Replicando la ética humana

El 23 de marzo de 2016, Microsoft lanzó en Twitter su innovadora solución de IA denominada Tay. Sin embargo, en menos de un día, Tay, este amigable chatbot de IA conversacional, comenzó a comportarse de forma inapropiada. Todo debido a un cursillo intensivo en racismo y sesgos que recibió por parte de otros usuarios de Twitter.

Por todas estas razones, Microsoft decidió desactivar Tay y cancelar el proyecto por completo. En octubre de 2018, Amazon abandonó su tan esperado sistema de selección basado en IA, que había estado desarrollando desde 2014, porque mostraba un sesgo negativo hacia las mujeres. Principalmente, porque los datos de entrenamiento utilizados presentaban un sesgo inherente a favor de los hombres, derivado de los currículums enviados durante un período de diez años. Como resultado, la solución de IA calificaba sistemáticamente los CVs de las mujeres con puntuaciones más bajas que los de los hombres. El proyecto fue cancelado en secreto por Amazon. Existen numerosos casos similares en el ámbito de la IA. Estos ejemplos plantean una pregunta muy pertinente sobre la adopción de la IA: ¿Comprendemos realmente las repercusiones de su implementación? Y la respuesta unánime que escuchamos en todas nuestras discusiones con nuestros clientes es un contundente no. Esto significa claramente que existe una necesidad urgente de que las organizaciones integren la ética en sus estrategias de IA. En este artículo, compartimos nuestra perspectiva sobre cómo hacerlo.

Algunas de las cuestiones éticas que surgen al adoptar la estrategia de IA son:

1. Singularidad de la IA: ¿Terminaremos creando algo más inteligente que nosotros?
   ¿Podremos garantizar un control total o terminaremos perdiendo el dominio sobre la IA?
2. Apocalipsis laboral: ¿Eliminará la IA despiadadamente los medios de vida de las personas?
3. Falta de transparencia: Con cada nueva versión de sofisticadas arquitecturas de Aprendizaje Profundo, surge una pregunta que requiere respuesta: ¿Estamos construyendo algo tan complejo que resulte inexplicable incluso para nosotros?
4. Inclusión y diversidad: ¿Estamos construyendo algo con un sesgo inherente que no es inclusivo?
   Por ejemplo, la solución de reconocimiento facial basada en IA de Uber bloqueó a los conductores transexuales del sistema porque no había sido entrenada con datos LGBT, lo cual les costó sus puestos de trabajo.

Estas preguntas introducen correctamente el concepto de construir una IA responsable.

¿Qué entendemos por IA responsable?

Microsoft ha establecido sus principios rectores internos, que resumen la IA responsable bajo seis categorías principales:

1. Equidad: Soluciones de IA libres de sesgos algorítmicos que tratan a todos por igual.
2. Fiabilidad y seguridad: La confianza entre humanos y máquinas se mantiene en todo momento.
3. Privacidad y seguridad: El sistema de IA debe saber dónde trazar la línea para no invadir la privacidad y la seguridad de los consumidores.
4. Inclusión: La IA debe empoderar sin dominar.
5. Transparencia y explicabilidad: Deberíamos poder explicar lo que hemos construido.
6. Responsabilidad: Las empresas deben asumir la responsabilidad por las acciones de sus sistemas de IA.

Por tanto, diseñar soluciones de IA confiables que reflejen los principios éticos humanos, como los anteriores, es lo que significa IA responsable. Lo anterior no agota el conjunto de principios, pero representa una perspectiva sobre los pasos hacia una IA responsable. Entonces, ¿qué se debe hacer para asegurar que nuestra IA no presencie el fin del mundo? ¿Cuáles son algunas formas de integrar la IA responsable en nuestra cultura corporativa?

Respondemos a esta pregunta en dos niveles:

Nivel global

Establecer un conjunto de principios aceptados mundialmente para la ética en la IA es primordial. A nivel global, al menos 84 iniciativas público-privadas están en marcha para describir principios generales sobre una IA ética. Es necesario alcanzar una convergencia entre estas iniciativas a escala mundial y establecer directivas de cumplimiento similares al GDPR, con severas penalizaciones para las organizaciones que no cumplan.

Nivel organizativo

En primer lugar, consideramos que existe una necesidad urgente de marcos de Gobernanza Corporativa que posicionen a la IA como una alianza entre el CI (cociente intelectual) de una máquina y el CQ (cociente emocional) de un humano, en lugar de presentarla como una solución autónoma. A continuación, formular iniciativas centradas en:

1. Concienciación cultural dentro de la organización sobre la IA ética y su marco.<
2. Directrices sobre la recolocación y la recapacitación del personal afectado por la implementación de la IA.
3. Asegurar el cumplimiento legal y normativo como un componente central del desarrollo de escenarios de IA.
4. Auditoría de algoritmos: Garantizar a los responsables de las soluciones la autoridad completa para trabajar conforme a los principios de IA y auditar el cumplimiento en cualquier momento mediante auditorías de algoritmos en entornos de laboratorio.

Con estos pasos significativos, las organizaciones pueden avanzar de manera efectiva hacia la construcción de una IA confiable.

Si has disfrutado leyendo este artículo, dale me gusta, compártelo y deja un comentario. Nos encantaría conocer tu opinión sobre cómo construir una IA responsable. ¿Consideras que existe una necesidad empresarial para la IA responsable? ¿Tú y/o tu organización han desarrollado una hoja de ruta al respecto?

 Descargo de responsabilidad: Con estas directrices, no anticipamos la creación de un mundo de IA utópico y completamente perfecto; más bien, es nuestra (y de otras organizaciones afines) propuesta para asegurar que no terminemos en un mundo distópico y que sigamos trabajando por un futuro mejor para todos. Agradecimientos: Microsoft, Accenture, INSEAD, Universidad de Oxford Referencias: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3391293