Los sesgos en IA y Tú

Los sesgos, inclinaciones o preferencias en inteligencias artificial se producen de distintas maneras. Pueden estar escritos sin darse cuenta en un algoritmo como resultado de las inclinaciones inconscientes del programador; o bien, pueden venir como resultado de información antigua que inadvertidamente refleja desigualdades históricas o sociales.

Actualmente, la IA regula el acceso a la información, oportunidad y crecimiento. Sin embargo, los sistemas de IA pueden perpetuar las desigualdades en nuestras comunidades prácticamente en todo incluyendo la salud, oportunidades económicas y en nuestro sistema de justicia criminal. Un gran número de herramientas usadas por el gobierno, medicina, educación, sistema de justicia, servicios financieros y otras industrias tiene fallas con frecuencia, debido a estos sesgos. Las herramientas de IA reflejan la perspectiva de la persona que programó el código (las instrucciones) para hacer funcional la IA (ejemplo, la aprobación o rechazo de un préstamo). Frecuentemente, estos enfoques no reflejan aquellos de las comunidades de color, mujeres y otros grupos de la población. Como resultado, las herramientas de IA pueden afectar negativamente a estos segmentos perpetuando las desigualdades.