Sesgo (en IA)

El sesgo en la IA ocurre cuando un sistema da resultados injustos o inexactos debido a la forma en que fue entrenado o los datos de los que aprendió. Por ejemplo, si una herramienta de IA que predice el éxito de los solicitantes de empleo fue entrenada principalmente con datos de solicitantes femeninos, podría favorecer de forma no intencionada a las mujeres sobre los hombres, incluso si ambos tienen las mismas cualificaciones.

El sesgo puede infiltrarse en la IA porque los datos utilizados para entrenarla a menudo reflejan decisiones humanas, comportamientos o patrones sociales, que no siempre son justos. Por eso es muy importante que los desarrolladores verifiquen activamente la presencia de sesgo e intenten corregirlo. Si no se controla, el sesgo en la IA puede llevar a la discriminación en áreas como la contratación, los préstamos, la aplicación de la ley o la atención sanitaria.