Vivimos en una era en la que todo gira en torno a los datos: desde las estadísticas que salen de encuestas oficiales, hasta los millones de registros que se generan con nuestras actividades (compras con tarjetas, búsquedas en internet...). El fenómeno es tan importante que los datos se consideran como el combustible del siglo XXI, porque permiten tomar decisiones más precisas que pueden derivar en ganancias millonarias.
Los datos no solo son números, sino también palabras, colores, sonidos o cualquier tipo de información que se pueda recolectar, organizar y analizar de forma sistemática. Uno de sus valores agregados es que nutren sistemas de inteligencia artificial que permiten a las computadoras ejecutar tareas humanas.
En mi cabeza, el concepto de inteligencia artificial suena demasiado futurista y me imagino una ciudad llena de robots. Sin embargo, hoy se aprovecha en casi todo lo que hacemos. Por ejemplo, en sistemas bancarios para acreditar a una persona como sujeto de crédito, el cálculo de la prima que pagará una persona por un seguro médico, sistemas para hacer diagnósticos médicos más precisos o el contenido que una red social le muestra a cada usuario.
¿Las máquinas son imparciales a diferencia de los humanos? Los algoritmos pueden estar sesgados por el contexto que han vivido quienes los programaron, y esto perpetúa las desigualdades como brechas de género.
A grandes rasgos, hay dos elementos que se asocian a los sesgos de la inteligencia artificial:
1. Los datos reflejan otra serie de brechas de género. Las mujeres están subrepresentadas en múltiples actividades y sectores, por lo que los registros tendrán cierto sesgo que impactará a las decisiones . Por ejemplo, aunque las mujeres componen la mitad de la población, solo concentran 32% de los créditos hipotecarios .
Estas cifras muestran una brecha entre sexos en favor de los hombres que puede influir en los datos para entrenar máquinas para determinar el nivel de riesgo de una persona que busca una hipoteca. Esta situación se complica aún más cuando se consideran otras dimensiones como raza, edad, orientación sexual, localidad o nivel de ingresos, entre otros, que interactúan y afectan la forma en la que cada persona experimenta el mundo. Sin embargo, hay muy poca información disponible para conocer estas diferencias.
2. Hacen falta científicas de datos. De acuerdo con el Banco Mundial, en 2020, menos del 15% de los egresados de carreras de ciencia, tecnología, ingeniería y matemáticas de México fueron mujeres . Estas carreras, también conocidas como STEM por sus siglas en inglés, están estrechamente relacionadas con la ciencia de datos. ¿Cuántas de ellas entrarán y permanecerán en el mercado laboral para influir en la forma en la que se capta y analiza la información?
De acuerdo con Catherine D’Ignacio y Lauren F. Klein, en su libro Feminismo de Datos, los datos son parte del problema y perpetúan disparidades sociales, pero también pueden ser parte de la solución. Para que lo segundo se concrete, hay que reconocer que las conclusiones de los datos podrían no ser tan objetivas o neutrales como creemos.
De ahí la importancia de tener equipos de ciencia de datos plurales, de manera que los análisis deriven en más oportunidades para las poblaciones en desventaja. Solo así caminaremos hacia empresas y sociedades más incluyentes.
*Las opiniones expresadas en esta columna son responsabilidad de la autora y no representan la postura institucional.
Publicado en Expansión.
25-10-2021
