Cómo la IA podría ayudar a superar el sesgo de género en la ciencia
“¿Juegas al go?”. Una pregunta tan simple como ésta permite determinar el género de quien responde. Al igual que en algunas profesiones científicas o en ciertos trayectos curriculares académicos, entre quienes juegan al go predominan los hombres. Como ocurre con la ciencia, este sesgo tiene orígenes culturales y sociales, por mucho que grandes jugadoras como la coreana Choi Jeong ejerzan un efecto aspiracional entre las mujeres. Ahora bien, al igual que en los claustros, es muy probable que la forma en que se enseña este juego contribuya en buena parte a perpetuar esa sorprendente disparidad.
Los investigadores Huang Difang y Lin Chen, de la Universidad de Hong Kong, concluyeron en 2022 que la IA podía mitigar ese efecto. Estudiaron los resultados de dos métodos de enseñanza del go. El primero fue impartido por profesores humanos. El segundo, por un pequeño personaje virtual generado por inteligencia artificial. En cinco meses los resultados fueron taxativos: los alumnos formados por IA alcanzaron niveles más altos y sin diferencias entre mujeres y hombres. En el grupo auspiciado por profesores, el sesgo preexistente siguió siendo determinante.
¿Cómo se explica esta disonancia? Quizá por la prevalencia, a menudo inconsciente, de estereotipos en la mente de los profesores. Clichés que se reflejan en múltiples señales involuntarias que los alumnos absorben y amplifican. Por ejemplo, dar la palabra a un jugador en lugar de a otro, o animar a un alumno con más entusiasmo que a una alumna. Cuando la enseñanza corre a cargo de una inteligencia artificial desprovista de ideas preconcebidas, sin desviaciones en las interacciones con el alumnado, el estímulo negativo pasa a ser irrelevante.
Por supuesto, es tentador extrapolar este experimento al entorno académico. ¿Es suficientemente convincente para validar sin reservas la relevancia de la IA para la educación? Por supuesto que no. ¿Justifica explorar las ventajas potenciales de la IA para resolver los problemas de sesgo en la enseñanza de las ciencias? Estoy convencido de que sí.
El valor de esta tecnología en un contexto académico es un asunto muy complejo. Sin duda ocupará durante muchos años a sociólogos y expertos en educación. Entre el rechazo total a su uso y la tesis de que sustituirá por completo a los seres humanos, una opción indeseable sin credibilidad real, aún debemos determinar cómo abordar una implementación virtuosa de la IA que ofrezca a los estudiantes una supervisión personalizada adicional a la que les proporcionan sus profesores.
Deberemos asegurarnos, en primer lugar, de que las IA generativas, cuyos resultados siguen siendo impredecibles y cuyo razonamiento es opaco, no están contaminadas por
sesgos de género. Varios incidentes recientes, muchos en el ámbito de la selección de talento, corroboran que su uso mal controlado puede aumentar la discriminación.
A pesar de todo, el ejemplo del go y la propia urgencia disruptiva en que nos hallamos deberían animarnos a impulsar experimentos cuanto antes. Es pertinente recordar que, según cifras de la UNESCO, las jóvenes sólo representan hoy en día el 35% de los estudiantes de ciencias, tecnología, ingeniería y matemáticas. En un momento de retos y desafíos apremiantes, privarnos del talento de una parte significativa de la población no parece la mejor estrategia de futuro.
En este debate, los actores industriales y tecnológicos no pueden seguir siendo meros espectadores. Al diseñar sistemas de IA destinados a entornos sensibles como la educación o el empleo, asumen una responsabilidad ineludible: no deben limitarse a reproducir mecánicamente los desequilibrios actuales, sino explorar sistemáticamente formas de reducirlos.
Es cierto que el entusiasmo asociado al auge de la IA a veces provoca especulaciones fantasiosas, irrelevantes o meramente insostenibles. Sin embargo, la cuestión no es si la IA resolverá por sí sola las desigualdades profundamente arraigadas. Se trata de decidir si estamos dispuestos a seguir sin hacer nada ante sesgos que conocemos bien, que podemos medir y que sabemos que están privando a la ciencia de un talento esencial.