por Karla Ruiz

Sesgos de la IA

Nota. Imagen realizada a través de ChatGPT 4.5 (2025).

La Inteligencia Artificial (IA) no es una herramienta neutra. Aunque muchas veces se presenta como una tecnología objetiva y libre de prejuicios, en realidad refleja y potencia sesgos sociales profundamente arraigados, especialmente aquellos relacionados con el género. En este sentido, las brechas históricas que enfrentan las mujeres se reproducen en algoritmos que aprendieron de contextos marcados por la discriminación.

Cuando interactuamos en plataformas digitales, los algoritmos determinan qué contenido vemos, cómo interpretamos la realidad e incluso a qué ofertas laborales podemos acceder. Por ejemplo, Amazon se vio obligada en 2018 a retirar un algoritmo de reclutamiento porque penalizaba automáticamente los currículums de mujeres, habiendo aprendido de patrones históricos que favorecían sistemáticamente a candidatos masculinos. Situaciones similares ocurren cotidianamente en México, particularmente en Baja California, región conocida por su fuerte industria tecnológica y manufacturera. Allí, la mayoría de los puestos directivos siguen ocupados por hombres, y por ende, algoritmos entrenados en estos contextos tienden a perpetuar barreras laborales invisibles contra las mujeres.

Este sesgo algorítmico no solo ocurre en contratación. Diversos estudios han demostrado que sistemas de reconocimiento facial y de voz tienen menor precisión cuando analizan rostros femeninos o voces de mujeres, especialmente si tienen tonos de piel más oscuros. Esto resulta preocupante, pues estos errores pueden derivar en discriminación o exclusión en sistemas de seguridad y vigilancia. En el contexto bajacaliforniano, con su proximidad fronteriza y uso creciente de tecnologías biométricas en cruces fronterizos o seguridad pública, estas fallas podrían implicar situaciones graves de exclusión o injusticia hacia mujeres de grupos étnicos diversos.

Pero ¿por qué sucede esto? La respuesta radica principalmente en la ausencia de diversidad en la creación tecnológica. En México, la matrícula femenina en carreras relacionadas con tecnología, ciencias exactas o ingenierías sigue siendo significativamente menor que la masculina. En la Universidad Autónoma de Baja California (UABC), aunque existen esfuerzos institucionales para fomentar la inclusión femenina, la brecha todavía es amplia. Esta subrepresentación impide que la perspectiva de género se integre plenamente en el desarrollo de nuevas tecnologías. 

Históricamente, sin embargo, México ha recibido aportes valiosos de mujeres como Gabriela Mistral, la poeta chilena y Premio Nobel de Literatura que durante su estancia en el país impulsó intensamente la educación, especialmente la femenina y rural. Además, la historia de la ciencia está llena de aportaciones fundamentales realizadas por mujeres que han enfrentado discriminación sistemática. Figuras como Marie Curie, quien revolucionó la física y la química con sus investigaciones sobre la radiactividad, o Ada Lovelace, considerada la primera programadora de la historia, son ejemplos claros del potencial femenino en la ciencia cuando se superan las barreras impuestas por prejuicios sociales. Actualmente, mujeres destacadas como Timnit Gebru y Joy Buolamwini luchan activamente contra el sesgo algorítmico, denunciando las desigualdades que las tecnologías perpetúan y buscando formas de mitigarlas. La visibilización de estos referentes es clave para mostrar que la ciencia y la tecnología también pertenecen a las mujeres.

Otro fenómeno preocupante es la influencia de los algoritmos en nuestras percepciones y opiniones. Las plataformas digitales suelen recomendar contenido acorde con nuestras preferencias, creando burbujas de filtro que limitan el acceso a perspectivas diversas y refuerzan sesgos preexistentes. Así, un usuario que tenga cierta predisposición a ideas machistas podría recibir cada vez más contenido radicalizado, aumentando su intolerancia hacia las mujeres. Esto no es casualidad, ya que algoritmos entrenados para maximizar la interacción encuentran en las posturas extremas un terreno fértil para mantener el interés del usuario.

En vísperas del 8 de marzo, Día Internacional de la Mujer, es fundamental reflexionar sobre cómo la IA puede reforzar o reducir desigualdades históricas.  Fomentar la participación femenina no es solo un acto de justicia social, sino también una estrategia efectiva para mejorar la calidad y sensibilidad social de las tecnologías futuras. Investigaciones académicas han demostrado reiteradamente que los equipos diversos producen mejores resultados, más innovadores y éticos. Por lo tanto, asegurar mayor presencia femenina en campos de inteligencia artificial y programación ayudaría significativamente a crear algoritmos justos y socialmente conscientes.

Hoy, como en el pasado, el acceso equitativo a la educación en áreas científicas y tecnológicas es vital para superar discriminaciones estructurales. Al hacerlo, evitaremos que la inteligencia artificial perpetúe desigualdades históricas, creando una sociedad en la que la tecnología sea, verdaderamente, una aliada del progreso humano y la justicia social.