En un momento en que la inteligencia artificial (IA) se ha vuelto omnipresente en nuestras vidas, un grupo de activistas está alzando la voz contra los sesgos que deterioran la representación de las identidades queer y LGBTIQ+. Arjun Subramonian, un joven ingeniero de software de 24 años que se identifica como no binario, se ha convertido en uno de los principales exponentes de la organización Queer in AI, que busca visibilizar la diversidad dentro de la esfera tecnológica y desafiar a un sistema que muchas veces margina a quienes no se ajustan a la norma.
Desde su creación en 2020, Queer in AI ha luchado contra la normalización de los prejuicios en los modelos de lenguaje que alimentan la IA. “Los algoritmos son simplemente un reflejo de la sociedad en la que se entrenan”, sostiene Subramonian, quien apunta que los datos sesgados contribuyen a perpetuar discriminaciones históricas. En un contexto donde el 20% de las personas LGBTIQ+ se encuentran subrepresentadas en el ámbito tecnológico, este colectivo afronta desafíos adicionales y más complejos cuando interactúa con sistemas automatizados.
La experiencia personal de Ilia S., un activista transgénero radicado en Tailandia, ilustra de manera cruda los peligros de un cuestionario automatizado que no reconoce la pluralidad de identidades. Tras enfrentarse a un sistema de IA de su banco en Rusia, Ilia se vio incapaz de demostrar su identidad a través de un reconocimiento de voz que lo catalogó erróneamente. “No tenía manera de hacer que el sistema creyera que era yo, y eso es aterrador”, comparte Ilia. Su historia revela no solo las fallas en la tecnología, sino también el profundo impacto psicológico que este tipo de errores puede tener en quienes viven en la intersección de múltiples identidades marginadas.
A medida que esos sistemas continúan desarrollándose, surgen preocupaciones sobre la relevancia y exactitud de los datos que les alimentan. Subramonian menciona un incidente donde una versión de la IA generativa malinterpretó su identidad, utilizando pronombres incorrectos en un texto que lo representaba. “Es una sensación de total pérdida de control sobre tu propia narrativa”, afirma, resaltando cómo la programación de ciertos criterios para filtrar información puede llevar a la erosión de la identidad individual.
La censura también se presenta como una sombra acechante en este escenario. Durante la pandemia, un grupo de activistas notó que el término “queer” no podía ser enviado en una plataforma de mensajería. Este nivel de moderación ilustra un mecanismo de filtrado que busca, en teoría, proteger la sensibilidad de algunos usuarios, pero que en la práctica resulta en un daño palpable para la comunidad queer. “La censura es uno de los mayores daños que veo a corto plazo”, advierte Subramonian, quien demanda una reflexión crítica sobre el uso de herramientas digitales que invisibilizan a comunidades que ya de por sí son frágiles.
En un mundo donde la IA sigue desempeñando un papel crítico en decisiones cotidianas, las historias de voces como las de Arjun e Ilia delinean un futuro que debe ser más inclusivo y representativo. La lucha no solo por la existencia, sino por el reconocimiento y validación dentro de los espacios tecnológicos se presenta como un imperativo ineludible. La diversidad debe ser parte integral del desarrollo tecnológico, y solo así se podrá aspirar a construir un sistema que sirva efectivamente a todos los ciudadanos, independientemente de su identidad de género u orientación sexual.
La lucha por la inclusión en la inteligencia artificial es un tema urgente y fundamental en nuestra sociedad actual. La organización Queer in AI, liderada por voces como Arjun Subramonian, destaca la cruda realidad de que la IA, lejos de ser imparcial, refleja los mismos sesgos que perpetuamos en nuestras interacciones diarias. La experiencia de personas como Ilia S., quien enfrentó dificultades para ser reconocido por un sistema que ignora su identidad, pone de manifiesto que la falta de inclusión puede tener consecuencias devastadoras. Es inaceptable que un sistema que se adopta cada vez más en ámbitos cotidianos no contemple la diversidad de identidades, acentuando la marginación de aquellos ya vulnerables. Las voces queer no deben ser silenciadas; su inclusión es vital para construir un futuro más justo y equitativo.
Además, la censura de identidades queer en plataformas digitales subraya un problema profundamente arraigado en el uso de herramientas tecnológicas. La moderación que busca proteger la «sensibilidad» de ciertos usuarios puede convertirse en un mecanismo de borrado de las identidades que más necesitan visibilidad y protección. En este contexto, la advertencia de Subramonian sobre el daño que causa la censura se convierte en una clara llamada de atención: si no cuestionamos la forma en que se desarrolla y se implementa la tecnología, corremos el riesgo de replicar las mismas dinámicas de exclusión y discriminación que anhelamos erradicar. Es imperativo que tomemos en serio estas luchas y fomentemos un desarrollo tecnológico que celebre la diversidad, entendiendo que la integridad de nuestras narrativas y la validación de nuestras identidades son derechos fundamentales en la sociedad contemporánea.
El Diario de Málaga es el periódico digital dónde podrás seguir toda la actualidad malagueña al minuto.
To provide the best experiences, we and our partners use technologies like cookies to store and/or access device information. Consenting to these technologies will allow us and our partners to process personal data such as browsing behavior or unique IDs on this site and show (non-) personalized ads. Not consenting or withdrawing consent, may adversely affect certain features and functions.
Click below to consent to the above or make granular choices. Your choices will be applied to this site only. You can change your settings at any time, including withdrawing your consent, by using the toggles on the Cookie Policy, or by clicking on the manage consent button at the bottom of the screen.
Compartir en...
Completa el formulario o escríbenos a [email protected] y nos pondremos en contacto contigo tan pronto como sea posible.