Stats
Stats
Close

Activistas LGBTIQ+ advierten sobre los sesgos algorítmicos y la censura en la inteligencia artificial

Los sesgos humanos en el ámbito tecnológico afectan las etapas de recopilación y etiquetado de datos en la inteligencia artificial. Esta influencia puede resultar en discriminación y marginación de ciertos grupos en el entorno digital.

La lucha por la inclusión en la inteligencia artificial: voces queer desafían los sesgos algorítmicos

En un momento en que la inteligencia artificial (IA) se ha vuelto omnipresente en nuestras vidas, un grupo de activistas está alzando la voz contra los sesgos que deterioran la representación de las identidades queer y LGBTIQ+. Arjun Subramonian, un joven ingeniero de software de 24 años que se identifica como no binario, se ha convertido en uno de los principales exponentes de la organización Queer in AI, que busca visibilizar la diversidad dentro de la esfera tecnológica y desafiar a un sistema que muchas veces margina a quienes no se ajustan a la norma.

Desde su creación en 2020, Queer in AI ha luchado contra la normalización de los prejuicios en los modelos de lenguaje que alimentan la IA. “Los algoritmos son simplemente un reflejo de la sociedad en la que se entrenan”, sostiene Subramonian, quien apunta que los datos sesgados contribuyen a perpetuar discriminaciones históricas. En un contexto donde el 20% de las personas LGBTIQ+ se encuentran subrepresentadas en el ámbito tecnológico, este colectivo afronta desafíos adicionales y más complejos cuando interactúa con sistemas automatizados.

Experiencias personales que revelan la problemática de los sesgos

La experiencia personal de Ilia S., un activista transgénero radicado en Tailandia, ilustra de manera cruda los peligros de un cuestionario automatizado que no reconoce la pluralidad de identidades. Tras enfrentarse a un sistema de IA de su banco en Rusia, Ilia se vio incapaz de demostrar su identidad a través de un reconocimiento de voz que lo catalogó erróneamente. “No tenía manera de hacer que el sistema creyera que era yo, y eso es aterrador”, comparte Ilia. Su historia revela no solo las fallas en la tecnología, sino también el profundo impacto psicológico que este tipo de errores puede tener en quienes viven en la intersección de múltiples identidades marginadas.

A medida que esos sistemas continúan desarrollándose, surgen preocupaciones sobre la relevancia y exactitud de los datos que les alimentan. Subramonian menciona un incidente donde una versión de la IA generativa malinterpretó su identidad, utilizando pronombres incorrectos en un texto que lo representaba. “Es una sensación de total pérdida de control sobre tu propia narrativa”, afirma, resaltando cómo la programación de ciertos criterios para filtrar información puede llevar a la erosión de la identidad individual.

La censura de identidades queer en el espacio digital

La censura también se presenta como una sombra acechante en este escenario. Durante la pandemia, un grupo de activistas notó que el término “queer” no podía ser enviado en una plataforma de mensajería. Este nivel de moderación ilustra un mecanismo de filtrado que busca, en teoría, proteger la sensibilidad de algunos usuarios, pero que en la práctica resulta en un daño palpable para la comunidad queer. “La censura es uno de los mayores daños que veo a corto plazo”, advierte Subramonian, quien demanda una reflexión crítica sobre el uso de herramientas digitales que invisibilizan a comunidades que ya de por sí son frágiles.

En un mundo donde la IA sigue desempeñando un papel crítico en decisiones cotidianas, las historias de voces como las de Arjun e Ilia delinean un futuro que debe ser más inclusivo y representativo. La lucha no solo por la existencia, sino por el reconocimiento y validación dentro de los espacios tecnológicos se presenta como un imperativo ineludible. La diversidad debe ser parte integral del desarrollo tecnológico, y solo así se podrá aspirar a construir un sistema que sirva efectivamente a todos los ciudadanos, independientemente de su identidad de género u orientación sexual.

Proyecto de ley de Texas amplía las restricciones a las lecciones sobre sexualidad, género...

La lucha por la inclusión en la inteligencia artificial es un tema urgente y fundamental en nuestra sociedad actual. La organización Queer in AI, liderada por voces como Arjun Subramonian, destaca la cruda realidad de que la IA, lejos de ser imparcial, refleja los mismos sesgos que perpetuamos en nuestras interacciones diarias. La experiencia de personas como Ilia S., quien enfrentó dificultades para ser reconocido por un sistema que ignora su identidad, pone de manifiesto que la falta de inclusión puede tener consecuencias devastadoras. Es inaceptable que un sistema que se adopta cada vez más en ámbitos cotidianos no contemple la diversidad de identidades, acentuando la marginación de aquellos ya vulnerables. Las voces queer no deben ser silenciadas; su inclusión es vital para construir un futuro más justo y equitativo.

Además, la censura de identidades queer en plataformas digitales subraya un problema profundamente arraigado en el uso de herramientas tecnológicas. La moderación que busca proteger la «sensibilidad» de ciertos usuarios puede convertirse en un mecanismo de borrado de las identidades que más necesitan visibilidad y protección. En este contexto, la advertencia de Subramonian sobre el daño que causa la censura se convierte en una clara llamada de atención: si no cuestionamos la forma en que se desarrolla y se implementa la tecnología, corremos el riesgo de replicar las mismas dinámicas de exclusión y discriminación que anhelamos erradicar. Es imperativo que tomemos en serio estas luchas y fomentemos un desarrollo tecnológico que celebre la diversidad, entendiendo que la integridad de nuestras narrativas y la validación de nuestras identidades son derechos fundamentales en la sociedad contemporánea.

Más noticias de la sección de Tecnología

El creciente uso de smartphones entre los jóvenes españoles plantea un urgente desafío para los padres, quienes buscan establecer controles...
Un estudio revela que hasta el 0,5% del cerebro humano podría estar compuesto por microplásticos, planteando serias implicaciones para nuestra...
LaLiga y Cloudflare desatan una controversia en la red española al imponer un bloqueo masivo de páginas, generando caos digital...
TikTok retorna a EE. UU. con su reactivación en plataformas digitales tras la prórroga firmada por Trump, abriendo un nuevo...
Nadav Zafrir asume la dirección de Check Point en un contexto crítico, enfrentando un incremento del 40% en ataques de...
Elon Musk retira su oferta de 97.400 millones de dólares por OpenAI y recrudece la tensión con Sam Altman, actualmente...
Scarlett Johansson demanda regulación de la inteligencia artificial tras la difusión de un polémico deepfake que la involucra, intensificando las...
Jawed Karim, cofundador de YouTube, dejó su huella en la revolución digital con "Me at zoo", el primer vídeo viral...
Una investigación revela un alarmante aumento del 50% en la difusión de mensajes de odio en X desde la adquisición...
Apple se une a la controversia geopolítica al renombrar el Golfo de México como el Golfo de América en sus...
Elon Musk y Sam Altman, figuras clave de la inteligencia artificial, han protagonizado una década de rivalidad que va desde...
Elon Musk ofrece 97.400 millones de dólares por OpenAI, desatando una batalla de poder con Sam Altman que redefine el...

Compartir en...

WhatsApp
X
Facebook
LinkedIn
Contacta con nosotros