Mujeres y disidencias se re&uacute;nen para cruzar la &uacute;ltima gran frontera: la de la equidad digital. &iquest;Con qu&eacute; resultados? Todav&iacute;a est&aacute; por verse.

No uno ni dos ni tres: miles. Noventa y cinco mil, para ser m&aacute;s exactas. Esa fue la cantidad de mensajes mis&oacute;ginos, violentos, cargados de contenido sexual (o las tres cosas a la vez) que recibi&oacute; BIA durante 2020. Aclaraci&oacute;n: BIA no es una chica sino una inteligencia artificial. M&aacute;s precisamente, el chatbot del banco brasile&ntilde;o Bradesco. Su nombre (una sigla) lo dice claro: Bradesco Inteligencia Artificial o, m&aacute;s breve, BIA. Pero no hubo caso. Durante un a&ntilde;o, a trav&eacute;s del home banking, el chat y el Whatsapp, el chatbot encargado de orientar a los clientes en sus operaciones bancarias recibi&oacute; lo que cualquier mujer en una circunstancia parecida: insinuaciones, insultos, fotos de genitales y, sobre todo, una carga de violencia ins&oacute;lita. Nada de qu&eacute; sorprenderse si tenemos en cuenta que (como explica la Organizaci&oacute;n de las Naciones Unidas) en inteligencia artificial hay solo una mujer por cada cinco programadores. A esto la desarrolladora Ana Fukelman, creadora de la App Lunar, una innovadora aplicaci&oacute;n sobre el ciclo menstrual, lo denomina &ldquo;el club de los muchachos&rdquo;. Y explica que &ldquo;si bien en Latinoam&eacute;rica usamos muchos productos que podr&iacute;amos llamar femtech, la mayor&iacute;a no son creados por personas de la regi&oacute;n y menos a&uacute;n por mujeres o disidencias. Hay baja participaci&oacute;n femenina en &aacute;mbitos de finanzas, programaci&oacute;n e ingenier&iacute;a; en materia de financiamiento de estas nuevas tecnolog&iacute;as tambi&eacute;n faltan mujeres: solo entre el dos y el tres por ciento del capital disponible para empresas tecnol&oacute;gicas emergentes va a mujeres&rdquo;, detalla.

&nbsp;&ldquo;Solo entre el dos y el tres por ciento del capital disponible para empresas tecnol&oacute;gicas emergentes va a mujeres&rdquo; Ana Fukelman

BIA fue apenas un ejemplo de esa ausencia de mujeres, de esa brecha de g&eacute;nero tecnol&oacute;gica cuyos nefastos resultados son la norma. Pero cuyas soluciones pueden, tambi&eacute;n, marcar por d&oacute;nde viene la salida. Frente al caso de BIA, un nuevo equipo de programaci&oacute;n decidi&oacute; tomar cartas &ndash;y c&oacute;digos&ndash; en el asunto, cambiando radicalmente la reacci&oacute;n de la inteligencia artificial frente a sus acosadores. Antes, cuando la programaban hombres, BIA bromeaba o guardaba silencio. Ya no. &ldquo;No hable as&iacute; conmigo ni con nadie&rdquo;, le dispara hoy el programa al agresor de turno.&nbsp;
Prejuicios, estereotipos y divisi&oacute;n sexual del trabajo de por medio, durante d&eacute;cadas las mujeres en tecnolog&iacute;a &ndash;y sus &aacute;reas asociadas&ndash; han sido casi un &ldquo;bug&rdquo;, un error que se deb&iacute;a disimular. Esconder. Se escondi&oacute; pues a las mujeres que decodificaron los mensajes del enemigo durante la Segunda Guerra Mundial y tambi&eacute;n a Margaret Hamilton, la doctora en matem&aacute;tica que escribi&oacute; el c&oacute;digo que permiti&oacute; que la humanidad llegara a la luna. Y lamentablemente las cosas no han cambiado mucho desde entonces. Tenemos s&iacute; un D&iacute;a Internacional de la Mujer y de la Ni&ntilde;a en la Ciencia (se celebra desde 2015, el 11 de febrero) pero seg&uacute;n un informe de la UNESCO solo un tercio de los cargos en tecnolog&iacute;a son ocupados por mujeres. Peor a&uacute;n, los estereotipos de g&eacute;nero han permeado a la inteligencia artificial que, poco a poco, maneja desde los sistemas de salud hasta los bancos, varios procesos dentro del mundo del trabajo, la selecci&oacute;n de aspirantes a un puesto y mucho m&aacute;s. &ldquo;El uso de tecnolog&iacute;as de IA afectar&aacute; las oportunidades de las mujeres en el trabajo as&iacute; como su posici&oacute;n, estatus y tratamiento en el &aacute;mbito laboral&rdquo;, advierte un informe conjunto del BID, la OCDE y la UNESCO publicado en marzo de 2022 con el t&iacute;tulo de &ldquo;Los efectos de la IA en la vida laboral de las mujeres&rdquo;. &ldquo;Al utilizar la inteligencia artificial, los gobiernos, las instituciones y las empresas deber&aacute;n achicar las brechas de g&eacute;nero y no perpetuarlas o exacerbarlas&rdquo;, recomienda el documento. Pero al menos hasta ahora eso tiene m&aacute;s de deseo que de realidad.&nbsp;

&ldquo;Si los sistemas no son desarrollados por equipos diversos, es menos probable que se encarguen de las necesidades de usuarios diversos o que se alineen con los derechos humanos&rdquo;

ASISTENTES VIRTUALES, ESTEREOTIPOS REALES
Tendemos a creer que todo lo vinculado a la tecnolog&iacute;a comparte con la matem&aacute;tica su &ldquo;neutralidad&rdquo;, su condici&oacute;n de campo libre de los sesgos y prejuicios. Pero no: como explica Beatriz Busaniche, experta en derechos digitales y presidenta de la Fundaci&oacute;n V&iacute;a Libre, &ldquo;los sesgos siempre est&aacute;n ah&iacute;. Hay sesgos de raza, de clase y desde luego, de g&eacute;nero&rdquo;.&nbsp;
Pero, &iquest;por qu&eacute; deber&iacute;a importarnos &ldquo;leer&rdquo; los algoritmos con lentes de g&eacute;nero? Para empezar, por lo que dice la doctora Cathy O&acute;Neil, autora del libro Armas de destrucci&oacute;n matem&aacute;tica (Capit&aacute;n Swing): &ldquo;Los algoritmos no son otra cosa que opiniones encriptadas en un c&oacute;digo&rdquo;. Traducci&oacute;n: las m&aacute;quinas que nos rodean est&aacute;n programadas por personas que embebieron cada programa en sus propios prejuicios y creencias. As&iacute;, alguien determin&oacute; que Alexa, el asistente de Google, tuviera voz de mujer. Alguien m&aacute;s program&oacute; la inteligencia artificial de las plataformas de b&uacute;squeda de empleo para que posicionara mejor en el ranking de candidatos a los hombres solteros, sin hijos y con un MBA. Le dicen tecnolog&iacute;a pero no es sino tecnopatriarcado en acci&oacute;n. Como reconoce el documento de la UNESCO: &ldquo;Si los sistemas no son desarrollados por equipos diversos, es menos probable que se encarguen de las necesidades de usuarios diversos o que se alineen con los derechos humanos. Por ejemplo, los juegos online son a menudo criticados por sus sesgos de g&eacute;nero y otras caracter&iacute;sticas discriminatorias&rdquo;.&nbsp;
Pero &ndash;de la mano de artistas, activistas, programadoras, expertas en lenguaje computacional y un largo etc&eacute;tera&ndash; ni las plataformas ni el mundo digital tienen por qu&eacute; seguir siendo lo que han sido hasta ahora. De hecho, luego de que la Corte Suprema de Justicia de los Estados Unidos diera vuelta el fallo que hab&iacute;a legalizado el aborto por casi medio siglo, programadoras y desarrolladoras de aplicaciones decidieron proteger a otras mujeres de la tecnovigilancia que &ndash;combinando datos del ciclo menstrual con los del GPS&ndash; podr&iacute;a terminar en la justicia. Algo que ya les sucedi&oacute; a Celeste Burgess y a su madre, Jessica, acusadas por el estado de Nebraska (en calidad de criminal la primera, y de c&oacute;mplice la segunda), por el aborto que Celeste tuvo siendo menor de edad. &iquest;Las pruebas para la acusaci&oacute;n? Las conversaciones privadas que Celeste y Jessica tuvieron por Whatsapp, aun cuando las autoridades tambi&eacute;n podr&iacute;an haber recurrido a cualquiera de las apps de rastreo menstrual usadas por millones de mujeres para predecir sus d&iacute;as f&eacute;rtiles. Hoy &ndash;que en 13 estados de los Estados Unidos el aborto se volvi&oacute; un crimen&ndash; el caso de Celeste es una advertencia y con eso en vista ya hay personas imaginando y concretando apps m&aacute;s seguras y a prueba de atavismos. &ldquo;En nuestro caso, lo hacemos &acute;desenganchando&acute; los datos personales de los datos m&eacute;dicos. No hay modo de saber qu&eacute; mujer consult&oacute; o poste&oacute; sobre qu&eacute; cosa&rdquo;, explica Fukelman.&nbsp;
Porque, despu&eacute;s de todo, quienes alguna vez se aventuraron a crear el mundo de los bits lo hicieron so&ntilde;ando un espacio de liberaci&oacute;n, no uno de control y discriminaci&oacute;n. Las j&oacute;venes y mujeres que hoy est&aacute;n expandiendo las fronteras del universo digital para que todas las dem&aacute;s podamos seguirlas lo saben. Y tal vez por eso no descansan. El tecnopatriarcado sigue ah&iacute;, operando en las entra&ntilde;as de un sistema hecho para repelernos pero cuyas murallas ya hemos comenzado a dinamitar. Y desde adentro.

Contra el tecnopatriarcado

Entradas recomendadas

Moda

En clave sostenible

Arte y cultura

Cinco minutos para conocer a Vivian Suter

Arte y cultura

Agenda cultural

Belleza

Cinco minutos con el perfumista Alberto Morillas

Arte y cultura

Tres obras sobre la tradición

Arte y cultura

Arte contemporáneo en Estambul

Arte y cultura

Cuenta regresiva

Moda

Detenerse