Inteligencias Artificiales y Feminismo
En la era de la inteligencia artificial (IA), la importancia del feminismo no puede ser subestimada. A partir de noviembre de 2022 la IA (concretamente ChatGPT: GPT-3.5) está transformando el mundo a una velocidad vertiginosa en multitud de campos, y es vital que las perspectivas feministas se integren en su desarrollo y en su uso, que estos días está llegando a ser masivo. El primer trimestre de 2023 grandes compañías como Microsoft (con su nuevo Bing), Google (con Bard), o la compañía china Baidu (con ERNIE Bot), van haciendo su aparición también con chatbots basados en IAs aún más poderosas que ChatGPT de Open AI. La propia Open AI anuncia para dentro de unos meses GPT-4, que tendrá 100 billones de parámetros, casi 600 veces más que sus predecesor.
Desde sus inicios, la tecnología ha sido un campo dominado por varones. La mayoría de los ingenieros, programadores, modelos y líderes tecnológicos siguen siendo varones, y a las mujeres que participan en el desarrollo tecnológico no se les da la relevancia que merecen. Esto ha llevado a una brecha sexista en la tecnología y ha resultado en una representación insuficiente de las necesidades y perspectivas de las mujeres en la tecnología y en la inteligencia artificial.
Sin embargo, las mujeres han estado a la vanguardia de la lucha por una IA justa y equitativa. Las tecnofeministas están abogando por una IA que no tenga sesgos machistas, racistas, clasistas o culturales.
Por ejemplo, Ruha Benjamin ha escrito sobre la necesidad de evitar que la IA perpetúe la discriminación y la opresión en la sociedad. Otras autoras como Kate Crawford y Virginia Dignum han abogado por una IA democrática y un desarrollo abierto y participativo. Crawford ha escrito sobre la importancia de garantizar que la IA sea inclusiva y no perpetúe la desigualdad social. Dignum, por su parte, ha escrito sobre la importancia de asegurarse de que la IA sea ética y responsable desde el diseño hasta su implementación.
Hoy día es crucial que las perspectivas feministas se integren en el entrenamiento de las IAs. Las feministas tecnológicas están liderando la lucha por una IA justa, democrática y equitativa, y es importante que su trabajo sea reconocido y apoyado. La IA puede tener un impacto profundo en la sociedad, y es vital que esté diseñada de un modo participativo, abierto y democrático, y no solo sea usada para mejorar la eficiencia y la productividad.
La inteligencia artificial no es neutral
Tenemos que ser críticas y estar atentas a cómo se está desarrollando la inteligencia artificial, y participar en su desarrollo e implementación para prevenir que las IAs reproduzan y refuercen los sesgos y las desigualdades que existen en la sociedad actual, especialmente las que afectan a las mujeres y a otros grupos oprimidos. La inteligencia artificial no es neutral, sino que está influenciada por los intereses y las ideologías de quienes la crean y la usan, y que por lo tanto, es necesario un enfoque feminista, de clase y antirracista que cuestione y transforme la inteligencia artificial, para que las IAs sean más inclusivas, diversas, éticas, transformadoras y democráticas. Por ser concreta, estas son algunas medidas que podemos implementar para lograr este objetivo:
Fomentar la participación y el liderazgo de las mujeres y de otras personas marginadas en el campo de la inteligencia artificial, tanto en la investigación, como en la educación, como en la industria.
Desarrollar inteligencias artificiales que respeten los derechos humanos, la justicia social y el medio ambiente, y que no se utilicen para fines militares, comerciales o de vigilancia que atenten contra la dignidad y la libertad de las personas.
Crear inteligencias artificiales que reconozcan y valoren la diversidad sexual, étnica, cultural, de edad, de capacidades, etc., y que no reproduzca estereotipos, prejuicios o discriminaciones que generen violencia o exclusión.
Promover inteligencias artificiales que sean transparentes, explicativas, auditivas y responsables, y que permitan la participación y el control del pueblo sobre sus procesos y sus resultados, evitando así el abuso de poder o la manipulación de la información.
Impulsar inteligencias artificiales que sean críticas, creativas, colaborativas y emancipadoras, y que contribuyan al desarrollo humano, al bienestar colectivo y a la transformación social.
Ventajas y desventajas de las IAs para las mujeres
La inteligencia artificial puede tener tanto ventajas como desventajas para las mujeres y el feminismo.
Ventajas:
Empleo: La IA puede ayudar a crear nuevos puestos de trabajo en sectores que hasta ahora eran dominados por hombres, brindando más oportunidades a las mujeres.
Paridad salarial: La IA puede ayudar a mitigar la brecha salarial entre hombres y mujeres al eliminar la subjetividad humana en la determinación de los salarios.
Igualdad de oportunidades: La IA puede ser utilizada para identificar y mitigar la discriminación de género en la contratación y promoción, brindando más igualdad de oportunidades a las mujeres.
Desventajas:
Réplica de estereotipos: Si la IA es entrenada con datos que reflejan estereotipos sexistas, puede replicarlos y perpetuar la desigualdad.
Pérdida de empleos: La IA puede reemplazar a los trabajadores humanos, incluyendo a las mujeres, lo que puede aumentar la desigualdad económica y la pobreza entre las mujeres.
Prejuicios racistas y clasistas: La IA puede ser programada con sesgos racistas y clasistas por parte de sus creadores, lo que puede perpetuar la discriminación en nuestras sociedades.
Es importante tener en cuenta estos factores a medida que se avanza en el uso de la IA y se trabaja para asegurar que se utilice de manera equitativa y justa para todas las personas, independientemente de su sexo, etnia o clase social.
Inteligencia Artificial y Feminismo
Si las mujeres con una perpectiva feminista entrenamos IAs, es importante tomar medidas para asegurar que estos sistemas no estén sesgados en cuanto a sexo, raza, clase u otros factores. Aquí hay algunas formas en las que podemos hacer esto:
Análisis crítico de los datos: Los algoritmos de inteligencia artificial se entrenan con grandes cantidades de datos, y es importante asegurarse de que estos datos no estén sesgados de ninguna manera. Por ejemplo, si los datos incluyen una mayor cantidad de hombres que de mujeres en una determinada profesión, es probable que la IA desarrolle un sesgo hacia los hombres en esa profesión. Las feministas pueden ayudar a detectar y corregir estos sesgos en los datos.
Diversidad en el equipo de desarrollo: Es importante que el equipo de desarrollo de IA esté compuesto por personas con diversas perspectivas y experiencias, incluidas feministas. Esto permitirá a las feministas tener un papel activo en el diseño y desarrollo de la IA y asegurarse de que no esté sesgada.
Monitoreo constante: Es importante monitorear constantemente los resultados de la IA para detectar y corregir cualquier sesgo que pueda surgir. Las feministas pueden ayudar a identificar cualquier sesgo o discriminación que pueda ocurrir y trabajar para corregirlo.
Educación y concienciación: Es importante que las personas involucradas en el desarrollo de la IA tengan una comprensión profunda de las desigualdades provocadas por el sexismo y otras formas de discriminación, y de cómo pueden surgir sesgos en la IA. Las feministas pueden ayudar a promover la educación y concienciación sobre estos temas para que los equipos de desarrollo puedan tomar medidas para prevenir esos sesgos.
Resumiendo, las mujeres feministas podemos cumplir un papel vital a la hora de entrenar IAs dentro de un equipo multidisciplinar. Podemos aportar un enfoque crítico y diverso en la recopilación de datos, en la composición del equipo de desarrollo, en el monitoreo constante de los resultados y en la educación y concienciación sobre los sesgos machistas y otras formas de discriminación.
Por dar un ejemplo de sus posibles usos, la inteligencia artificial (IA) puede ayudar a las víctimas de violencia machista de varias maneras. En primer lugar, los sistemas de IA pueden ser utilizados para identificar y monitorear patrones de violencia machista.
La IA puede ser útil para detectar y prevenir la violencia en su etapa temprana, así como para intervenir de manera oportuna en situaciones de emergencia. Además, la IA también puede ser utilizada para ayudar a las víctimas a encontrar recursos y apoyo, ya sea a través de chatbots o aplicaciones de seguimiento de la salud mental o las situaciones de riesgo de violencia machista.
También existen algunos desafíos y desventajas potenciales en el uso de la IA en este contexto. Por ejemplo, es importante considerar la privacidad y la seguridad de las víctimas, y cómo proteger sus datos personales. También es importante abordar la representatividad y la justicia en el entrenamiento de los modelos de IA, para asegurarse de que no perpetúen estereotipos o discriminaciones.
La IA puede ofrecer una serie de ventajas y soluciones innovadoras para abordar la violencia machista, pero es crucial que se consideren cuidadosamente las implicaciones éticas y políticas antes de implementar cualquier solución tecnológica.
La inteligencia artificial y la lucha de las mujeres por nuestra liberación
La IA puede ayudar en la lucha feminista y de las mujeres de varias maneras:
Identificación y prevención de la violencia machista: Como he dicho, la IA puede analizar grandes cantidades de datos para identificar patrones y tendencias en la violencia machista. Con esta información, se pueden desarrollar soluciones preventivas más efectivas y brindar apoyo a las víctimas de manera más eficiente.
Análisis de desigualdades sexistas: La IA puede ayudar a analizar las desigualdades sexistas en áreas como el empleo, la educación y la representación política. Con estos datos, se pueden tomar medidas concretas para abordar las desigualdades y promover la igualdad.
Eliminación de sesgos machistas en la tecnología: La IA puede ayudar a identificar y corregir los sesgos machistas en la tecnología, incluidos los algoritmos y los sistemas de recomendación. Esto puede contribuir a crear una tecnología más inclusiva y justa para todas las personas.
Aumento de la representación de mujeres en tecnología: La IA también puede ayudar a aumentar la representación de mujeres en la industria de la tecnología, promoviendo la igualdad de oportunidades y la diversidad en el lugar de trabajo.
Sin embargo, también es importante tener en cuenta que la IA puede perpetuar y amplificar los sesgos existentes si no se diseña y entrena de manera responsable. Por lo tanto, es fundamental trabajar con cuidado para garantizar que la IA se utilice de manera ética y justa para apoyar a las mujeres.
La inteligencia artificial de código abierto
La inteligencia artificial de código abierto (como por ejemplo Open Assistant o Stable Diffusion) puede ofrecer muchas ventajas para la participación de las mujeres en su desarollo e implementación. En primer lugar, el código abierto permite una mayor transparencia y colaboración en el desarrollo de esta tecnología. Esto significa que las mujeres con perspectiva feminista pueden contribuir directamente al desarrollo de la IA, asegurándose de que se tomen en cuenta sus puntos de vista y necesidades.
Además, el código abierto permite una mayor inclusión en la tecnología, lo que significa que las mujeres pueden acceder a la tecnología y participar en su desarrollo, independientemente de su situación económica o de sus recursos tecnológicos.
En segundo lugar, las IAs de código abierto pueden ayudar a combatir los sesgos y la discriminación, ya que estos pueden identificarse y corregirse más fácilmente. Esto es especialmente importante para las mujeres, que hemos sido objeto de discriminación histórica y continuamos siendo discriminadas en muchas áreas de la sociedad.
Por último, las IAs de código abierto pueden ayudar a promover una mayor equidad e inclusión en la tecnología, lo que puede mejorar la situación de las mujeres en la sociedad en general. Al permitir una mayor participación de las mujeres en la tecnología, podemos crear tecnologías más inclusivas y equitativas que tengan en cuenta las necesidades y perspectivas de todas las personas, sin discriminaciones.
Actualmente hay varios proyectos de código abierto en los que cualquier persona puede participar y aportar su perspectiva. Dos ejemplos son Open Assistant y Stable Diffusion, el primero más orientado a la IA conversacional, y el segundo a la generación de imágenes. Visitad sus páginas web si queréis más información sobre cómo participar.
Tecnofeminismo
El tecnofeminismo es un término acuñado por Judy Wajcman en su libro del mismo nombre, y se refiere al punto donde se encuentra el feminismo con los avances tecnológicos, que en la actualidad es muy importante ya que el patriarcado y el machismo están involucrados tanto en avances científicos como tecnológicos. El tecnofeminismo destaca que las mujeres también son científicas, que también logran grandes avances en la tecnología, y a su vez lucha contra ideas misóginas que permiten que las mujeres sean cosificadas.
Los varones siguen dominando ampliamente las instituciones y los grupos de este tipo, y existen unos diferenciales de género pronunciadísimos en el acceso a las redes electrónicas y en el control de las mismas.
Judy Wajcman, Tecnofeminismo
Las tecnofeministas son mujeres que abogan por la igualdad y la justicia en la tecnología y en su uso. El tecnofeminismo es una rama del feminismo que se centra en la tecnología y su impacto en la sociedad. Este enfoque puede tener diferentes nombres, dependiendo del contexto y de la perspectiva de la persona que lo utiliza. Algunos de ellos incluyen “tecnofeminismo”, “ciberfeminismo”, “feminismo digital” y “tecnología crítica”. Estos términos se refieren a un enfoque interseccional y crítico sobre la tecnología y cómo afecta a las vidas de las mujeres y otras personas marginadas.
El objetivo principal del tecnofeminismo es asegurar que la tecnología y su desarrollo sean inclusivos y respeten los derechos de las mujeres y otras personas marginadas. Esto incluye abogar por la participación equitativa de las mujeres en la industria tecnológica, así como por la creación de tecnologías que aborden las desigualdades y la discriminación.
Los referentes del feminismo tecnológico incluyen una amplia variedad de personas, organizaciones y grupos que abogando por una tecnología que sea más inclusiva y equitativa para las mujeres y otras personas marginadas. Algunos de estos referentes incluyen la activista y escritora Ada Lovelace, la tecnóloga y activista y feminista interseccional Amber Case, y la profesora de ingeniería y tecnología de la información, Ruha Benjamin.
También hay una serie de organizaciones y grupos como la Association for Computing Machinery’s (ACM), SIGCIS (Special Interest Group on Computer and Information Science), The Ada Initiative y la Alianza por la Igualdad Tecnológica, que buscan promover la igualdad en la tecnología y apoyar a las mujeres en este campo.
Autoras relevantes
Hay autoras importantes que abordan el tema del feminismo y la tecnología. Algunos de los libros más influyentes incluyen las pbras de autoras como Donna Haraway, Rosa Braidotti, N. Katherine Hayles, Sadie Plant. Mary Baker and Esra’a Al Shafei, y las ya nombradas: Judy Wajcman, Ruha Benjamin, Ada Lovelace, Amber Case, Kate Crawford y Virginia Dignum.
Estos son solo algunos ejemplos destacados. Hay muchos otros libros y artículos escritos por autoras que tratan el tema del feminismo y la tecnología de diversas maneras. Es importante señalar que, aunque algunos de estas autoras se centran específicamente en la tecnología, otras tienen una perspectiva más amplia sobre la posición de la mujer en la sociedad y su relación con la tecnología.
