- Aug 2024
-
feministai.pubpub.org feministai.pubpub.org
-
Gender Bias
Rothchild (2014) defined gender bias as behavior showing favoritism towards one gender over another.
-
-
feministai.pubpub.org feministai.pubpub.org
-
Findings
It is not necessary to resort to technically complex concepts and programming skills to carry out a useful, actionable assessment of biases in word embeddings and large language models.
Discrimination experts can obtain very valuable insights from the exploration of biases through our prototype and with the proposed methodology, providing them with strong evidence to plan actions to mitigate those biases in downstream applications.
Discrimination experts find that the obtained insights are also useful to validate (or refute) their intuitions on discrimination, and argue with other actors in the discrimination scenario.
The funding to carry out this project has allowed us to work with our own priorities, not the usual requirements of academic publication, like standard metrics and datasets that are irrelevant to our local context. Historically, such requirements have taken most of the resources from research projects, and have prevented us from pursuing an agenda that is locally relevant, instead of aligned with the global north agenda.
-
-
feministai.pubpub.org feministai.pubpub.org
-
A recent study 2 analysed gender bias in Wikipedia. It found that only 17% out of more than 1.4 million biographies in Wikipedia are of women. Men had a greater number of biographies in all fields of work (such as sports, sciences, arts, etc) except one – modelling.
Los hombres recibían palabras de acuerdo a sus logros mientras que a las mujeres eran solo palabras.
-
-
feministai.pubpub.org feministai.pubpub.org
-
Researchers from the Universities of Washington and Maryland found that for some search terms, like “Chief Executive Officer” (CEO), Google presented percentages worse than the already imbalanced figures in real life. The study found that 11% of the people shown in a CEO image search were women, while the data indicates that 27% of women in the US at the time were CEOs.
IA está sesgada con las masculinidades de acuerdo a los datos que se suministran
-
- Aug 2023
-
es.wikipedia.org es.wikipedia.org
-
pueden conducir a una distorsión perceptiva, juicio impreciso, interpretación ilógica o lo que en general se llama irracionalidad.
Como si vieras a través de un cristal que te distorsiona las formas y los colores reales.
-
Un sesgo cognitivo es un error repetitivo o básico en pensar, evaluar, recordar u otros procesos cognitivos.[4] Es decir, un patrón de desviación de los estándares en el juicio, por el cual las inferencias se pueden crear sin razón
Los sesgos te impiden llegar a juicios correctos. Joden tu lógica y razonamiento desviándolo (etimología de la palabra 'sesgo')
-
Sesgo significa unilateral, carece de un punto de vista neutral o no tiene una mente abierta. El sesgo puede venir en muchas formas y está relacionado con el prejuicio y la intuición.
Parcialidad y falta de ecuanimidad.
-
- Dec 2022
-
www.derechosdigitales.org www.derechosdigitales.org
-
“sirve mucho no intentar quitar los sesgossino usarlos para entender cuáles son los problemas de discriminaciónque tenemos, para entender la manera en la que se están reforzandoestos tipos de discriminación”
Además porque esto es una potente herramienta cultural para reflexionar el entramado complejo que hace que estos sesgo existan y se mantengan.
-