- Jan 2025
-
feministai.pubpub.org feministai.pubpub.org
-
three essential recommendations for building equality from scratch when designing e-procurement systems: civic participation, automation of reparation rules, and the constant improvement of the e-procurement platforms:
En Colombia, las comunidades indígenas, afrodescendientes y campesinas enfrentan barreras estructurales que limitan su acceso a la participación económica y política, agravadas por la desigualdad en la distribución de recursos tecnológicos.
La implementación de sistemas de contratación pública automatizados (e-procurement) en Colombia podría:
Promover la participación activa de mujeres, personas con discapacidades y grupos étnicos en la lista de proveedores.
Compensar desigualdades históricas al aplicar reglas de reparación que prioricen a las comunidades marginalizadas en la asignación de contratos.
Por ejemplo, podrían diseñarse mecanismos para priorizar la contratación de mujeres rurales y pequeñas cooperativas lideradas por minorías en sectores como la agricultura o la tecnología.
Colombia tiene una rica diversidad lingüística con lenguas indígenas, criollas y el español. Para que la Inteligencia Artificial sea verdaderamente inclusiva, es crucial desarrollar datasets localizados y traducir contenidos a lenguas como el wayuunaiki, emberá o nasa yuwe.
Garantizar que las comunidades no hispanohablantes puedan participar en procesos de contratación pública.
Reducir el sesgo en la Inteligencia Artificial al incorporar datos lingüísticos y culturales diversos en el entrenamiento de algoritmos.
Tal como se observa en iniciativas como la plataforma Common Voice en África, Colombia podría promover proyectos similares para recopilar y digitalizar lenguas locales, fortaleciendo la inclusión en sistemas automatizados de gobernanza.
Inspirándose en el enfoque presentado, Colombia puede utilizar Inteligencia Artificial y e-procurement para mejorar los procesos de contratación pública con énfasis en equidad e inclusión:
- Participación cívica
Crear plataformas abiertas donde las comunidades puedan participar activamente en el diseño y mejora de los sistemas.
Incluir mecanismos de retroalimentación para que las decisiones sean transparentes y respondan a las necesidades locales.
- Reglas de reparación automatizadas:
Implementar medidas temporales que prioricen a mujeres, minorías étnicas y personas con discapacidad en los procesos de contratación.
Diseñar incentivos económicos para cooperativas lideradas por mujeres y comunidades indígenas, promoviendo la redistribución equitativa de recursos públicos.
- Mejora constante de los sistemas:
Garantizar que las plataformas sean de código abierto para permitir auditorías y mejoras colaborativas.
Documentar públicamente los cambios realizados en los sistemas, asegurando que respondan a las demandas ciudadanas.
Principios feministas en la tecnología gubernamental
Adoptar un enfoque feminista en la implementación de tecnologías emergentes en Colombia puede:
Promover la igualdad de género al incorporar principios de equidad desde el diseño de Inteligencia Artificial.
Aumentar la transparencia diseñar sistemas que prioricen los derechos humanos y eviten prácticas discriminatorias.
Fortalecer la gobernanza democrática al integrar la perspectiva de género en las políticas públicas de contratación.
Por ejemplo, los sistemas de contratación pública podrían evaluar automáticamente la representación de género entre los proveedores, asegurando una distribución justa de oportunidades.
-
-
feministai.pubpub.org feministai.pubpub.org
-
Inherent bias in hiring
El algoritmo se autoenseñó a penalizar cualquier currículum que incluyera la palabra “mujeres”, como “capitana del club de ajedrez femenino” en el texto, y degradó los currículums de mujeres que asistieron a dos “universidades para mujeres”.
Esto se debe a que los datos de entrenamiento que contienen sesgo humano o discriminación histórica crean un bucle de profecía autocumplida donde el aprendizaje automático absorbe el sesgo humano y lo replica, lo incorpora a decisiones futuras y convierte el sesgo implícito en una realidad explícita.
-