- Jan 2025
-
feministai.pubpub.org feministai.pubpub.org
-
Prototype for E.D.I.A
El proyecto E.D.I.A (Estereotipos y Discriminación en Inteligencia Artificial) desarrolló una herramienta accesible para evaluar sesgos en procesamiento de lenguaje natural (PLN), específicamente en word embeddings y modelos de lenguaje de gran escala. Este prototipo, alojado en Huggingface, permite que expertos en discriminación, sin habilidades técnicas avanzadas, participen en la detección de sesgos desde las etapas iniciales del desarrollo de tecnologías lingüísticas, evitando daños sociales posteriores.
El proyecto busca empoderar a especialistas en discriminación para auditar sesgos en herramientas de PLN que moldean aplicaciones cotidianas. Estas tecnologías suelen replicar y perpetuar los sesgos presentes en los datos de los que aprenden. Sin embargo, las evaluaciones tradicionales dependen de habilidades técnicas avanzadas en programación y estadística, excluyendo a los expertos en discriminación del núcleo del proceso.
Innovaciones del Prototipo
Visualizaciones Intuitivas: Sustituyen métricas técnicas con representaciones gráficas, permitiendo un análisis más accesible y comunicable.
Conceptos Simplificados: Evitan terminología matemática y estadística compleja, priorizando conceptos intuitivos.
Relaciones Contextuales: Representan gráficamente interacciones entre palabras, contextos de uso y expresiones multi-palabra, enriqueciendo el análisis.
Implementación y Pruebas
El prototipo fue evaluado en talleres interdisciplinarios en Argentina, con 100 asistentes de sectores como la academia, la industria, instituciones públicas y sociedad civil. Estas sesiones confirmaron la utilidad de la herramienta para:
Validar intuiciones sobre discriminación.
Planificar acciones correctivas.
Facilitar debates fundamentados con actores diversos.
Impacto y posible aplicación en Colombia
En Colombia, donde convergen diversas corporalidades y realidades lingüísticas, esta herramienta podría abordar desafíos específicos, como:
Sesgos relacionados con género, raza y clase en aplicaciones de inteligencia artificial.
Exclusión de lenguas indígenas y afrodescendientes en modelos lingüísticos.
Representaciones perjudiciales en medios digitales y plataformas sociales.
El prototipo y su metodología podrían tener potencial para integrarse en prácticas de investigación, políticas públicas y desarrollo tecnológico en Colombia. Además, sus características inclusivas podrían fomentar una mayor participación de comunidades diversas en la creación de tecnologías éticas y culturalmente relevantes.
Recursos Disponibles
Prototipo interactivo: Huggingface.
Código fuente y documentación: Repositorio en GitHub.
Video introductorio: E.D.I.A: Estereotipos y Discriminación en Inteligencia Artificial.
Con este enfoque, E.D.I.A demuestra que reducir barreras técnicas es esencial para construir inteligencia artificial inclusiva y culturalmente sensible, destacando el potencial de metodologías colaborativas en Colombia junto con el Sur Global.
-
-
feministai.pubpub.org feministai.pubpub.org
-
Summary of feminist principles' framework for AI
La Inteligencia Artificial puede ser una herramienta clave para abordar la VGD en Colombia mediante el desarrollo de chatbots o agentes conversacionales:
Asesorar y guiar para proveer información sobre derechos, rutas de denuncia y acceso a apoyo legal, psicológico y emocional.
Prevenir y detectar patrones de riesgo al analizar palabras clave, emojis o interacciones para identificar posibles crisis de violencia y generar alertas.
Empoderar comunidades para permitir que las víctimas accedan a redes de apoyo y recursos de manera anónima y segura, respetando principios de privacidad y datos.
Principios clave para el desarrollo de IA feminista
De acuerdo con los principios propuestos por Juliana Guerra (2022) y basados en experiencias previas con chatbots en otros países, las soluciones de IA deben:
Ser colaborativas y participativas para co-diseñarse con comunidades, activistas y expertas/os para reflejar las necesidades específicas del contexto colombiano.
Incorporar conocimientos situados para reconocer las particularidades socioculturales y las corporalidades diversas de las personas usuarias.
Garantizar privacidad y consentimiento al usar datos de manera transparente y proteger la identidad de las víctimas.
Fomentar la autonomía para crear herramientas de código abierto y accesibles, evitando la dependencia exclusiva de instituciones públicas.
Un chatbot inspirado en iniciativas como Maruchatbot o Soy Violetta podría ser diseñado en Colombia para:
Brindar orientación en español y lenguas indígenas.
Incorporar enfoques interseccionales que reconozcan las realidades de mujeres rurales, afrodescendientes y LGBTIQ+.
Detectar riesgos mediante Inteligencia Artificial, pero sin almacenar información sensible innecesaria.
Crear alianzas con organizaciones locales y académicas para garantizar sostenibilidad y contextualización.
-
-
feministai.pubpub.org feministai.pubpub.org
-
Who is the AI innovation economy for?
La implementación de la Inteligencia Artificial en procesos públicos y privados tiene el potencial de amplificar o mitigar estas desigualdades:
Inclusión en el diseño de Inteligencia Artificial ya que las comunidades marginadas deben participar activamente en la creación de datasets y sistemas de IA que respeten su identidad, necesidades y derechos.
Fomento de la equidad porque la contratación pública puede usarse como herramienta para corregir desigualdades estructurales, exigiendo la participación de empresas que prioricen la diversidad y la justicia social en sus procesos tecnológicos.
La riqueza lingüística de Colombia, que incluye lenguas indígenas y criollas, es un recurso invaluable que debe ser integrado en el desarrollo de IA:
Crear bases de datos que incluyan lenguas como el wayuunaiki o nasa yuwe puede garantizar que las tecnologías no excluyan a comunidades no hispanohablantes.
La traducción y localización de los procesos de contratación y regulación de Inteligencia Artificial permitirán a más sectores de la población comprender y participar en estos procesos.
La contratación pública es una herramienta poderosa para modelar la economía de la innovación y promover la responsabilidad en el desarrollo de Inteligencia Artificial.
Transparencia y rendición de cuentas
La falta de transparencia en la contratación de la Inteligencia Artificial puede perpetuar desigualdades. Colombia puede adoptar medidas como:
Creación de registros algorítmicos: Similar a las iniciativas de Ámsterdam y Helsinki, registrar y publicar información sobre los algoritmos usados en servicios públicos.
Publicación de contratos de la Inteligencia Artificial: Hacer accesibles al público detalles clave de los contratos gubernamentales, como los estándares éticos que las empresas deben cumplir.
Auditorías independientes: Garantizar que las tecnologías contratadas respeten los derechos humanos y eviten impactos negativos en poblaciones vulnerables.
Inclusión y diversidad en la contratación pública
Requisitos de diversidad: Exigir que las empresas contratadas para desarrollar una Inteligencia Artificial demuestren compromiso con principios de equidad, diversidad e inclusión.
Incentivos a comunidades subrepresentadas: Promover la participación de pequeñas empresas lideradas por mujeres, indígenas o afrodescendientes en licitaciones tecnológicas.
Regulación ética en el desarrollo de IA
Estándares obligatorios de ética: Implementar marcos legales para regular las prácticas éticas de las empresas proveedoras de IA, como un estándar colombiano de impacto algorítmico (similar al AIA en Canadá).
Cooperación internacional: Participar en iniciativas globales como GPAI para fomentar la responsabilidad en el desarrollo y despliegue de IA, asegurando que las empresas cumplan estándares internacionales.
Principios feministas y justicia social en la Inteligencia Artificial colombiana
La integración de principios feministas en la contratación y desarrollo de la Inteligencia Artificial puede garantizar que las tecnologías beneficien a todos los sectores de la población:
Contratación equitativa: Diseñar sistemas de e-procurement que prioricen la contratación de empresas lideradas por mujeres y otras minorías históricamente excluidas.
Reparación histórica: Usar la contratación pública para corregir desigualdades estructurales, asignando recursos a proyectos que beneficien a comunidades marginadas.
-
-
feministai.pubpub.org feministai.pubpub.org
-
AI models in Africa
Estudio Comparativo: África y Colombia
África y Colombia comparten desafíos similares en cuanto a la desigualdad, el acceso limitado a servicios básicos y la diversidad cultural. Las lecciones del Makerere AI Lab pueden inspirar soluciones en Colombia, como:
Usar Inteligencia Artificial para la detección temprana de enfermedades en humanos y cultivos, combinando tecnologías móviles y datos localizados.
Generar datasets diversos para sistemas de reconocimiento de voz en lenguas minoritarias.
Promover un enfoque “de abajo hacia arriba” en la creación de datos, garantizando la participación activa de las comunidades en la recolección y uso de información.
-
-
feministai.pubpub.org feministai.pubpub.org
-
The Oracle for Transfeminist Technologies
Las herramientas especulativas como The Oracle for Transfeminist Technologies podrían inspirar prácticas y tecnologías que respeten y celebren la pluralidad de cuerpos y subjetividades.
En un país con desigualdades, las tecnologías transfeministas podrían abordar temas como el acceso a la salud, la educación y la representación, diseñando soluciones inclusivas que desafíen la discriminación estructural basada en el cuerpo, el género o la sexualidad.
La traducción en Colombia desempeñaría un papel crucial en la preservación y promoción de lenguas indígenas, afrodescendientes y criollas.
Desde una posibilidad transfeminista, la traducción podría ir más allá del lenguaje, integrando valores de justicia social y respeto por las diversidades. Por ejemplo, el acto de traducir no solo debería ser lingüístico, sino también cultural, incorporando sensibilidades hacia las experiencias de género y sexualidad que desafían las normas hegemónicas.
The Oracle for Transfeminist Technologies puede inspirar la creación de herramientas y metodologías que permitan a las comunidades marginadas de Colombia expresar sus narrativas y cosmovisiones de manera auténtica, respetando su diversidad cultural y corporal.
En Colombia, la Inteligencia Artificial podría tener el potencial de ser una herramienta transformadora, pero debe ser desarrollada con un enfoque ético y transfeminista para evitar reproducir dinámicas de exclusión.
El uso de valores transfeministas en el diseño de tecnologías podría guiar el desarrollo de sistemas que promuevan:
Garantizar que la la Inteligencia Artificial no excluya a personas trans, no binarias o pertenecientes a comunidades indígenas y afrodescendientes.
Co-crear tecnodiversidades con las comunidades, adaptando los valores y necesidades locales, al igual que lo hace The Oracle for Transfeminist Technologies en sus talleres participativos.
Reconocer que los datos no son neutrales, y fomentar prácticas de recolección y uso de datos que respeten la autonomía y dignidad de las personas y comunidades.
The Oracle for Transfeminist Technologies, demuestra cómo las tecnodiversidades pueden diseñarse desde valores transfeministas. En el contexto colombiano, estas metodologías podrían adaptarse para abordar problemáticas locales, como:
La visibilización de experiencias trans y no binarias en el acceso a derechos.
El diseño de plataformas que amplifiquen voces diversas, en especial las de personas marginadas por su género, raza o etnicidad.
La creación de tecnologías que fomenten redes de apoyo y solidaridad entre comunidades diversas.
-
-
feministai.pubpub.org feministai.pubpub.org
-
Case study: Papa Reo
Estudios de Caso: Papa Reo y Colombia
Papa Reo, una iniciativa de innovación indígena, muestra cómo las cosmovisiones pueden moldear soluciones tecnológicas éticas y sostenibles. En Colombia, los pueblos indígenas y afrodescendientes podrían liderar proyectos tecnológicos basados en sus propias prácticas culturales, como el cuidado comunitario de datos y los principios de reciprocidad.
Iniciativas de traducción y conservación de lenguas indígenas en Colombia, inspiradas en modelos como Papa Reo, podrían desarrollarse con el objetivo de preservar el patrimonio lingüístico y cultural, evitando enfoques extractivos y promoviendo la participación comunitaria.
Los principios feministas de autonomía, consentimiento, conocimiento situado y conectividad sembrada, propuestos por comunidades tecnológicas en América Latina, también son aplicables a las diversidades en Colombia. Estos valores fomentan la creación de tecnologías que reflejan y respetan las experiencias de género, raza y clase, desmantelando sistemas opresivos.
-
Non-Western ethics
En Colombia, la diversidad corporal refleja no solo las características físicas y culturales de su población, sino también las dinámicas sociales, económicas y políticas que afectan la inclusión y la representación. Las comunidades indígenas, afrodescendientes y otras minorías han luchado por el reconocimiento de sus derechos y por la valorización de sus cosmovisiones, que incluyen principios similares a los de reciprocidad y relacionalidad descritos.
En contextos comunitarios, prácticas como la minga son expresiones de esta reciprocidad, donde el trabajo colectivo no es una acción voluntaria aislada, sino una responsabilidad mutua.
La traducción en Colombia como intermediación lingüística permite preservar y visibilizar las lenguas indígenas, afrodescendientes y criollas, al conectar estas comunidades con la nación y el mundo. Desde este enfoque, la traducción no sólo debe respetar el lenguaje, sino también los valores y cosmovisiones de las comunidades.
Iniciativas como Papa Reo, promueve el desarrollo tecnológico y lingüístico cuya raíz está en los principios comunitarios, evitando la explotación cultural y fomentando una representación auténtica.
La Inteligencia Artificial en Colombia podría aprender de iniciativas como Papa Reo, integrando principios de relacionalidad y reciprocidad en su diseño y uso. En lugar de imponer soluciones tecnológicas adaptadas a las comunidades, el desarrollo de la Inteligencia Artificial en el país debería partir de las necesidades, valores y principios de las mismas.
Esto es crucial para evitar procesos extractivos en el manejo de datos, especialmente aquellos provenientes de comunidades indígenas y rurales. Por ejemplo, un sistema de Inteligencia Artificial que respete la autonomía de las comunidades podría implementar licencias similares a kaitiakitanga, donde los datos no son propiedad privada, sino bienes comunes protegidos.
-
Gendered innovation
En Colombia, las diversidades corporales, que incluyen la intersección de género, orientación sexual, raza, condición de discapacidad y condición socioeconómica, reflejan desigualdades históricas y estructurales. Las mujeres y niñas marginadas, así como otras comunidades vulnerables, enfrentan barreras para acceder y participar en el diseño y gobernanza de tecnologías como la Inteligencia Artificial. Sin embargo, estas personas son agentes de cambio y poseen conocimientos prácticos y resiliencia que pueden ser fundamentales para el desarrollo de tecnologías que respondan a sus realidades.
Incorporar las experiencias y sensibilidades de las Inteligencia Artificial permitiría diseñar herramientas más inclusivas que contribuyan al crecimiento personal y comunitario. Estas posibilidades pueden abordar sesgos algorítmicos y fomentar aplicaciones tecnológicas que promuevan la justicia social y la dignidad.
Colombia, con su rica diversidad lingüística que incluye 65 lenguas indígenas reconocidas, enfrenta desafíos similares a los descritos en el caso del proyecto Papa Reo para el maorí. Muchas comunidades indígenas y afrodescendientes en el país tienen lenguas propias que son esenciales para expresar sus identidades culturales, pero estas lenguas están subrepresentadas en las tecnodiversidades actuales.
Las tecnologías de reconocimiento de voz y procesamiento de lenguaje natural no están suficientemente desarrolladas para lenguas indígenas.
La falta de acceso a tecnologías en lenguas maternas perpetúa desigualdades en el acceso a la educación, la participación política y otros derechos.
Proyectos como el Papa Reo podrían inspirar el desarrollo de herramientas similares en Colombia, promoviendo plataformas tecnológicas que incorporen lenguas indígenas para fortalecer la identidad cultural y la inclusión.
La interseccionalidad y el ecofeminismo ofrecen herramientas valiosas para cuestionar las dinámicas de poder en la producción y uso de la Inteligencia Artificial en Colombia, por ejemplo:
Interseccionalidad: Reconocer cómo las opresiones múltiples (género, etnia, clase) afectan el acceso y uso de tecnologías, y diseñar soluciones que atiendan estas necesidades interrelacionadas.
Asimismo, incorporar cosmovisiones y saberes ancestrales en el diseño tecnológico para desafiar los paradigmas dominantes y construir modelos alternativos de innovación.
Ecofeminismo: Abogar por tecnologías que no solo sean socialmente justas, sino también sostenibles y respetuosas con el medio ambiente.
La creación de tecnologías que respeten las necesidades ecológicas y culturales de las comunidades locales, como herramientas para la gestión sostenible de recursos naturales o la preservación de lenguas y saberes indígenas.
La Inteligencia Artificial en Colombia tiene el potencial de abordar las desigualdades locales si se desarrolla desde una lógica inclusiva y alternativa que:
Promueva la participación de comunidades diversas, especialmente de mujeres y personas con discapacidades, en todas las etapas de desarrollo de la tecnología.
Incorpore lenguas y perspectivas locales en las bases de datos y algoritmos.
Garantice la transparencia, la gobernanza inclusiva y la responsabilidad en el uso de tecnologías.
Para el futuro se podrían:
Implementar políticas que financien proyectos de tecnología inclusiva y promuevan la participación comunitaria en su diseño.
Crear espacios para que mujeres, comunidades indígenas y otros grupos marginados puedan aportar su experiencia y creatividad al desarrollo tecnológico.
Crear proyectos piloto que estén inspirados en iniciativas como Papa Reo, desarrollar herramientas de IA para lenguas indígenas en Colombia que sirvan como modelo para otras regiones.
-
According to Srinivasan (2019),1 the way people in the global South use and experience digital technologies could help bring a different understanding to tech innovation and its applications in the real world and the ways in which they are built for and by users.
Las comunidades indígenas en Colombia representan un componente esencial de la diversidad cultural, étnica y epistemológica del país. Estas comunidades poseen conocimientos ancestrales que pueden aportar soluciones innovadoras frente a problemas complejos, como la sostenibilidad ambiental, la gestión de recursos y la convivencia en contextos de diversidad. Estos saberes, aunque históricamente marginados, tienen el potencial de enriquecer la forma en que se diseñan y utilizan las tecnodiversidades, incluida la Inteligencia Artificial, para que sean inclusivas y contextualizadas.
La implementación de tecnologías que respeten y promuevan las lenguas indígenas puede contribuir a la preservación del patrimonio cultural y facilitar el acceso a derechos fundamentales para estas comunidades.
Asimismo, la traducción en Colombia, particularmente en el contexto de lenguas indígenas, es una herramienta fundamental para la inclusión y la equidad. Dada la diversidad lingüística del país, la traducción puede actuar como intermediación multilíngue entre estas comunidades y el desarrollo tecnológico.
La Inteligencia Artificial puede desempeñar un papel crucial en la traducción automática y el procesamiento del lenguaje natural para lenguas indígenas. Sin embargo, esto requiere una infraestructura adecuada y un enfoque ético para garantizar que estas tecnologías respeten las particularidades culturales como los culturemas y no refuercen asimetrías de poder.
Colombia, desde el Sur Global, enfrenta desafíos significativos en términos de desigualdad y acceso a tecnología. Sin embargo, también tiene la oportunidad de liderar un modelo de innovación que sea sensible a las realidades locales y que priorice la justicia social y ambiental. La Inteligencia Artificial podría:
Diseñar tecnologías accesibles que respondan a las necesidades específicas de comunidades en contextos de bajos recursos.
Desarrollar algoritmos y bases de datos que incluyan y prioricen las lenguas y conocimientos indígenas.
Abordar problemas ambientales de manera contextualizada y sostenible.
Las políticas públicas deben promover la participación activa de las comunidades indígenas y otros actores marginados en la creación y uso de tecnologías. Esto incluye:
Financiación para proyectos de traducción y preservación de lenguas indígenas utilizando la Inteligencia Artificial.
Promoción de la participación comunitaria en el diseño de tecnologías.
Regulaciones éticas para garantizar que las tecnologías no perpetúen formas de violencia estructural ni exclusión.
-