14 Matching Annotations
  1. Jan 2025
    1. Prototype for E.D.I.A

      El proyecto E.D.I.A (Estereotipos y Discriminación en Inteligencia Artificial) desarrolló una herramienta accesible para evaluar sesgos en procesamiento de lenguaje natural (PLN), específicamente en word embeddings y modelos de lenguaje de gran escala. Este prototipo, alojado en Huggingface, permite que expertos en discriminación, sin habilidades técnicas avanzadas, participen en la detección de sesgos desde las etapas iniciales del desarrollo de tecnologías lingüísticas, evitando daños sociales posteriores.

      El proyecto busca empoderar a especialistas en discriminación para auditar sesgos en herramientas de PLN que moldean aplicaciones cotidianas. Estas tecnologías suelen replicar y perpetuar los sesgos presentes en los datos de los que aprenden. Sin embargo, las evaluaciones tradicionales dependen de habilidades técnicas avanzadas en programación y estadística, excluyendo a los expertos en discriminación del núcleo del proceso.

      Innovaciones del Prototipo

      Visualizaciones Intuitivas: Sustituyen métricas técnicas con representaciones gráficas, permitiendo un análisis más accesible y comunicable.

      Conceptos Simplificados: Evitan terminología matemática y estadística compleja, priorizando conceptos intuitivos.

      Relaciones Contextuales: Representan gráficamente interacciones entre palabras, contextos de uso y expresiones multi-palabra, enriqueciendo el análisis.

      Implementación y Pruebas

      El prototipo fue evaluado en talleres interdisciplinarios en Argentina, con 100 asistentes de sectores como la academia, la industria, instituciones públicas y sociedad civil. Estas sesiones confirmaron la utilidad de la herramienta para:

      Validar intuiciones sobre discriminación.

      Planificar acciones correctivas.

      Facilitar debates fundamentados con actores diversos.

      Impacto y posible aplicación en Colombia

      En Colombia, donde convergen diversas corporalidades y realidades lingüísticas, esta herramienta podría abordar desafíos específicos, como:

      Sesgos relacionados con género, raza y clase en aplicaciones de inteligencia artificial.

      Exclusión de lenguas indígenas y afrodescendientes en modelos lingüísticos.

      Representaciones perjudiciales en medios digitales y plataformas sociales.

      El prototipo y su metodología podrían tener potencial para integrarse en prácticas de investigación, políticas públicas y desarrollo tecnológico en Colombia. Además, sus características inclusivas podrían fomentar una mayor participación de comunidades diversas en la creación de tecnologías éticas y culturalmente relevantes.

      Recursos Disponibles

      Prototipo interactivo: Huggingface.

      Código fuente y documentación: Repositorio en GitHub.

      Video introductorio: E.D.I.A: Estereotipos y Discriminación en Inteligencia Artificial.

      Con este enfoque, E.D.I.A demuestra que reducir barreras técnicas es esencial para construir inteligencia artificial inclusiva y culturalmente sensible, destacando el potencial de metodologías colaborativas en Colombia junto con el Sur Global.

    1. Summary of feminist principles' framework for AI

      La Inteligencia Artificial puede ser una herramienta clave para abordar la VGD en Colombia mediante el desarrollo de chatbots o agentes conversacionales:

      Asesorar y guiar para proveer información sobre derechos, rutas de denuncia y acceso a apoyo legal, psicológico y emocional.

      Prevenir y detectar patrones de riesgo al analizar palabras clave, emojis o interacciones para identificar posibles crisis de violencia y generar alertas.

      Empoderar comunidades para permitir que las víctimas accedan a redes de apoyo y recursos de manera anónima y segura, respetando principios de privacidad y datos.

      Principios clave para el desarrollo de IA feminista

      De acuerdo con los principios propuestos por Juliana Guerra (2022) y basados en experiencias previas con chatbots en otros países, las soluciones de IA deben:

      Ser colaborativas y participativas para co-diseñarse con comunidades, activistas y expertas/os para reflejar las necesidades específicas del contexto colombiano.

      Incorporar conocimientos situados para reconocer las particularidades socioculturales y las corporalidades diversas de las personas usuarias.

      Garantizar privacidad y consentimiento al usar datos de manera transparente y proteger la identidad de las víctimas.

      Fomentar la autonomía para crear herramientas de código abierto y accesibles, evitando la dependencia exclusiva de instituciones públicas.

      Un chatbot inspirado en iniciativas como Maruchatbot o Soy Violetta podría ser diseñado en Colombia para:

      Brindar orientación en español y lenguas indígenas.

      Incorporar enfoques interseccionales que reconozcan las realidades de mujeres rurales, afrodescendientes y LGBTIQ+.

      Detectar riesgos mediante Inteligencia Artificial, pero sin almacenar información sensible innecesaria.

      Crear alianzas con organizaciones locales y académicas para garantizar sostenibilidad y contextualización.

    2. Chilean context

      En Colombia, la ausencia de datos sistematizados, políticas públicas específicas y mecanismos de apoyo institucional, al igual que en Chile, las mujeres enfrentan esta violencia de forma individualizada, sin acceso consistente a redes de apoyo o recursos adecuados. La situación se complica al considerar las diversas corporalidades y contextos sociales, como el de las mujeres rurales, afrodescendientes, indígenas y LGBTQ+, quienes enfrentan formas de violencia exacerbadas por su interseccionalidad.

      El país carece de un marco normativo sólido para enfrentar la VGD, a pesar de iniciativas legislativas recientes que abordan parcialmente el problema. Las denuncias en redes sociales, principal mecanismo utilizado por las víctimas, presentan limitaciones como la falta de seguimiento, la continuidad de los ataques y la opacidad de los procedimientos de las plataformas.

      La incorporación de Inteligencia Artificial puede transformar el abordaje de la VGD en Colombia con:

      Creación de sistemas de datos sistematizados

      Bases de datos integradas y centralizadas que permitan identificar patrones, tendencias y perfiles de agresores.

      Análisis predictivo para anticipar riesgos y mejorar los mecanismos de protección para las mujeres.

      Desarrollo de chatbots con enfoque feminista

      Prototipos como asistentes conversacionales que proporcionen orientación legal, psicológica y emocional, adaptados a los contextos regionales y culturales del país.

      Incorporación de traducción automática para lenguas indígenas y dialectos, garantizando accesibilidad en comunidades diversas.

      Fortalecimiento de redes de apoyo virtuales

      Promoción de iniciativas lideradas por colectivas feministas y activistas tecnológicas para diseñar herramientas que amplíen las capacidades de respuesta comunitaria.

      Creación de espacios seguros para compartir experiencias y buscar ayuda sin temor a represalias.

      Prevención mediante Inteligencia Artificial

      Campañas educativas automatizadas para informar sobre la VGD y empoderar a las mujeres en el uso seguro de tecnologías digitales.

      Principios feministas para el diseño de IA

      El diseño de estas herramientas debe incorporar principios feministas que cuestionen el extractivismo de datos y prioricen la privacidad y la seguridad de las usuarias. Además, deben considerar las corporalidades y experiencias diversas de las mujeres en Colombia, garantizando que las soluciones no perpetúen desigualdades estructurales.

      El desarrollo de soluciones basadas en Inteligencia Artificial, junto con políticas públicas adecuadas y la participación activa de mujeres en su diseño, puede ser un paso crucial para abordar la violencia de género digital en Colombia. Esto no solo contribuiría a la prevención y atención de casos, sino también a la creación de un entorno digital más seguro e inclusivo para todas las mujeres.

    3. Summary of Gender Digital Violence

      En Colombia, la violencia de género digital (VGD) no solo afecta a mujeres por su mera presencia en plataformas digitales, sino que se agrava cuando participan activamente en debates, liderazgos políticos o en la defensa de derechos humanos y la igualdad de género. Esta violencia, una extensión de la violencia de género offline, tiene profundas consecuencias en la vida personal, emocional y pública de las mujeres, afectando su identidad, dignidad, integridad física y psicológica, y su derecho a la libertad de expresión.

      La violencia política contra las mujeres, definida por la Organización de los Estados Americanos (OEA) como cualquier acción basada en el género que busca limitar o anular el ejercicio de sus derechos políticos, se manifiesta de forma recurrente en redes sociales. Estos espacios digitales, estratégicos para comunicadoras, activistas y lideresas, son utilizados para acoso, discursos de odio, ataques simbólicos y amenazas, con el objetivo de silenciar sus voces o inhibir su participación pública.

      El impacto de la VGD y la violencia política digital se evidencia en la autocensura, la eliminación de perfiles en redes sociales y el retiro del debate público, perpetuando las barreras de género existentes. Esto afecta especialmente a mujeres indígenas, afrodescendientes, rurales y LGBTQ+, cuyas corporalidades y experiencias de violencia están atravesadas por múltiples formas de discriminación.

      En Colombia, donde las desigualdades sociales y la violencia de género convergen con altos índices de violencia política, la Inteligencia Artificial podría desempeñar un papel esencial.

      Monitoreo de violencia digital

      Uso de Inteligencia Artificial para detectar patrones de discurso de odio, acoso y amenazas dirigidas a mujeres en redes sociales.

      Mapeo de las dinámicas de violencia en diferentes regiones y plataformas.

      Orientación personalizada

      Creación de chatbots que brinden apoyo inmediato a víctimas de VGD, incluyendo traducción automática a lenguas indígenas y regionales, adaptándose a las realidades pluriculturales del país.

      Provisión de información sobre recursos legales y psicológicos específicos para mujeres en riesgo.

      Prevención y sensibilización

      Implementación de campañas automatizadas y personalizadas para educar sobre la violencia de género digital y sus consecuencias, utilizando redes sociales para contrarrestar narrativas de odio.

      Ética e inclusión

      Cualquier solución tecnológica debe integrar un enfoque interseccional que considere las corporalidades y contextos diversos de las mujeres en Colombia, al respetar la privacidad y evitar prácticas extractivistas de datos. Además, es crucial incluir la participación activa de las mujeres afectadas en el diseño e implementación de estas herramientas, para garantizar su relevancia y efectividad.

      La traducción, las corporalidades y la Inteligencia Artificial, puede transformar el abordaje de la VGD en Colombia, fortaleciendo la resiliencia de las mujeres y garantizando espacios digitales más seguros. Sin embargo, para que estas soluciones sean sostenibles, deben estar acompañadas de políticas públicas, colaboración interinstitucional y compromiso social para erradicar las raíces estructurales de la violencia de género.

    1. Who is the AI innovation economy for?

      La implementación de la Inteligencia Artificial en procesos públicos y privados tiene el potencial de amplificar o mitigar estas desigualdades:

      Inclusión en el diseño de Inteligencia Artificial ya que las comunidades marginadas deben participar activamente en la creación de datasets y sistemas de IA que respeten su identidad, necesidades y derechos.

      Fomento de la equidad porque la contratación pública puede usarse como herramienta para corregir desigualdades estructurales, exigiendo la participación de empresas que prioricen la diversidad y la justicia social en sus procesos tecnológicos.

      La riqueza lingüística de Colombia, que incluye lenguas indígenas y criollas, es un recurso invaluable que debe ser integrado en el desarrollo de IA:

      Crear bases de datos que incluyan lenguas como el wayuunaiki o nasa yuwe puede garantizar que las tecnologías no excluyan a comunidades no hispanohablantes.

      La traducción y localización de los procesos de contratación y regulación de Inteligencia Artificial permitirán a más sectores de la población comprender y participar en estos procesos.

      La contratación pública es una herramienta poderosa para modelar la economía de la innovación y promover la responsabilidad en el desarrollo de Inteligencia Artificial.

      Transparencia y rendición de cuentas

      La falta de transparencia en la contratación de la Inteligencia Artificial puede perpetuar desigualdades. Colombia puede adoptar medidas como:

      Creación de registros algorítmicos: Similar a las iniciativas de Ámsterdam y Helsinki, registrar y publicar información sobre los algoritmos usados en servicios públicos.

      Publicación de contratos de la Inteligencia Artificial: Hacer accesibles al público detalles clave de los contratos gubernamentales, como los estándares éticos que las empresas deben cumplir.

      Auditorías independientes: Garantizar que las tecnologías contratadas respeten los derechos humanos y eviten impactos negativos en poblaciones vulnerables.

      Inclusión y diversidad en la contratación pública

      Requisitos de diversidad: Exigir que las empresas contratadas para desarrollar una Inteligencia Artificial demuestren compromiso con principios de equidad, diversidad e inclusión.

      Incentivos a comunidades subrepresentadas: Promover la participación de pequeñas empresas lideradas por mujeres, indígenas o afrodescendientes en licitaciones tecnológicas.

      Regulación ética en el desarrollo de IA

      Estándares obligatorios de ética: Implementar marcos legales para regular las prácticas éticas de las empresas proveedoras de IA, como un estándar colombiano de impacto algorítmico (similar al AIA en Canadá).

      Cooperación internacional: Participar en iniciativas globales como GPAI para fomentar la responsabilidad en el desarrollo y despliegue de IA, asegurando que las empresas cumplan estándares internacionales.

      Principios feministas y justicia social en la Inteligencia Artificial colombiana

      La integración de principios feministas en la contratación y desarrollo de la Inteligencia Artificial puede garantizar que las tecnologías beneficien a todos los sectores de la población:

      Contratación equitativa: Diseñar sistemas de e-procurement que prioricen la contratación de empresas lideradas por mujeres y otras minorías históricamente excluidas.

      Reparación histórica: Usar la contratación pública para corregir desigualdades estructurales, asignando recursos a proyectos que beneficien a comunidades marginadas.

    1. AI models in Africa

      Estudio Comparativo: África y Colombia

      África y Colombia comparten desafíos similares en cuanto a la desigualdad, el acceso limitado a servicios básicos y la diversidad cultural. Las lecciones del Makerere AI Lab pueden inspirar soluciones en Colombia, como:

      Usar Inteligencia Artificial para la detección temprana de enfermedades en humanos y cultivos, combinando tecnologías móviles y datos localizados.

      Generar datasets diversos para sistemas de reconocimiento de voz en lenguas minoritarias.

      Promover un enfoque “de abajo hacia arriba” en la creación de datos, garantizando la participación activa de las comunidades en la recolección y uso de información.

    1. groups are emerging

      Estudio de Caso en Colombia

      La digitalización de territorios en proyectos de conservación en Colombia puede tener implicaciones graves si no se respetan los derechos indígenas. Por ejemplo:

      Proyectos de conservación basados en Inteligencia Artificial que clasifican áreas protegidas sin considerar que estos territorios son habitados y administrados por comunidades indígenas pueden generar conflictos y despojo.

      La ausencia de perspectivas colectivas en los algoritmos de Inteligencia Artificial refuerza narrativas individualistas que no reflejan la cosmovisión indígena sobre la naturaleza como un ente vivo y compartido.

      La posición ética planteada por Indigenous AI resalta la necesidad de redefinir cómo se colectivizan el conocimiento y la identidad digital, respetando los valores comunitarios y evitando procesos extractivos.

    2. We are essentially digitizing trees, animals, and plants and rivers, and boundaries, defining those using satellite imagery.

      En Colombia, las corporalidades están profundamente vinculadas a la identidad cultural, territorial y espiritual. Para muchas comunidades indígenas, afrodescendientes y campesinas, el cuerpo no solo es físico, sino también un puente con la tierra y la naturaleza.

      Estas comunidades entienden el territorio como un elemento vital de su existencia colectiva, lo que contrasta con las visiones occidentales que separan al individuo del entorno natural.

      La digitalización de territorios, como se plantea en el uso de la Inteligencia Artificial para conservación, presenta desafíos éticos importantes. Clasificar y definir tierras y recursos naturales a través de imágenes satelitales y algoritmos puede despojar a estas comunidades de su conexión simbólica y material con el territorio, perpetuando desigualdades históricas y vulnerando sus derechos culturales y corporales.

      La traducción en Colombia podría desempeñar un papel clave al mediar entre las perspectivas indígenas y las prácticas occidentales de conservación y digitalización de territorios.

      Traducir no solo lenguas, sino también conceptos culturales como la relacionalidad con la naturaleza y el conocimiento colectivo, es esencial para evitar malentendidos y garantizar que las voces de las comunidades sean escuchadas.

      Por ejemplo, cuando se desarrollan proyectos de conservación basados en la Inteligencia Artificial, la traducción puede ayudar a garantizar que los principios, usos y riesgos de estas tecnologías sean entendidos desde las cosmovisiones indígenas, en lugar de imponer terminologías y enfoques que no respeten sus prácticas y saberes.

      La implementación de Inteligencia Artificial en conservación y digitalización de tierras en Colombia debería centrarse en que:

      Las comunidades indígenas deban ser incluidas como actores principales en el diseño de tecnologías que afectan sus territorios. Esto requiere procesos de consulta previos, libres e informados, en línea con los estándares internacionales de derechos humanos.

      En lugar de imponer un modelo de digitalización basado en la separación tierra-persona, la Inteligencia Artificial deba reflejar cómo estas comunidades perciben su conexión espiritual, cultural y económica con la naturaleza.

      La Inteligencia Artificial deba reconocer y respetar el conocimiento colectivo de las comunidades. Esto incluye evitar la apropiación de datos que no consideren el carácter comunal de la identidad y el saber indígena, promoviendo en su lugar principios éticos como los planteados en la posición de Indigenous AI.

    1. The Oracle for Transfeminist Technologies

      Las herramientas especulativas como The Oracle for Transfeminist Technologies podrían inspirar prácticas y tecnologías que respeten y celebren la pluralidad de cuerpos y subjetividades.

      En un país con desigualdades, las tecnologías transfeministas podrían abordar temas como el acceso a la salud, la educación y la representación, diseñando soluciones inclusivas que desafíen la discriminación estructural basada en el cuerpo, el género o la sexualidad.

      La traducción en Colombia desempeñaría un papel crucial en la preservación y promoción de lenguas indígenas, afrodescendientes y criollas.

      Desde una posibilidad transfeminista, la traducción podría ir más allá del lenguaje, integrando valores de justicia social y respeto por las diversidades. Por ejemplo, el acto de traducir no solo debería ser lingüístico, sino también cultural, incorporando sensibilidades hacia las experiencias de género y sexualidad que desafían las normas hegemónicas.

      The Oracle for Transfeminist Technologies puede inspirar la creación de herramientas y metodologías que permitan a las comunidades marginadas de Colombia expresar sus narrativas y cosmovisiones de manera auténtica, respetando su diversidad cultural y corporal.

      En Colombia, la Inteligencia Artificial podría tener el potencial de ser una herramienta transformadora, pero debe ser desarrollada con un enfoque ético y transfeminista para evitar reproducir dinámicas de exclusión.

      El uso de valores transfeministas en el diseño de tecnologías podría guiar el desarrollo de sistemas que promuevan:

      Garantizar que la la Inteligencia Artificial no excluya a personas trans, no binarias o pertenecientes a comunidades indígenas y afrodescendientes.

      Co-crear tecnodiversidades con las comunidades, adaptando los valores y necesidades locales, al igual que lo hace The Oracle for Transfeminist Technologies en sus talleres participativos.

      Reconocer que los datos no son neutrales, y fomentar prácticas de recolección y uso de datos que respeten la autonomía y dignidad de las personas y comunidades.

      The Oracle for Transfeminist Technologies, demuestra cómo las tecnodiversidades pueden diseñarse desde valores transfeministas. En el contexto colombiano, estas metodologías podrían adaptarse para abordar problemáticas locales, como:

      La visibilización de experiencias trans y no binarias en el acceso a derechos.

      El diseño de plataformas que amplifiquen voces diversas, en especial las de personas marginadas por su género, raza o etnicidad.

      La creación de tecnologías que fomenten redes de apoyo y solidaridad entre comunidades diversas.

    1. Case study: Papa Reo

      Estudios de Caso: Papa Reo y Colombia

      Papa Reo, una iniciativa de innovación indígena, muestra cómo las cosmovisiones pueden moldear soluciones tecnológicas éticas y sostenibles. En Colombia, los pueblos indígenas y afrodescendientes podrían liderar proyectos tecnológicos basados en sus propias prácticas culturales, como el cuidado comunitario de datos y los principios de reciprocidad.

      Iniciativas de traducción y conservación de lenguas indígenas en Colombia, inspiradas en modelos como Papa Reo, podrían desarrollarse con el objetivo de preservar el patrimonio lingüístico y cultural, evitando enfoques extractivos y promoviendo la participación comunitaria.

      Los principios feministas de autonomía, consentimiento, conocimiento situado y conectividad sembrada, propuestos por comunidades tecnológicas en América Latina, también son aplicables a las diversidades en Colombia. Estos valores fomentan la creación de tecnologías que reflejan y respetan las experiencias de género, raza y clase, desmantelando sistemas opresivos.

    2. Non-Western ethics

      En Colombia, la diversidad corporal refleja no solo las características físicas y culturales de su población, sino también las dinámicas sociales, económicas y políticas que afectan la inclusión y la representación. Las comunidades indígenas, afrodescendientes y otras minorías han luchado por el reconocimiento de sus derechos y por la valorización de sus cosmovisiones, que incluyen principios similares a los de reciprocidad y relacionalidad descritos.

      En contextos comunitarios, prácticas como la minga son expresiones de esta reciprocidad, donde el trabajo colectivo no es una acción voluntaria aislada, sino una responsabilidad mutua.

      La traducción en Colombia como intermediación lingüística permite preservar y visibilizar las lenguas indígenas, afrodescendientes y criollas, al conectar estas comunidades con la nación y el mundo. Desde este enfoque, la traducción no sólo debe respetar el lenguaje, sino también los valores y cosmovisiones de las comunidades.

      Iniciativas como Papa Reo, promueve el desarrollo tecnológico y lingüístico cuya raíz está en los principios comunitarios, evitando la explotación cultural y fomentando una representación auténtica.

      La Inteligencia Artificial en Colombia podría aprender de iniciativas como Papa Reo, integrando principios de relacionalidad y reciprocidad en su diseño y uso. En lugar de imponer soluciones tecnológicas adaptadas a las comunidades, el desarrollo de la Inteligencia Artificial en el país debería partir de las necesidades, valores y principios de las mismas.

      Esto es crucial para evitar procesos extractivos en el manejo de datos, especialmente aquellos provenientes de comunidades indígenas y rurales. Por ejemplo, un sistema de Inteligencia Artificial que respete la autonomía de las comunidades podría implementar licencias similares a kaitiakitanga, donde los datos no son propiedad privada, sino bienes comunes protegidos.

    3. Gendered innovation

      En Colombia, las diversidades corporales, que incluyen la intersección de género, orientación sexual, raza, condición de discapacidad y condición socioeconómica, reflejan desigualdades históricas y estructurales. Las mujeres y niñas marginadas, así como otras comunidades vulnerables, enfrentan barreras para acceder y participar en el diseño y gobernanza de tecnologías como la Inteligencia Artificial. Sin embargo, estas personas son agentes de cambio y poseen conocimientos prácticos y resiliencia que pueden ser fundamentales para el desarrollo de tecnologías que respondan a sus realidades.

      Incorporar las experiencias y sensibilidades de las Inteligencia Artificial permitiría diseñar herramientas más inclusivas que contribuyan al crecimiento personal y comunitario. Estas posibilidades pueden abordar sesgos algorítmicos y fomentar aplicaciones tecnológicas que promuevan la justicia social y la dignidad.

      Colombia, con su rica diversidad lingüística que incluye 65 lenguas indígenas reconocidas, enfrenta desafíos similares a los descritos en el caso del proyecto Papa Reo para el maorí. Muchas comunidades indígenas y afrodescendientes en el país tienen lenguas propias que son esenciales para expresar sus identidades culturales, pero estas lenguas están subrepresentadas en las tecnodiversidades actuales.

      Las tecnologías de reconocimiento de voz y procesamiento de lenguaje natural no están suficientemente desarrolladas para lenguas indígenas.

      La falta de acceso a tecnologías en lenguas maternas perpetúa desigualdades en el acceso a la educación, la participación política y otros derechos.

      Proyectos como el Papa Reo podrían inspirar el desarrollo de herramientas similares en Colombia, promoviendo plataformas tecnológicas que incorporen lenguas indígenas para fortalecer la identidad cultural y la inclusión.

      La interseccionalidad y el ecofeminismo ofrecen herramientas valiosas para cuestionar las dinámicas de poder en la producción y uso de la Inteligencia Artificial en Colombia, por ejemplo:

      Interseccionalidad: Reconocer cómo las opresiones múltiples (género, etnia, clase) afectan el acceso y uso de tecnologías, y diseñar soluciones que atiendan estas necesidades interrelacionadas.

      Asimismo, incorporar cosmovisiones y saberes ancestrales en el diseño tecnológico para desafiar los paradigmas dominantes y construir modelos alternativos de innovación.

      Ecofeminismo: Abogar por tecnologías que no solo sean socialmente justas, sino también sostenibles y respetuosas con el medio ambiente.

      La creación de tecnologías que respeten las necesidades ecológicas y culturales de las comunidades locales, como herramientas para la gestión sostenible de recursos naturales o la preservación de lenguas y saberes indígenas.

      La Inteligencia Artificial en Colombia tiene el potencial de abordar las desigualdades locales si se desarrolla desde una lógica inclusiva y alternativa que:

      Promueva la participación de comunidades diversas, especialmente de mujeres y personas con discapacidades, en todas las etapas de desarrollo de la tecnología.

      Incorpore lenguas y perspectivas locales en las bases de datos y algoritmos.

      Garantice la transparencia, la gobernanza inclusiva y la responsabilidad en el uso de tecnologías.

      Para el futuro se podrían:

      Implementar políticas que financien proyectos de tecnología inclusiva y promuevan la participación comunitaria en su diseño.

      Crear espacios para que mujeres, comunidades indígenas y otros grupos marginados puedan aportar su experiencia y creatividad al desarrollo tecnológico.

      Crear proyectos piloto que estén inspirados en iniciativas como Papa Reo, desarrollar herramientas de IA para lenguas indígenas en Colombia que sirvan como modelo para otras regiones.

    4. According to Srinivasan (2019),1 the way people in the global South use and experience digital technologies could help bring a different understanding to tech innovation and its applications in the real world and the ways in which they are built for and by users.

      Las comunidades indígenas en Colombia representan un componente esencial de la diversidad cultural, étnica y epistemológica del país. Estas comunidades poseen conocimientos ancestrales que pueden aportar soluciones innovadoras frente a problemas complejos, como la sostenibilidad ambiental, la gestión de recursos y la convivencia en contextos de diversidad. Estos saberes, aunque históricamente marginados, tienen el potencial de enriquecer la forma en que se diseñan y utilizan las tecnodiversidades, incluida la Inteligencia Artificial, para que sean inclusivas y contextualizadas.

      La implementación de tecnologías que respeten y promuevan las lenguas indígenas puede contribuir a la preservación del patrimonio cultural y facilitar el acceso a derechos fundamentales para estas comunidades.

      Asimismo, la traducción en Colombia, particularmente en el contexto de lenguas indígenas, es una herramienta fundamental para la inclusión y la equidad. Dada la diversidad lingüística del país, la traducción puede actuar como intermediación multilíngue entre estas comunidades y el desarrollo tecnológico.

      La Inteligencia Artificial puede desempeñar un papel crucial en la traducción automática y el procesamiento del lenguaje natural para lenguas indígenas. Sin embargo, esto requiere una infraestructura adecuada y un enfoque ético para garantizar que estas tecnologías respeten las particularidades culturales como los culturemas y no refuercen asimetrías de poder.

      Colombia, desde el Sur Global, enfrenta desafíos significativos en términos de desigualdad y acceso a tecnología. Sin embargo, también tiene la oportunidad de liderar un modelo de innovación que sea sensible a las realidades locales y que priorice la justicia social y ambiental. La Inteligencia Artificial podría:

      Diseñar tecnologías accesibles que respondan a las necesidades específicas de comunidades en contextos de bajos recursos.

      Desarrollar algoritmos y bases de datos que incluyan y prioricen las lenguas y conocimientos indígenas.

      Abordar problemas ambientales de manera contextualizada y sostenible.

      Las políticas públicas deben promover la participación activa de las comunidades indígenas y otros actores marginados en la creación y uso de tecnologías. Esto incluye:

      Financiación para proyectos de traducción y preservación de lenguas indígenas utilizando la Inteligencia Artificial.

      Promoción de la participación comunitaria en el diseño de tecnologías.

      Regulaciones éticas para garantizar que las tecnologías no perpetúen formas de violencia estructural ni exclusión.

    1. strong critiques of AI from a feminist standpoint

      Las corporalidades y feminismos en la Inteligencia Artificial se podría ver reflejada en la invisibilidad del cuerpo en la tecnología.

      La Inteligencia Artificial, frecuentemente percibida como desprovista de corporalidad aunque goza de ensamblajes ya que son organizaciones de personas las que operan sobre datos que representan cuerpos humanos en la Inteligencia Artificial. Sin embargo, las brechas de datos de género reflejan cómo ciertas corporalidades (como las de mujeres, personas racializadas o no conformes con el género) son ignoradas o mal representadas. Esto afecta directamente la producción de sistemas de IA que perpetúan desigualdades corporales y sociales.

      La materialidad de los datos es la falta de datos sobre cuidados no remunerados o violencia de género que invisibiliza las experiencias corporales. Estos datos “faltantes” no solo son números, son ausencias que impactan cuerpos reales, reproduciendo desigualdades en políticas y decisiones tecnológicas.

      Las estrategias normativas y la performatividad del cambio se centran en las estrategias educativas para la transformación de normas (como entrenamientos en género y diversidad) que pueden incluir perspectivas corporales para abordar las maneras en que las tecnologías moldean las experiencias físicas, desde interfaces hasta el impacto del reconocimiento facial en personas racializadas.

      La traducción como herramienta feminista aplicaría a la traducción de conceptos complejos como “feminismo de datos” o “IA feminista” que requiere una mediación cultural y lingüística que haga accesibles estos temas en contextos diversos. Las herramientas normativas, como las guías educativas sobre Inteligencia Artificial, pueden ser traducidas y adaptadas para comunidades no angloparlantes, fomentando un cambio inclusivo.

      Los sesgos lingüísticos en la Inteligencia Artificial se manifiestan porque los algoritmos de procesamiento de lenguaje natural incorporan sesgos culturales que pueden reforzar estereotipos de género. Por ejemplo, traductores automáticos que perpetúan roles de género (“doctor” vs. “enfermera”) necesitan intervenciones basadas en datos de género de alta calidad para minimizar estas desigualdades.

      La traducción como puente disciplinar e intermediación lingüística. Dado que las estrategias para la IA feminista requieren la colaboración entre tecnólogos, activistas y teóricos, la traducción también puede entenderse como una práctica de mediación entre disciplinas, ayudando a alinear epistemologías divergentes.

      La IA feminista y el potencial transformador en los datos para cuerpos diversos se puede percibir para crear y usar datos sobre experiencias corporales diversas, como el impacto del diseño de ciudades en mujeres, personas en condición de discapacidad, o personas trans, es crucial para una IA feminista que considere a todas las corporalidades.

      La educación para la inclusión abarcaría las normativas que fomenten el uso de herramientas educativas, como guías sobre los riesgos de la Inteligencia Artificial, ya que son vitales para garantizar que las tecnodiversidades no reproduzcan exclusiones históricas.

      El diálogo interdisciplinar de la traducción entre datos (cuantitativos y cualitativos) y las narrativas sobre género puede ser el punto de partida para superar las barreras de autoridad que limitan los cambios en la Inteligencia Artificial. Esto incluye no solo traducir términos técnicos, sino también experiencias humanas.