Las comunidades indígenas en Colombia representan un componente esencial de la diversidad cultural, étnica y epistemológica del país. Estas comunidades poseen conocimientos ancestrales que pueden aportar soluciones innovadoras frente a problemas complejos, como la sostenibilidad ambiental, la gestión de recursos y la convivencia en contextos de diversidad. Estos saberes, aunque históricamente marginados, tienen el potencial de enriquecer la forma en que se diseñan y utilizan las tecnodiversidades, incluida la Inteligencia Artificial, para que sean inclusivas y contextualizadas.

La implementación de tecnologías que respeten y promuevan las lenguas indígenas puede contribuir a la preservación del patrimonio cultural y facilitar el acceso a derechos fundamentales para estas comunidades.

Asimismo, la traducción en Colombia, particularmente en el contexto de lenguas indígenas, es una herramienta fundamental para la inclusión y la equidad. Dada la diversidad lingüística del país, la traducción puede actuar como intermediación multilíngue entre estas comunidades y el desarrollo tecnológico.

La Inteligencia Artificial puede desempeñar un papel crucial en la traducción automática y el procesamiento del lenguaje natural para lenguas indígenas. Sin embargo, esto requiere una infraestructura adecuada y un enfoque ético para garantizar que estas tecnologías respeten las particularidades culturales como los culturemas y no refuercen asimetrías de poder.

Colombia, desde el Sur Global, enfrenta desafíos significativos en términos de desigualdad y acceso a tecnología. Sin embargo, también tiene la oportunidad de liderar un modelo de innovación que sea sensible a las realidades locales y que priorice la justicia social y ambiental. La Inteligencia Artificial podría:

Diseñar tecnologías accesibles que respondan a las necesidades específicas de comunidades en contextos de bajos recursos.

Desarrollar algoritmos y bases de datos que incluyan y prioricen las lenguas y conocimientos indígenas.

Abordar problemas ambientales de manera contextualizada y sostenible.

Las políticas públicas deben promover la participación activa de las comunidades indígenas y otros actores marginados en la creación y uso de tecnologías. Esto incluye:

Financiación para proyectos de traducción y preservación de lenguas indígenas utilizando la Inteligencia Artificial.

Promoción de la participación comunitaria en el diseño de tecnologías.

Regulaciones éticas para garantizar que las tecnologías no perpetúen formas de violencia estructural ni exclusión.

El conocimiento situado, una noción central en los feminismos del sur global, nos recuerda que los cuerpos están profundamente arraigados en contextos históricos, políticos y sociales. En este sentido, el diseño de Inteligencias Artificiales debe alejarse de la abstracción universalista y abordar las necesidades de cuerpos específicos, respetando sus narrativas.

El diseño colectivo implica la participación directa de comunidades que han sido excluidas de las discusiones sobre tecnología. Desde una posibilidad transfeminista, esto no solo incluye a mujeres cisgénero, sino también a personas no binarias, trans y de diversas experiencias de género. Esto asegura que la Inteligencias Artificiales refleje realidades múltiples y no refuerce estructuras de poder normativas.

Las comunidades indígenas, con su profundo conocimiento de la conservación y la interacción armónica con el entorno, aportan principios esenciales para el diseño ético de la Inteligencia Artificial. Estas comunidades entienden la tecnología como una extensión del cuerpo colectivo, no como una herramienta separada. La Inteligencia Artificial, podría integrarse como una herramienta para el bienestar ecológico y cultural, en lugar de un instrumento extractivista.

Las corporalidades son esenciales en la Inteligencia Artificial, ya que los datos utilizados reflejan las experiencias vividas de las personas. Sin embargo, estas experiencias están mediadas por atributos protegidos como género, raza o condición de discapacidad, los cuales a menudo están ausentes o mal representados en los sistemas algorítmicos. Esto limita la capacidad de los algoritmos para abordar inequidades estructurales. Por ejemplo, si un proceso de selección de personal omite mujeres en etapas iniciales, el sistema no podrá generar una representación justa más adelante.

Traducir conceptos como equidad o no discriminación en métricas procesables es un desafío. Los algoritmos deben manejar definiciones de justicia, pero no siempre pueden satisfacerlas simultáneamente. Esto requiere soluciones que minimicen las injusticias en distintos contextos. Además, los sistemas actuales comienzan a abordar problemas como la ausencia de atributos protegidos en los datos, utilizando técnicas que implican trabajar de forma implícita con la información demográfica.

La Inteligencia Artificial no es monolítica; es un conjunto de algoritmos interconectados que toman decisiones en varias etapas. El sesgo puede introducirse en cualquier punto, desde la preselección de datos hasta la etapa final de decisión. Por ejemplo, en procesos como la búsqueda web o la contratación, los sesgos en etapas iniciales limitan la capacidad de los algoritmos posteriores para producir resultados diversos y justos. Por ello, es crucial considerar la equidad en todas las partes del sistema, no solo en su resultado final.

Las corporalidades que han sido marginadas por género, raza u otros atributos, son fundamentales en el diseño de la Inteligencia Artificial. La selección de atributos que se consideran en un algoritmo refleja decisiones humanas sobre qué corporalidades e identidades deben ser visibilizadas y cómo deben ser representadas en los datos. Por ejemplo, en un sistema de contratación, garantizar la representación equitativa de hombres y mujeres o de personas no binarias implica reconocer y traducir estas identidades en métricas que el algoritmo pueda procesar.

Un desafío clave en el diseño de ls Inteligencia Artificial justa es traducir conceptos sociales como la equidad en definiciones matemáticas que los algoritmos puedan implementar. Definir métricas de justicia que sean contextualmente apropiadas. Por ejemplo, en un problema de clasificación de candidatos, podría requerirse que el algoritmo produzca una lista que refleje una distribución demográfica justa basada en género o raza. Este proceso de traducción no es neutral, ya que está influido por los valores y preferencias de los responsables del diseño.

Se destacan avances recientes que han permitido agrupar métricas de equidad en familias de definiciones, facilitando el desarrollo de meta-algoritmos. Estos frameworks no requieren rediseñar un algoritmo desde cero para cada contexto; en su lugar, aceptan definiciones específicas de justicia y producen resultados ajustados a esos criterios. Por ejemplo, al definir qué atributos proteger como género o raza y qué métrica de equidad emplear como representación igualitaria o tasas de error similares, el framework genera una solución personalizada para un caso particular.