8 Matching Annotations
  1. Jan 2025
    1. Technical, Social and Ethical Considerations of the Workflow of the system

      El perfil arquetípico para este sistema es una mujer activa en redes sociales que sufre violencia digital, siendo un referente de opinión o activista. Este enfoque tiene en cuenta que muchas de las mujeres víctimas son líderes de opinión, comunicadoras, académicas o activistas con influencia política, social y de derechos humanos. Por ello, el diseño de la interacción con el chatbot debe ser empático, inclusivo y sensible a las corporalidades de las mujeres en Colombia.

      Inteligencia Artificial en el Sistema

      La Inteligencia Artificial será clave para el procesamiento y análisis de los casos reportados. El sistema automatizado clasificará la información obtenida, identificando los siguientes elementos:

      Tipos de ataque: tipologías de violencia digital.

      Palabras clave asociadas al acoso: para identificar patrones recurrentes.

      Perfiles de los agresores: para identificar posibles perfiles de acosadores.

      Frecuencia y recurrencia: para rastrear la aparición de ataques en contextos específicos (por ejemplo, durante crisis sociopolíticas).

      El sistema permitirá, además, generar alertas automáticas cuando se identifiquen patrones de ataque coordinado o perfiles de agresores recurrentes. Esta información será almacenada en una base de datos, que alimentará visualizaciones de datos accesibles al público, lo cual puede ser utilizado por investigadores, periodistas y otras partes interesadas para desarrollar políticas públicas o acciones de defensa.

      Protección de Datos y Privacidad

      Los datos solicitados al momento del reporte de violencia digital serán limitados y confidenciales. Se pedirá a las víctimas que proporcionen:

      Fecha aproximada del ataque.

      Plataforma de redes sociales donde ocurrió el ataque.

      Evidencia del ataque (captura de pantalla, vínculo, detalles del perfil del agresor).

      Datos opcionales como nombre (no necesariamente real), correo electrónico, edad, ocupación y ciudad.

      El sistema incluirá una política de privacidad clara y accesible, explicando cómo se utilizarán los datos para el seguimiento y la elaboración de informes. Esto garantizará que el proceso sea transparente y respetuoso con la privacidad de las usuarias.

      Impacto y Alcance

      La implementación de este sistema en Colombia buscará generar un impacto social a través de una campaña de divulgación que informe a las mujeres sobre la disponibilidad de esta plataforma para reportar casos de DGV y recibir orientación. El sistema tiene como objetivo:

      Desarrollar un modelo de base de datos que categorice y cuantifique los casos de violencia digital en Colombia.

      Generar visualizaciones de datos que sean descargables y útiles para diversas partes interesadas.

      Crear informes que sirvan como herramientas para la toma de decisiones en políticas públicas y apoyo de organizaciones feministas y de derechos humanos.

      Desarrollo Futuro

      El desarrollo del prototipo del chatbot se apoyaría en principios feministas, y se utilizarían guías de Inteligencia Artificial feminista para asegurar que el diseño del sistema no solo sea funcional, sino también ético y respetuoso con las mujeres. Este chatbot no será una solución única, sino parte de un sistema de soporte integral que incluye recursos y apoyo emocional, legal y digital. Además, se buscarán colaboraciones con organizaciones feministas en Colombia y el sector público para fortalecer el impacto y la implementación del sistema.

      Búsqueda de financiamiento para la fase de desarrollo y prueba del prototipo.

      Desarrollo y ajuste del chatbot con la inclusión de un equipo de programadores especializados.

      Establecimiento de alianzas con organizaciones y organismos nacionales e internacionales para apoyo en la fase de implementación.

      Publicación del informe final y la documentación técnica para su difusión académica y en medios abiertos.

    2. Presentation of the proposal: towards a feminist chatbot prototype

      El diseño podría incorporar posibilidades sensibles a las corporalidades, la traducción y la Inteligencia Artificial para adaptarlo a las necesidades de las mujeres en Colombia.

      Etapas del Proceso de Interacción

      Reporte Inicial (Paso 1)

      La mujer afectada conecta con el chatbot y se le invita a relatar su experiencia, utilizando un lenguaje empático que no victimiza ni culpa. Se le preguntan detalles sobre el ataque (plataforma, tipo de violencia, momento, posibilidad de subir evidencia, etc.).

      La Inteligencia Artificial se emplea para clasificar los casos con base en palabras clave y patrones de violencia digital, generando una base de datos para un análisis más profundo.

      Orientación para Reportar en Plataformas Sociales (Paso 2)

      El chatbot guía a la víctima sobre cómo denunciar en la plataforma donde ocurrió el ataque, proporcionando enlaces directos a formularios y tutoriales.

      Orientación para Reportar a la Policía (Paso 3)

      Se ofrecería información sobre cómo denunciar el caso a la policía colombiana, proporcionando enlaces y números de contacto relevantes.

      Apoyo Legal (Paso 4)

      El chatbot proporciona orientación sobre el marco legal colombiano, aunque la violencia digital aún puede no estar completamente tipificada como delito, y ofrece enlaces a organizaciones que brindan asesoría legal.

      Apoyo Emocional (Paso 5)

      El chatbot ofrece acceso a información sobre apoyo emocional y psicológico, al incluir organizaciones que trabajan en salud mental y acompañamiento para mujeres víctimas de violencia.

      Seguridad Digital (Paso 6)

      Se ofrece orientación sobre cómo mejorar la seguridad digital, al proporcionar guías descargables y recomendaciones sobre plataformas especializadas en ciberseguridad, adaptadas al contexto colombiano.

      Monitoreo del Caso (Paso 7)

      El chatbot hace seguimiento al caso, pregunta si la violencia persiste y ofrece la opción de recibir información sobre talleres relacionados con la violencia digital y la protección en línea.

      Conexión con una Comunidad (Paso 8)

      Se ofrece la posibilidad de unirse a una comunidad de mujeres que han experimentado situaciones similares, creando un espacio seguro para el apoyo mutuo.

      Cierre del Diálogo (Paso 9)

      El chatbot cierra la conversación con un mensaje de apoyo y proporciona acceso continuo a los recursos y servicios disponibles.

      Corporialidades

      El chatbot debe comprender las diversas formas en que las mujeres experimentan la violencia digital, al considerar no solo las consecuencias emocionales y psicológicas, sino también cómo estos ataques pueden afectar su cuerpo, su bienestar y su seguridad. El chatbot debe ofrecer una interacción sensible a estos aspectos, al asegurar que la víctima se sienta comprendida y no juzgada.

      Traducción

      Se debe adaptar el lenguaje y los recursos disponibles al contexto colombiano, al tener en cuenta las diversas realidades socioculturales del país, como las diferencias en dialectos, clases sociales y la especificidad de las plataformas de comunicación más usadas por las mujeres colombianas. El chatbot puede ofrecer versiones en español con terminología regional para asegurar una mejor comprensión.

      Inteligencia Artificial

      La Inteligencia Artificial juega un papel fundamental al analizar los datos recopilados, luego de identificar patrones de abuso y ayudar a clasificar los tipos de violencia digital. Además, la Inteligencia Artificial puede optimizar el sistema para ofrecer respuestas más rápidas y personalizadas, al aprender de cada interacción para mejorar la asistencia en tiempo real.

    3. Methodology : Applying feminist principles in the research with women who have experienced DGV situations

      La creación de un sistema de respuesta para mujeres que han sufrido violencia de género digital desde una perspectiva feminista implica desarrollar todo el proceso de diseño y creación basado en principios feministas. Este enfoque, fundamentado en la co-creación participativa, el pluralismo, la agencia de las usuarias y la incorporación de corporalidades, busca soluciones tecnológicas que respeten y amplifiquen las experiencias y necesidades de las mujeres afectadas.

      Principios Clave para el Diseño Feminista

      Pluralismo y Participación

      Involucrar activamente a las mujeres afectadas y a organizaciones feministas durante el proceso de diseño para garantizar que las soluciones reflejen sus vivencias y necesidades específicas.

      Conocimiento Situado

      Reconocer las dinámicas de poder y evitar reproducir desigualdades estructurales. La metodología debe ser inclusiva y ética, dando espacio a voces históricamente marginadas.

      Embodiment (Corporalidad)

      Incorporar la dimensión emocional y corporal en la investigación, entendiendo cómo las mujeres viven y procesan los episodios de violencia digital.

      Agencia de las Usuarias

      Diseñar sistemas donde las mujeres sean protagonistas y agentes de su propio proceso, en lugar de delegar el poder únicamente a los diseñadores o instituciones.

      Metodología de Investigación

      El diseño del sistema se estructuró en dos fases principales:

      Co-creación con Mujeres Afectadas y Organizaciones Feministas

      A través de entrevistas profundas y dinámicas participativas (como mapas de viaje emocional), se exploraron las experiencias, necesidades y deseos de las mujeres afectadas.

      Hallazgos Clave

      Sensación de soledad y desorientación al enfrentar la violencia digital.

      Restricciones autoimpuestas en redes sociales, como privatización de cuentas y limitación de publicaciones.

      Necesidad de comunidades de apoyo para compartir experiencias y evitar revictimización.

      Deseo de sistemas tecnológicos que ofrezcan orientación clara y rápida.

      Entrevistas con Instituciones y Expertos

      Se consultaron actores estratégicos, como instituciones públicas y organizaciones especializadas, para validar y complementar las necesidades identificadas.

      Propuesta Tecnológica: Incorporación de Inteligencia Artificial y Traducción

      Uso de IA para la Detección y Análisis

      Patrones de Violencia: Identificar tendencias en el uso de palabras clave, emojis o comportamientos recurrentes.

      Alertas Preventivas: Implementar sistemas que indiquen niveles de riesgo y sugieran acciones inmediatas.

      Apoyo Multilingüe

      Implementar traducción automática para garantizar accesibilidad a mujeres de diferentes regiones y contextos lingüísticos en Colombia.

      Enfoque Comunitario y de Cuidado

      Crear redes de apoyo virtual donde las mujeres puedan compartir experiencias y recibir orientación en tiempo real.

      Recomendaciones Específicas para aplicarlo en Colombia

      Contexto y Localización

      Adaptar el sistema a las necesidades específicas de mujeres colombianas, considerando las barreras de acceso tecnológico y el limitado apoyo institucional en ciertos casos de VGD.

      Protocolo de Orientación

      Diseñar un protocolo que permita a las usuarias entender qué es la violencia digital, cómo proceder y con quién contactar para recibir apoyo.

      Confidencialidad y Privacidad

      Garantizar que el sistema no requiera información personal innecesaria y respete la privacidad de las usuarias, especialmente en contextos de violencia.

      Colaboración y Sostenibilidad

      Fomentar alianzas entre organizaciones feministas, instituciones locales y expertos en Inteligencia Artificial para asegurar la sostenibilidad del proyecto.

    4. Summary of feminist principles' framework for AI

      La Inteligencia Artificial puede ser una herramienta clave para abordar la VGD en Colombia mediante el desarrollo de chatbots o agentes conversacionales:

      Asesorar y guiar para proveer información sobre derechos, rutas de denuncia y acceso a apoyo legal, psicológico y emocional.

      Prevenir y detectar patrones de riesgo al analizar palabras clave, emojis o interacciones para identificar posibles crisis de violencia y generar alertas.

      Empoderar comunidades para permitir que las víctimas accedan a redes de apoyo y recursos de manera anónima y segura, respetando principios de privacidad y datos.

      Principios clave para el desarrollo de IA feminista

      De acuerdo con los principios propuestos por Juliana Guerra (2022) y basados en experiencias previas con chatbots en otros países, las soluciones de IA deben:

      Ser colaborativas y participativas para co-diseñarse con comunidades, activistas y expertas/os para reflejar las necesidades específicas del contexto colombiano.

      Incorporar conocimientos situados para reconocer las particularidades socioculturales y las corporalidades diversas de las personas usuarias.

      Garantizar privacidad y consentimiento al usar datos de manera transparente y proteger la identidad de las víctimas.

      Fomentar la autonomía para crear herramientas de código abierto y accesibles, evitando la dependencia exclusiva de instituciones públicas.

      Un chatbot inspirado en iniciativas como Maruchatbot o Soy Violetta podría ser diseñado en Colombia para:

      Brindar orientación en español y lenguas indígenas.

      Incorporar enfoques interseccionales que reconozcan las realidades de mujeres rurales, afrodescendientes y LGBTIQ+.

      Detectar riesgos mediante Inteligencia Artificial, pero sin almacenar información sensible innecesaria.

      Crear alianzas con organizaciones locales y académicas para garantizar sostenibilidad y contextualización.

    5. Chilean context

      En Colombia, la ausencia de datos sistematizados, políticas públicas específicas y mecanismos de apoyo institucional, al igual que en Chile, las mujeres enfrentan esta violencia de forma individualizada, sin acceso consistente a redes de apoyo o recursos adecuados. La situación se complica al considerar las diversas corporalidades y contextos sociales, como el de las mujeres rurales, afrodescendientes, indígenas y LGBTQ+, quienes enfrentan formas de violencia exacerbadas por su interseccionalidad.

      El país carece de un marco normativo sólido para enfrentar la VGD, a pesar de iniciativas legislativas recientes que abordan parcialmente el problema. Las denuncias en redes sociales, principal mecanismo utilizado por las víctimas, presentan limitaciones como la falta de seguimiento, la continuidad de los ataques y la opacidad de los procedimientos de las plataformas.

      La incorporación de Inteligencia Artificial puede transformar el abordaje de la VGD en Colombia con:

      Creación de sistemas de datos sistematizados

      Bases de datos integradas y centralizadas que permitan identificar patrones, tendencias y perfiles de agresores.

      Análisis predictivo para anticipar riesgos y mejorar los mecanismos de protección para las mujeres.

      Desarrollo de chatbots con enfoque feminista

      Prototipos como asistentes conversacionales que proporcionen orientación legal, psicológica y emocional, adaptados a los contextos regionales y culturales del país.

      Incorporación de traducción automática para lenguas indígenas y dialectos, garantizando accesibilidad en comunidades diversas.

      Fortalecimiento de redes de apoyo virtuales

      Promoción de iniciativas lideradas por colectivas feministas y activistas tecnológicas para diseñar herramientas que amplíen las capacidades de respuesta comunitaria.

      Creación de espacios seguros para compartir experiencias y buscar ayuda sin temor a represalias.

      Prevención mediante Inteligencia Artificial

      Campañas educativas automatizadas para informar sobre la VGD y empoderar a las mujeres en el uso seguro de tecnologías digitales.

      Principios feministas para el diseño de IA

      El diseño de estas herramientas debe incorporar principios feministas que cuestionen el extractivismo de datos y prioricen la privacidad y la seguridad de las usuarias. Además, deben considerar las corporalidades y experiencias diversas de las mujeres en Colombia, garantizando que las soluciones no perpetúen desigualdades estructurales.

      El desarrollo de soluciones basadas en Inteligencia Artificial, junto con políticas públicas adecuadas y la participación activa de mujeres en su diseño, puede ser un paso crucial para abordar la violencia de género digital en Colombia. Esto no solo contribuiría a la prevención y atención de casos, sino también a la creación de un entorno digital más seguro e inclusivo para todas las mujeres.

    6. Summary of Gender Digital Violence

      En Colombia, la violencia de género digital (VGD) no solo afecta a mujeres por su mera presencia en plataformas digitales, sino que se agrava cuando participan activamente en debates, liderazgos políticos o en la defensa de derechos humanos y la igualdad de género. Esta violencia, una extensión de la violencia de género offline, tiene profundas consecuencias en la vida personal, emocional y pública de las mujeres, afectando su identidad, dignidad, integridad física y psicológica, y su derecho a la libertad de expresión.

      La violencia política contra las mujeres, definida por la Organización de los Estados Americanos (OEA) como cualquier acción basada en el género que busca limitar o anular el ejercicio de sus derechos políticos, se manifiesta de forma recurrente en redes sociales. Estos espacios digitales, estratégicos para comunicadoras, activistas y lideresas, son utilizados para acoso, discursos de odio, ataques simbólicos y amenazas, con el objetivo de silenciar sus voces o inhibir su participación pública.

      El impacto de la VGD y la violencia política digital se evidencia en la autocensura, la eliminación de perfiles en redes sociales y el retiro del debate público, perpetuando las barreras de género existentes. Esto afecta especialmente a mujeres indígenas, afrodescendientes, rurales y LGBTQ+, cuyas corporalidades y experiencias de violencia están atravesadas por múltiples formas de discriminación.

      En Colombia, donde las desigualdades sociales y la violencia de género convergen con altos índices de violencia política, la Inteligencia Artificial podría desempeñar un papel esencial.

      Monitoreo de violencia digital

      Uso de Inteligencia Artificial para detectar patrones de discurso de odio, acoso y amenazas dirigidas a mujeres en redes sociales.

      Mapeo de las dinámicas de violencia en diferentes regiones y plataformas.

      Orientación personalizada

      Creación de chatbots que brinden apoyo inmediato a víctimas de VGD, incluyendo traducción automática a lenguas indígenas y regionales, adaptándose a las realidades pluriculturales del país.

      Provisión de información sobre recursos legales y psicológicos específicos para mujeres en riesgo.

      Prevención y sensibilización

      Implementación de campañas automatizadas y personalizadas para educar sobre la violencia de género digital y sus consecuencias, utilizando redes sociales para contrarrestar narrativas de odio.

      Ética e inclusión

      Cualquier solución tecnológica debe integrar un enfoque interseccional que considere las corporalidades y contextos diversos de las mujeres en Colombia, al respetar la privacidad y evitar prácticas extractivistas de datos. Además, es crucial incluir la participación activa de las mujeres afectadas en el diseño e implementación de estas herramientas, para garantizar su relevancia y efectividad.

      La traducción, las corporalidades y la Inteligencia Artificial, puede transformar el abordaje de la VGD en Colombia, fortaleciendo la resiliencia de las mujeres y garantizando espacios digitales más seguros. Sin embargo, para que estas soluciones sean sostenibles, deben estar acompañadas de políticas públicas, colaboración interinstitucional y compromiso social para erradicar las raíces estructurales de la violencia de género.

    7. La red Red de Investigación Feminista en Inteligencia artificial, f<a+i>r

      La violencia de género digital (VGD) en Colombia refleja las desigualdades y dinámicas de poder presentes en la sociedad, adaptadas al ámbito tecnológico. Este fenómeno no es estático, ha evolucionado junto con el desarrollo de las tecnologías y su uso social, al transformarse desde los inicios del Internet en 1990 hasta el contexto actual de redes sociales, dispositivos móviles e interconectividad masiva. La VGD engloba cualquier conducta, acción o comportamiento que implique agresiones contra mujeres, niñas y adolescentes, con una fuerte dimensión de género que perpetúa las desigualdades.

      La VGD ha sido reconocida por organismos internacionales como las Naciones Unidas y la Iniciativa Spotlight, que destacan el uso de tecnologías de la información y comunicación (TIC) como un medio que facilita, agrava o amplifica actos de violencia de género.

      Se identifica como cualquier acción basada en el género que cause daño físico, psicológico, económico o simbólico, instigada o asistida por tecnologías como celulares, Internet y redes sociales.

      En Colombia, como en otros países de América Latina, se han identificado entre 10 y 12 tipos de VGD, que incluye:

      Acceso no autorizado: Intervención o control de cuentas personales o dispositivos.

      Manipulación de información: Alteración o difusión de datos personales.

      Acoso y vigilancia: Seguimiento constante en línea.

      Divulgación de contenido íntimo sin consentimiento: Publicación de imágenes o información personal.

      Estas formas de violencia afectan de manera desproporcionada a las mujeres debido a los roles de género y las dinámicas de poder que se trasladan al espacio digital.

      La Inteligencia Artificial puede ser una herramienta crucial para abordar la VGD, especialmente en un país como Colombia, donde las desigualdades tecnológicas y sociales complican la identificación y respuesta a estos casos. Desde una posibilidad feminista e inclusiva, las siguientes aplicaciones son relevantes:

      Detección y prevención

      Uso de procesamiento de lenguaje natural (NLP) para identificar discursos de odio y amenazas en redes sociales.

      Análisis de patrones en datos para prevenir casos recurrentes y mapear perfiles de agresores.

      Orientación y apoyo a víctimas

      Creación de un chatbot diseñado para brindar atención inicial a mujeres víctimas de VGD, ofreciendo información sobre recursos legales, psicológicos y de seguridad.

      Traducción automática y adaptada para alcanzar a mujeres de diferentes regiones lingüísticas y culturales del país.

      Sistematización de casos

      Generación de bases de datos seguras para documentar incidentes y proponer políticas públicas basadas en evidencia.

      Posibilidades éticas y sociales

      Es fundamental que el uso de Inteligencia Artificial respete la privacidad y autonomía de las mujeres, evitando el extractivismo de datos y la revictimización. Además, su implementación debe ser sensible a las corporalidades, entendiendo que las experiencias de violencia están mediadas por factores como género, raza, clase y ubicación geográfica.

      La combinación del desarrollo tecnológico con una posibilidad feminista puede transformar la forma en que Colombia enfrenta la VGD. Esto requiere no solo innovación en Inteligencia Artificial, sino también colaboración entre el gobierno, la sociedad civil y organismos internacionales para garantizar que las soluciones sean inclusivas, éticas y efectivas.

    8. Digital Gender-Based Violence (DGV)

      En Colombia, como en otros contextos, la violencia de género contra las mujeres se extiende a los espacios digitales, siendo una expresión del continuo de dominación patriarcal. La violencia de género digital (VGD) constituye un problema creciente en una sociedad cada vez más digitalizada, donde los entornos virtuales son una extensión de la realidad física. Esta violencia se manifiesta en acoso, discurso de odio, amenazas y otras formas de agresión hacia las mujeres a través de medios tecnológicos.

      Colombia enfrenta retos similares a los de países como Chile: falta de datos sistematizados sobre casos de VGD y ausencia de políticas públicas que midan, prevengan y respondan a estas situaciones. Las iniciativas que existen suelen ser impulsadas por colectivos feministas y organizaciones civiles, pero estas no son suficientes para abordar la magnitud del problema.

      La Inteligencia Artificial puede jugar un papel clave en la lucha contra la VGD, especialmente a través del procesamiento del lenguaje natural (NLP). Estas tecnologías pueden analizar grandes cantidades de datos no estructurados, sistematizar denuncias y brindar orientación inicial a las víctimas. Por ejemplo, un chatbot diseñado con principios feministas podría:

      Recopilar y organizar denuncias de manera segura.

      Ofrecer una orientación inicial sobre recursos legales y psicológicos disponibles.

      Generar bases de datos para identificar patrones, características de los agresores y tendencias de violencia en redes sociales.

      Sin embargo, el uso de la Inteligencia Artificial plantea desafíos éticos y sociales relacionados con la privacidad, el extractivismo de datos y la delegación de decisiones críticas a las máquinas. Por ello, cualquier desarrollo en este ámbito debe integrar principios feministas y un enfoque ético que priorice el bienestar y la seguridad de las mujeres afectadas.

      Contexto colombiano

      Dado el contexto de Colombia, donde las desigualdades de género se intersectan con problemáticas como la violencia armada, el acceso desigual a la tecnología y las brechas educativas, un proyecto de esta naturaleza debería adaptarse a las necesidades específicas del país. Algunas acciones clave serían:

      Identificación de prácticas locales e internacionales para analizar experiencias de otros países y adaptarlas a las realidades culturales, sociales y legales de Colombia.

      Diseño inclusivo para incorporar las voces de mujeres colombianas que han sufrido VGD y de organizaciones locales para garantizar un enfoque representativo.

      Enfoque territorial para reconocer las diferencias en el acceso y uso de la tecnología entre áreas urbanas y rurales, así como las dinámicas específicas de violencia en cada contexto.

      Colaboración interinstitucional para integrar el desarrollo del chatbot con esfuerzos de la sociedad civil, entidades estatales y organismos internacionales que trabajan en la atención a víctimas.

      Esto no solo permitiría responder a la violencia de género digital, sino que también podría contribuir a visibilizar y combatir las desigualdades estructurales que perpetúan esta problemática en Colombia.