Llamado a la acción

Acciones algorítmicas equitativas para corregir los sesgos y barreras de la vida real que impiden que las mujeres y las niñas logren la participación plena y el disfrute igualitario de los derechos.

Instituciones públicas para pilotar y liderar: Acción afirmativa para algoritmos implementados cuando las instituciones públicas pilotan ADM. Basar los pilotos en investigaciones de ciencias sociales nuevas y de larga data que asignan incentivos sociales, subsidios o becas donde las mujeres tradicionalmente han sido dejadas atrás en sistemas anteriores. Esta es una agenda positiva para promover los valores de igualdad que hemos adoptado durante mucho tiempo, para corregir la visibilidad, la calidad y la influencia de las mujeres proporcionales a la población.

Adopción por parte del sector público y privado de evaluaciones de impacto algorítmico (AIA): un marco de autoevaluación diseñado para respetar el derecho del público a conocer los sistemas de IA que impactan sus vidas en términos de principios de responsabilidad y equidad.

Pruebas rigurosas a lo largo del ciclo de vida de los sistemas de IA: las pruebas deben tener en cuenta los orígenes y el uso de los datos de entrenamiento, los datos de prueba, los modelos, la interfaz de programación de aplicaciones (API) y otros componentes a lo largo del ciclo de vida de un producto. Las pruebas deben cubrir ensayos previos al lanzamiento, auditorías independientes, certificación y monitoreo continuo para detectar sesgos y otros daños. La ADM debe mejorar la calidad de la experiencia humana, no controlarla.

Marcos legales sólidos para promover la rendición de cuentas: incluida la posible expansión de poderes para agencias sectoriales específicas o la creación de nuevos términos de referencia para supervisar, auditar y monitorear los sistemas de ADM para la supervisión regulatoria y la responsabilidad legal en el sector privado y público.

Directrices de adquisiciones con perspectiva de género: las organizaciones y todos los niveles de gobierno deben desarrollar directrices de adquisiciones de igualdad de género de ADM con objetivos estrictos; y describir los roles y responsabilidades de aquellas organizaciones requeridas para aplicar estos principios.

Mejorar los conjuntos de datos: datos abiertos desagregados por género, recopilación de datos y conjuntos de datos de calidad inclusivos: producir activamente conjuntos de datos abiertos desagregados por género; Esto permite comprender mejor las fuentes de sesgo en la IA y, en última instancia, mejorar el rendimiento de los sistemas de aprendizaje automático. Invertir en controles para supervisar los procesos de recopilación de datos y la verificación humana en el circuito, de modo que los datos no se recopilen a expensas de las mujeres y otros grupos tradicionalmente excluidos. Participar en procesos de recopilación de datos más inclusivos que se centren no solo en la cantidad sino también en la calidad de los conjuntos de datos.