8 Matching Annotations
  1. Nov 2020
  2. Oct 2020
    1. Car la condition essentielle de son fonctionnement est que les internautes n’aient pas agi en fonction du PageRank, mais que leur choix de liens distribue de façon « naturelle » les honneurs et les oublis. Si les jugements qu’ils s’échangent à travers les liens ont été produits en fonction du méta-coordinateur qui les agrège, la pertinence épistémique du résultat en sera profondément altérée.

      Un peu de la même manière que l'observateur d'une population influence toujours les observations anthropologique, ou que les études cliniques peuvent être biaisées si les participants connaissent à l'avance l'hypothèse exacte que les chercheurs veulent vérifier.

  3. Jun 2020
    1. Ensuite, les obligations de transparence à l’égard des tiers restent, quand elles existent, insuffisantes comme l’a rappelé le Conseil constitutionnel dans sa décision du 3 avril 2020 relative à Parcoursup31. Il faudrait prévoir que les tiers, et non les seuls destinataires des décisions individuelles, puissent accéder aux critères utilisés par l’algorithme pour les mettre en capacité de repérer d’éventuels biais.
    2. Les organisations qui utilisent des algorithmes ne sauraient échapper à leurs responsabilités sous couvert d’ignorance, d’incompétence technologique ou d’opacité des systèmes. Les biais algorithmiques doivent pouvoir être identifiés puis corrigés et les auteurs de décisions discriminatoires issues de traitement algorithmiques doivent pouvoir être sanctionnés.

      c'est aussi le cas de mesures manuelles

    3. Sur suggestion de Predpol, les forces de police se rendront en majorité dans ces quartiers et y constateront de nouvelles infractions, venant ainsi approvisionner la base d’apprentissage de nouvelles données biaisées. Les algorithmes peuvent ainsi former des boucles de rétroaction par lesquelles stéréotypes, discriminations et inégalités se confortent mutuellement, contribuant ainsi à cristalliser durablement des situations d’inégalité1
    4. L’un des biais fréquents repose sur le manque de représentativité des données mobilisées.