Génération des preuves
Utilisation des preuves
Asia
Génération des preuves
Utilisation des preuves
Asia
Les nouvelles sources de données et les algorithmes qui les exploitent constituent des éléments constitutifs importants pour de nombreux produits financiers sur les marchés émergents. Ces algorithmes soulèvent également de nouveaux risques liés à la discrimination et à l’éthique, qui ne sont pas toujours compris, même par ceux qui les supervisent. Il est nécessaire de mieux comprendre comment nous pouvons surveiller et résoudre les problèmes éthiques avec des algorithmes tels que l’équité et la discrimination.
Ce webinaire, hébergé par l'IPA, a été l'occasion de dialoguer avec des voix de premier plan sur l'utilisation éthique des données des consommateurs pour les services financiers, et d'apprendre de leurs expériences directes dans le cadre de leur travail à travers le monde. Ce webinaire était le troisième du programme IPA Série de forums des praticiens de la protection des consommateurs.
Cathy O'Neil, auteur du best-seller Destruction d'armes de maths et PDG d'O'Neil Risk Consulting & Algorithmic Auditing (ORCAA), a présenté un aperçu de ses recherches sur les « armes de destruction mathématique » – des algorithmes de boîte noire utilisés avec peu ou pas de responsabilité dans les décisions qui affectent profondément la vie des gens, y compris les services financiers. Cathy a également présenté la matrice éthique, une approche flexible pour identifier et atténuer les préjudices pouvant découler de ces algorithmes.
Jacob Appel, Stratège en chef ORCAA, puis j'ai approfondi la question des variables proxy, des données apparemment neutres qui contiennent des informations sur les individus que le modélisateur n'est pas censé connaître. Les variables proxy sont la raison pour laquelle les approches simples, aveugles au genre ou aux couleurs, sont insuffisantes aujourd’hui. Les panélistes ont ensuite discuté de quelques approches techniques et politiques actuelles pour traiter ces questions.
Pour replacer ces questions dans le contexte des services financiers, Malavika Raghavan, experte indépendante en protection des données dans le secteur du crédit à la consommation, a expliqué comment les services financiers numériques peuvent relever les défis éthiques tout en augmentant l'accès aux services financiers dans les populations mal desservies.
Les présentations ont été suivies d'une séance de questions-réponses animée par Rafe Mazer, directeur de l'Initiative de recherche sur la protection des consommateurs de l'IPA.
