PRÉSENTATION

La Nouvelle-Zélande est le premier pays au monde à édicter une charte de bonne conduite pour son administration publique. Celle ci va plus loin que le règlement général sur la protection des données (RGPD) européen : la machine ne doit pas décider de tout.

Le texte dit explicitement que les algorithmes doivent protéger « l’éthique et les droits de l’homme ». Si les algorithmes peuvent contribuer à réduisent les biais  qu’un humain peut introduire dans un processus, son avis doit continuer à éclairer toute prise de décision.

Nous vous proposons l’article publié à ce sujet par Ouest France.

ARTICLE

Nouvelle-Zélande. Une charte contre la toute-puissance des algorithmes

Ouest-France, Arnaud BÉLIER.Publié le 29/07/2020 

« Ils sont partout. Triturant des milliards de milliards de données pour en déduire des profils. Un jour, on reçoit une publicité, une proposition commerciale. Et on se remémore qu’on a visité un site, cliqué sur lien, rempli un formulaire sur ses passions, ses habitudes de voyage, de consommation. À l’ère digitale, les algorithmes ont pris une telle place dans notre vie que beaucoup appellent à réguler leur utilisation.

C’est désormais chose faite en Nouvelle-Zélande, premier pays au monde, à édicter une charte des bonnes pratiques à l’attention de son administration. Vingt et un ministères (Justice, Éducation, Environnement, Affaires intérieures, etc.) et différentes agences (comme l’équivalent de l’Insee) s’engagent à ce que les données recueillies respectent la vie privée. Mais la charte va plus loin que le règlement général sur la protection des données (RGPD) européen. Le texte dit explicitement que les algorithmes doivent protéger « l’éthique et les droits de l’homme ». Et que s’ils réduisent les biais  qu’un humain peut introduire dans un processus, son avis doit continuer à éclairer toute prise de décision.

Autrement dit, la machine ne doit pas décider de tout. En avril 2018, un rapport avait révélé que l’algorithme utilisé par le ministère de l’Immigration néo-zélandais filtrait les demandes de visa en fonction de l’âge, du sexe et de l’origine ethnique des demandeurs. Le ministre, Ian Lees-Galloway, avait contesté tout profilage racial, mais reconnu que le système filtrait bel et bien les personnes qui font peser le plus lourd fardeau sur le système de santé [et] le système de justice pénale ».«