Un principe de symétrie pour les algorithmes  (Contribution au débat sur l’éthique des algorithmes)

On pressent, face à la diversité des algorithmes qu’il y a une différence entre des systèmes algorithmiques qui opèrent dans l’intérêt des personnes, clients ou usagers (et qui y consentiraient si on leur demandait leur avis) et ceux qui « jouent » contre les personnes, par exemple pour identifier et dévoiler certaines de leurs pratiques[1].

La mise en œuvre d’algorithmes par les services publics pour détecter les fraudes cristallise, depuis quelques années, un débat sur la conception « unidirectionnelle » de ces algorithmes : destinés initialement ou principalement à détecter les fraudes et les fraudeurs, dans quelle mesure pourraient-ils être « symétrisés » pour détecter aussi les situations de non-recours aux droits et leurs bénéficiaires potentiels ?

La lutte contre le non-recours émerge dans les années 1970, sous la pression de deux phénomènes : un poids croissant des prestations dans les ressources allocataires et la complexification des droits du fait notamment de la mise sous conditions de ressources. Cette préoccupation a été relancée lors de la mise en place du RMI puis du RSA. En effet, le RSA et ses variantes, le RSA « activité » et le RSA « jeunes » ont présenté des taux de non-recours particulièrement élevés, estimés à 50 % en moyenne en 2011, le taux le plus fort étant celui du RSA « activité » qui s’élevait à 68 %.

« Ces algorithmes permettent de rationaliser les opérations de contrôle en les ciblant mieux, à travers une approche en trois étapes : dans un premier temps une base de données dédiée à l’étude des risques d’indus est créée. En second lieu il s’agit de procéder à l’analyse inductive de cette base de données, pour faire ressortir des régularités et créer des modèles. Enfin, dans une troisième étape les modèles sont intégrés dans les plans de contrôle afin de les appliquer à l’ensemble des données et de scorer les dossiers selon leur degré d’exposition aux risques. Outre l’augmentation de la rentabilité des opérations de contrôle, cette méthode permet également de réduire le nombre d’opérations mal ciblées et donc le sentiment des allocataires d’être contrôlés à tort ou pour des raisons injustifiées. De fait, on ne cible plus a priori des populations à risque mais des profils de dossiers à risque, sur des critères plus objectifs, en diminuant le biais humain qui prévalait dans les contrôles traditionnels »[2].

 Si le réseau des CAF a été le premier à déployer des outils de fouille de données (datamining), en 2012, la Direction générale des Finances publiques à partir de 2014, l’administration des douanes depuis 2015 ou encore Pôle emploi et l’Agence centrale des organismes de Sécurité sociale (ACOSS) mettent désormais en oeuvre ce type d’outils.

 Le Défenseur des droits a récemment souligné les risques posés par les méthodes de data mining dans la sphère sociale en termes de discrimination, lorsque ces outils viennent renforcer, voire légitimer la stigmatisation de profils à « risque »[3].

Dans une évaluation des politiques publiques en faveur de l’accès aux droits sociaux, les députés Gisèle Biémouret et M. Jean-Louis Costes proposaient en 2016 de « mettre les outils de lutte contre la fraude au service de la diminution du non-recours aux droits sociaux »[4].

Ce rapport s’appuyait sur le rapport d’évaluation de mise en œuvre du plan pluriannuel contre la pauvreté et pour l’inclusion sociale qui recommandait de « faire évoluer le RNCPS en vue de la détection des cas de non-recours »[5].

Dans le même sens, France Stratégie avait esquissé ce principe de symétrisation, dès 2012, en recommandant de « systématiser, au sein des organismes de protection sociale, la mise en place d’alertes pour détecter les cas potentiels de fraude et de non-recours à l’aide du Répertoire national commun de la protection sociale » [6].

Les Caisses d’allocations familiales ont d’ailleurs entrepris, en 2017, d’expérimenter, en Gironde, l’activation de ses algorithmes pour identifier, parmi les allocataires, ceux qui passent à côté de certaines prestations auxquelles ils ont pourtant droit.

L’utilisation « unidirectionnelle » des algorithmes pour dévoiler des pratiques de fraude ou de contournement des règles par les clients et les usagers ne pose pas forcément les mêmes questions selon qu’ils sont appliqués par des entreprises ou des administrations, qui doivent servir l’intérêt général et qui doivent rendre des comptes aux citoyens.

Voir aussi : Un bilan annuel des droits

 

Sources

[1]  Henri enri Verdier. Gouvernement des algorithmes : une contribution au débat

[2] Ange Chevallier et Géraldine Tauber : Big data et protection sociale : au-delà de la lutte contre la fraude, des opportunités à saisir pour améliorer l’accès aux droits

[3] Le Défenseur des droits Défenseur des droits  proposait de « substituer des contrôles aléatoires a alternatives à l’exploitation automatisée des données (data mining) afin de mieux garantir l’égalité de traitement des usagers » La Lutte contre la fraude aux prestations sociales : à quel prix pour les droits des usagers ? », 2017

[4] Le rapport proposait, à cette fin :

  • D’utiliser le répertoire national commun de la protection sociale (RNCPS) pour favoriser l’accès aux droits sociaux, notamment en systématisant, au sein des organismes de protection sociale, la mise en place d’alertes pour détecter les cas potentiels de non-recours ;
  • De mettre en place une plateforme globale d’échanges entre administrations, allant au-delà du champ de la sécurité sociale et placée sous l’égide d’un conseil de gestion et de surveillance chargé de veiller à la sécurité des échanges et au respect des règles de la CNIL, afin de procéder à des échanges de données pour rechercher des droits non réclamés ;
  • De généraliser l’utilisation du data mining(exploration de données) pour faciliter la détection des cas de non-recours.

Rapport d’information du comité d’évaluation et de contrôle des politiques publiques sur l’évaluation des politiques publiques en faveur de l’accès aux droits sociaux présenté par Mme Gisèle Biémouret et M. Jean-Louis Costes

[5] « La montée en charge du […] RNCPS, piloté par la DSS, peine à évoluer vers la détection du non-recours. Les informations contenues dans le RNCPS permettent de détecter des bénéficiaires potentiels de prestations sociales qui n’auraient pas fait valoir tous leurs droits (oubli d’une majoration pour enfant sur la retraite, manque potentiel de recours à la CMU-c en présence du RSA ou à l’ACS en présence d’un minimum social, […]). Or, cet usage prometteur de mise en évidence de droits non sollicités est, selon la DSS, assez peu pris en compte et dépend de la fiabilité des données et de leur mise à jour […]. La mission constate l’écart entre les intentions affichées et les contraintes techniques liées à la gestion de cette base de données, qui semble plus utilisée pour contribuer à la lutte contre la fraude que pour asseoir des études quantitatives ou des actions sur le non-recours aux droits. ». François Chérèque, Christine Abrossimov et Mustapha Khennouf, Évaluation de la 2e année de mise en œuvre du plan pluriannuel contre la pauvreté et pour l’inclusion sociale, janvier 2015.

[6] France Stratégie : Fraude, indus, non-recours : comment faciliter le juste paiement des prestations sociales ?, 2012

Publicités
Ce contenu a été publié dans Non classé par MR. Mettez-le en favori avec son permalien.

2 réflexions au sujet de « Un principe de symétrie pour les algorithmes  (Contribution au débat sur l’éthique des algorithmes) »

  1. L’algorithme pourrait aussi saisir une instance de contrôle quand un droit est refusé alors que l’analyse inductive de cette base de données fait ressortir un modèle semblant indiquer qu’il était ouvert. Ce principe de symétrie serait ainsi plus aboutit.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s