OPINION. Intelligence artificielle : Bercy vs Beauveau, la bourse ou la vie ?

Par Yannick Chatelain.  Docteur en Administration des Affaires, professeur associé (IT/DIGITAL) chez Grenoble École de Management, chercheur associé à la Chaire Dos, Responsable de GemInsights / Image : Mike MacKenzie, CC BY / L'article original a été publié sur Contrepoints le 2 mars 2021.

Dans sa volonté de lutte contre la fraude fiscale, le gouvernement, sous l’égide de Gérald Darmanin alors ministre de l’Action et des Comptes publics avait initié le data mining pour « chasser les fraudeurs ».

Big Bercy is watching you

Il avait par ailleurs souhaité par la suite renforcer son champ d’investigation de tracking des potentiels fraudeurs en mettant en place une surveillance des réseaux sociaux, précisant que les outils informatiques dédiés, seraient « limités à traquer trois cas de fraude : le trafic de marchandises (cigarettes), l’activité professionnelle non déclarée et la domiciliation fiscale frauduleuse. »

Dans sa décision rendue le 27 décembre 2019, le Conseil constitutionnel avait estimé que « le législateur a assorti le dispositif critiqué de garanties propres à assurer, entre le droit au respect de la vie privée et l’objectif de valeur constitutionnelle de lutte contre la fraude et l’évasion fiscales, une conciliation qui n’est pas déséquilibrée. »

Le mercredi 13 novembre 2020, nonobstant un avis très sévère de la CNIL, les députés avaient adopté l’article 57 du projet de loi de finance pour 2020 octroyant le droit, « à titre expérimental et pour une durée de trois ans » aux services fiscaux et douaniers de collecter en masse les données des Français sur les réseaux sociaux et les plateformes de commerce en ligne.

Avec le Décret d’application n° 2021-148 du 11 février 2021, publié le 13 février 2021 soyez-en informés :  « Big Bercy is Watching you », et est désormais autorisé  à mettre en place un algorithme visant à détecter des publications sur internet prouvant qu’un contribuable est coupable de fraude.

Ciblant originellement les entreprises, le CFVR (pour ciblage de la fraude et valorisation des requêtes) s’appuie sur l’intelligence artificielle et a pour vocation l’analyse des données des contribuables et l’identification automatique des cas suspects de fraude.

Notons que l’apport du data mining (pré article 57), a d’ores et déjà permis de générer 335 millions d’euros de redressement fiscal en 2018 et près du double en 2019, soit 640 millions d’euros avec un taux de de 67,5 % contre un peu plus de 64 % en 2018. L’add-on controversé qui permet désormais une incursion dans la vie privée en scrutant les réseaux sociaux portera-t-il les fruits escomptés par Bercy… Patientons.

Notons qu’un rapport devra être remis au Parlement ainsi qu’à la CNIL à l’été 2022 afin d’évaluer « la pertinence et l’efficacité du dispositif et si l’amélioration de la lutte contre la fraude fiscale – qui constitue un objectif à valeur constitutionnelle – est proportionnée à l’atteinte portée au respect de la vie privée. »

Réseaux sociaux et rixes : où est Big Beauveau ?

Si je pointe en avant-propos les moyens développés par le ministre de l’Action et des Comptes publics, ce n’est pas pour revenir sur une approche qui demeure très discutable, mais pour mieux mettre en perspective l’absence de ce type de moyens pour prévenir des drames !

Lorsque Gérald Darmanin, désormais ministre de l’Intérieur, annonce des renforts et accuse les réseaux sociaux d’encourager des rixes mortelles, lorsque madame la préfet parle de problème systémique et indique dans son communiqué que la rivalité entre des mineurs de Saint-Chéron et de Dourdan, remonte à cet été « sur fond de messages, d’insultes et de provocations sur les réseaux sociaux » et que des joutes verbales sur les réseaux sociaux se traduiraient par des drames et la mort de très jeunes adolescents, des questionnements légitimes se posent.

Oubliés les apports précieux et glorifiés des réseaux sociaux lors du Printemps arabe permettant aux populations de s’organiser pour combattre l’oppression. Il n’est maintenant pas un jour où les réseaux ne sont pas pointés du doigt pour des usages dévoyés, harcèlement moral, doxxing, etc.

Aussi dès lors qu’un ministre d’État désigne des responsabilités et pointe celle des réseaux sociaux, il est toujours à redouter qu’une nouvelle loi aux contours flous ne vienne s’abattre sur la liberté d’expression, pour un peu plus de contrôle et toujours davantage de censure, sans efficacité probante sur les phénomènes ciblés, mais porteuse potentielle de nombreuses dérives se situant au-delà de la problématique supposée être solutionnée.

Au demeurant le ministre a également pointé la responsabilité des parents, le rôle de l’Éducation nationale et a promptement annoncé l’arrivée de gendarmes. Si on ne peut que saluer la mobilisation d’un certain nombre de moyens, le phénomène des rixes n’est pas nouveau, tant s’en faut.

Il apparait utile de rappeler que depuis 2016, 230 rixes ont été comptabilisées à Paris. En juin 2019 huit jeunes y avaient laissé la vie, parmi lesquels des mineurs.

« États généraux de prévention des rixes » et réseaux sociaux

Huit mois après le lancement des états généraux de prévention des rixes lancés par la ville de Paris en octobre 2018, Anne Hidalgo avait présenté en juin 2019 la stratégie parisienne de prévention des rixes.

Outre le recrutement de médiateurs c’est dans ce cadre qu’avec le soutien de la Ville de Paris, l’APSV a mis en place une formation pour informer et outiller les acteurs de terrain sur leurs approches éducatives dans le cadre de l’évolution du numérique, le contenu de la formation apportant aux professionnels « une meilleure connaissance du fonctionnement des réseaux sociaux par la pratique concrète des usages de Snapchat, Instagram ou WhatsApp ; ces réseaux étant utilisés par les jeunes dans les rixes pour organiser les rassemblements, se lancer des défis ou des provocations, ainsi que pour diffuser des vidéos des affrontements. »

Au demeurant, par-delà la connaissance du terrain, ce type de formation ne permet pas de faire remonter de l’information en scrutant les signaux faibles, tout comme se targue de pouvoir désormais le faire Bercy avec l’appui de l’IA pour les fraudeurs.

Comme l’explique le commissaire Julien Herbaut, « les signaux faibles, annonciateurs d’une telle explosion de violence » entre bandes, étant à ce jour très difficiles à identifier.

Ce que Bercy a prétention à mettre en place pour de l’argent, Beauveau peut-il le faire pour sauver des vies ?

La vie de nos jeunes ne devrait-elle pas bénéficier de ce même type de développement, d’une part naturellement pour sanctionner ce qui peut l’être, fût-ce a posteriori bien sûr, notamment lorsque les auteurs d’agressions se mettent en scène pour valoriser leurs sinistres exploits, mais d’autre part, pour se doter d’outils technologiques permettant d’anticiper, afin que les médiateurs et les forces de l’ordre puissent agir au plus tôt, avant même que ce type de vidéos ne puissent être tournées, la rixe en préparation ayant été ipso facto désamorcée. 

Les réseaux sociaux et la digitalisation des conflits

Pour ce qui est des réseaux sociaux, le sociologue Marwan Mohammed, spécialiste des jeunesses urbaines explique cette digitalisation des conflits avec trois effets principaux :

• Leur naissance se joue désormais également dans la sphère numérique et peut déborder sur l’espace public.
• L’affrontement est désormais suivi en temps réel par des centaines de personnes.
• Ils créent un espace numérique des réputations. Auparavant, elles se construisaient dans l’espace physique, entre le collège, le lycée, le bus scolaire… Tout cela existe toujours, mais aujourd’hui les faits et le prestige sont aussi commentés.

"Quand le coup de tonnerre éclate, il est trop tard pour se boucher les oreilles"

Sun Tzu

C’est donc bien au niveau de la naissance d’un conflit que les moyens en IA manquent cruellement aux acteurs concernés qui ne peuvent se contenter de leur connaissance du terrain pour scruter quasi manuellement les réseaux et un nombre nécessairement réduit de comptes, ceux de quelques meneurs connus… Comment dès lors identifier un départ d’incendie qui pourra être mortel ?

Au regard des moyens mis en œuvre pour profiler des fraudeurs au fisc, nous parlons ici de vies perdues, qui elles n’ont pas de prix. Aussi et pour conclure, que n’a-t-on développé place Beauvau les moyens dont s’est cru bon de se doter Bercy, non pas pour censurer, pour produire une nouvelle loi – une énième loi devrais-je dire – pour donner l’impression d’agir, mais au-delà d’un toujours plus de pédagogie et de dialogue indispensables, pour développer et doter les acteurs concernés des outils IA adéquats en mesure de détecter les signaux faibles annonciateurs d’une probable dérive, permettant alors aux médiateurs et aux forces de l’ordre d’aller au contact de la jeunesse avant que le pire ne se produise.