mardi 23 juin 2020

La reconnaissance faciale, entre risques sur la liberté individuelle et apports bénéfiques indéniables

Par Jérôme Malzac, Innovation Officer, Groupe Micropole

 

Un débat acharné a pris de l’ampleur ces derniers mois et encore plus ces dernières semaines : l’utilisation de la reconnaissance faciale et, par amalgame, celui du computer vision, bien que le sujet fasse débat en France depuis 2019 avec l’annonce du lancement d’ALICEM « Authentification en Ligne Certifiée sur Mobile », une nouvelle application permettant de se connecter par reconnaissance faciale à différents services publics. Il est d’ailleurs à noter que la France aurait dû devenir le premier pays Européen à mettre en place la reconnaissance faciale pour accéder aux portails administratifs en ligne.

 

Bien avant le décret autorisant l’an dernier la création et les premiers tests d’ALICEM, et toutes les péripéties qui ont suivies (prise de position de la quadrature du net, recours déposé devant le Conseil d’État…), l’utilisation et l’expérimentation de la reconnaissance faciale en France a déjà fait couler beaucoup d’encre.

 

 

Mais qu’en est-il vraiment de cette technologie de reconnaissance faciale ?

 

Si, il y a encore quelques années, les résultats et les taux d’erreur étaient discutables, en particulier à cause de bases d’apprentissage trop peu différenciées (voir études du MIT sur les taux d’erreurs entre personnes de couleurs et personnes blanches via les algorithmes d’IBM), depuis, les algorithmes de computer vision (analyse vidéo et image par ordinateur) ont énormément progressé. Grâce au développement de la puissance de calcul et à la croissance exponentielle des données d’apprentissage (des photos et vidéos de visages dans le cas de la reconnaissance faciale), les apprentissages sont de plus en plus rapides et fiables.   

 

Cela fait donc bien longtemps que les GAFAM entraînent des IA à reconnaitre des visages. En revanche, suite à l’interdiction en 2019 et pendant 3 ans de l’utilisation de la reconnaissance faciale sur les caméras embarquées des policiers de Californie (suite à une démonstration organisée par l’association de défense des droits civiques ACLU au cours de laquelle 26 parlementaires avaient été « reconnus » de façon erronée parmi les visages figurant dans une base de données de délinquants via la solution de la police basée sur « Rekognition » d’Amazon) et, plus récemment suite aux manifestations de protestation contre le racisme et les violences policières aux États-Unis liées au décès de Georges Floyd, ces entreprises semblent faire marche arrière, ou tout du moins ralentir sur le sujet de la reconnaissance faciale.

 

Ainsi, ces derniers jours, Microsoft, IBM, Amazon et Google ont dû expliciter leur position sur la question et appellent à un encadrement législatif de cette technologie, chacun y allant de son annonce :

 

Les GAFAM ne sont pourtant pas les seuls à s’être lancés sur le sujet : de nombreux industriels dans le domaine de la téléphonie, des sociétés privées de sécurité et vidéosurveillance et même des Etats se sont plongés sur le développement de solutions de reconnaissance faciale.

 

 

Alors, qu’en est-il de l’utilisation de cette technologie ?

 

Parlons d’abord de l’acteur le plus emblématique et, à mon avis, le plus avancé de tous : la Chine. Plus de 200 millions de caméras en Chine (450 millions sont prévues d’ici fin 2020) filment la population en faisant tourner en continu des algorithmes de reconnaissance faciale.

 

Si l’on regarde les bons côtés de la technologie, on peut y voir plusieurs bénéfices :

  • Des accès aux logements d'étudiants sécurisés par reconnaissance faciale.

  • Des solutions de paiement plus rapides et sans risque d’oublier le moyen de paiement que vous ne pouvez pas perdre tant qu’il est sur vos épaules.

  • Des temps d’attente moins longs dès qu’il s’agit de faire la queue pour avoir l’autorisation d’accéder à un événement, etc.

 

Entre ceux qui les considèrent comme bénéfiques et ceux qui y voient une atteinte aux libertés, certains usages sont discutés, notamment :  

  • Retrouver rapidement des personnes recherchées dans une foule : il y a quelques mois, un homme recherché par la police a été identifié et arrêté dans un concert parmi 50 000 autres spectateurs.

  • Identifier et retrouver des individus portant atteinte à des biens ou des personnes : plus de 25 personnes ont été identifiées et arrêtées en 2018 suite à des actes délictueux grâce à la reconnaissance faciale via des lunettes portées par les agents de police.

 

Si l’on se place du côté obscur de la force, on peut y voir les travers qu’une telle technologie permet dans un état « autoritaire » :

  • L’amende reçue à la maison, si l’on ne traverse pas dans les clous ou quand le petit bonhomme est vert…

  • Le crédit social, un système de notation en fonction de vos actes qui vous donne accès à certains services, écoles, jobs, ou vous interdit toute vente de titres de transports, accès à certains services... L’épisode de Black Mirror sur la notation sociale n’est alors plus une fiction !

 

 

Qu’en est-il du déploiement de cette technologie en France ?

 

A l’heure actuelle, la France compte un peu plus d’un million de caméras de surveillance, ce qui ne prête pas à rougir si l’on calcule le rapport entre le nombre de caméras et la population totale en comparaison avec la population chinoise qui dispose de 200 millions de caméras.

 

En 2019, la Ville de Nice avait lancé une expérimentation de reconnaissance faciale lors de son carnaval annuel. Celle-ci avait été autorisée par la CNIL puisqu’elle consistait à demander l’autorisation à 5 000 volontaires de partager le temps de l’expérience les données photos de leur visage pour tester la capacité à être retrouvés dans la foule. Si cette expérimentation a été un succès d’un point de vue technique (plus de 98% de résultats positifs obtenus), elle l’a été un peu moins au regard de l’acceptation, puisque de nombreux détracteurs ont crié au risque d’une privation de nos libertés individuelles.

 

Le système PARAFE, qui fait le lien entre votre visage et les données de votre passeport biométrique, est déjà présent dans certains aéroports (Nice, Orly, Roissy, Marseille, etc.) pour le passage automatisé au contrôle de frontières et serait en cours de généralisation, y compris pour le check-in et l’embarquement (pour les vols Air France, dans un premier temps). Un gain de temps incontestable pour diminuer les temps de passage à l’embarquement : en moins d’une seconde, le système sait valider que vous êtes autorisé à embarquer ou non. Ce système deviendra incontournable à l’avenir, si le nombre vols et de rotations par jour ce cesse d’augmenter.

 

 

Quels sont les avantages de l’usage de ces technologies ?

 

Abordons la reconnaissance faciale dans un « état de droit », en incluant les apports du computer vision, de l’analyse d’images et de la reconnaissance faciale dans son ensemble.

 

Voici quelques applications concrètes très positives qui ont été possibles grâce à cette technologie :

  • Suite à une expérimentation de la police de New Delhi, 3 000 enfants perdus ont retrouvé leurs familles en 4 jours grâce à la reconnaissance faciale.

  • Une partie des archives de la guerre de Sécession des Etats-Unis a été reconstruite grâce aux personnes figurant sur les photos de l’époque et à la reconnaissance faciale.

  • La facilité de déverrouillage des smartphones par le visage ne cesse de progresser, même si les débuts ont été compliqués avec des solutions de hack, comme une simple photo plutôt qu’un vrai visage. A mon sens, il faut parier sur la complémentarité des technologies pour une authentification forte: de la reconnaissance faciale adossée à une identification du pouls et une analyse infrarouge pour vérifier qu’il s’agit d’un visage et non pas une simple photo ou un scan 3D, par exemple.

  • La reconnaissance faciale couplée au fichier du Traitement des Antécédents Judiciaires (TAJ), qui rassemble les informations sur les procédures de police et gendarmerie, contient 18,9 millions de fiches de personnes mises en cause, près de 8 millions de photos et représente 6 téraoctets de données, a permis de résoudre des enquêtes cruciales telles que l’attentat au couteau qui a eu lieu à Paris en mai 2018 ou du « terroriste à vélo » qui a posé une bombe à Lyon en mai 2019.

 

Plus largement, l’analyse d’images peut être utile dans de nombreux cas. A partir du moment où l’on sait modéliser la normalité d’une situation, on peut détecter des situations anormales.

 

Dans le cadre du développement de la smart city, la vidéo surveillance permet divers apports, notamment :

  • Détecter les problèmes de circulation ou les accidents afin d’accélérer l’envoi de secours ou d’anticiper les ralentissements dangereux ou les problématiques en amont des accidents. 

  • Détecter un changement de comportement (une foule qui court soudainement, personnes au sol, début de bagarre, bagage abandonné, etc.) qui serait le déclencheur d’une alerte au sujet d’une situation conflictuelle.

 

A l’approche d’évènements importants tels que la Coupe du monde de rugby 2023 ou les JO 2024 en France, il me semblerait opportun de tester et de rendre robuste ce type de dispositifs d’anticipation et de réaction, sur lesquels l’analyse d’images ou de sons et la reconnaissance faciale ont beaucoup à apporter.

 

Dans le domaine médical, la reconnaissance faciale offre de nombreuses possibilités :

  • Par une simple analyse émotionnelle du visage, elle permet de détecter et d’évaluer le niveau de douleur du patient, qui n’est parfois pas traduit par les mots à la hauteur du traumatisme réel.

  • Pour compléter et accélérer les diagnostics et ainsi anticiper certaines maladies par l’analyse de clichés radio, IRM, scan… notamment pour lutter contre le cancer avec des progrès important ces dernières années grâce aux IA médicales.

 

Dans le domaine du retail, ces technologies participent à l’amélioration de l’expérience client en magasin :

  • L’analyse de flux de clients via les caméras de sécurité permet d’optimiser l’agencement des rayons ou des passages de circulation dans les magasins.

  • La reconnaissance du client VIP offre un accompagnement personnalisé.

  • L’analyse vidéo permet d’éviter de faire la queue à la caisse et de payer avec la reconnaissance faciale.

 

Au cours de ces derniers mois, nous avons constaté à quel point le COVID-19 avait bouleversé nos vies et nos habitudes avec le port du masque obligatoire dans certains transports ou situations quotidiennes, et le respect de la « distanciation sociale » dans certaines circonstances. Et si ces mesures devenaient la norme dans le cas où ce virus venait à perdurer dans le temps ? Sans aller jusqu’à l’identification de la personne, car je ne suis pas pour la sanction mais plutôt pour le respect et la prise de conscience collective, le computer vision, l’analyse d’image et la reconnaissance faciale dans une optique de comptage, permettraient d’aider à la lutte contre l’épidémie. Cela pourrait passer par la régulation d’un flux de personnes dans un magasin ou un lieu public via comptage et/ou analyse de la distance entre elles, par exemple, ou encore l’adaptation en temps réel de la circulation des personnes et des distances en fonction de la détection du masque sur des visages.

Néanmoins, la CNIL risque de freiner les expérimentations en émettant des réserves et des doutes face à l’utilisation des caméras thermiques capables d’évaluer la température ou le port du masque. Sur Twitter, la CNIL a évoqué sur Twitter des risques face à la « banalisation de technologies intrusives », et de « surveillance accrue, susceptible de porter atteinte au bon fonctionnement de notre société démocratique ». Voilà une prise de position et des mots qui vont au-delà de la simple demande de vigilance mais qui a le mérite d’inciter à réfléchir à un cadre concret d’utilisation.

 

En conclusion, je pense qu’il ne faut pas être systématiquement pessimiste vis-à-vis des progrès technologiques, même s’il ne faut pas pour autant tout autoriser. Il est certain qu’aucune technologie, aucune solution, n’est et ne sera jamais à 100% infaillible. D’ailleurs, l’homme n’aurait jamais posé un pied sur la Lune s’il avait fallu atteindre 0% de risque avant d’envoyer Saturne V et Eagle dans l’espace avec des pilotes automatiques sur des ordinateurs qui ont une puissance de calcul plus faible que nos smartphones actuels. L’unique moyen de garantir un niveau de sécurité et un usage approprié d’une nouvelle technologie est de laisser libre cours à l’expérimentation et à la recherche des bénéfices apportés VS les risques encourus. Je parle ici d’une expérimentation connue et acceptée sans contrainte par son utilisateur et encadrée dans le respect de la vie privée.

 

Dans le cas de l’analyse vidéos et photos, avec les progrès technologiques, les améliorations des algorithmes et des bases de données d’apprentissage, les faux positifs diminueront pour arriver à un taux de fiabilité tout aussi comparable à l’erreur humaine. Même si certaines expérimentations, applications ou façons de faire sont discutables pour certains (par exemple, on a pu reprocher à Google de rémunérer des volontaires avec des bons d’achat en échange d’une photo pour enrichir la base d’apprentissage), on ne peut ignorer ou repousser la technologie d’analyse d’images.

 

Si je ne suis vraiment pas de ceux qui aiment créer des lois et des réglementations à outrance, j’estime que nous sommes déjà contraints par de nombreuses réglementations et qu’il faudra certainement trouver des moyens efficaces pour encadrer et réguler cette technologie. Je reste persuadé qu’elle a beaucoup à nous apporter, que son avenir dépend de son usage par l’état de droit.

 

Le problème n’est pas la technologie, mais les usages par l’homme !

L’innovation technologique est-elle source de progrès, qui nous permet de passer de la maîtrise du feu aux technologies d’IA et de computeur vision actuelles en 400 000 ans, ou une réelle menace pour notre libre arbitre et nos libertés individuelles ? Pour ma part, mon choix est fait !