Les Notes scientifiques de l’Office – n° 14 – La reconnaissance faciale
préalable, en cas de détection de risques résiduels
élevés. Dès lors, la CNIL n’est plus systématiquement
informée de la mise en place de ces dispositifs et n’a
plus à donner son accord a priori. En contrepartie, ce
nouveau système vise à la responsabilisation 27 de
l’auteur du traitement et de son sous-traitant, qui est
considéré comme coresponsable. Pour ce type
d’utilisation, le consentement28 est une des bases
légales possibles29, ce qui pose la question des modalités de recueil de ce consentement (affichage à
l’entrée d’un magasin…). Le RGPD permet de déroger
à certaines règles lorsque le traitement est effectué à
des fins de recherche scientifique.
… mais incomplet
L’expérimentation menée à Nice30 a mis au jour la
nécessité de compléter le cadre juridique actuel.
Expérimentation menée à Nice lors de la
e
135 édition du carnaval (février 2019)
La mairie de Nice a mené pendant trois jours la
première expérimentation en conditions réelles
d’un dispositif de reconnaissance faciale en
France. Plusieurs scénarios ont été testés au
cours de cette expérimentation (recherche
d’enfants perdus et de personnes vulnérables,
fluidification des points d’accès, contrôle d’accès
restreints…) sur des personnes consentantes.
Cette expérimentation se plaçait dans un cadre
régi par le RGPD, le fondement légal utilisé étant
la recherche scientifique et non pas la sécurité.
Même si la CNIL n’a pas eu à fournir
d’autorisation préalable, un travail commun de
la CNIL et de la mairie de Nice a cependant été
mené peu de temps avant le carnaval, afin
d’assurer le respect des dispositions du RGPD.
Les représentants d’entreprises, d’organismes de régulation, d’acteurs publics ont exprimé leur souhait de
voir élaborer des dispositions légales autorisant la
mise en place d’expérimentations à grande échelle de
dispositifs de reconnaissance faciale afin de tester en
conditions réelles les avantages et les limites de ces
technologies, tant techniquement que sociologiquement, et ainsi d’être en capacité de les maîtriser, mais
également de proposer un cadre légal au plus près
des usages et respectueux des libertés fondamentales.
Le développement des dispositifs de reconnaissance
faciale et leur diffusion hors d’Europe sont inéluctables, tant les usages se multiplient et tant le nombre
d’acteurs qui investissent dans ces technologies, au
premier rang desquels les géants du numérique GAFA
(Google, Amazon Facebook, Apple et Microsoft) et
BATX (Baidu, Alibaba, Tencent et Xiaomi), croît. La
France doit donc, afin de préserver sa souveraineté,
Juillet 2019 P a g e 3
soutenir la recherche et l’innovation31 sur ces dispositifs dans le cadre de la filière IA.
Des technologies qui imposent la tenue d’un
débat de société
Les collectivités locales sont déjà exposées à ces sujets au travers du déploiement plus ou moins important de caméras de vidéoprotection dans les agglomérations. Comme en témoignent les échanges avec
l’Association des maires de France (AMF), les élus sont
sensibilisés aux conséquences de la « safe city »32 sur
les libertés individuelles ; l’acceptation par les citoyens
est un point clé du potentiel déploiement de solutions
de reconnaissance faciale.
La CNIL a récemment appelé à la tenue d’un débat
démocratique sur ces questions33. Ce débat doit permettre aux différents acteurs de s’exprimer sur la
question de l’autorisation, de l’encadrement ou de
l’interdiction de certains usages, qui ne pourra être
traitée de façon pérenne qu’après l’expérimentation
en condition réelle de ces dispositifs.
Des craintes sont régulièrement exprimées 34 sur les
risques que ferait peser la diffusion des dispositifs de
reconnaissance faciale sur nos libertés fondamentales (liberté de circuler anonymement, liberté de
manifester…) et sur la possibilité de voir se développer
une surveillance généralisée de la population.
L’exemple de la Chine35 est le plus marquant, avec
l’intégration des éléments recueillis à l’aide de la reconnaissance faciale dans le système de crédit social 36,
ou encore le contrôle des populations Ouïghours
dans le Xinjiang37. Ces craintes doivent être prises en
compte et la diffusion de ces dispositifs doit pouvoir
se faire sans porter atteinte aux droits fondamentaux.
Pour Laurent Mucchielli, sociologue au CNRS : « La
technologie n’est ni bonne ni mauvaise en soi. Tout
dépend des usages que nous décidons d’en faire et
des arbitrages financiers qui sont faits derrière nos
choix. »38. Selon Jean-Gabriel Ganascia, président du
comité d’éthique du CNRS, ces craintes pourraient
être levées en distinguant les usages et en autorisant
seulement ceux ne présentant pas de risque.
Le Conseil national du numérique et le Centre pour la
quatrième révolution industrielle (C4IR) du Forum
économique mondial lancent un projet pilote d’une
durée de 12 mois pour alimenter le débat démocratique sur l’encadrement des technologies de reconnaissance faciale, au niveau national, européen et
mondial. Ce projet vise à co-construire un cadre de
régulation de la reconnaissance faciale qui garantisse
la protection des libertés individuelles39.
Les géants du numérique ont fait part publiquement
de leur prise en considération des enjeux sociétaux
soulevés par ces dispositifs. Microsoft, par la voix de
son président Brad Smith, a demandé aux législateurs
de réguler ce domaine40 et mis en place des principes