Les Notes scientifiques de l’Office – n° 14 – La reconnaissance faciale
qui structurent sa stratégie en matière de reconnaissance faciale41. Sundar Pichai, PDG de Google, a fait
de même en publiant les sept principes de son entreprise sur l’IA42. Qwant a fait le choix d’intégrer aux
dispositifs de reconnaissance faciale qu’il met en place
des outils permettant par exemple de flouter
l’ensemble des visages43. Amazon adopte une démarche moins volontariste et ne se considère pas
responsable des utilisations pouvant être faites de ses
outils44.
La France pourrait se positionner en exemple sur ces
questions. Elle bénéficie en effet de chercheurs de très
grande qualité et dispose d’entreprises parmi les plus
performantes internationalement – comme IDEMIA,
leader mondial de la biométrie, ou Gemalto, leader
mondial de la sécurité numérique – et de start-ups
dynamiques comme XXII Group.
Ces technologies pourraient également connaître un
développement important dans le domaine militaire45.
Au ministère des armées, l’agence de l’innovation de
la défense de la direction générale de l’armement
(DGA) a été créée le 1er septembre 2018 ; la ministre
Florence Parly a également annoncé la création d’un
« comité d’éthique ministériel sur les sujets de défense ». Ces deux organismes ont pour objet de mener une véritable réflexion éthique sur les applications
de ces technologies dans le secteur de la défense.
Un sujet débattu dans de nombreux pays
L’implantation des dispositifs de vidéoprotection au
Royaume-Uni en a fait un terrain propice à la diffusion
rapide des dispositifs de reconnaissance faciale 46. Le
Metropolitan Police Service a mené de nombreuses
expérimentations47 qui se sont révélées être pour la
plupart en deçà de leurs attentes. Des dispositifs
commerciaux sont également déjà présents, par
exemple le Children’s Charity Plan UK, qui cible sa
campagne de publicité dans le bus en fonction du
sexe du passager. Le cadre d’utilisation de ces dispositifs est actuellement en pleine évolution. En juin 2018,
le ministère de l’intérieur a publié une stratégie sur les
technologies biométriques48 visant à compléter les
dispositions existantes49.
Aux Pays-Bas, les forces de l’ordre étudient, en partenariat avec le Netherlands Forensic Institute, la possibilité d’utiliser la reconnaissance faciale lors d’enquêtes
pénales ou pour lutter contre le terrorisme, en munissant des patrouilles de caméras corporelles connectées à une base de données. Dans un cadre commercial, l’enseigne de grandes surfaces alimentaires Jumbo Ten Brink Food a récemment installé des dispositifs
de reconnaissance faciale pour lutter contre le vol à
l’étalage.
La reconnaissance faciale est actuellement l’objet d’un
débat important aux États-Unis. Regroupant de nombreuses entreprises en pointe dans ce domaine, la
Juillet 2019 P a g e 4
reconnaissance faciale est très utilisée par les forces
de l’ordre. Cependant, la situation est variable d’un
État à l’autre, aucune disposition fédérale ne venant
encadrer ces dispositifs. Des demandes de régulation
se font depuis peu entendre : plusieurs villes, à l’instar
de San Francisco, ont récemment annoncé interdire
l’utilisation de cette technologie par leurs services et
un projet de loi bipartisan50 a été déposé en ce sens.
Conclusions et recommandations
Les dispositifs de reconnaissance faciale sont déjà
présents dans notre quotidien, deviennent de plus en
plus performants et leur généralisation semble inéluctable. Cette diffusion soulève des enjeux sociétaux,
juridiques et éthiques. Afin de permettre le développement de ces technologies tout en garantissant le
respect des droits fondamentaux des individus, les
recommandations suivantes peuvent être formulées :
– Élaborer rapidement un cadre législatif permettant
d’accompagner les expérimentations51 au profit de
l’écosystème industriel et universitaire français. Il conviendrait que la CNIL soit dotée d’un rôle
d’accompagnement de l’innovation et d’incitation au
« privacy by design »52 dans le domaine de la reconnaissance faciale et plus généralement pour
l’ensemble des nouvelles technologies utilisant des
données personnelles, sur le modèle de ce que fait
l’Autorité de régulation des communications électroniques et des postes (ARCEP)53, tout en assurant le
respect des libertés fondamentales, la souveraineté de
la France et le développement d’une IA éthique ;
– Constituer, comme le proposait le rapport de Cédric
Villani sur l’intelligence artificielle54, au sein d’un organisme choisi, un corps d’experts pluridisciplinaires
dotés des compétences requises pour auditer les
dispositifs de reconnaissance faciale afin de garantir
l’efficacité des technologies mises sur le marché en
fonction des catégories de besoins, ainsi que
l’absence de biais ;
– Réaffirmer la responsabilité de l’ensemble des acteurs : concepteur, intégrateur, responsable du traitement. Il ne serait pas envisageable que certains acteurs, parmi lesquels des géants du numérique, puissent s’exonérer de toute responsabilité éthique ;
– Garantir une validation humaine pour les utilisations
les plus sensibles (procédure judiciaire…).
– Mener des études sur l’acceptabilité de ces technologies par les différentes catégories de la population ;
– Améliorer la formation à l’économie de la donnée
pour permettre aux décisions d’être prises de façon
éclairée et en s’affranchissant des mythes auxquels
renvoient ces technologies
Site Internet de l’OPECST :
http://www.assemblee-nationale.fr/commissions/opecst-index.asp
http://www.senat.fr/opecst/