Dans le cadre d'un règlement juridique, le Département de la police de Detroit a accepté de nouvelles balises limitant son utilisation de la technologie de reconnaissance faciale.

Ces nouvelles politiques interdisent à la police d'arrêter des personnes uniquement sur la base des résultats d'une recherche de reconnaissance faciale, ou sur la base de confrontations photo réalisées immédiatement après une recherche de reconnaissance faciale. Il est également stipulé que les confrontations photo ne peuvent pas être effectuées uniquement sur la base de la reconnaissance faciale - il doit y avoir des preuves supplémentaires reliant un suspect au crime.

Les politiques - qui peuvent être appliquées par un tribunal pendant les quatre prochaines années - exigent également une formation policière sur les risques et dangers de la technologie de reconnaissance faciale, ainsi qu'un audit de tous les cas depuis 2017 où la reconnaissance faciale a été utilisée pour obtenir un mandat d'arrêt.

Roger Williams, un homme noir qui a été arrêté après avoir été identifié par la technologie de reconnaissance faciale, avait poursuivi le département de police et était représenté par des avocats de l'American Civil Liberties Union et de l'Initiative de litige sur les droits civils à la Faculté de droit de l'Université du Michigan.

En annonçant le règlement, l'ACLU l'a décrit comme réalisant « les politiques et pratiques les plus strictes de tout le pays contraignant l'utilisation de cette technologie dangereuse par la police ». Il a également souligné que les femmes et les personnes de couleur sont « nettement plus susceptibles d'être mal identifiées par la technologie de reconnaissance faciale ».

« Avec la fin de ce chapitre douloureux de nos vies, ma femme et moi continuerons à sensibiliser sur les dangers de cette technologie », a déclaré Williams dans un communiqué.

Il aurait passé 30 heures en prison après avoir été incorrectement identifié comme l'homme capturé sur des images de surveillance volant cinq montres dans un magasin du centre-ville de Detroit. Sa photo de permis de conduire est apparue lors d'une recherche de reconnaissance faciale dans une base de données de photos d'arrestation et de permis de conduire, et l'entrepreneur en sécurité qui a fourni les images a convenu qu'il était le meilleur correspondant, ce qui a entraîné son arrestation.

Les procureurs ont par la suite abandonné les charges. Le département de police a également déclaré qu'il versait 300 000 $ à Williams dans le cadre du règlement.

Dans sa propre déclaration, le département de police a déclaré être « satisfait de sa collaboration avec l'ACLU et l'Université du Michigan au cours de l'année et demie écoulée », ajoutant qu'il « croit fermement » que la nouvelle politique « servira de meilleure pratique nationale et servira de modèle pour d'autres agences utilisant cette technologie ».

Des villes telles que San Francisco ont interdit l'utilisation de la reconnaissance faciale par les forces de l'ordre. Microsoft a également récemment interdit aux services de police d'utiliser sa technologie d'IA pour la reconnaissance faciale.