La prochaine étape de la surveillance : trouver des amis

Un homme aux cheveux gris traverse le hall d’un bureau avec une tasse de café, les yeux fixés devant la porte d’entrée.

Il semble ignorer qu’il est suivi par un réseau de caméras qui peuvent détecter non seulement où il a été, mais avec qui il a été.

La technologie de surveillance a longtemps été en mesure de vous identifier. Nous essayons actuellement de découvrir qui sont vos amis à l’aide de l’intelligence artificielle.

En quelques clics seulement, ce logiciel de « co-occurrence » ou « d’analyse de corrélation » trouve les personnes qui sont apparues dans les cadres de surveillance à quelques minutes de l’homme aux cheveux gris au cours du mois dernier, supprimant ceux qui auraient pu être proches de lui. , jetez votre dévolu sur celui qui est apparu 1, 2, 14 fois. Le logiciel peut marquer instantanément les interactions potentielles entre deux hommes sur un calendrier consultable.

Vintra est une société basée à San Jose qui présentations vidéo de l’industrie l’année dernière a vendu une fonctionnalité co-vedette dans le cadre d’une suite d’outils d’analyse vidéo.bureau Présentez-vous sur votre site Web presque relation 49ers de San Francisco et police de Floride. L’Internal Revenue Service et d’autres services de police à travers le pays paient pour les services de Vintra, selon la base de données des contrats du gouvernement.

La technologie de co-vedette est déjà utilisée par des régimes autoritaires en Chine et ailleurs, mais Vintra semble être le premier à la commercialiser en Occident, selon des experts du secteur.

Mais l’entreprise est l’une des nombreuses à tester de nouvelles applications d’IA et de surveillance. Il y a peu d’examen public et peu de garanties formelles contre l’atteinte à la vie privée.Par exemple, en janvier, un fonctionnaire de l’État de New York a critiqué la société propriétaire du Madison Square Garden Pour avoir utilisé la technologie de reconnaissance faciale pour interdire aux employés du cabinet d’avocats qui a poursuivi l’entreprise d’assister à des événements dans l’arène.

Les experts du secteur et les chiens de garde affirment qu’un analyste est convaincu que les outils de co-apparition sont utilisés s’ils ne le sont pas actuellement, mais peut-être plus encore à mesure que les capacités d’intelligence artificielle progressent.Il deviendra plus fiable et plus largement disponible.

Aucune des entreprises qui font affaire avec Vintra contactées par le Times n’a admis avoir utilisé la fonction de co-apparition du progiciel de Vintra. Mais certains n’ont pas explicitement exclu.

Le gouvernement chinois, qui a été le plus actif dans l’utilisation de la surveillance et de l’IA pour contrôler la population, a utilisé la recherche de co-stars pour cibler les manifestants et les dissidents en intégrant des vidéos à son vaste réseau de bases de données. a déclaré Conor Healy, directeur de la recherche gouvernementale pour le groupe de recherche sur la surveillance IPVM, qui a accueilli la présentation de Vintra l’année dernière. La technologie de Vintra pourrait être utilisée pour créer une “version plus basique” du fonctionnement du gouvernement chinois, a-t-il déclaré.

Certains États américains et gouvernements locaux restreignent l’utilisation de la reconnaissance faciale, en particulier dans les services de police, mais la loi fédérale ne le fait pas. Il n’y a pas de loi qui interdit explicitement à la police d’utiliser des fouilles d’apparence conjointes comme Vintra, mais si cela viole le droit constitutionnellement protégé à la liberté de réunion et les protections contre les fouilles non autorisées “est une question ouverte”, a déclaré Claire Garvey, experte en technologie de surveillance chez National Assun. d’un avocat de la défense pénale. Peu d’États restreignent la façon dont les entités privées peuvent utiliser la reconnaissance faciale.

Le département de police de Los Angeles a mis fin à son programme de police prédictive connu sous le nom de PredPol en 2020. C’était au milieu des critiques selon lesquelles le crime n’avait pas été arrêté et que les quartiers noirs et latinos avaient été réprimés. Le programme a utilisé l’IA pour analyser de grandes quantités de données, y compris les affiliations présumées à des gangs, afin de prédire en temps réel où les crimes contre les biens pourraient se produire.

En l’absence de législation nationale, de nombreux services de police et entreprises privées devront examiner de manière indépendante l’équilibre entre la sécurité et la vie privée.

Le sénateur Edward J. Markey, démocrate du Massachusetts, a déclaré : “L’état très alarmant de la surveillance est suivi, marqué et classé pour être utilisé par des entités des secteurs public et privé – vous ne le savez pas.”

Marquee prévoit de déployer une législation dans les semaines à venir pour mettre fin à l’utilisation de la reconnaissance faciale et de la technologie biométrique par les forces de l’ordre fédérales et pour interdire aux gouvernements locaux et étatiques de les utiliser comme condition d’obtention de subventions fédérales. quelques jours.

Pour l’instant, certains ministères disent qu’ils n’ont pas à choisir en raison de problèmes de fiabilité. Mais à mesure que la technologie progresse, ils le feront.

Les dirigeants de Vintra n’ont pas renvoyé plusieurs appels ou e-mails du Times.

Cependant, le PDG de la société, Brent Boekestein, a expliqué les applications potentielles de la technologie dans une présentation vidéo sur IPVM.

“Vous pouvez aller ici et créer une cible basée sur ce type et voir avec qui ce type traîne”, a déclaré Boekestein. “Vous pouvez réellement commencer à construire votre réseau.”

“96 % du temps, il n’y a aucun événement qui intéresse la sécurité, mais il y a toujours des informations que le système génère.”

Quatre agences qui partagent la gare de San Jose utilisée dans la présentation de Vintra ont nié que leurs caméras aient été utilisées pour créer les vidéos de l’entreprise.

Deux sociétés répertoriées sur le site Web de Vintra, 49ers et Moderna, la société pharmaceutique qui fabrique l’un des vaccins COVID-19 les plus utilisés, n’ont pas répondu aux e-mails.

Plusieurs services de police ont reconnu avoir coopéré avec Vintra, mais aucun service de police n’a déclaré publiquement avoir mené d’enquêtes pour complicité.

Brian Jackson, chef adjoint de la police de Lincoln, dans le Nebraska, explique que son département utilise le logiciel Vintra pour identifier des modèles tels que des voitures bleues et d’autres objets qui correspondent aux descriptions utilisées pour résoudre des crimes spécifiques. Il a déclaré que la recherche rapide lui faisait gagner du temps en analysant des heures de vidéo. Mais les caméras auxquelles son département est lié, y compris les caméras Ring et celles utilisées par les entreprises, ne sont pas assez bonnes pour faire correspondre les visages, a-t-il déclaré.

“Il y a des limites. Ce n’est pas une technologie magique”, a-t-il déclaré. “Une bonne sortie nécessite une entrée précise.”

Jarrod Kasner, chef adjoint à Kent, Washington, a déclaré que son département utilise le logiciel Vintra. Il a dit qu’il n’était pas au courant de la fonctionnalité de co-vedette et qu’il devrait se demander si c’est légal dans son état, l’un des rares États à restreindre l’utilisation de la reconnaissance faciale.

“Pour les départements qui sont aux prises avec des problèmes de personnel, nous sommes toujours à la recherche d’une technologie qui peut nous aider car c’est un multiplicateur de force”, a-t-il déclaré. Je veux juste m’assurer que je suis dans mes limites pour m’assurer que je le fais correctement et professionnellement.”

Le bureau du shérif du comté de Lee en Floride a déclaré que le logiciel Vintra ne sera utilisé que contre des suspects et non pour “traquer des personnes ou des véhicules qui ne sont pas soupçonnés d’activités criminelles”.

La police de Sacramento a déclaré dans un e-mail qu’elle utilisait le logiciel Vintra “modérément, voire pas du tout”, mais n’a pas précisé si elle avait déjà utilisé la fonction de co-apparition.

“Nous examinons notre contrat avec Vintra et si nous continuerons à utiliser leurs services”, a déclaré le ministère dans un communiqué, mais a déclaré qu’il ne pouvait pas indiquer de cas où le logiciel a aidé à résoudre des crimes dans la rizière.

Dans un communiqué, l’IRS a déclaré qu’il utiliserait le logiciel Vintra pour “examiner plus efficacement les preuves de longues séquences vidéo lors de la conduite d’enquêtes criminelles”. Les responsables ont refusé de dire si l’IRS utilisait un outil de co-comparution ou où les caméras étaient installées, mais suivaient simplement “les protocoles et procédures établis de l’agence”.

L’avocat de l’American Civil Liberties Union Jay Stanley, qui a d’abord souligné la présentation vidéo de Vintra l’année dernière article de bloga-t-il dit, il n’est pas surprenant que certaines entreprises et certains départements soient prudents quant à son utilisation.Introduisez de nouvelles technologies sans demander, sans demander.

Stanley a averti que le logiciel pourrait être utilisé à mauvais escient pour surveiller les associations personnelles et politiques, y compris les partenaires intimes potentiels, les militants syndicaux, les groupes anti-police et les rivaux partisans.

Danielle VanZandt, qui analyse Vintra pour la société d’études de marché Frost & Sullivan, affirme que la technologie est déjà utilisée. Elle a examiné des documents confidentiels de Vintra et d’autres sociétés, elle a donc des accords de non-divulgation qui lui interdisent de parler de sociétés individuelles ou de gouvernements susceptibles d’utiliser le logiciel.

Les détaillants, qui ont déjà collecté de grandes quantités de données sur les personnes entrant dans leurs magasins, testent leur logiciel pour déterminer « que peut-il vous dire d’autre ? dit Van Zandt.

Cela pourrait inclure l’identification des familles des meilleurs clients de la banque et la garantie qu’ils sont traités de manière appropriée.

VanZandt dit que “ces problèmes de biais sont énormes dans l’industrie” et sont activement traités par la normalisation et les tests.

Tout le monde ne pense pas que cette technologie sera largement adoptée. Les forces de l’ordre et les agents de sécurité des entreprises trouvent souvent que des informations similaires peuvent être obtenues en utilisant des techniques moins invasives, a déclaré Florian Matusek de Genetec, une société d’analyse vidéo partenaire de Vintra. Cela inclut la numérisation des systèmes d’entrée de tickets et des données de téléphonie mobile qui ont une fonctionnalité unique mais qui ne sont pas associées à un individu.

« Il y a une grande différence entre des choses comme les fiches produits et les vidéos de démonstration et ce qui est réellement déployé sur le terrain », explique Matusek. “Les utilisateurs constatent souvent que d’autres technologies peuvent résoudre leurs problèmes de la même manière sans avoir à passer par les tracas liés à l’installation de caméras ou à la réglementation en matière de confidentialité.”

Matusek a déclaré qu’il n’était au courant d’aucun client de Genetec utilisant des co-apparitions que sa société n’offre pas. Mais il ne pouvait pas l’exclure.