Les banques américaines déploient l’IA pour surveiller les clients et les travailleurs dans un contexte de contrecoup technologique

Plusieurs banques américaines ont commencé à déployer un logiciel de caméra capable d’analyser les préférences des clients, de surveiller les travailleurs et de repérer les personnes qui dorment à proximité des guichets automatiques, même si elles restent méfiantes face à une éventuelle réaction en raison d’une surveillance accrue, ont déclaré à Reuters plus d’une dizaine de sources bancaires et technologiques.

Essais inédits à la City National Bank of Florida (BCI.SN) et JPMorgan Chase & Co (JPM.N) ainsi que des déploiements antérieurs dans des banques telles que Wells Fargo & Co (WFC.N) offrent une vue rare du potentiel que les institutions financières américaines voient dans la reconnaissance faciale et les systèmes d’intelligence artificielle associés.

Le déploiement généralisé de ces outils d’IA visuelle dans le secteur bancaire fortement réglementé serait une étape importante vers leur intégration dans les entreprises américaines.

Bobby Dominguez, responsable de la sécurité de l’information chez City National, a déclaré que les smartphones qui se déverrouillent via un scan facial ont ouvert la voie.

«Nous exploitons déjà la reconnaissance faciale sur mobile», a-t-il déclaré. “Pourquoi ne pas en tirer parti dans le monde réel?”

City National commencera les essais de reconnaissance faciale au début de l’année prochaine pour identifier les clients aux guichets automatiques et les employés des succursales, dans le but de remplacer les mesures d’authentification maladroites et moins sécurisées sur ses 31 sites, a déclaré Dominguez. Finalement, le logiciel pourrait repérer des personnes sur les listes de surveillance du gouvernement, a-t-il déclaré.

JPMorgan a déclaré qu’il “effectuait un petit test de technologie d’analyse vidéo avec une poignée de succursales dans l’Ohio”. Wells Fargo a déclaré que cela fonctionnait pour prévenir la fraude, mais a refusé de discuter de la manière dont.

Les questions de libertés civiles sont importantes. Les critiques soulignent les arrestations d’individus innocents à la suite de correspondances faciales défectueuses, l’utilisation disproportionnée des systèmes pour surveiller les communautés à faible revenu et non blanches et la perte de vie privée inhérente à la surveillance omniprésente.

Portland, Oregon, depuis le 1er janvier, a interdit aux entreprises d’utiliser la reconnaissance faciale «dans les lieux d’hébergement public», et la chaîne de pharmacies Rite Aid Corp (RAD.N) a fermé un programme national de reconnaissance faciale l’année dernière.

Dominguez et d’autres dirigeants de banques ont déclaré que leurs déploiements étaient sensibles aux problèmes.

“Nous n’allons jamais compromettre la vie privée de nos clients”, a déclaré Dominguez. “Nous commençons très tôt à utiliser une technologie déjà utilisée dans d’autres parties du monde et qui arrive rapidement au réseau bancaire américain.”

Pourtant, la grande question parmi les banques, a déclaré Fredrik Nilsson, vice-président des Amériques chez Axis Communications, l’un des principaux fabricants de caméras de surveillance, est “quel sera le contrecoup potentiel du public si nous déployons cela?”

Walter Connors, directeur de l’information à la Brannen Bank, a déclaré que la société de Floride avait discuté mais n’avait pas adopté la technologie pour ses 12 sites. “Quiconque entre dans une succursale s’attend à être enregistré”, a déclaré Connors. “Mais quand vous parlez de reconnaissance faciale, c’est une conversation plus large.”

L’INTELLIGENCE D’ENTREPRISE

JPMorgan a commencé à évaluer le potentiel de la vision par ordinateur en 2019 en utilisant un logiciel développé en interne pour analyser les images archivées des succursales de Chase à New York et dans l’Ohio, où se trouve l’un de ses deux laboratoires d’innovation, ont déclaré deux personnes, dont l’ancien employé Neil Bhandar, qui en a supervisé certains. de l’effort à l’époque.

Chase vise à collecter des données pour mieux planifier le personnel et concevoir les succursales, ont déclaré trois personnes et la banque a confirmé. Bhandar a déclaré que certains membres du personnel se sont même rendus dans l’un des sites d’Amazon.com Inc. (AMZN.O) dépanneurs sans caissier pour en savoir plus sur son système de vision par ordinateur.

Une analyse préliminaire par Bhandar des images de la succursale a révélé que davantage d’hommes rendraient visite avant ou après le déjeuner, tandis que les femmes avaient tendance à arriver en milieu d’après-midi. Bhandar a déclaré qu’il souhaitait également analyser si les femmes évitaient les espaces compacts dans les halls des guichets automatiques, car elles risquaient de tomber sur quelqu’un, mais la pandémie a interrompu le plan.

Tester la reconnaissance faciale pour identifier les clients lorsqu’ils entrent dans une banque Chase, s’ils y ont consenti, a été une autre possibilité envisagée pour améliorer leur expérience, a déclaré un employé actuel impliqué dans des projets d’innovation.

Chase ne serait pas le premier à évaluer ces utilisations. Une banque du Nord-Est a récemment utilisé la vision par ordinateur pour identifier les zones très fréquentées dans les succursales avec des mises en page plus récentes, a déclaré un dirigeant, s’exprimant à la condition que la société ne soit pas nommée.

Une coopérative de crédit du Midwest a testé l’année dernière la reconnaissance faciale pour l’identification des clients à quatre endroits avant de s’arrêter pour des raisons de coût, a déclaré une source.

Alors que Chase a développé une vision par ordinateur personnalisée en interne à l’aide de composants de Google (GOOGL.O), IBM Watson (IBM.N) et Amazon Web Services, il a également envisagé des systèmes entièrement construits à partir des startups de logiciels AnyVision et Vintra, ont déclaré des personnes dont Bhandar. AnyVision a refusé de commenter et Vintra n’a pas répondu aux demandes de commentaires.

Chase a déclaré avoir finalement choisi un fournisseur différent, qu’il a refusé de nommer, sur 11 options envisagées et a commencé à tester la technologie de cette société dans une poignée de sites de l’Ohio en octobre dernier. L’effort vise à identifier les temps de transaction, le nombre de personnes qui partent en raison des longues files d’attente et les activités qui occupent les travailleurs.

La banque a ajouté que la reconnaissance faciale, raciale et sexuelle ne faisait pas partie de ce test.

Selon certains experts en éthique, l’utilisation de la technologie pour deviner la démographie des clients peut être problématique, car elle renforce les stéréotypes. Certains programmes de vision par ordinateur sont également moins précis sur les personnes de couleur, et les critiques ont averti que cela pourrait conduire à des résultats injustes.

Chase a pesé les questions éthiques. Par exemple, certains ont appelé en interne à reconsidérer les tests prévus à Harlem, un quartier historiquement noir de New York, car il pourrait être considéré comme insensible au racisme, ont déclaré deux personnes. Les discussions ont eu lieu à peu près au même moment qu’un article du New York Times de décembre 2019 sur le racisme dans les succursales de Chase en Arizona.

L’analyse de la race ne faisait pas partie des plans finalement présentés, et la succursale de Harlem avait été sélectionnée parce qu’elle abritait l’autre Chase Innovation Lab pour évaluer les nouvelles technologies, ont déclaré les gens et la banque a confirmé.

CIBLER LES SANS-ABRI

Les utilisations de la sécurité pour la vision par ordinateur ont longtemps suscité l’intérêt des banques. Wells Fargo a utilisé le logiciel primitif de la société 3VR il y a plus de dix ans pour examiner des images de crimes et voir si des visages correspondaient à ceux de délinquants connus, a déclaré John Honovich, qui travaillait chez 3VR et a fondé l’organisation de recherche sur la vidéosurveillance IPVM.

Identiv, qui a acquis 3VR en 2018, a déclaré que les ventes bancaires étaient un objectif majeur, mais a refusé de commenter Wells Fargo.

Un responsable de la sécurité d’une banque du Sud de taille moyenne, s’exprimant sous couvert d’anonymat pour discuter de mesures secrètes, a déclaré qu’au cours des 18 derniers mois, il avait déployé un logiciel d’analyse vidéo dans presque toutes les succursales pour générer des alertes lorsque les portes des coffres-forts, des salles de serveurs informatiques et les autres zones sensibles sont laissées ouvertes.

À l’extérieur, la banque surveille les flâneries, comme le problème récurrent des personnes installant des tentes sous le surplomb pour les guichets automatiques à l’auto. Le personnel de sécurité d’un centre de contrôle peut lire un enregistrement audio demandant poliment à ces personnes de partir, a déclaré l’exécutif.

Le problème des personnes qui dorment dans les halls de guichets automatiques fermés est depuis longtemps une préoccupation de l’industrie, a déclaré Brian Karas, vice-président des ventes chez Airship Industries, qui développe des logiciels de gestion vidéo et d’analyse.

Les systèmes qui ont détecté le flânage afin que le personnel puisse activer une sirène ou une lumière stroboscopique ont contribué à augmenter l’utilisation des guichets automatiques et à réduire le vandalisme pour plusieurs banques, a-t-il déclaré. Bien que les entreprises ne voulaient pas déplacer les personnes cherchant un abri, elles ont estimé que cela était nécessaire pour rendre les guichets automatiques sûrs et accessibles, a déclaré Karas.

Dominguez de City National a déclaré que les succursales de la banque utilisent la vision par ordinateur pour détecter les activités suspectes à l’extérieur.

Les registres de ventes de 2010 et 2011 examinés par Reuters montrent que Bank of America Corp (BAC.N) a acheté des caméras «iCVR», commercialisées à l’époque comme aidant les organisations à réduire le flânage dans les halls des guichets automatiques. Bank of America a déclaré qu’elle n’utilisait plus la technologie iCVR.

L’intérêt de la banque basée à Charlotte, en Caroline du Nord pour la vision par ordinateur n’a pas diminué. Ses responsables ont rencontré AnyVision à plusieurs reprises en 2019, notamment lors d’une conférence de septembre au cours de laquelle la startup a montré comment elle pouvait identifier le visage d’un dirigeant de Bank of America, selon les enregistrements de la présentation vue par Reuters et une personne présente.

La banque a déclaré: «Nous examinons toujours les nouvelles solutions technologiques potentielles qui sont sur le marché.»

Nos normes: Les principes de confiance de Thomson Reuters.