Dans une initiative sans précédent, San Jose, au cœur de la Silicon Valley, a lancé un projet pilote où des entreprises technologiques montent des caméras sur des véhicules municipaux pour former l'intelligence artificielle à détecter les tentes et les véhicules occupés par des sans-abri. Cette expérience, considérée comme la première du genre aux États-Unis, suscite des inquiétudes quant à l'utilisation de la technologie pour punir ou expulser les sans-abri. Le projet, qui vise à améliorer la gestion des plaintes des citoyens concernant les campements, utilise des caméras pour collecter des données dans les quartiers ciblés. Les images sont ensuite analysées par des algorithmes d'entreprises participantes pour repérer les objets indésirables, tels que les véhicules habités. Cependant, les travailleurs sociaux locaux et les défenseurs du logement craignent que cette approche ne résolve pas les problèmes sous-jacents de la crise du logement à San Jose.
Bien que la ville affirme ne pas capturer d'images individuelles, mais plutôt des campements, des préoccupations persistent quant à l'impact sur la vie privée et l'utilisation éventuelle de ces données par les autorités. Malgré cela, San Jose, en tant que centre technologique majeur, espère que cette initiative servira de modèle pour d'autres villes et contribuera à façonner des politiques plus larges sur l'utilisation responsable de l'intelligence artificielle dans le secteur public.
En juillet dernier, San Jose a lancé un appel aux entreprises technologiques pour qu'elles montent des caméras sur un véhicule municipal qui a commencé à circuler périodiquement dans le district 10 de la ville en décembre, afin de recueillir des images des rues et des espaces publics. Les images sont introduites dans un logiciel de vision artificielle et utilisées pour former les algorithmes des entreprises à la détection des objets indésirables, selon des entretiens et des documents que le Guardian a obtenus grâce à des demandes d'archives publiques.
Certaines des fonctionnalités du projet pilote - telles que l'identification des nids-de-poule et des voitures garées dans les voies de bus - sont déjà en place dans d'autres villes. Mais l'incursion de San Jose dans la surveillance automatisée des sans-abri est la première du genre dans le pays, selon les responsables de la ville et les défenseurs du logement au niveau national. Les travailleurs sociaux locaux, qui n'étaient pas au courant de cette expérience, craignent que la technologie ne soit utilisée pour punir et expulser les sans-abri de San Jose.
Les employés municipaux conduisent un véhicule équipé d'une seule caméra à travers des sections du district 10 "toutes les deux semaines", a déclaré Khaled Tawfik, directeur du département des technologies de l'information de San Jose. La ville envoie les séquences de formation aux entreprises participantes, parmi lesquelles Ash Sensors, Sensen.AI, Xloop Digital, Blue Dome Technologies et CityRover.
Certaines des zones du district 10 ciblées par le projet pilote, telles que le boulevard Santa Teresa, sont des endroits où les personnes non logées se rassemblent, parfois avec l'encouragement de la ville. La station de métro léger sur le boulevard Santa Teresa, par exemple, abrite le seul lieu de stationnement sécurisé de la ville pour les véhicules de loisirs, souvent utilisés comme habitations.
Il n'y a pas de date limite pour la phase pilote du projet, a déclaré M. Tawfik lors d'une interview, et au fur et à mesure que les modèles s'améliorent, il pense que les objets ciblés pourraient s'étendre aux chats et aux chiens perdus, aux infractions au stationnement et aux arbres envahis par la végétation.
"Si la ville devait produire cette technologie, nous envisageons d'installer les caméras sur les véhicules de notre parc automobile qui circulent régulièrement dans les limites de la ville", a écrit un employé municipal dans un courriel daté du 22 janvier.
Ken Salsman, directeur de la technologie chez Ash Sensors, a déclaré que son entreprise, spécialisée dans les capteurs qui surveillent la santé structurelle des bâtiments, n'avait pas exploré la détection des sans-abri avant d'apprendre l'existence du projet pilote de San Jose. L'expérience a été l'occasion de créer des technologies potentiellement commercialisables en résolvant des problèmes difficiles de vision par ordinateur, tels que la distinction entre un camping-car vide garé à l'extérieur d'une maison et un camping-car qui est une maison. Il a indiqué que l'entreprise entraînait ses algorithmes à détecter les signes indirects d'habitation.
"Les fenêtres sont-elles couvertes à l'intérieur du véhicule ? Y a-t-il des serviettes pour assurer l'intimité ? Y a-t-il des déchets à l'extérieur du véhicule, ce qui suggère qu'ils utilisent de la nourriture et qu'ils ont du mal à se débarrasser des déchets ? a déclaré M. Salsman. Il a ajouté qu'une détection réussie des véhicules habités nécessiterait probablement un balayage fréquent des rues de la ville afin de déterminer si les véhicules ont déménagé.
Un rapport de la société Sensen.AI montre que son système a détecté 10 véhicules habités dans des images collectées dans deux rues le 8 février. Plusieurs des véhicules photographiés dans le rapport ont des bâches étendues sur les fenêtres ou enroulées et attachées. Un autre véhicule est entouré de cônes de signalisation. Sensen.AI n'a pas répondu à une demande de commentaire.
Tawfik a déclaré que l'objectif de ce projet pilote était d'encourager les entreprises à élaborer des modèles algorithmiques capables de détecter une variété d'objets différents à partir de caméras montées sur des voitures avec une précision d'au moins 70 %. Les entreprises participantes détectent actuellement les véhicules de loisirs habités avec une précision de 70 à 75 %, mais la précision pour les voitures habitées est encore bien plus faible : entre 10 et 15 %. Le personnel municipal suit l'itinéraire de la voiture équipée d'une caméra et confirme que les véhicules sont occupés.
Notre système ne repère pas les individus, mais identifie les installations de campement
Les documents de la ville indiquent qu'outre la précision, l'un des principaux critères d'évaluation des systèmes d'IA est leur capacité à préserver la vie privée des personnes filmées, par exemple en brouillant les visages et les plaques d'immatriculation. Tawfik a déclaré que la ville n'avait pas « capturé ou conservé d'images d'individus » dans le cadre du projet pilote et que « les données sont destinées aux services [du logement et des parcs de la ville] pour fournir des services ».
La politique d'utilisation des données pour le projet pilote stipule que les images ne peuvent pas être surveillées activement à des fins d'application de la loi, mais que la police peut demander l'accès à des images stockées antérieurement.
« Nous ne détectons pas les gens, a déclaré Tawfik. Nous détectons des campements. » L'intérêt n'est donc pas d'identifier les personnes, car cela constituerait une violation de la vie privée. Toutefois, dans son rapport sur l'identification des véhicules habités, Sensen.AI a indiqué que son système incluait la reconnaissance optique des caractères des numéros de plaque d'immatriculation des véhicules.
Tawfik a déclaré que San Jose avait retardé la publication d'une politique d'IA à l'échelle de la ville en partie pour permettre au département d'examiner ses propositions de glissières de sécurité à travers l'objectif du projet pilote de détection d'objets.
Les habitants se sont plaints à la ligne téléphonique 311 de la ville au sujet des campements de sans-abri 914 fois jusqu'à présent en 2024. L'année dernière, ils ont signalé 6 247 fois des décharges illégales, 5 666 fois des graffitis et 769 fois des nids-de-poule. L'objectif du projet pilote de surveillance est de traiter ces plaintes plus efficacement, selon Tawfik.
Selon Tawfik, la réponse de la ville pourrait consister à envoyer des travailleurs sociaux visiter une seule tente avant qu'elle ne se transforme en campement. Le service du logement de San Jose et les organisations à but non lucratif qui fournissent de l'aide aux personnes non logées ont déclaré qu'ils n'avaient pas été impliqués dans le projet pilote.
"Notre capacité à aider directement les personnes ne fait pas vraiment partie du projet pilote", a déclaré Tawfik. "Nous sommes encore en train d'apprendre ce qui peut être fait. Une fois que le programme aura atteint sa maturité, nous pourrons examiner les données et voir ce qui est logique.
Cette approche inquiète des personnes comme Thomas Knight, ancien sans-abri et aujourd'hui membre exécutif du Lived Experience Advisory Board of Silicon Valley (Conseil consultatif sur l'expérience vécue). Ce groupe, composé de dizaines de personnes vivant ou ayant vécu dans la précarité, s'est récemment battu contre une politique proposée en août dernier par le maire de San Jose, Matt Mahan, qui permettrait à la police de remorquer et de mettre en fourrière les véhicules habités à proximité des écoles.
« Si l'objectif est de mieux répondre aux appels au 311, cela signifie que ce système informatique va identifier les tentes et les véhicules habités qui se trouvent dans des endroits où la ville a jugé qu'ils ne devraient pas être », a déclaré Knight. « La vérité, c'est que les seules personnes à qui l'on pourra donner [ces données] pour résoudre le problème, c'est le département de la police. »
San Jose est l'un des marchés immobiliers les moins abordables du pays. Pour pouvoir payer le loyer mensuel effectif moyen d'un appartement d'une chambre dans la ville, un locataire devrait gagner 96 000 dollars par an, selon les dernières données disponibles. La population non logée de la ville est passée d'environ 4 200 personnes en 2009 à plus de 6 200 en 2023. Plus des deux tiers de ces personnes vivent à l'extérieur et dans des véhicules plutôt que dans le système d'hébergement de la ville, qui est débordé.
Face au manque de places dans les refuges temporaires et de logements permanents abordables, les autorités de San Jose ont sévi contre les campements de tentes et les personnes vivant dans des voitures et des véhicules récréatifs. Les défenseurs du logement craignent que l'identification des campements par l'IA ne vienne s'ajouter à ces efforts.
« L'approche du sans-abrisme consiste à traiter les personnes non logées comme des déchets ou des graffitis », a déclaré Tristia Bauman, avocate responsable du logement à la Law Foundation of Silicon Valley, une organisation à but non lucratif.
À l'automne dernier, la ville a évacué des dizaines de personnes de leurs tentes et de leurs véhicules sur un tronçon d'un demi-mile du sentier de la rivière Guadalupe, dans le centre-ville, et a ensuite annoncé des plans pour une « zone de non-retour ». Cette année, la police a distribué des avis de 72 heures ordonnant aux gens de quitter un campement situé à proximité, dans le parc Columbus, afin de libérer de l'espace pour l'ouverture d'un parc pour chiens d'une superficie de cinq acres.
San Jose : un centre d'excellence technologique
Outre le fait qu'elle constitue un terrain d'entraînement pour les nouveaux algorithmes, la position de San Jose en tant que leader national en matière d'achats publics de technologies signifie que son expérience de surveillance des campements pourrait influencer l'adoption par d'autres villes de systèmes de détection similaires, et la manière dont elles le font. Le service informatique de la ville est à la tête d'une coalition nationale de plus de 150 agences municipales qui travaillent à l'élaboration de politiques pour un déploiement "responsable et ciblé" des technologies d'intelligence artificielle dans le secteur public.
Tawfik a déclaré que son personnel avait discuté du projet pilote de détection d'objets avec les membres de la coalition et qu'il espérait que d'autres agences participeraient au processus d'examen. Les entreprises participant au projet pilote ont également exprimé leur intérêt pour le potentiel d'« évolutivité » que représente la coalition, selon les courriels qu'elles ont envoyés au personnel du département informatique.
« Au fur et à mesure que d'autres villes manifestent leur intérêt, nous partageons nos notes et nous espérons que cela fera avancer le programme plus rapidement », a déclaré Tawfik. Knight, du conseil consultatif, a déclaré que l'accent mis par la ville sur la mise au point d'une solution technologique ignorait la cause profonde de la crise du logement à San Jose.
Le projet pilote de San Jose suscite un débat crucial sur l'utilisation de la technologie pour aborder les problèmes sociaux complexes. D'une part, l'initiative montre une volonté d'innovation pour résoudre les problèmes liés aux sans-abri en utilisant des outils modernes tels que l'intelligence artificielle. La collecte de données via des caméras montées sur des véhicules municipaux semble être une approche novatrice pour mieux comprendre et gérer les situations de sans-abrisme dans la ville.
Cependant, il est légitime de s'inquiéter des implications éthiques et sociales d'une telle technologie. L'utilisation de l'IA pour détecter les campements de sans-abri soulève des préoccupations quant à la violation de la vie privée et au potentiel d'abus de pouvoir. Il est essentiel de garantir que cette technologie soit utilisée de manière responsable, respectueuse des droits des individus et qu'elle ne soit pas exploitée pour criminaliser ou marginaliser davantage les personnes sans-abri.
De plus, il est crucial de reconnaître que la technologie seule ne peut pas résoudre les problèmes profonds de la crise du logement. Les inquiétudes exprimées par les travailleurs sociaux locaux et les défenseurs du logement soulignent la nécessité de solutions holistiques qui abordent les causes sous-jacentes de l'itinérance, telles que l'accès au logement abordable, les services de santé mentale et de toxicomanie, ainsi que le soutien social et économique.
Bien que l'initiative de San Jose soit innovante, elle doit être examinée avec un regard critique et accompagnée de mesures visant à garantir son utilisation éthique et à compléter les solutions technologiques par des politiques sociales et des interventions communautaires plus larges pour résoudre la crise du logement de manière durable et humaine.
Sources : Sanjose Spotlight, Mercury News
Et vous ?
Quelest votre avis sur le sujet ? Quels mécanismes sont mis en œuvre pour garantir la confidentialité des individus surveillés par ce système combinant caméras et algorithmes d'intelligence artificielle ? Comment cette technologie pourrait-elle influencer les sans-abri eux-mêmes ? Craignez-vous qu'elle ne les isole davantage ou qu'elle ne les expose à des risques accrus ?Voir aussi :
La police peut désormais visionner les caméras de surveillance privées en temps réel, cette mesure ne rendrait pas la ville sécurisée, mais une surveillance généralisée à tout moment Les startups technologiques vendent à l'armée et à la police des dispositifs avancés de surveillance et d'espionnage, malgré les risques d'utilisation abusive et de violation de la vie privée