IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un lycée de Pennsylvanie débranche un détecteur d'armes basé sur l'IA après que celui-ci n'a cessé de confondre des objets du quotidien avec des armes à feu :
« il est loin d'être fiable »

Le , par Mathis Lucas

0PARTAGES

3  0 
Un lycée de Pennsylvanie a dû désactiver un système expérimental de détection d'armes basées sur l'IA après des mois de tests infructueux. Baptisé « Wi-AI », l'outil utilisait des signaux Wi-Fi pour repérer les objets dissimulés, mais il confondait constamment le matériel scolaire ordinaire avec de réelles menaces. En raison de ce taux élevé de faux positifs, l'établissement scolaire a mis fin au projet pilote et récupéré ses fonds, tout en revenant à ses outils de sécurité traditionnels. Cette mésaventure illustre les limites actuelles des technologies de surveillance automatisée dans les lieux publics, où ces erreurs peuvent provoquer des incidents majeurs.

Les modèles d'IA se trompent souvent et reproduisent les biais contenus dans leurs données d'entraînement. Les conséquences plus ou moins graves. La situation peut s'avérer particulièrement périlleuse lorsque la plateforme en question est censée détecter des armes introduites clandestinement dans un établissement scolaire. C'est ce qui s'est produit dans un lycée de Pennsylvanie, où l'outil de détection d'armes s'est révélé hautement défaillant.

Le lycée Hempfield Area High School a désactivé son détecteur d'armes propulsé par IA après que l'appareil a manqué à plusieurs reprises de distinguer des objets du quotidien d'armes réelles. L'outil intervient dans un contexte de recrudescence des fusillades dans les établissements scolaires aux États-Unis.

Le système Wi-AI, développé par l'entreprise CurvePoint issue de l'université Carnegie Mellon, fonctionne à l'aide de signaux Wi-Fi et de petits capteurs SensePods installés près des entrées de l'école. Ces capteurs mesurent les variations des ondes radio provoquées par le passage des personnes et de leurs affaires afin de repérer des motifs associés à des armes cachées et d'alerter le personnel par SMS, courriel ou via un tableau de bord spécial.

Incapacité de l'outil à distinguer le matériel scolaire des armes

Fonctionnant sans caméra, le dispositif permet également de suivre la fréquentation sans enregistrer d'informations personnelles identifiables. Durant la phase d'essai, l'IA de CurvePoint n'a pas réussi à faire la différence entre une arme et des fournitures scolaires ordinaires telles que des classeurs, des gourdes métalliques ou des batteries externes, ce qui a provoqué un nombre élevé de faux positifs. Le taux d'échec élevé a alarmé les autorités.


Alors que les responsables espéraient atteindre un taux de précision de 95 % pour faire de ce système le dispositif de sécurité principal du lycée, le surintendant Dr Mark Holtzman a reconnu l'échec de l'expérimentation auprès de la chaîne WTAE-TV : « il est loin d’atteindre les 95 %, je peux vous l’affirmer ».

Skip Smith, cofondateur et PDG de CurvePoint, a souligné que le lycée servait de « site de test et d’évaluation » et non de déploiement opérationnel. Il a attribué les dysfonctionnements du système Wi-AI à « des défis environnementaux qui nuisent à la fiabilité et à la constance ». La société poursuit l'évaluation de sa technologie, mais ne propose actuellement aucun déploiement opérationnel et n'a annoncé aucune date de lancement officiel.

Le district scolaire sera remboursé du montant versé pour ces détecteurs, et le lycée continue d'employer son système habituel OpenGate, bien que Mark Holtzman reste ouvert à de futurs tests avec CurvePoint. Mais certains critiques restent sceptiques quant à l'amélioration de la fiabilité de détecteurs. « Ces gens qui gobent les arguments marketing des entreprises d'IA sont en train de provoquer l'effondrement de la société », a écrit un critique.

Un incident de faux positif qui a failli dégénérer au Maryland

Quatre étudiants de première et terminale appartenant à l'équipe de football d'un lycée du comté de Baltimore, dans le Maryland, ont été victimes d'une grave méprise le 20 octobre 2025. Alors qu'ils attendaient qu'on vienne les chercher après leur entraînement, l'outil de détection d'armes propulsé par l'IA de la société Omnilert a confondu un paquet de chips Doritos avec une arme à feu, attribuant un niveau de confiance de 90 % à cette alerte.

Damon Hewitt, le président du cabinet d'avocats qui représente les lycéens, a souligné que « ces étudiants ont été trompés non seulement par une technologie sujette aux fausses alertes, mais aussi par les adultes censés les protéger ». L'alerte a immédiatement provoqué l'arrivée de six voitures de police avec gyrophares allumés. Les policiers ont dégainé leurs armes, ordonné aux adolescents de se mettre à genoux, puis les ont menottés et fouillés.

Selon les rapports, les choses auraient pu facilement dégénérer. Un officier de police a d'ailleurs souligné la gravité potentielle de la situation en disant aux adolescents : « hé, merci de ne pas vous être enfuis, ça aurait posé un vrai problème ». Un autre policier a exprimé son agacement envers le système en lançant « stupides caméras IA », tout en ajoutant sur un ton humoristique qu'il fallait « faire attention avec vos paquets de chips ».

De son côté, la directrice de l'établissement a envoyé des messages contenant des émojis riant aux larmes à ses collègues sans présenter d'excuses aux élèves. Un an après cet événement qui les a laissés terrifiés pour leur vie, les quatre élèves ont décidé d'intenter une action en justice contre la société Omnilert, la police du comté de Baltimore, le conseil d'éducation, la directrice et plusieurs policiers. Cela a suscité de nombreux commentaires.

Conséquences psychologiques et réactions de parents d'élèves

La plainte met en lumière la faillibilité dramatique du dispositif Omnilert Gun Detect. En effet, le bureau de l'inspecteur général de l'éducation du Maryland a révélé que plus de 99 % des alertes générées par ce système dans les écoles publiques du comté de Baltimore étaient de fausses alertes ne nécessitant aucune intervention policière. De son côté, Omnilert s'est dite vraiment désolée pour la peur ressentie par les élèves et leurs familles.

L'incident a provoqué une profonde détresse émotionnelle et des traumatismes chez les lycéens. L'un des étudiants, Taki Allen, a expliqué qu'il ne se sentait plus du tout en sécurité lorsqu'il devait attendre sur le campus après les cours. Freida Winfield, la mère de l'un des élèves interpellés, a exprimé son indignation : « aucun enfant du comté de Baltimore ne devrait faire face à ce genre de danger en attendant devant son propre lycée ».

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la qualité des détecteurs d'armes basés sur l'IA ?
Quels sont les risques liés au taux élevé de faux positifs de ses systèmes d'IA ?

Voir aussi

Les outils de détection de l'IA ne peuvent pas prouver qu'un texte a été généré par l'IA, par Sean Goedecke

L'armée américaine envisage d'utiliser des mitrailleuses dotées d'IA pour contrer les attaques de drones, des préoccupations émergent concernant l'absence de l'humain dans les décisions militaires

OpenAI annonce des restrictions plus strictes sur les informations liées aux armes destinées aux adolescents, notamment les détails pratiques, et les systèmes de sécurité susceptibles d'un usage détourné
Vous avez lu gratuitement 206 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !