ActualitéIA

Une IA scolaire a pris un paquet de Doritos pour une arme. La police a sorti les siennes.

Une IA a pris un paquet de Doritos pour une arme. La police est venue malgré l'annulation de l'alerte. Quatre lycéens portent plainte.

Un détecteur d’armes à intelligence artificielle (IA) a signalé, avec un indice de confiance de 90 %, qu’un lycéen du Maryland tenait une arme à feu, selon une plainte déposée le 17 novembre 2026. Il tenait en fait un paquet de Doritos goût Cool Ranch : avec trois coéquipiers, il mangeait des chips après l’entraînement de football américain. Des responsables de la sécurité des écoles et un policier ont regardé l’image, vu les chips et annulé l’alerte en deux minutes environ. Environ un quart d’heure plus tard, la police a quand même été envoyée, et des agents armes au poing ont menotté les quatre adolescents.

Les quatre plaignants, élèves ou anciens élèves du lycée Kenwood, dans le comté de Baltimore, sont noirs. Tous étaient mineurs le soir des faits, le 20 octobre 2025. Le Lawyers’ Committee for Civil Rights Under Law, une association de défense des droits civiques, a déposé leur plainte devant le tribunal du comté.

La plainte vise notamment Omnilert, l’entreprise qui vend le détecteur Omnilert Gun Detect, le conseil scolaire du comté, le comté au titre de sa police, la proviseure et plusieurs policiers. Elle invoque entre autres une fouille et une interpellation abusives, une arrestation illégale et la négligence. Le récit qui suit est celui de la plainte, donc la version des lycéens. Aucun tribunal ne s’est encore prononcé.

Une alerte annulée à 19 h 06, une patrouille envoyée à 19 h 21

Selon la plainte, l’entraînement se termine vers 18 h 30 et l’entraîneur distribue des paquets de Doritos. Les quatre amis attendent qu’on les ramène, à l’arrière du lycée.

Peu avant 19 h 04, le système signale comme une arme à feu le paquet que tient l’un d’eux. Des employés d’Omnilert chargés de vérifier les alertes examinent l’image et confirment la menace, affirme la plainte. L’alerte part alors par SMS vers au moins 15 personnes : dix employés de la police du comté et cinq du district scolaire, l’administration des écoles publiques du comté.

Entre 19 h 05 et 19 h 06, le directeur de la sécurité scolaire du district, une responsable de la sécurité et un sergent de police examinent l’alerte. Ils y voient un paquet de chips et l’annulent ; un second SMS prévient tous les destinataires.

La proviseure ouvre le premier SMS entre 19 h 17 et 19 h 19. Selon la plainte, la page liée au message signale l’annulation. La proviseure agrandit pourtant la vidéo et fait une capture d’écran de l’élève qui tient le paquet. Elle l’envoie au policier en poste au lycée, sur le téléphone personnel de celui-ci.

À 19 h 19, elle écrit à deux responsables du district : « L’alerte Omni fonctionne. Un gamin est sur mon patio en ce moment. On dirait un de mes élèves et on dirait qu’il est armé. Mon policier est en train de le signaler au commissariat. » Le policier du lycée transmet la capture au commissariat et écrit à la proviseure que l’objet « ressemble à une arme bleue ». Elle répond : « Oui, mais peut-être pas. » À 19 h 21, des agents sont envoyés sur un signalement d’« individu suspect armé ». À ce moment, selon la plainte, au moins dix employés de la police avaient reçu l’alerte et son annulation.

À genoux, menottés, puis « c’est l’Omnilert »

Selon la plainte, au moins six voitures de police arrivent, gyrophares allumés. Plusieurs agents sortent leur arme en descendant de voiture, et les adolescents lèvent les mains. Les policiers leur ordonnent de se mettre à genoux sur le béton, les menottent, puis les fouillent, eux et leurs sacs à dos. Les quatre adolescents restent menottés au moins six minutes.

La fouille ne donne rien, selon la plainte. Quand le caporal qui dirige l’intervention demande d’où vient l’appel, un collègue répond : « c’est l’Omnilert ». « L’IA n’est pas ce qu’il y a de mieux », dit le caporal aux lycéens. Il leur lance aussi : « Merci de ne pas vous être enfuis, ça aurait été un vrai problème. »

La version d’Omnilert, du district et de l’inspecteur général

En 2025, Omnilert et le district affirmaient que le système avait fonctionné comme prévu. Le porte-parole d’Omnilert, Blake Mitchell, expliquait alors que l’image « ressemblait fortement à une arme tenue en main ». Le 18 novembre 2026, il a indiqué au site d’information Baltimore Banner que l’entreprise examinait la plainte et était « sincèrement désolée pour la peur » vécue par les lycéens et leurs familles. Le district a refusé un entretien au journal, et la police du comté n’a pas souhaité commenter.

Le Bureau de l’inspecteur général de l’éducation du Maryland, un organe de contrôle de l’État, a remis son rapport sur l’incident au district le 25 novembre 2025. Il n’y relève aucun biais : le logiciel ne tient compte ni de l’origine ni du sexe et se concentre uniquement sur l’objet en mouvement. Selon le rapport, l’alerte est venue de la main de l’élève, à hauteur de hanche : son mouvement, sa position et son angle. Un objet dépassait légèrement de ses doigts, et les reflets de cet objet ont aussi compté. Le rapport ajoute que le paquet de chips à lui seul n’a pas déclenché l’alerte.

Des milliers de détections, une douzaine d’alertes par jour

Le rapport décrit aussi le tri des alertes dans le district. Chaque jour, l’IA produit des milliers de détections sur plus de 9 500 caméras. Environ 200 sont examinées par les vérificateurs d’Omnilert. Le district reçoit ensuite une douzaine d’alertes, que son service de sécurité et quelques policiers examinent.

Schéma : dans les écoles du comté de Baltimore, des milliers de détections d'armes par l'IA chaque jour aboutissent à environ 200 vérifications par Omnilert et à une douzaine d'alertes par jour envoyées au district, et moins de 1 % des alertes envoyées au district entre novembre 2023 et novembre 2025 ont exigé de prévenir la police
Le tri des alertes Omnilert dans les écoles publiques du comté de Baltimore, d’après l’inspecteur général de l’éducation du Maryland (schéma qui n’est pas à l’échelle). Données : Maryland Office of the Inspector General for Education, rapport du 25 novembre 2025. Graphique : MACCUS.

De novembre 2023 à novembre 2025, moins de 1 % des alertes transmises au district ont exigé de prévenir la police, selon le rapport. La plainte y voit un taux de fausses alertes, ou faux positifs, « supérieur à 99 % ». Certains objets écartés en amont étaient bien des répliques d’armes, précise le rapport, comme celles qu’utilisent les lycéens en préparation militaire lors des défilés.

Avant Kenwood, la police du comté s’était déjà déplacée pour des jouets d’enfants, une agrafeuse et un pistolet à colle, affirme la plainte. Celle-ci cite aussi la promesse commerciale d’Omnilert de faux positifs « quasi nuls ».

Hors des écoles, la police de Londres affirme que la reconnaissance faciale en temps réel a conduit à plus de 3 000 arrestations en deux ans.

Une autre alerte annulée à Parkville, et les recommandations de l’État

La plainte, l’inspecteur général et les responsables scolaires s’accordent sur un point : l’alerte était annulée avant que quiconque appelle la police. Ils divergent sur les responsabilités. La plainte reproche aux vérificateurs d’Omnilert de ne pas avoir reconnu un paquet de chips ; l’inspecteur général estime que la détection et la surveillance ont fonctionné « dans les paramètres prévus ».

Le rapport décrit pourtant la faille dont parlent les lycéens. Plusieurs des 15 destinataires pouvaient annuler une alerte, mais les autres pouvaient contourner la procédure d’un simple appel ou d’un SMS à la police.

La proviseure a dit aux enquêteurs avoir agrandi la vidéo pour chercher une arme. Elle a ajouté ne pas avoir vu l’annulation et avoir contacté le policier du lycée pour savoir s’il était au courant de l’alerte. Agrandir l’image sur un téléphone peut faire manquer le SMS d’annulation, note le rapport.

Le rapport cite un autre cas, au lycée de Parkville, le 7 novembre 2025. Comme à Kenwood, des destinataires extérieurs au système scolaire y ont poursuivi la procédure malgré l’annulation du district, « par excès de prudence ».

Le rapport demande au district de ne prévenir la police qu’une fois la menace confirmée. Il recommande aussi d’utiliser l’application d’Omnilert plutôt que les SMS, et de former deux fois par an les cadres du district et la police du comté. Le district a promis d’appliquer ces recommandations et dit avoir de nouveau formé ses cadres et ses partenaires de la police en novembre 2025, selon le Baltimore Banner. Selon la plainte, le système est toujours en service à Kenwood et les mêmes défaillances persistent.

Les lycéens demandent des dommages et intérêts. Ils réclament aussi une décision interdisant au district et au comté d’utiliser ce système, ou tout système comparable, tant que des procédures de vérification, d’annulation et de communication, ainsi qu’une formation, ne sont pas en place. « Cela n’aurait jamais dû remonter jusqu’à la police », a déclaré Leah Frazier, qui dirige le programme Digital Justice Initiative du Lawyers’ Committee.

Notre analyse

Selon Omnilert, cité dans la plainte, ces systèmes sont « conçus avec une priorité claire : ne pas manquer une vraie arme ». Les fausses alertes font donc partie du dispositif, et un humain doit les écarter. À Kenwood, les premiers à regarder, les vérificateurs d’Omnilert, ont transmis l’alerte, selon la plainte ; puis le district et la police y ont vu des chips et l’ont annulée en deux minutes environ. La défaillance qui a mis des armes face aux lycéens est venue après, dans une chaîne de SMS où chacun des 15 destinataires pouvait encore appeler le commissariat.

L’inspecteur général et les lycéens vont dans le même sens : la police n’intervient que sur une alerte confirmée, et une annulation parvient à tous ceux qui ont vu l’alerte. Les écoles adoptent l’IA à grande vitesse, des caméras de sécurité jusqu’à un lycée rural chinois où 4 000 élèves apprennent les matières principales avec l’IA, selon son directeur. Un enchaînement proche de celui de Kenwood, alerte automatique puis vérification humaine, a précédé l’arrestation d’une Floridienne pour des messages écrits à l’assistant d’IA Claude.

Une étude commandée en 2025 par le Parlement du Maryland au centre de l’État pour la sécurité scolaire, sur les méthodes les plus efficaces pour détecter les armes dans les collèges et lycées publics, doit être remise au plus tard le 1er décembre 2026. Devant le tribunal, la décision sur la demande d’interdiction des lycéens dira si une alerte confirmée avant toute intervention armée devient une obligation dans le comté de Baltimore.

Sources

Image d’en-tête : graphique MACCUS. Données : plainte des lycéens contre Omnilert et al. (déposée le 17 novembre 2026) ; heure d’arrivée de la police selon les responsables scolaires, citée par The Baltimore Banner

Laisser un commentaire