Contexte et déroulement de l incident
À Baltimore, devant Kenwood High School, Taki Allen, 16 ans, a vécu une intervention policière après qu un paquet de chips ait été interprété comme une arme potentielle par le système de surveillance par IA utilisé dans l établissement. Peu avant l incident, il avait terminé un sachet de Doritos et le tenait encore lorsqu une alerte s est déclenchée.
Le système, développé par la société Omnilert, a immédiatement signalé le danger aux forces de l ordre, entraînant une intervention rapide sur les lieux.
Selon les informations disponibles, la police est arrivée avec environ huit véhicules, les agents ont sorti leurs armes et ont ordonné à l adolescent de se mettre à terre. Taki Allen a levé les mains en exprimant son étonnement et en demandant ce qui se passait.
Rôle du système et vérification humaine
La directrice de Kenwood High School, Myriam Rogers, indique que le système repose sur une vérification humaine et que, dans ce cas précis, l alerte a été déclenchée et des opérateurs humains ont évalué la situation après avoir consulté les images.
Les images auraient montré que le paquet de chips se trouvait près d une poubelle et qu il n était pas relié à une arme. Le jeune homme a ajouté que ce type de confusion ne devrait pas se produire.
Conséquences pour l élève et perception du dispositif
Très choqué, Taki Allen affirme ne plus se sentir en sécurité et préfère désormais attendre l arrivée d adultes à l intérieur de l établissement après les entraînements afin d éviter l exposition des caméras.
Il déplore en outre le manque de réactivité et d empathie perçus de la direction, faisant remarquer que la directrice n a pris contact qu après trois jours.
