ИИ перепутал чипсы с оружием: студента чуть не задержали из-за пакета Doritos

В американском штате Мэриленд система безопасности на базе ИИ перепутала обычный пакет чипсов с оружием. Инцидент произошел в средней школе Кенвуд, где используется система Omnilert: она постоянно анализирует видео с камер, чтобы заранее выявлять возможные угрозы.

Вечером 20 октября 17-летний ученик Таки Аллен стоял у школы после футбольной тренировки и ждал машину. Вдруг к нему подъехали восемь полицейских машин с включенными сиренами. Офицеры выскочили с оружием наперевес, приказали парню опуститься на колени и надели наручники. Как оказалось, ИИ «увидел» в его руках оружие, хотя это был просто пакет Doritos. Позже Аллен признался, что подумал, будто не переживет этот момент.

По словам директора школы, тревога была отменена почти сразу, но полиция уже успела получить сигнал. Представители школьного округа признали, что информация об ошибке дошла до правоохранителей слишком поздно. Теперь проводится расследование, а ученику и другим свидетелям обещана психологическая помощь.

После происшествия в соцсетях разгорелись споры. Пользователи Reddit и X резко раскритиковали как систему наблюдения, так и действия полиции. Многие писали, что виноват не искусственный интеллект, а люди, которые слишком быстро поверили в ложный сигнал. Дедушка Аллена потребовал пересмотреть работу таких систем и сделать их безопаснее.

Подобные технологии действительно могут помочь предотвращать трагедии, ведь случаи стрельбы в школах в США остаются серьезной проблемой. Но этот случай наглядно показал: пока алгоритмы ошибаются, важно, чтобы люди сохраняли холодную голову и проверяли сигналы, прежде чем действовать.

Источник: Edition