ИИ перепутал чипсы с оружием: студента чуть не задержали из-за пакета Doritos

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

В американском штате Мэриленд система безопасности на базе ИИ перепутала обычный пакет чипсов с оружием. Инцидент произошел в средней школе Кенвуд, где используется система Omnilert: она постоянно анализирует видео с камер, чтобы заранее выявлять возможные угрозы.

Автор: Meli1670 Источник: pixabay.com

Вечером 20 октября 17-летний ученик Таки Аллен стоял у школы после футбольной тренировки и ждал машину. Вдруг к нему подъехали восемь полицейских машин с включенными сиренами. Офицеры выскочили с оружием наперевес, приказали парню опуститься на колени и надели наручники. Как оказалось, ИИ «увидел» в его руках оружие, хотя это был просто пакет Doritos. Позже Аллен признался, что подумал, будто не переживет этот момент.

По словам директора школы, тревога была отменена почти сразу, но полиция уже успела получить сигнал. Представители школьного округа признали, что информация об ошибке дошла до правоохранителей слишком поздно. Теперь проводится расследование, а ученику и другим свидетелям обещана психологическая помощь.

После происшествия в соцсетях разгорелись споры. Пользователи Reddit и X резко раскритиковали как систему наблюдения, так и действия полиции. Многие писали, что виноват не искусственный интеллект, а люди, которые слишком быстро поверили в ложный сигнал. Дедушка Аллена потребовал пересмотреть работу таких систем и сделать их безопаснее.

Подобные технологии действительно могут помочь предотвращать трагедии, ведь случаи стрельбы в школах в США остаются серьезной проблемой. Но этот случай наглядно показал: пока алгоритмы ошибаются, важно, чтобы люди сохраняли холодную голову и проверяли сигналы, прежде чем действовать.

Источник: Edition

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе

Мой Youtube канал с подробными обзорами!

Телеграм-канал, где я выкладываю все свои обзоры и подборки, а также публикую информацию о крупных распродажах (купоны, скидки, акции).

Для связи пишите на электронную почту: valeron1984@gmail.com

2 комментария

C
Это как вообще? На что ещё похож обычный пакет обычных чипсов, кроме как на обычный пакет обычных чипсов?
h
Рисунок на пакете (или форма мятого пакета) может быть похож на что угодно, сравнимых габаритов.

Добавить комментарий

Сейчас на главной

Новости

Публикации

Под Холмом фараонов в Египте скрыто крупное сооружение. Заметить его смогли только из космоса

Большинство известных памятников Древнего Египта находятся в засушливых пустынных районах и построены из камня, который хорошо сохраняется тысячелетиями. В дельте Нила условия совершенно иные, и...

✦ ИИ  900 миллионов галактик и 1,7 петабайта данных: телескоп «Евклид» показал первую часть самой большой 3D-карты Вселенной

Европейский космический телескоп «Евклид» выложил первый архив наблюдений за 13 месяцев работы. Внутри — 15 тысяч кандидатов в гравитационные линзы и миллионы квазаров.

Вспышка на четыре кадра: как Flashcube автоматически готовил новую лампу после снимка

В середине 1960-х любительская съёмка со вспышкой требовала почти отдельного ритуала. После кадра фотограф снимал перегоревшую одноразовую лампу, ставил новую, проверял контакты и только потом мог...

Телевизор на запястье: как Seiko TV-001 в 1982 году обогнала смарт-часы на сорок лет

1982 год. На дворе — эпоха кассетных магнитофонов, аркадных автоматов и только-только зарождающейся персональной компьютерной революции. Именно в этот момент японская компания Seiko, уже...

Пытаетесь скрыть правду? Как глаза и зрачки выдают ложь перед живым собеседником

Принято считать, что во время обмана человек часто отводит взгляд, суетливо переводит глаза с предмета на предмет и чаще моргает. Экспериментальные данные показывают обратную картину: когда человек...

Почти все живые черноногие хорьки происходят от семи животных — спустя десятилетия биологи вернули потерянные гены клонами из клеток 1988 года

В 1981 году считавшийся исчезнувшим черноногий хорёк неожиданно нашёлся снова. Небольшую популяцию обнаружили возле Мититси в Вайоминге, и сначала казалось, что вид получил второй шанс без помощи...