Пачка чипсов вызвала наезд полиции из-за ошибки ИИ
Четыре школьника подали в суд на власти округа Балтимор после того, как система распознавания оружия ошибочно приняла пачку Doritos за пистолет. Полицейские приехали на вызов с оружием в руках, несмотря на то что администрация школы уже отменила тревогу.
В октябре 2025 года система Omnilert зафиксировала подозрительный предмет в руках подростка. В течение двух минут сотрудники школ проверили записи камер и поняли, что это всего лишь пачка чипсов, после чего отменили сигнал. Однако из-за сбоя в коммуникации полиция всё равно прибыла на место с мигающими маячками и вооружёнными офицерами. Подростков разделили, уложили на бетон и надели наручники.
Согласно иску, причиной инцидента стали технологические ошибки и некомпетентность персонала. При этом в тексте она отметила, что предмет может быть не пистолетом. В результате четверо студентов оказались в ситуации, угрожающей жизни.
Деймон Хьюитт (Damon Hewitt), президент Комитета юристов по гражданским правам, назвал ситуацию токсичной смесью из чрезмерного доверия к ИИ и плохой координации между чиновниками. По его словам, «излишняя зависимость от технологий искусственного интеллекта в сочетании с неумелой коммуникацией и координацией среди ключевых должностных лиц это токсичная смесь».
Текст подготовила языковая модель по материалам источников.