AI把玉米片判为枪惊动八辆美国警车, 黑人少年的绝望14分钟!

一、事件始末：玉米片引发的“反恐级”围捕

2025年10月20日，美国马里兰州肯伍德高中16岁学生艾伦结束足球训练后，手持一袋多力多滋玉米片在校外逗留。学校部署的AI安防系统Omnilert突然触发警报，将其口袋中皱褶的包装袋误判为“枪支”。短短几分钟内，8辆警车蜂拥而至，持枪警察喝令艾伦趴下，反铐其双手并搜身。最终，警方展示AI警报图像时，才发现“凶器”竟是一袋零食。涉事公司Omnilert事后承认误报，却辩称系统“按预期运行”——即先报警后人工核验，但现场执法者未收到修正指令。

二、技术翻车：天价系统双重失灵

误报频发，漏洞百出

Omnilert系统由巴尔的摩郡学区耗资270万美元引入（年运营费58万美元），宣称“误报率几乎为零”。但此次连玉米片袋都无法准确识别，暴露算法严重缺陷。业内人士揭露：其训练数据70%为实验室标准枪支图片，缺乏日常场景（如光线干扰、褶皱物品）的测试样本，导致实际场景中频发“错认”。

漏判悲剧：真枪眼前“隐身”

讽刺的是，同一系统今年1月在田纳西州安蒂奥克中学枪击案中彻底失灵：一名学生携枪闯入校园射杀他人，AI全程未检测到武器。校方解释“枪手距摄像头过远”，此番又以“场景复杂”搪塞玉米片事件，技术可靠性遭公众强烈质疑。

三、流程崩坏：人机协作沦为“走过场”

核验机制形同虚设：AI警报后，人工审核员虽在30秒内标记“无威胁”，但修正信息仅同步至校内电脑端，校长手机仍收到未标注的初始警报。

警方协议埋雷：学区与警方约定“校长指令优先于二次核验”，导致安全小组无法拦截已触发出警程序。

执法偏见加剧危机：艾伦作为黑人学生，触发“黑人青少年+疑似枪支”标签后，警方无视分级处置流程（应先便衣询问），直接启动最高武力响应，折射根深蒂固的种族偏见。

四、争议核心：AI安防的信任危机

家长愤怒联名抵制：民众痛斥“花天价养废铁”，要求终止合同，转而增聘真人安保。

行业潜规则遭曝光：为拿下订单，企业用理想化数据美化演示效果，隐瞒真实误报率。

人机关系本末倒置：安防专家指出，系统设计本应“AI辅助人工”，现实中却“人工为AI背书”，审核员权限低于自动警报，酿成系统性失控。