栏目分类
你的位置:安博应用市场下载安装 > 新闻动态 > AI把玉米片判为枪惊动八辆美国警车, 黑人少年的绝望14分钟!
发布日期:2025-11-19 04:47 点击次数:108
一、事件始末:玉米片引发的“反恐级”围捕
2025年10月20日,美国马里兰州肯伍德高中16岁学生艾伦结束足球训练后,手持一袋多力多滋玉米片在校外逗留。学校部署的AI安防系统Omnilert突然触发警报,将其口袋中皱褶的包装袋误判为“枪支”。短短几分钟内,8辆警车蜂拥而至,持枪警察喝令艾伦趴下,反铐其双手并搜身。最终,警方展示AI警报图像时,才发现“凶器”竟是一袋零食。涉事公司Omnilert事后承认误报,却辩称系统“按预期运行”——即先报警后人工核验,但现场执法者未收到修正指令。

二、技术翻车:天价系统双重失灵
误报频发,漏洞百出
Omnilert系统由巴尔的摩郡学区耗资270万美元引入(年运营费58万美元),宣称“误报率几乎为零”。但此次连玉米片袋都无法准确识别,暴露算法严重缺陷。业内人士揭露:其训练数据70%为实验室标准枪支图片,缺乏日常场景(如光线干扰、褶皱物品)的测试样本,导致实际场景中频发“错认”。
漏判悲剧:真枪眼前“隐身”
讽刺的是,同一系统今年1月在田纳西州安蒂奥克中学枪击案中彻底失灵:一名学生携枪闯入校园射杀他人,AI全程未检测到武器。校方解释“枪手距摄像头过远”,此番又以“场景复杂”搪塞玉米片事件,技术可靠性遭公众强烈质疑。

三、流程崩坏:人机协作沦为“走过场”
核验机制形同虚设:AI警报后,人工审核员虽在30秒内标记“无威胁”,但修正信息仅同步至校内电脑端,校长手机仍收到未标注的初始警报。
警方协议埋雷:学区与警方约定“校长指令优先于二次核验”,导致安全小组无法拦截已触发出警程序。
执法偏见加剧危机:艾伦作为黑人学生,触发“黑人青少年+疑似枪支”标签后,警方无视分级处置流程(应先便衣询问),直接启动最高武力响应,折射根深蒂固的种族偏见。

四、争议核心:AI安防的信任危机
家长愤怒联名抵制:民众痛斥“花天价养废铁”,要求终止合同,转而增聘真人安保。
行业潜规则遭曝光:为拿下订单,企业用理想化数据美化演示效果,隐瞒真实误报率。
人机关系本末倒置:安防专家指出,系统设计本应“AI辅助人工”,现实中却“人工为AI背书”,审核员权限低于自动警报,酿成系统性失控。
Powered by 安博应用市场下载安装 @2013-2022 RSS地图 HTML地图
