研究人员对此前开发的用于欺骗自动驾驶汽车的技术进行了深入研究,发现在停车标志和限速标志上贴上廉价贴纸就能产生相当有效的欺骗效果。
他们还发现了一个特殊现象:这些系统会"记忆"交通标志。当标志被遮挡时,车辆仍然会在其计算中假定标志存在于最初检测到的位置,即使标志已经看不见了。这导致在实际环境中"攻击成功率低于预期"。
来自美国加州大学欧文分校和德雷塞尔大学的科学家们延续了早期的研究。此前的研究表明,对标志投射的光线模式可以使自动驾驶汽车产生混淆,同样有效的还包括精心放置的锡箔纸和涂料、电工胶带、道路贴纸以及操纵性音频等方法。
自动驾驶车辆使用的 AI 算法、物体识别器、图像分类器和其他传感器信息的技术已经突飞猛进,但计算机视觉仍然无法捕捉到人眼通过多年人类生活观察和千万年进化完善所获得的数万亿个上下文线索。比如,当人类大脑看到停车标志上的贴纸时,可能会这样推理:"看,这个路标的大小和形状像是停车标志,虽然上面有贴纸。是的,有人把它涂鸦了。我还是要在标志处停车。"
但自动驾驶系统使用的物体检测器和图像分类器的工作方式与此不同。
在这项最新研究中,团队聚焦于自动驾驶汽车使用的交通标志识别 (TSR) 系统,并设计了一种衡量过去对抗性攻击有效性的方法。
Wang 表示,他的团队的攻击手段是使用带有旋转、多彩设计的贴纸,这些设计可以混淆自动驾驶汽车 TSR 系统中的图像分类器和物体检测器使用的 AI 算法。其中一些可以使停车标志在检测器看来"消失" —— 可以通过用对抗性停车标志海报覆盖原标志,或在标志上添加对抗性贴纸来实现。
研究发现,低成本方法 —— 主要是在停车和限速标志上贴上特制贴纸 —— 确实可以(如先前所示)使某些车辆的 TSR 系统无法检测到此类标志,同时也可以使不存在的标志凭空出现。这类攻击可能导致汽车忽视道路指令、触发意外紧急制动、超速和其他违规行为。
研究团队测试了五款具有一定自动驾驶功能的公开销售车型(即特斯拉 Model 3 2023、丰田凯美瑞 2023、日产轩逸 2023、马自达 CX-30 2023 和现代途胜 2024),出于道德原因,他们没有指出哪些型号容易受到哪种攻击。
关于空间记忆设计的发现,论文指出这种技术在当今商用 TSR 系统中很常见。研究人员发现,这意味着"隐藏攻击"(使标志对 TSR 系统"消失")在理论上比"出现攻击"更难(如果不是同样困难的话)欺骗系统。原因是当 TSR 系统最初检测到标志及其位置时,即使标志在行驶过程中的某些部分被遮挡,它似乎也会"记住"它,直到通过标志应该存在的位置。
这些信息对于加强自动驾驶汽车抵御此类攻击的能力都很有用。这项研究不仅让团队能够负责任地向自动驾驶汽车供应商披露攻击成功的地方,以便他们在必要时进行调整,还意味着研究人员可以根据获得的新信息,对攻击的风险状况进行数学建模。这有望在让这些系统整体更安全的道路上带来更多小的改进。
好文章,需要你的鼓励
瑞典央行与金融机构及国家安全部门深化合作,共同应对网络威胁。今年5月,瑞典遭遇大规模分布式拒绝服务攻击,政府和金融机构受到严重冲击。总理克里斯特松承诺增加资金支持,建立更强大的公私合作伙伴关系。央行将举办第二届在线网络安全挑战峰会,鼓励金融机构提升网络安全能力。瑞典金融协会敦促建立危机管理机制,与国家网络安全中心等机构协调配合。
字节跳动发布Seedream 4.0多模态图像生成系统,实现超10倍速度提升,1.4秒可生成2K高清图片。该系统采用创新的扩散变换器架构,统一支持文字生成图像、图像编辑和多图合成功能,在两大国际竞技场排行榜均获第一名,支持4K分辨率输出,已集成至豆包、剪映等平台,为内容创作带来革命性突破。
工作压力源于大脑储存混乱而非系统。本文介绍5个ChatGPT提示词,帮你将工作压力转化为结构化行动:优先级排序任务清单、快速撰写专业邮件回复、从冗长文档中提取关键信息、生成问题解决方案、高效准备会议内容。通过系统化处理工作事务,将分散的精力转为专注执行,让大脑专注于决策而非重复劳动。
红帽公司研究团队提出危险感知系统卡(HASC)框架,为AI系统建立类似"体检报告"的透明度文档,记录安全风险、防护措施和问题修复历史。同时引入ASH识别码系统,为AI安全问题建立统一标识。该框架支持自动生成和持续更新,与ISO/IEC 42001标准兼容,旨在平衡透明度与商业竞争,建立更可信的AI生态系统,推动行业协作和标准化。