未来,只有AI驱动的企业与其他企业。
然而随着AI技术的不断渗透,企业就需要在基础设施、数据和应用程序的三层架构中,增加AI这一全新层次,这也产生了如何保证AI应用安全性的新问题。
在网络安全领域,AI对抗AI已成为共识。思科亚太、日本及大中华区总裁Dave West认为,随着世界变化加速,我们必须迅速行动,但不能以牺牲安全为代价追求速度,也不能为了确保安全而牺牲速度。
速度与安全如何兼得?
“模型是非确定性的、动态的,这就会创造出新的风险向量。”思科亚太、日本及大中华区网络销售和解决方案工程副总裁Raymond Janse van Rensburg谈到,当模型崩溃时,可能会发生严重的问题,这就需要对模型和应用程序进行保护。
AI应用面临的风险主要包括Safety(安全)和Security(保障)两大类。Safety涉及模型的“毒性”问题,例如偏差注入,意味着模型未能按预期执行任务或行为;Security则聚焦于保护模型免受外部攻击,如攻击者试图改变模型行为,随着攻击手段不断演变,如何有效保护模型变得愈加复杂。
如今,企业需要一个集成的安全平台,而不是哪里漏了堵哪里的单点解决方案。近期思科发布了思科人工智能防御系统(Cisco AI Defense),帮助企业AI转型过程中,可以在确保安全的同时实现无缝创新。
思科人工智能防御系统(Cisco AI Defense)
思科人工智能防御系统的主要目标是简化AI管理,重点解决两个核心问题,第一,确保AI应用的访问安全:保护用户、员工以及使用应用程序的人员(例如ChatGPT等AI工具用户)的安全;第二,开发与部署安全的AI应用:确保AI应用程序开发者在构建和开发智能体时能够获得必要的安全保障。
思科全球人工智能软件和平台副总裁DJ Sampath强调,思科人工智能防御系统首先可以为员工使用AI应用程序时提供完整的可视化,了解员工使用的未授权和已授权的AI应用;其次,通过实施访问控制策略,限制员工对未授权AI工具的访问;最后,持续防范威胁和数据泄露,确保合规性和机密数据的保护。
同样开发者也需要一套适用于所有应用的AI安全防护措施,思科人工智能防御系统则可以满足AI检测、模型验证、运行时安全。
AI检测:安全团队需要了解构建应用的主体以及其使用的训练源。思科人工智能防御系统能够在公有云和私有云中检测到未授权和已授权的AI应用。
模型验证:模型调整可能导致有害或意外结果。思科人工智能防御系统的自动化测试可检查人工智能模型中数百种潜在的安全问题。这支由人工智能驱动的算法红队能够识别潜在漏洞,并为安全团队推荐思科人工智能防御系统中的防护措施。
运行时安全:持续验证能够防范潜在的安全威胁,如提示注入、拒绝服务和敏感数据泄露等。
与单一AI模型中的安全措施不同,思科人工智能防御系统提供适用于多模型环境的一致性控制。该系统具备自我优化能力,基于思科独有的机器学习模型,并结合Talos威胁情报数据,实时识别和应对不断演变的AI安全挑战。使用思科人工智能防御系统的Splunk客户,将接收到来自整个生态系统的丰富警报。
同时,思科人工智能防御系统能够无缝集成现有的数据流,提供卓越的可视化与控制力,并深度融入思科推出的统一化、由人工智能驱动的跨领域安全平台——思科安全云。
DJ Sampath表示,如果企业只是保护应用程序,5分钟内即可部署AI云可视性解决方案,如果需保护员工,使用思科安全访问解决方案即可轻松实现。无论是使用AI应用还是开发AI应用,思科都能提供无缝的工具支持。
思科一直与合作伙伴在安全领域保持紧密合作,97%的业务来自于合作伙伴。未来,思科将继续与情报合作伙伴协作,进一步增强人工智能防御系统的能力。同时,思科正将所有解决方案整合到“思科安全云”控制台,MSP可以通过该控制台配置和管理所有安全功能,从而提升服务能力。
Dave West最后呼吁,CIO们应认识到人工智能防御、可视性和可观察性是未来成功的基础,这些因素将决定企业在AI时代的竞争力与安全性。
好文章,需要你的鼓励
当AI遇到空间推理难题:最新研究揭示GPT-4等顶尖模型在传送门解谜和立体拼图中集体"挂科",复杂智能远比我们想象的更难实现。
这项研究首次系统评估了AI代码智能体在科学研究扩展方面的能力。研究团队设计了包含12个真实研究任务的REXBENCH基准,测试了九个先进AI智能体的表现。结果显示,即使最优秀的智能体成功率也仅为25%,远低于实用化要求,揭示了当前AI在处理复杂科学推理任务时的显著局限性。
2025施耐德电气智算峰会上,全新EcoStruxure(TM) Energy Operation电力综合运营系统正式亮相,定位场站级智慧能源管理中枢,集技术领先性与本土适配性于一体。
俄罗斯莫斯科国立大学研究团队开发出MEMFOF光流估计新方法,在保持顶尖精度的同时将1080p视频分析的GPU内存消耗从8GB降至2GB,实现约4倍内存节省。该方法通过三帧策略、相关性体积优化和高分辨率训练在多个国际基准测试中取得第一名成绩,为高清视频分析技术的普及奠定基础。