在许多互联网安全专家眼中,2022年称得上“人工智能元年”。ChatGPT的横空出世以及其他AI服务的相继上线在改变未来人们工作、学习以及生活的方式的同时,也为互联网安全行业带来了全新的挑战。因此,全球领先的专业网络安全提供商 Check Point® 软件技术有限公司(纳斯达克股票代码:CHKP)借此文帮助大家进一步了解人工智能的当前和未来用途以及重点关注安全防护的必要性。
人工智能早在几年前就开始走入我们的工作生活。事实上,根据麦肯锡全球研究所在 2022 年开展的一项人工智能调查,2017 年时 20% 的受访者表示已在至少一个业务领域采用了人工智能,而去年这一数字增长至 50%。随着企业逐渐认识到人工智能对其业务的巨大价值,预计这一增长势头将继续走高——根据 Forbes Advisor 的一项调查,超过 60% 的企业所有者认为人工智能可提高生产力。具体而言,64% 的受访者表示人工智能有助于提高业务效率,42% 的受访者认为人工智能可简化作业流程,这充分表明商业领域对人工智能的使用具有广泛的市场接受度。
在我国,2017年就由国务院印发了《新一代人工智能发展规划》,规划中已明确提及人工智能将成为经济发展的新引擎。在今年斯坦福大学一项面对全球的AI调查中,78%的中国受访者认为AI技术的普及利大于弊。我国用户对AI技术的正面态度居全球首位,这也为人工智能在我国高速发展提供了健康的土壤。值得注意的是,今年5月在天津召开的“第七届世界智能大会”上,人工智能伦理与安全成为会上主要讨论议题之一。
自去年开始,Check Point已经就ChatGPT带来的安全挑战进行了研究。作为 OpenAI 研发的人工智能平台,它在为人们生活带来便捷的同时,还可帮助网络犯罪分子实施新的攻击活动。人工智能工具为网络犯罪分子带来了诸多好处,包括但不限于:
监管人工智能学习的必要性
虽然人工智能无疑是未来发展方向,但包括 OpenAI 联合创始人之一埃隆·马斯克在内的专家们都要求对人工智能实施更广泛的监管。他们在一份公开请愿书中呼吁,在符合伦理的训练能够落实之前暂时停止这些工具的开发,同时欧盟等国际机构已经在制定自己的人工智能法律,并提出了重视网络安全和数据安全需求的提案。在我国,近年来也在逐步强化对人工智能的规范引导。中国国家新一代人工智能治理专业委员会2019年发布《新一代人工智能治理原则——发展负责任的人工智能》,2021年又发布《新一代人工智能伦理规范》,这一系列措施说明了各个政府对人工智能有序、安全发展的期待与重视。
人工智能监管的挑战在于人工智能模型学会的知识几乎无法从这些模型中删除。这意味着安全机制应侧重于防止收集或泄露某些类型的信息,而不是完全删除知识。如今,人工智能和机器学习是帮助提高网络安全功能的两大支柱。事实上,由于当前企业网络系统的复杂性和分散性,传统的人工监控、管理和风险控制已无法满足需求。在今年Check Point CPX全球大会上,以预防为先的思路,通过AI对抗AI的安全解决方案受到了与会来宾的重点关注。
如今,用户已经可以在Check Point 的 ThreatCloud AI 中看到该技术应用于网络安全领域的示例。ThreatCloud AI 是一款基于人工智能的威胁防御解决方案,它是 Check Point 软件技术公司所有产品背后的大脑,每天能够不断扫描网站、电子邮件、物联网设备、移动应用等,做出 20 亿次安全决策。
Check Point中国区技术总监王跃霖表示:“打赢与网络犯罪分子的竞赛仍是首要任务之一,我们必须确保环境及时更新且准备就绪,从而有效应对当前和未来的所有威胁。现在,Check Point有几款解决方案充分展示了人工智能在网络安全领域的无限可能性。为了降低与高级人工智能相关的网络风险,我们建议企业管理者应时刻保持‘预防为先’的安全理念,在开发或部署任何AI技术时,首先应确保其安全性,从而真正安全有效的通过AI技术提高自身核心竞争力。”
好文章,需要你的鼓励
来自耶路撒冷希伯来大学的研究团队开发了WHISTRESS,一种创新的无需对齐的句子重音检测方法,能够识别说话者在语音中强调的关键词语。研究者基于Whisper模型增加了重音检测组件,并创建了TINYSTRESS-15K合成数据集用于训练。实验表明,WHISTRESS在多个基准测试中表现优异,甚至展示了强大的零样本泛化能力。这项技术使语音识别系统不仅能理解"说了什么",还能捕捉"如何说"的细微差别,为人机交互带来更自然的体验。
这项研究提出了"力量提示"方法,使视频生成模型能够响应物理力控制信号。研究团队来自布朗大学和谷歌DeepMind,他们通过设计两种力提示——局部点力和全局风力,让模型生成符合物理规律的视频。惊人的是,尽管仅使用约15,000个合成训练样本,模型展现出卓越的泛化能力,能够处理不同材质、几何形状和环境下的力学交互。研究还发现模型具有初步的质量理解能力,相同力量对不同质量物体产生不同影响。这一突破为交互式视频生成和直观世界模型提供了新方向。
北京交通大学与西蒙弗雷泽大学联合研发的混合神经-MPM方法实现了实时交互式流体模拟。该方法巧妙结合神经物理学与传统数值求解器,在低时空分辨率下运行神经网络并设置保障机制自动切换到MPM,显著降低计算延迟同时保持高保真度。团队还设计了基于扩散模型的控制器,支持用户通过简单草图直观控制流体行为,为游戏、VR和设计领域提供了实用解决方案。
这项研究介绍了EgoZero,一种创新的机器人学习系统,能够仅通过Project Aria智能眼镜捕获的人类示范数据,训练出零样本迁移的机器人操作策略。研究团队提出了一种形态无关的状态-动作表示方法,使用点集来统一人类和机器人数据,并开发了从原始视觉输入中提取准确3D表示的技术。在没有任何机器人训练数据的情况下,EgoZero在7种真实世界操作任务上实现了70%的成功率,展示了强大的泛化能力,为解决机器人学习中的数据瓶颈问题提供了新思路。