安全专业协会ISACA宣布为其遍布全球近20万名认证安全专业人员推出新的认证项目——AI安全管理高级认证(AAISM),专门针对这一快速兴起的技术领域。
ISACA最近的一项研究显示,61%的安全专业人员对生成式AI被威胁行为者利用感到非常或极度担忧,但同时也发现面对信息误导、隐私和数据保护(包括知识产权盗窃)、社会工程学以及工作岗位替代等日益增长的风险,业界缺乏相应行动。
面对这一挑战,ISACA表示AAISM将提供迄今为止全球首个也是唯一的AI安全管理认证。
该组织表示,这项认证将帮助网络安全专业人员掌握在组织内监督AI安全合规实施、制定政策并确保其安全运行的能力,同时深入了解AI带来的不断演变的风险。认证涵盖"全面的学习路径",包括三个领域:AI治理和项目管理、风险管理以及技术和控制。
Advance.ai合规负责人、ISACA新兴趋势和IT风险咨询工作组成员Goh Ser Yoong表示:"AAISM认证验证了信息安全管理者提升专业技能的承诺,证明他们了解AI如何重塑企业安全。AAISM与现有获奖安全认证的协同效应以及对AI的专注,是一个关键差异化因素,将使安全领导者能够在这个动态的安全环境中脱颖而出并推进职业发展。"
AAISM认证面向已持有ISACA认证信息安全管理师(CISM)资质或ISC2相关认证信息系统安全专业人员(CISSP)认证的人员开放。
该认证基于两个组织建立的最佳实践,ISACA表示这使其非常适合在网络安全或咨询角色方面有proven经验的人员,或那些已在AI实施和运营方面具有一定专业知识的人员。
除AAISM外,ISACA现在还为网络安全专业人员提供多种其他AI相关课程和资源。这些包括AI基础单元,提供功能、应用、风险和伦理基础知识介绍,以及深入探讨威胁情报和伦理应用等领域的课程。
ISACA还最近推出了AI审计高级认证(AAIA),面向持有认证信息系统审计师(CISA)资质或其他高级审计证书的审计专业人员开放。在英国和爱尔兰,这包括特许公认会计师公会(ACCA)的特许公认会计师或资深特许公认会计师资质持有者。
ISACA首席执行官Erik Prusch表示:"我们很自豪能够在为IT审计和安全专业人员开发世界级AI专业培训和认证方面处于领先地位。从丰富的课程和资源到针对经验丰富的审计师和安全管理者的首个高级审计专业AI认证,我们致力于寻找突破性方法,使数字信任领导者能够负责任和有效地利用人工智能的变革潜力,同时推进他们的职业发展。"
Q&A
Q1:AAISM认证是什么?它有什么特点?
A:AAISM是ISACA推出的AI安全管理高级认证,是全球首个也是唯一的AI安全管理认证项目。它涵盖AI治理和项目管理、风险管理以及技术和控制三个领域,帮助网络安全专业人员掌握AI安全合规实施和风险管理能力。
Q2:谁可以申请AAISM认证?
A:AAISM认证面向已持有ISACA认证信息安全管理师(CISM)资质或ISC2认证信息系统安全专业人员(CISSP)认证的人员开放,特别适合在网络安全或咨询角色方面有经验的人员。
Q3:为什么需要AI安全管理认证?
A:ISACA研究显示61%的安全专业人员担忧生成式AI被威胁行为者利用,面临信息误导、隐私泄露、知识产权盗窃等风险,但业界缺乏相应行动。AAISM认证正是为了填补这一空白,帮助专业人员应对AI带来的安全挑战。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。