安全专业协会ISACA宣布为其遍布全球近20万名认证安全专业人员推出新的认证项目——AI安全管理高级认证(AAISM),专门针对这一快速兴起的技术领域。
ISACA最近的一项研究显示,61%的安全专业人员对生成式AI被威胁行为者利用感到非常或极度担忧,但同时也发现面对信息误导、隐私和数据保护(包括知识产权盗窃)、社会工程学以及工作岗位替代等日益增长的风险,业界缺乏相应行动。
面对这一挑战,ISACA表示AAISM将提供迄今为止全球首个也是唯一的AI安全管理认证。
该组织表示,这项认证将帮助网络安全专业人员掌握在组织内监督AI安全合规实施、制定政策并确保其安全运行的能力,同时深入了解AI带来的不断演变的风险。认证涵盖"全面的学习路径",包括三个领域:AI治理和项目管理、风险管理以及技术和控制。
Advance.ai合规负责人、ISACA新兴趋势和IT风险咨询工作组成员Goh Ser Yoong表示:"AAISM认证验证了信息安全管理者提升专业技能的承诺,证明他们了解AI如何重塑企业安全。AAISM与现有获奖安全认证的协同效应以及对AI的专注,是一个关键差异化因素,将使安全领导者能够在这个动态的安全环境中脱颖而出并推进职业发展。"
AAISM认证面向已持有ISACA认证信息安全管理师(CISM)资质或ISC2相关认证信息系统安全专业人员(CISSP)认证的人员开放。
该认证基于两个组织建立的最佳实践,ISACA表示这使其非常适合在网络安全或咨询角色方面有proven经验的人员,或那些已在AI实施和运营方面具有一定专业知识的人员。
除AAISM外,ISACA现在还为网络安全专业人员提供多种其他AI相关课程和资源。这些包括AI基础单元,提供功能、应用、风险和伦理基础知识介绍,以及深入探讨威胁情报和伦理应用等领域的课程。
ISACA还最近推出了AI审计高级认证(AAIA),面向持有认证信息系统审计师(CISA)资质或其他高级审计证书的审计专业人员开放。在英国和爱尔兰,这包括特许公认会计师公会(ACCA)的特许公认会计师或资深特许公认会计师资质持有者。
ISACA首席执行官Erik Prusch表示:"我们很自豪能够在为IT审计和安全专业人员开发世界级AI专业培训和认证方面处于领先地位。从丰富的课程和资源到针对经验丰富的审计师和安全管理者的首个高级审计专业AI认证,我们致力于寻找突破性方法,使数字信任领导者能够负责任和有效地利用人工智能的变革潜力,同时推进他们的职业发展。"
Q&A
Q1:AAISM认证是什么?它有什么特点?
A:AAISM是ISACA推出的AI安全管理高级认证,是全球首个也是唯一的AI安全管理认证项目。它涵盖AI治理和项目管理、风险管理以及技术和控制三个领域,帮助网络安全专业人员掌握AI安全合规实施和风险管理能力。
Q2:谁可以申请AAISM认证?
A:AAISM认证面向已持有ISACA认证信息安全管理师(CISM)资质或ISC2认证信息系统安全专业人员(CISSP)认证的人员开放,特别适合在网络安全或咨询角色方面有经验的人员。
Q3:为什么需要AI安全管理认证?
A:ISACA研究显示61%的安全专业人员担忧生成式AI被威胁行为者利用,面临信息误导、隐私泄露、知识产权盗窃等风险,但业界缺乏相应行动。AAISM认证正是为了填补这一空白,帮助专业人员应对AI带来的安全挑战。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。