近日,外滩大会·全球Deepfake攻防挑战赛正式启动报名。该赛事提供百万级的数据集,针对“AI换脸”的欺诈风险进行攻防实战演练,并设立100万元人民币的奖金池,鼓励推动AI向善的技术人才。
大赛由蚂蚁集团主办、蚂蚁数科承办,ATEC前沿科技探索社区、蚂蚁安全实验室、中国科学技术大学网络空间安全学院作为联合协办方,在线身份认证服务商ZOLOZ提供技术支持,阿里云提供算力支持。该赛事在全球知名的数据科学竞赛平台Kaggle进行,各赛道决赛前三名的赛队将受邀前往位于上海的INCLUSION·外滩大会现场领奖,并参与表演赛。
据介绍,大赛分设图片赛道和音视频赛道,数据集由公开数据和伪造数据组成。其中,伪造图片数据涵盖了现实场景中超50种生成方式,伪造音视频中则纳入了超100种组合攻击方式,训练数据集总量超过100万。选手需要训练AI模型,给出数据伪造概率值,准确率TOP20入围决赛。决赛将邀请专家根据结果准确率、结合方案创新性、泛化性、实用性、可解释性等多维度评选出TOP战队。赛事报名时间将于7月31日截止,8月31日完成比赛。中国选手可前往ATEC社区查看赛事详情。
Deepfake(深度伪造技术)即利用深度学习算法,实现音视频内容的模拟和伪造,可用于电影制作、视频编辑、虚拟现实等领域。近年来,在境外已发生多起恶意利用该技术进行AI换脸欺诈,带来的经济财产损失、名誉受损等事件,该趋势正逐步向境内蔓延。面对全球范围的技术挑战,培养具有实战能力的AI人才刻不容缓。
好文章,需要你的鼓励
从浙江安吉的桌椅,到广东佛山的沙发床垫、河南洛阳的钢制家具,再到福建福州的竹藤制品,中国各大高度专业化的家具产业带,都在不约而同地探索各自的数字化出海路径。
哥伦比亚大学研究团队开发了MathBode动态诊断工具,通过让数学题参数按正弦波变化来测试AI的动态推理能力。研究发现传统静态测试掩盖了AI的重要缺陷:几乎所有模型都表现出低通滤波特征和相位滞后现象,即在处理快速变化时会出现失真和延迟。该方法覆盖五个数学家族的测试,为AI模型选择和部署提供了新的评估维度。
研究人员正探索AI能否预测昏迷患者的医疗意愿,帮助医生做出生死决策。华盛顿大学研究员Ahmad正推进首个AI代理人试点项目,通过分析患者医疗数据预测其偏好。虽然准确率可达三分之二,但专家担心AI无法捕捉患者价值观的复杂性和动态变化。医生强调AI只能作为辅助工具,不应替代人类代理人,因为生死决策依赖具体情境且充满伦理挑战。
这项研究首次发现AI推理模型存在"雪球效应"问题——推理过程中的小错误会逐步放大,导致AI要么给出危险回答,要么过度拒绝正常请求。研究团队提出AdvChain方法,通过训练AI学习"错误-纠正"过程来获得自我纠错能力。实验显示该方法显著提升了AI的安全性和实用性,用1000个样本达到了传统方法15000个样本的效果,为AI安全训练开辟了新方向。