Anthropic 首席执行官 Dario Amodei 在对巴黎 AI 行动峰会的尖锐评论中警告称,人工智能将在两年内达到相当于"一个天才国度"的集体智能水平。他给出的时间表 —— 2026 年或 2027 年 —— 是目前主要 AI 领导者对技术发展走向超级智能的最具体预测之一。
Amodei 认为巴黎峰会是一次"错失的机会",他质疑国际社会在 AI 治理方面的缓慢步伐。在民主国家和威权国家争夺 AI 发展主导权的关键时刻,他发出了这一警告。
"我们必须确保民主社会在 AI 领域处于领先地位,不能让威权国家利用它建立全球军事优势,"Amodei 在 Anthropic 的官方声明中写道。他的担忧不仅限于地缘政治竞争,还包括芯片、半导体制造和网络安全等供应链脆弱性。
峰会暴露了国际社会在 AI 监管方面的分歧日益加深。美国副总统 JD Vance 否决了欧洲的监管提案,认为这些提案"过于庞大"且会扼杀创新。美国和英国明显拒绝签署峰会承诺,凸显了在 AI 治理上达成共识的挑战日益严峻。
Anthropic 打破硅谷沉默法则,推出新经济追踪工具
Anthropic 将自己定位为 AI 发展透明度的倡导者。本周,该公司推出了经济指数,用于追踪 AI 对劳动力市场的影响——这与其他更为谨慎的竞争对手形成鲜明对比。该举措回应了人们对 AI 可能重塑全球就业模式的日益增长的担忧。
Amodei 的信息中突出了三个关键问题:保持民主国家在 AI 发展中的领导地位、管理安全风险以及为经济变革做准备。他特别强调了防止非国家行为者滥用 AI 和管理先进系统自主风险的安全问题。
与时间赛跑:控制超级智能 AI 的两年窗口期
Amodei 的时间表凸显了当前监管框架的紧迫性。他预测 AI 将在 2027 年达到天才级别的能力(最迟估计在 2030 年),这表明现有的治理结构可能无法有效管理下一代 AI 系统。
对于技术领导者和政策制定者来说,Amodei 的警告将 AI 治理框定为一场与时间的竞赛。在 AI 能力超出我们的治理能力之前,国际社会面临着建立有效控制的巨大压力。现在的问题是,各国政府能否以同样快速的监管响应来匹配 AI 发展的加速步伐。
巴黎峰会后,科技行业和各国政府正在努力应对一个根本性挑战:如何平衡 AI 带来的前所未有的经济和科学机遇与同样前所未有的风险。正如 Amodei 所言,建立有效国际治理的窗口期正在迅速关闭。
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。