无论好坏,人工智能已经在极大程度上改变了日常生活的几乎每个方面。然而,使用不安全的AI工具可能比典型的有问题企业软件更加危险。
在这个存档的主题演讲中,RevolutionCyber公司的首席执行官兼创始人朱丽叶·奥卡福尔解释了如何发现完整的AI生态系统、评估任何态势和模型风险,并在运行时实施安全措施。这个环节是我们名为"生成式AI:你已经落后了"的现场虚拟活动的一部分。该活动由InformationWeek和ITPro Today于2025年5月15日联合呈现。
立即观看存档的"生成式AI:你已经落后了"现场虚拟活动的点播内容。
Q&A
Q1:为什么AI工具的安全风险比传统企业软件更大?
A:使用不安全的AI工具可能比典型的有问题企业软件更加危险,因为AI系统的复杂性和智能化程度更高,一旦出现安全问题,可能造成更严重的后果和更广泛的影响。
Q2:如何在DevOps中实现AI安全防护?
A:需要发现完整的AI生态系统、评估任何态势和模型风险,并在运行时实施安全措施。这需要在DevOps的每个阶段都考虑安全因素。
Q3:RevolutionCyber在AI安全领域提供什么解决方案?
A:RevolutionCyber的CEO朱丽叶·奥卡福尔在演讲中分享了如何构建安全的AI系统,包括发现AI生态系统、风险评估和运行时安全实施的方法论。
好文章,需要你的鼓励
Replit与RevenueCat达成合作,将订阅变现工具直接集成至Replit平台。用户只需通过自然语言提示(如"添加订阅"),即可完成应用内购和订阅配置,无需离开平台。RevenueCat管理超8万款应用的订阅业务,每月处理约10亿美元交易。此次合作旨在让"氛围编程"用户在构建应用的同时即可实现商业变现,月收入未达2500美元前免费使用,超出后收取1%费用。
LiVER是由北京大学、北京邮电大学等机构联合提出的视频生成框架,核心创新是将物理渲染技术与AI视频生成结合,通过Blender引擎计算漫反射、粗糙GGX和光泽GGX三种光照图像构成"场景代理",引导视频扩散模型生成光影物理准确的视频。框架包含渲染器智能体、轻量化编码器适配器和三阶段训练策略,支持对光照、场景布局和摄像机轨迹的独立精确控制。配套构建的LiVERSet数据集含约11000段标注视频,实验显示该方法在视频质量和控制精度上均优于现有方法。
所有人都说AI需要护栏,但真正在构建它的人寥寥无几。SkipLabs创始人Julien Verlaguet深耕这一问题已逾一年,他发现市面上多数"护栏"不过是提示词包装。为此,他打造了专为后端服务设计的AI编程智能体Skipper,基于健全的TypeScript类型系统与响应式运行时,实现增量式代码生成与测试,内部基准测试通过率超90%。他认为,编程语言的"人类可读性时代"正走向终结,面向智能体的精确工具链才是未来。
这项由蒙特利尔学习算法研究所(Mila)与麦吉尔大学联合发布的研究(arXiv:2604.07776,2026年4月)提出了AGENT-AS-ANNOTATORS框架,通过模仿人类数据标注的三种角色分工,系统化生成高质量网页智能体训练轨迹。以Gemini 3 Pro为教师模型,仅用2322条精选轨迹对90亿参数的Qwen3.5-9B模型进行监督微调,在WebArena基准上达到41.5%成功率,超越GPT-4o和Claude 3.5 Sonnet,并在从未见过的企业平台WorkArena L1上提升18.2个百分点,验证了"数据质量远比数量重要"这一核心结论。