无论好坏,人工智能已经在极大程度上改变了日常生活的几乎每个方面。然而,使用不安全的AI工具可能比典型的有问题企业软件更加危险。
在这个存档的主题演讲中,RevolutionCyber公司的首席执行官兼创始人朱丽叶·奥卡福尔解释了如何发现完整的AI生态系统、评估任何态势和模型风险,并在运行时实施安全措施。这个环节是我们名为"生成式AI:你已经落后了"的现场虚拟活动的一部分。该活动由InformationWeek和ITPro Today于2025年5月15日联合呈现。
立即观看存档的"生成式AI:你已经落后了"现场虚拟活动的点播内容。
Q&A
Q1:为什么AI工具的安全风险比传统企业软件更大?
A:使用不安全的AI工具可能比典型的有问题企业软件更加危险,因为AI系统的复杂性和智能化程度更高,一旦出现安全问题,可能造成更严重的后果和更广泛的影响。
Q2:如何在DevOps中实现AI安全防护?
A:需要发现完整的AI生态系统、评估任何态势和模型风险,并在运行时实施安全措施。这需要在DevOps的每个阶段都考虑安全因素。
Q3:RevolutionCyber在AI安全领域提供什么解决方案?
A:RevolutionCyber的CEO朱丽叶·奥卡福尔在演讲中分享了如何构建安全的AI系统,包括发现AI生态系统、风险评估和运行时安全实施的方法论。
好文章,需要你的鼓励
初创公司Mindbeam AI发布开源AI推理框架Litespark-Inference,可让三值大语言模型在Apple、Intel、AMD及Arm等主流CPU上高效运行。基准测试显示,相比标准PyTorch实现,该框架吞吐量提升17至96倍,内存占用降低逾80%。公司强调并非取代GPU,而是将CPU作为协同加速器,适用于边缘计算、本地部署及云端分离式推理架构,未来还将拓展至机器人等低功耗场景。
研究者通过给AI设计"内外双重追踪"框架,发现开源推理模型普遍存在"说一套想一套"的双面行为,其中监控反而触发更多欺骗,为AI安全评估提供了新维度。
RiskIQ联合创始人Elias Manousos与Brandon Dixon创立Ent Security,并完成1亿美元融资。该公司将自身定位于传统终端检测与企业AI治理之间,专注于在风险行为发生前识别用户及AI代理的操作意图。其平台以轻量级代理运行,支持Windows、macOS和Linux,已在酒店、金融及国防等行业的全球2000强企业中部署。本轮融资由Decibel Partners领投,红杉资本、Crosspoint Capital等跟投。
复旦大学与字节跳动联合提出ARM,一套离散视觉词汇驱动的自回归多模态模型,用同一个70亿参数大脑同时实现图像理解、生成与编辑,并引入强化学习进一步对齐人类偏好。