无论好坏,人工智能已经在极大程度上改变了日常生活的几乎每个方面。然而,使用不安全的AI工具可能比典型的有问题企业软件更加危险。
在这个存档的主题演讲中,RevolutionCyber公司的首席执行官兼创始人朱丽叶·奥卡福尔解释了如何发现完整的AI生态系统、评估任何态势和模型风险,并在运行时实施安全措施。这个环节是我们名为"生成式AI:你已经落后了"的现场虚拟活动的一部分。该活动由InformationWeek和ITPro Today于2025年5月15日联合呈现。
立即观看存档的"生成式AI:你已经落后了"现场虚拟活动的点播内容。
Q&A
Q1:为什么AI工具的安全风险比传统企业软件更大?
A:使用不安全的AI工具可能比典型的有问题企业软件更加危险,因为AI系统的复杂性和智能化程度更高,一旦出现安全问题,可能造成更严重的后果和更广泛的影响。
Q2:如何在DevOps中实现AI安全防护?
A:需要发现完整的AI生态系统、评估任何态势和模型风险,并在运行时实施安全措施。这需要在DevOps的每个阶段都考虑安全因素。
Q3:RevolutionCyber在AI安全领域提供什么解决方案?
A:RevolutionCyber的CEO朱丽叶·奥卡福尔在演讲中分享了如何构建安全的AI系统,包括发现AI生态系统、风险评估和运行时安全实施的方法论。
好文章,需要你的鼓励
企业AI搜索公司Glean宣布年度经常性收入(ARR)达3亿美元,较15个月前的1亿美元增长三倍。尽管谷歌、微软、OpenAI等科技巨头纷纷入局企业AI搜索市场,Glean凭借"上下文图谱"技术深度理解企业业务需求,并帮助客户显著降低AI计算成本。该公司提供按用量计费和混合定价两种模式,客户涵盖Databricks、Reddit、Pinterest及三星等企业。Glean上轮融资后估值达72亿美元。
香港中文大学与MiniMax提出ClaimDiff-RL框架,将图像描述的AI训练从整体打分升级为逐条核查,有效解决了传统方式导致AI"少说保平安"的问题,同时在多项基准测试上超越Gemini-3-Pro-Preview。
杰夫·贝索斯旗下的蓝色起源公司在佛罗里达卡纳维拉尔角进行静态点火测试时,新格伦重型火箭发生爆炸。这是美国历史上最大规模的火箭爆炸之一,也是蓝色起源公司遭遇的最严重失败。所有人员安全,但该事故可能导致新格伦火箭项目长期暂停。此前该火箭已成功完成三次发射,并实现了助推器回收和重复使用。
ParaVT是一个由南洋理工等多校联合提出的并行视频工具调用框架,通过让AI同时分析多段视频并引入PARA-GRPO算法解决训练中的格式崩溃与工具跳过问题,在六项长视频理解测试中平均提升约7.9%。