随着企业在业务运营中广泛部署AI聊天机器人、智能体和AI助手,它们正面临一个全新的风险挑战:如何让员工和智能体使用强大的AI工具,同时避免意外泄露敏感数据、违反合规规则或遭受基于提示词的注入攻击?
WitnessAI刚刚完成5800万美元的融资来解决这一问题,他们称之为构建"企业AI的信心层"。
在TechCrunch的Equity播客节目中,Rebecca Bellan与Ballistic Ventures联合创始人兼合伙人Barmak Meftah以及WitnessAI首席执行官Rick Caccia进行了深入讨论。
企业真正担忧的问题
企业在部署AI系统时面临的核心担忧集中在数据安全和合规性上。当员工使用AI工具处理业务时,如何确保敏感信息不会被意外泄露给第三方?如何在享受AI效率提升的同时,保持对监管要求的严格遵守?
市场前景与增长潜力
根据行业分析,AI安全市场预计将在2031年达到8000亿至1.2万亿美元的规模。这一巨大的市场潜力反映了企业对AI安全解决方案的迫切需求。
智能体间的交互挑战
另一个值得关注的问题是,当智能体开始在没有人工监督的情况下相互交流时会发生什么。这种场景下的风险控制和监管将变得更加复杂。
WitnessAI的解决方案正是针对这些企业级AI部署中的关键风险点,为企业提供可靠的安全保障层,让它们能够更放心地拥抱AI技术带来的变革。
Q&A
Q1:WitnessAI获得多少融资?主要解决什么问题?
A:WitnessAI获得了5800万美元融资,主要解决企业部署AI工具时面临的数据泄露、合规违规和提示词注入攻击等安全风险,构建所谓的"企业AI信心层"。
Q2:AI安全市场规模有多大?
A:根据行业预测,AI安全市场预计将在2031年达到8000亿至1.2万亿美元的规模,这反映了企业对AI安全解决方案的巨大需求。
Q3:企业使用AI工具时最担心什么风险?
A:企业最担心的是敏感数据意外泄露、违反合规规则,以及遭受基于提示词的注入攻击,特别是当智能体在无人监督下相互交流时的风险控制问题。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。