TokenRouter:当两个AI模型需要逐字接力写作,系统该怎么调度
TokenRouter是面向token级大模型路由的高效服务系统,通过请求中心编程、异步模型子服务器架构和延迟批处理调度,解决多模型协作推理中的步调错乱与批次延迟,吞吐量最高提升64.15倍。
TokenRouter是面向token级大模型路由的高效服务系统,通过请求中心编程、异步模型子服务器架构和延迟批处理调度,解决多模型协作推理中的步调错乱与批次延迟,吞吐量最高提升64.15倍。
论文提出AgentMonBench评测基准和EBG证据组织方法,用于让AI审查长程智能体任务中哪些决定需要用户确认,并把分散证据整理成可追溯的结构化图,实验显示该方法普遍提升决策识别与证据定位效果。
研究者提出VibeEdit,让用户直接在图片上画圈、涂鸦、写短字完成编辑指令,无需额外文字描述位置。基于155万训练数据和强化学习优化,在419例人工测评基准上综合得分79.9,超过所有对比的文字指令编辑模型。
亚马逊团队用十二周时间,在两个成本相差760倍的图书推荐系统里验证AutoResearch自动化研究范式,发现五类生产级失败模式,并提出预防、持久、引导三原则框架,实现最高2.1倍的性能提升。
本文解读了?-MOPD方法,它指出多教师蒸馏中直接传授教师终点会混入教师继承自基础模型的无关习惯,通过只传授教师训练前后的变化量,显著提升了多教师组合蒸馏及跨阶段路由训练的效果与效率。
本文介绍了一种为企业AI智能体设计的记忆治理框架AMU,通过追踪计算结果的完整数据血缘来堵住现有系统只看内容不看过程的泄露漏洞,并给出了形式化安全证明、六组实验验证及真实智能体场景的概念验证。
论文研究如何让一个快速AI决策模型在玩Doom游戏时自主判断何时该停下向更强的推理模型求助。研究发现置信度的可靠性和准确率是两件独立的事,闭环实验中没有任何配置真正通关,但揭示了AI"过度套用知识"的具体失败机制。
爱尔兰凭借多语种人才与多元产业生态,正成为欧洲AI重要力量。按人口调整后风投交易量排名欧洲第二。Tines与Jentic两家爱尔兰AI公司创始人表示,欧洲企业无需复制硅谷节奏,专注解决多样化问题、保持批判性思维是其差异化...
Instagram上线Effect Builder工具,美国18岁以上用户可通过文字提示词或参考图,借助AI生成自定义Stories滤镜。效果通过安全审核后可供所有用户使用,并会链接回创作者主页。
Meta宣布将Instagram的AI年龄估测技术推向全球,用于识别疑似未成年用户并将其纳入"青少年账户"保护机制,即使用户填写成人生日也不例外。此举源于Meta与美国52个州总检察长达成的最高180亿美元和解协议,协议...
QNAP发布安全公告,警告用户立即更新Plex Media Server至1.43.3版本。旧版本存在四个可链式利用的漏洞(Plex2Shell),攻击者可无需身份验证远程执行任意代码并完全接管设备,目前已被广泛用于部署...
EDGE Sound Research宣布获得由Stormbreaker Ventures领投的200万美元融资,累计融资达900万美元。该公司将音频与视频、位置等多模态数据结合,已服务NBA、Fox Sports等客户...
ABB Robotics发布AI Robot Trainer,扩展OmniCore EyeMotion平台,可将调试时间缩短最多90%、循环时间缩短最多50%,支持系统集成商无需AI专家即可训练、部署并持续优化AI视觉应...
Intel与SAP于10月27日宣布一项概念验证合作,将SAP扩展仓库管理系统与Intel边缘AI硬件及机器人软件集成,实现仓储任务从业务决策到机器人执行的全流程自动化,并支持跨厂商机器人与多工业场景部署。
Medium发布新写作应用TK,用户可在编辑器中通过输入"@TK"调用AI助手,支持内容查询、标题反馈、风格指南匹配及写作提示等功能。TK还允许作者公开说明AI使用方式,并支持通过MCP服务器连接个人AI代理。
Anthropic正斥资34亿美元向卡特彼勒采购天然气涡轮机,发电容量达1.7吉瓦。此前该公司倾向于租用算力,每月向xAI支付12.5亿美元租用计算资源,此次购买实体基础设施被视为应对电力市场紧张的无奈之举。
随着自主AI智能体协作规模扩大,零信任架构(ZTA)面临新挑战:上下文恢复攻击、去认证攻击可在2至3秒内完成、异步自治下的信任溯源困难,以及横向异常等问题,使得智能体系统的可信执行与责任归属难以保障。
大众汽车携手保时捷、Voxel51、微软及英伟达,开发自动驾驶AI数据平台,旨在将车队驾驶数据转化为AI训练素材。该平台可减少高达90%的重复路测,并将AI回归测试周期缩短85%。
比亚迪仰望品牌在阿联酋阿布扎比发布超豪华旗舰轿车Altrio,搭载四电机e4平台、第二代刀片电池,CLTC续航超1000公里,1000V超闪充电5分钟可从10%充至70%,限定款399台,预计起售价约200万元人民币。
LS Power宣布以40亿美元收购NRG Energy旗下六座天然气发电厂,合计装机容量近5GW,分布于德克萨斯、纽约、罗德岛和康涅狄格州。交易完成后,LS Power天然气发电装机将从2.2GW扩至11.5GW,总投...