一提起高通,相信很多朋友首先想到就是他们专为智能手机移动平台打造的行业领先片上系统,外加端到端5G连接解决方案。但是,无论是在图像识别、语音输入、自然语言翻译还是推荐引擎等应用场景下,现代智能手机平台往往离不开强大的人工智能(AI)处理能力。
因此,结合自身多年来为移动AI应用开发芯片及软件平台解决方案的经验,高通公司自然不会错失这个将AI加速器技术引入其他智能边缘设备乃至云端的好机会。如今,承载高通公司野心的Cloud AI 100推理加速器产品组合正式亮相。而作为全球最大的电子元件外包制造商与ODM制造商之一,富士康公司将在项目中成为高通的强劲助力。
富士康的工业互联网部门推出一套名为Gloria的全新AI机器视觉平台。该系统由高通公司的Cloud AI 100解决方案提供支持,可支持多达24个高清摄像头,适用于交通分析、安全监控与智能零售等视频分析场景。此外,越南AI安全巨头BKAV也宣布,他们将在自家AI View智能安全摄像头系统产品中引入富士康Gloria,这标志着BKAV将成为高通Cloud AI 100加速器的首家商业客户。
自去年年底以来,高通就与BKAV开展合作,帮助该公司充实智能摄像头系统功能。
可以想见,由此支持的图像识别与视频分析,将成为从智慧城市到安全保障、再到零售及医疗保健等场景下的重要支柱。
AI 100借鉴了高通公司原有骁龙移动平台Hexagon及Tensor Accelerator架构中的同类芯片引擎技术,自身包含多达16个AI内核(AIC),并可适应从15瓦至75瓦的功率区间。高通公司还指出,AI 100加速器上的AIC小芯片采用专有的调整互连进行连接。在物理设计上,该产品提供用于AI边缘应有的M.2口香糖式附加卡,以及面向云数据中心服务器的PCI Express Gen3/4加速卡。AI 100还拥有高达144 MB的高速片上SRAM,具体容量由内核数量决定;并可接入最高32 GB的卡上或系统内LPDDR4 DRAM。
在性能方面,高通对市面上其他竞争性解决方案的图像识别(ResNet-50模型性能)等应用性能提出大胆挑战。AI 100在20瓦配置下实现的推理吞吐量,明显优于70瓦配置下的英伟达T4 GPU。
富士康的Gloria AI Edge Box是一款完全定制的交钥匙商业设备,由高通Cloud AI 100提供支持。除了BKAV的AI View摄像头系统之外,这款平台还有着其他广泛且多样的适用范围。BKAV公司董事长兼CEO Nguyen Tu Quang指出,这套同时支持Sub-6与毫米波5G连接制式的“富士康工业互联网打造的Gloria本地AI Edge设备,使我们能够以极具竞争力的价格实现令人难以置信的低功耗、高性能。Gloria将支持我们加快AI技术在企业及政府中的应用,并彻底改变我们在智慧城市、智能建筑及农业等垂直领域内的拓展速度。”
当然,从富士康Gloria等边缘设备再到数据中心内的云AI处理需求,一切都将由高通的PCI Express加速卡支持,而这必然离不开强大且深入的软件工具与库作为基础。不用说,回顾多年以来在移动应用中支持AI开发、部署及支持的丰富经历,这自然也是高通的强项所在。在对TensorFlow、PyTorch及Caffe等原生AI框架进行有力支持之外,AI开发者能够专注于在自己选定的平台上进行编码,再结合高通Cloud AI 100的特性做出优化。
AI已经成为当下风头一时无两的热门领域,而富士康Gloria这样的低功耗、高性能优化解决方案非常适合不断扩展的边缘设备生态系统。把握这一机会,将给两家企业带来可观的发展空间。富士康Gloria Ai Edge Box的工程样机将于今年晚些时候推出,预计于2022年第二季度投入商业应用。高通公司的AI 100开发套件同样采用骁龙865平台主机处理器,配备支持5G连接的高通骁龙X55调制解调器-射频系统,目前已经开始客户交付以供开发调试。
好文章,需要你的鼓励
随着数字化时代的到来,网络安全威胁呈指数级增长。勒索软件、AI驱动的网络攻击和物联网设备漏洞成为主要威胁。企业需要建立全面的风险管理策略,包括风险评估、安全措施实施和持续监控。新兴技术如人工智能、区块链和量子计算为网络安全带来新机遇。组织应重视员工培训、供应链安全、数据治理和事件响应能力建设。
滑铁卢大学研究团队开发出ScholarCopilot,一个革命性的AI学术写作助手。该系统突破传统"先检索后生成"模式,实现写作过程中的动态文献检索和精确引用。基于50万篇arXiv论文训练,引用准确率达40.1%,大幅超越现有方法。在人类专家评估中,引用质量获100%好评,整体表现优于ChatGPT。这项创新为AI辅助学术写作开辟新道路。
AWS Amazon Bedrock负责人Atul Deo正致力于让人工智能软件变得更便宜和更智能。他在12月re:Invent大会前只有六个月时间来证明这一目标的可行性。Deo表示AI领域发展速度前所未有,模型每几周就会改进,但客户只有在经济效益合理时才会部署。为此,AWS推出了提示缓存、智能路由、批处理模式等功能来降低推理成本,同时开发能执行多步骤任务的自主代理软件,将AI应用从聊天机器人转向实际业务流程自动化。
哥伦比亚大学研究团队发布NodeRAG技术,通过异构图结构革新智能问答系统。该方法将文档信息分解为7种节点类型,采用双重搜索机制,在多个权威测试中准确率达89.5%,检索效率提升50%以上,为智能信息检索技术带来重大突破。