国产汽车近年来以优质的车型和更为接地气的价格聚拢了一大批忠实客户,作为国产新兴品牌,会采取不定期的官网促销来带来提升业务量。以某厂商的跨年营销活动为例,三天时间促销,2017辆新车在75分钟内被一扫而光,活动虽然顺利完成,但对于剧增的访客流量,系统疲于应付,运维人员措手不及,昼夜加班后惊险的度过了这一关,可是后续怎么办?一直如此“压力”,系统跟运维人员肯定吃不消,车企于是四处寻找“解压良方”。
自研高并发压测投入巨大 业界工具能力不足
由活动期间访问流量远高于平日,要确保官网系统的性能达标,保证客户抢购顺畅系统不崩溃,需要对官网各接口提前开展性能测试,提前识别官网是否能达到预期的承载压力,以及流量高峰时的性能瓶颈。
在测试初期开发人员发现,如果要保证大规模高并发的长稳压测,对专业要求极高,目前现有的技术团队投入无法在短时间内实现。另一边,在搭建测试环境上,通常需要2-3周的准备时间,这会大大拉长活动迭代优化的时间,如果要保障全年近百场的活动压测,其投入压力可想而知。
在自研基本无法短时间解决问题的情况下,开发团队尝试使用了业界常用的压测工具,
但很快发现Jmeter无法满足压测要求,并且操作复杂。ab压测工具请求方式单一,参数化比较复杂,专业的性能测试工具license采购成本在上百万人民币,显然性价比不高。
华为云压测服务助力攻克系统瓶颈 性能最高提升100%
经过研发团队对比市面几款主流的压测云服务后,决定尝试使用正在免费试用的华为云性能测试服务CPTS来检测服务,这也是团队第一次使用云压测服务,如果顺利完成目标不但可以减少研发投入及运维成本,更可以为接下来的活动带来安稳的保障。
而之所以选择华为云主要出于以下几点明显的优势, CPTS无需搭建测试环境,支持快速模拟百万并发用户的业务高峰场景,对于官网即节省开发环节,压力测试也绝对够用。其次CPTS支持报文内容和时序自定义、多事务组合的复杂场景测试,真实模拟线上环境,这对流程复杂的电商需求显然更为合适。最后CPTS支持更全面的微服务接口测试,测试完成后提供专业的测试报告呈现测试结果,系统瓶颈及问题一目了然,可快速展开优化。
通过华为云CPTS迅速对官网进行了第一阶段压测,从正式开始压测至定位分析,从原本预计至少2周才能完成的任务测试周期缩短至4个小时,工作效率提升了95%,有效节约了时间成本。压测后得出在预期的并发数下发现官网首页以及预约试驾场景响应较慢,无法满足预期指标。团队优化官网业务代码后,快速开展第二轮压测。第二阶段的测试时间缩短至2个小时,效率提升了97.5%。优化后官网首页访问响应超时与正常返回比提升了43.3%,预约试驾场景响应超时与正常返回比降低到0,提升了100%。通过云性能测试服务,图队快速获取抢购官网的性能指标,保障了活动期间系统的最大处理能力。
华为云性能测试服务CPTS通过敏捷的部署以及灵活的扩展能力帮助企业低成本高效率的完成了原本繁杂的压测服务,可视化的全UI交互页面使用户可以免编码低门槛的进行调试,面对接下来全年上百场的营销活动,系统压力已烟消云散。点击了解华为云性能测试服务CPTS: https://www.huaweicloud.com/product/cpts.html
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。