IT专业人员在为当前和未来网络环境选择最佳以太网交换机时,应该考虑软件定义网络和物联网等新技术发展趋势。
现在更多应用程序以更复杂的方式托管在更多地方(有些部件运行在一个地方,其他部件则在其他地方),也难怪企业很难说清楚他们关键服务交付的情况。
目前很多企业已经退回到这种地步,即当客户或工作人员来电抱怨(更糟糕的是,在微博发帖)时,他们才意识到问题的存在。
由于应用交付的这种转变,企业需要新的工具来管理应用。而最新应用性能管理(APM)工具就可以应对混合服务交付环境,这些环境严重依赖云服务组件之间的东西向流量。
在正确的地方
新APM环境的一个关键特性是部署在需要的地方:靠近服务。我们有多种方式来实现这一点:
• 在虚拟机管理程序环境中,监控空间内虚拟机的响应时间和资源消耗情况;
• 在没有管理程序(例如专用物理服务器)或管理程序遥不可及(即在IaaS环境)时,在操作系统上运行;
• 在容器内;
• 在Java或.Net应用服务器环境内;
• 在终端用户设备,连续或按需即时下载。
对于与外部服务通信的内部服务响应客户端或客户,监控与外部资源通信的内部组件,可提供性能情报。
适当大小
鉴于我们需要将性能探针放在任何设备中,从管理程序到应用服务器,所以越轻越好。足迹要么非常小,要么可缩小到符合监控任务的范围。对于监控管理程序空间内一切情况的设备,应该选择更大的设备;而当我们监控Tomcat实例或手机网络浏览器时,小的就很好。
智能无处不在
这 种分布式监控不应该是被动的,简单地将大量信息流传输到某处的中心枢纽。每个应用监控应该能够执行初始数据分析,持续发送精简的元数据流,除非由中央管理 单元要求发送更详细信息。该工具的范围越大,它应该能做更多预消化。中央控制器应该提供更广泛和更深入的分析,能够基于所发生的情况来调整探针的行为。
保持活跃
这个理想的工具将采取步骤来管理性能,而不是简单地监控它。这可以以几种方式完成:
• 通过改变负载均衡行为
• 通过改变流量整形政策
• 通过动态配置和取消配置资源
如果工具本身不能完成这些操作,它至少应该能够利用工具或服务中的API来出发必要的操作,或者能够提醒业务流程工具来做出调整。
在“从任何地方使用,从所有地方提供”服务的时代,IT部门需要对性能获取新水平的可视性和控制。为了实现这一目标,企业应该结合可在混合服务环境运行的新一代工具与现有管理控制台及仪表板。
好文章,需要你的鼓励
企业谈AI基础设施时,注意力往往首先集中在模型、GPU和算力集群上。但当大模型应用走向规模化推理,一个瓶颈开始浮现:算力采购完成,并不意味着Token能够被稳定、低成本、可控地交付出去。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。