详情

先进存力再突破:AI推理原生存储FNNeo全新升级

来源:中科曙光2026/9/23 8:41:591041
导读
FN Neo延续了中科曙光高端集中式存储的高性能基因,单阵列带宽可达160GB/s、亚毫秒级时延。实测数据显示,其延迟表现、吞吐量和多请求并发数相比传统本地NVMe方案均有约2倍提升。
  在近日举办的2026年CCF全国信息存储技术学术会议上,中科曙光正式发布全新升级的AI推理原生存储FN Neo,用一套共享存储池来承接推理业务的各类数据,为AI推理规模化落地提供了新的存力底座。
 
  推理中间结果“共享”起来
 
  智能体时代加速到来,AI推理业务规模快速扩张,推理占比持续走高。大模型在回答问题时,会生成一批可复用的中间数据(KV Cache),传统模式是把这些数据存在本地,彼此割裂,难以实现跨会话、跨节点复用,拖慢了整体推理效率。
 
  业界过去普遍认为,AI推理更依赖服务器本地硬盘。但随着大模型上下文越来越长、用户并发越来越多,本地缓存显存不足、硬件闲置等问题日益凸显。而集中式存储的池化共享架构,早已在金融、通信等对稳定性要求极高的行业得到大规模验证。
 
  FN Neo将这套成熟能力引入AI推理领域,跳出单节点硬件局限,通过升级资源池化能力,将各个计算节点的中间数据统一管理、跨节点复用,减少了重复计算。在优化大模型推理性能的同时,也大幅提升了昂贵算力硬件的利用率。
 
  开放,让AI推理“火力全开”
 
  FN Neo延续了中科曙光高端集中式存储的高性能基因,单阵列带宽可达160GB/s、亚毫秒级时延。实测数据显示,其延迟表现、吞吐量和多请求并发数相比传统本地NVMe方案均有约2倍提升。
 
  作为专为AI推理打造的集中式全闪存储,FN Neo更可实现模型首Token响应时间缩减73%,整体Token吞吐能力提升150%,显著改善用户交互体验。
 
  面向生产级AI业务,仅有性能突破远远不够。FN Neo提供99.999%的高可靠运行保障,通过慢盘自动隔离、故障无损重构等机制,保障推理业务7×24小时不间断运行。
 
  同时,它打通了SAN/NAS/KV(块、文件和键值)三类数据接口,可无缝对接vLLM、LMCache、Mooncake等主流推理框架,企业无需大规模改造现有推理环境即可完成接入,减少多节点的重复存储开销。
 
  FN Neo的推出,补齐了AI推理场景下集中式存储的能力拼图,为Agent、长上下文大模型等业务的大规模落地,提供了一套经过工程验证的存力新选择。

版权与免责声明:凡本网注明“来源:兴旺宝”的所有作品,均为浙江兴旺宝明通网络有限公司-兴旺宝合法拥有版 权或有权使用的作品,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:兴旺宝”。违反上述声明者,本网将追究其相关法律责任。 本网转载并注明自其它来源(非兴旺宝)的作品,目的在于传递更多信息,并不代表本网赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品第一来源,并自负版权等法律责任。 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。

展开全部
相关新闻
马上评论