神雲科技于 SC26 展出全栈基础设施,扩展代理式 AI 应用
芝加哥2026年11月17日 PRNewswire -- 全球高性能服务器解决方案领导者神达控股股份有限公司(股票代码:3706)子公司神雲科技(MiTAC Computing Technology Corp.),今日在 SC26 展会上揭晓其全方位的 AI 基础设施生态系统。神雲科技位于 4615 号展台,以“全栈基础设施,扩展AI代理式应用(Scaling Agentic AI. Built on Full-Stack Infrastructure)”为主题,展示全栈创新技术如何克服企业在部署 AI 时面临的算力、散热与数据传输瓶颈。随着代理式 AI 带动推理工作负载呈指数级暴增,扩展基础设施所需的已不仅是单纯的 GPU 算力。通过与 AMD、Canonical、DDN、Intel、NVIDIA 及 Rafay 等合作伙伴的战略合作,神雲科技提供具备高度可扩展性的 AI 工厂(AI Factory)架构,完美结合高密度液冷、解耦推理(Disaggregated Inference)以及端到端(End-to-End)的资源调度管理。
“扩展代理式 AI 需要的是具备凝聚力的基础设施,而非零散的系统,”神雲科技总经理黄承德(Rick Hwang)表示。“神雲科技提供全栈基础设施解决方案,助力实现可持续发展的 AI 工厂。”
开创解耦 AI 推理引擎 (Disaggregated AI Inference Engine)
神雲科技与 Skymizer 携手合作,共同打造一款创新的推理架构。该架构将高度消耗算力的“Prefill(预填充)”阶段交由 GPU 处理,并将高度消耗内存的“Decode(解码)”阶段分配给 Skymizer 的 HTX301 加速卡。此架构旨在让企业能针对不同阶段的工作负载进行精准的资源配置,同时确保模型推理能维持在本地部署(On-premises)运行。
此提案配置结合了两大服务器平台:
- Prefill 阶段:采用 8U风冷规格的 MiTAC G8825Z5,搭载 AMD EPYC™ 9575F 或 9755 处理器与 AMD Instinct™ MI350X GPU,专责处理 Prefill 计算,并通过高速网络将产生的 Key-Value (KV) Cache 传输至 Decode 服务器。
- Decode 阶段:采用 4U风冷规格的 MiTAC G4520G6,搭载 Intel® Xeon® 6 处理器,并配置 8 张 Skymizer HTX301-4S 加速卡。每张卡具备 256 GB 内存,通过 8 组 PCIe 插槽提供高达 2 TB 的聚合加速器内存空间。
通过上述协作,MiTAC G4520G6 Decode 服务器旨在本地环境中运行如 Kimi K3(具备 2.8 万亿参数的大型语言模型)这类超大型模型,进而驱动复杂且具备深度推理(Deep-reasoning)能力的代理式 AI 工作负载。欢迎访问活动专页以了解更多信息。
统筹全栈软件生态系统
具备可扩展性的 AI 工厂需要极具凝聚力的软件生态系统。在基础安全性方面,Canonical Ubuntu 提供经过认证的操作系统层,确保无缝部署与企业级的稳定性。整合 DDN Infinia解决方案,确保海量数据流能以超低 IO 延迟进行处理,避免加速器陷入无数据可算的闲置窘境。在此基础上,神雲与 Rafay 合作,赋能企业具备动态的 GPU 即服务(GPUaaS)调度能力,在分布式工作负载中高效分配 GPU 资源,消除闲置算力并将投资回报率(ROI)最大化。而将整个生态系统紧密结合的,是神雲科技自主研发的 MiCoreView™ 软件,这是一款全方位的 POD 管理解决方案,可提供深度的遥测与监控数据(Telemetry),并为整个数据中心带来统一的可视化监控能力。
通过机柜级创新展示多元化 AI 基础设施
奠基于 AMD 董事长兼首席执行官苏姿丰博士(Dr. Lisa Su)上个月在 OCP 全球峰会上宣布的愿景,神雲科技正与 AMD 合作开发 Helion 代理式 AI 机柜(Helion Agentic AI Rack)。这款专为下一代机柜级代理式架构打造、即将推出的 ORv3 44OU Helion 解决方案,将能在开源软件栈中扩展至高达 32,768 个 AMD Zen 6 CPU 核心,赋能超大规模(Hyperscale)数据中心与企业环境智能地分配复杂工作负载,并将每瓦 Agent 算力效率(Agents-per-watt efficiency)推向极致。
在 SC26 展会现场,神雲科技也同步展示三款专为现代工作负载打造的机柜级创新产品:
- 52U 高密度 AI 液冷机柜:整合 12 台 MiTAC G4826Z5 服务器与 96 颗 AMD Instinct™ MI355X GPU,此解决方案的 GPU 密度较传统部署方式高出 50%。
- 先进液冷机柜:神雲科技与 ZutaCore 合作展示了一项概念验证(PoC),将 G4826Z5 服务器导入无水两相直接液冷(Waterless Two-Phase DLC)技术。利用冷却液在芯片表面直接气化的特性,可支持超过 4,000W 的热设计功耗(TDP)与大于 250Wcm 的热通量(Heat flux),实现低至 1.03 的年化局部 PUE(pPUE)。
- 高性能存储机柜:专为在无 IO 瓶颈下供应 Agentic AI 数据所设计,神雲科技的存储机柜搭载 DDN Infinia 智能 AI 数据平台,采用 7 台 1U 规格的 GC68C-B8056 存储服务器,能为连续不断的数据流提供超高吞吐量与低延迟性能。
以全面的服务器平台扩展基础设施
除了机柜级架构外,神雲科技还提供全面的服务器平台,满足企业定制化的部署需求:
AI 服务器
- G4827Z6:4U 模块化企业级 AI 服务器,采用 NVIDIA MGX 架构与 AMD EPYC™ 9006 SP7 处理器。可完美搭配 NVIDIA RTX PRO 4500 与 6000 Blackwell Server Edition GPU,应对多元的推理工作负载。
- G2610Z6:紧凑型 2U 边缘 GPU 服务器,搭载 AMD EPYC™ 9006 SP8 处理器。能与 NVIDIA RTX PRO 4500 及 6000 Blackwell Server Edition GPU 无缝整合,将强大的 AI 算力推向边缘端。
- TN85-B8261:双路平台,支持 AMD Instinct™ MI350P PCIe 加速卡,能为特定应用提供极致高效的 AI 加速。
企业级服务器
- R1917GC:作为边缘数据中心的调度大脑,这款 1U 管理服务器无须内置 GPU,即能通过 NVIDIA Vera 与 NVIDIA Grace CPU 来协调复杂的集群计算。
- R1610Z6:在高密度的 1U 机箱内搭载 AMD EPYC™ 9006 SP8 处理器,为云原生(Cloud-native)工作负载提供毫不妥协的单路性能。
多节点服务器
- M2810Z6:2U2N 多节点服务器,搭载 AMD EPYC™ 9006 SP7 处理器,专为软件定义超融合基础设施(HCI)优化计算密度。
- C2611Z6:专为 OCP ORv3 机柜设计的液冷多节点服务器,搭载 AMD EPYC™ 9006 SP8 处理器。在小巧的 2OU 尺寸中整合了四个计算节点,每节点支持 16 组 DDR5-8000 RDIMM 插槽与 OCP 3.0 扩展,是高密度液冷基础设施的理想选择。
欢迎与会者于 11 月 17 日至 19 日期间,莅临美国芝加哥 McCormick Place 会展中心 4615 号神雲科技展台参观。了解更多:
关于神雲科技股份有限公司
神雲科技股份有限公司(MiTAC Computing Technology Corp.)为神达控股集团(MiTAC Holdings)旗下子公司,凭借自 1990 年代以来的深厚行业经验,提供多元、高能效的服务器解决方案。神雲科技专注于人工智能(AI)、高性能计算(HPC)、云计算及边缘计算,采用严谨的工程标准,确保从准系统(Barebone)、整机系统、机架到集群层级,皆能达到无与伦比的品质,充分发挥卓越性能与系统集成优势;这项对品质的承诺,使神雲科技在业界独树一帜。
神雲科技拥有全球化布局与端到端的服务能力,涵盖研发、制造到全球技术支持,为超大规模数据中心、HPC 及 AI 应用,提供灵活且量身定制的解决方案,确保最佳性能与高扩展性,满足企业多元化的需求。凭借 AI 及液冷技术的最新发展,神雲科技品牌整合了 Intel DSG 与 TYAN 等服务器产品线发挥协同效应,致力于打造兼具创新、高效与可靠的服务器技术与软硬件解决方案,助力企业迎接未来挑战。
更多信息请访问神雲科技官网https:www.mitaccomputing.com
AMD、AMD 商标、EPYC™、AMD Instinct™ 及其组合,均为 Advanced Micro Devices, Inc. 的商标。
