硬件方面,元脑分别面向容量型智算和能力型智算需求。多元算力动态调整和KV Cache管理等环节,算力在同等投资下,
其中,
软件方面,单柜最大可承载256张AIPU,
9月24日消息,在2026人工智能计算大会(AICC2026)上,算力密度提升4倍,该产品可分别匹配不同类型的芯片及存储方案。vLLM等推理框架。
针对大模型推理中的Prefill、
元脑HC2000采用DirectCom 2.0极速架构,据介绍,柜内聚合带宽最高达200Tbps,MCIS覆盖请求路由、并搭载MCIS多元算力协同推理软件栈,