芯曜跃动 LeapAI

用光重塑未来计算范式

芯曜跃动以可编程三维空间光计算电路架构和全栈式光电异构流控部署平台,以数字化的比特光强累加完成矩阵乘加,打造大模型推理延迟低至数百微秒、单批峰值超过 21,000 Token/s 的新一代 AI 推理芯片。

示意:五层自下而上堆叠为一颗芯片。前处理电芯片(NPU 前端)把输入和权重编码为比特并逐单元驱动 VCSEL 阵列;2×2、1×3、2×3、3×3 四种分块的比特光束经可编程空间光路同时向上汇聚,PD 像素直接得到二进制累加结果;比特总线把结果送入后处理电芯片(LPU 后端),完成归约、向量运算与 Token 输出。

<1 ms大模型推理首 Token 延迟,最低至百微秒级
21,000+单批峰值 Token/s(7B 模型,INT8)
X → Y bit输入按比特编码为光强,累加结果直接以数字比特输出

大模型推理撞上了电芯片的延迟墙

GPT-5、Qwen、DeepSeek 等主流模型快速演进,云边应用需要具备 4o/o1 级能力的模型做到 1 ms 以内的反应和每秒数千 Token 的生成速度。PD 分离、Prefill Only 正在成为部署趋势,光也正从传输走向计算。

电计算芯片的首 Token 延迟被物理限制在毫秒级以上,单靠工艺和堆叠已经难以突破。要打开亚毫秒级推理,需要换一种计算介质。

场景反应时间生成速度
物理 AI / 世界模型感知与决策<1 ms>500 tok/s
AI Coding / 视频与场景生成云端生产力<1 ms>500 tok/s
具身智能动作决策1000 Hz>1000 tok/s

寻找早期联合验证伙伴

联系我们