芯曜跃动 LeapAI

数字光计算:让比特在光中汇聚

我们不走多级干涉、衍射、折射的模拟长光路,而是把数据按比特编码成光强,在厘米级三维空间短光路中按分块汇聚,在探测阵列上直接得到数字累加结果。计算以比特为单位进行,误差不随光路级数累积,输入和权重都可以编程。

三维空间光电异构芯片的五层结构

    一个周期,完成一次 {4×4}×{4×4} 矩阵运算

    以 INT4 精度为例,传统电脉动阵列需要 4+4+4 共 12 个阻塞周期;三维空间光电架构每个周期输出一次完整结果,延迟降低 4 倍,吞吐提升 12 倍。

    传统电脉动阵列12 个周期
    三维空间光电异构1 个周期
    数据填充逐级计算结果排空光强累加

    二维平面光路

    硅光、MZI、微环、PCM 等,材料工艺仍在爬坡

    • 以相位、干涉等模拟量计算,精度易受漂移影响
    • 阵列规模扩展难
    • 波导微缩难
    • 光电融合难
    • 多级干涉带来误差累积、温漂和振动敏感

    三维空间光路

    三五族激光器、Micro LED 等,材料工艺成熟

    • 数字化比特累加,精度由位宽决定
    • 光源阵列规模已达 kk 级
    • 无需片上波导,光路易扩展
    • 光路与电路垂直耦合,光电融合容易
    • 具备持续的三维扩容能力

    光的两端,是两颗数字电芯片

    光负责以比特为单位的大规模乘加,电负责调度和全部数字运算。前处理电芯片承担 NPU 前端的取数、映射和比特编码,后处理电芯片承担 LPU 的比特归约、向量运算、KV 缓存与 Token 采样。两颗芯片均采用 12–22 nm 成熟制程,与光学层垂直堆叠,封装成一颗芯片。

    后处理电芯片(LPU 后端)

    位于堆叠顶层,PD 阵列正上方
    IO 环:片间互连、HBM / DDR PHY
    数字比特累加阵列逐像素对准 PD每个探测像素的汇聚比特直接计数累加,得到 Y bit 部分和。
    向量单元Softmax / RMSNorm / RoPE完成注意力和归一化中的非线性与逐元素运算。
    KV 缓存SRAM就近存放注意力的 Key 与 Value,减少片外访问。
    分块归约与重排部分和合并把 2×2、1×3 等分块的结果合并为完整矩阵乘。
    量化与采样Top-k / Top-p再量化供下一层使用,末层直接采样输出 Token。
    纠错与监测冗余比特 / ECC监测漂移与串扰,按状态反馈校正。
    控制核与同步层间流水调度各单元流水,与前处理电芯片逐层握手。

    数据通路PD 汇聚比特 → 比特累加 → 分块归约 → 向量运算 → 量化与采样 → 下一层或输出 Token

    PD 探测阵列数字化比特汇聚
    可编程空间光路厘米级短光路,按分块汇聚
    VCSEL 光源阵列X bit 比特光强

    前处理电芯片(NPU 前端)

    位于堆叠底层,VCSEL 阵列正下方
    IO 环:PCIe、片间互连、HBM / DDR PHY
    控制核与指令调度标量核解析模型计算图,下发逐层任务。
    DMA 引擎片外搬运预取权重与激活。
    分块映射与调度2×2 / 1×3 / 2×3 / 3×3把矩阵切成适配光阵列的分块,依据坏点表绕开失效单元。
    片上 SRAM权重 / 激活缓存按层缓存数据,配合流水隐藏访存延迟。
    比特编码器量化到 X bit把数值拆成比特,生成每个光源单元的点亮序列。
    校准与坏点表磨损均衡光强校准与温漂补偿。
    VCSEL 驱动阵列逐单元对准光源按比特逐单元驱动光源,输入与权重同时可编程。

    数据通路片外数据 → DMA → 片上 SRAM → 分块映射 → 比特编码 → VCSEL 驱动 → 光源阵列

    示意图,用于说明前后处理电芯片的功能单元划分,版图位置与面积比例不代表具体实现。

    成熟器件、三维架构、软硬协同,三件事同时做对

    光计算已经发展了近十年,技术路线尚未收敛。我们的判断是:决定能否落地的,不只是器件,而是电路、架构和编译部署能否一起成熟。

    成熟可靠器件

    跨越量产鸿沟

    • 选用成熟光器件,量产稳定性和一致性高
    • 物理机制简单,避免引入各类误差效应
    • 电芯片采用 12–22 nm 成熟制程,不依赖先进工艺

    短光路三维架构

    突破面积限制

    • 采用三维空间光路,避免平面布线拥塞
    • 短光路与电路垂直耦合,阵列规模容易扩展
    • 兼容 VCSEL 与 Micro LED 双模式

    软硬协同优化

    抹平生态壁垒

    • 算法与硬件深度协同,追求全局最优性能
    • 全栈可编程,兼容 PyTorch / CUDA
    • 从模型到芯片,全流程用户无感

    从电路到编译的全栈方案

    光电器件在实际使用中会遇到漂移、涨落和串扰。我们在电路层把它们管住,在编译层把阵列用好。

    可编程 TensorCore
    多种矩阵尺寸多种量化精度输入与权重全可编程灵活支持非线性算子
    高可靠电路
    冗余比特磨损均衡状态反馈纠错编码监测抑制
    流控编译部署
    强化学习映射与切分坏点规避算子扩展互连拓扑利用率优化
    生态兼容
    PyTorchCUDA多模态大模型具身智能世界模型

    光源阵列规模,每年一个台阶

    从 2023 年的 16×16 光测试芯片起步,32×32、64×64 样片已完成测试,162×162 大阵列已经流片,512×512 正在流片中。配套的驱动、异构电路和多通道测试板卡均已完成验证,并完成了图片生成大模型的加速演示。

    已完成测试已流片流片中