芯东西（公众号：aichip001）

编译 | ZeR0

编辑 | 漠影

芯东西2月11日消息，据外媒今日报道，一家由00后创办的神秘英国AI芯片创企Olix，已获得2.2亿美元（约合人民币15亿元）融资，估值超过10亿美元（约合人民币69亿元），跻身独角兽企业。

Olix（此前名为Flux Computing）成立于2024年3月，总部位于英国伦敦，由James Dacombe创办，计划开发比英伟达GPU更快、更便宜的AI芯片。

James Dacombe今年25岁，同时也是英国脑监测创企CoMind的创始人兼CEO。CoMind是他18岁时创立的，并已融资1亿美元（约合人民币7亿元）。

▲James Dacombe

针对AI推理需求，Olix正在打造一种新型AI芯片，目标是高吞吐量和高交互性，以应对最苛刻的推理工作负载，并且不受当今AI芯片的架构和供应链限制。

Olix光学张量处理单元（OTPU）是一款采用新型存储器和互连架构的光学数字处理器。

其团队相信，将SRAM架构与光子学相结合，可以在每兆瓦吞吐量和总拥有成本方面超越基于HBM的架构，并且在交互性和延迟方面显著优于纯硅SRAM架构。

该公司已累计获得2.5亿美元（约合人民币17亿元）融资。据知情人士透露，Olix希望最早明年向客户交付首批产品。这家初创公司拒绝就其融资事宜置评。

Vertex Ventures普通合伙人、前Facebook基础设施高管Jonathan Heiliger认为，AI推理需要对芯片的制造方式进行彻底的重新思考，系统级架构的大规模重构极其困难，“James和他的团队的执行速度比拥有十倍资源的公司还要快。”

目前英国芯片公司的融资规模远远落后于美国。另一家英国AI芯片创企Fractile昨日宣布，计划在未来三年投资1亿英镑（约合人民币9亿元），以扩大在其在英国本土的业务。

Olix在官网分享了其芯片设计思路：

现有GPU架构已接近物理极限，当前硬件从根本上来说无法同时为每个用户提供快速推理。

这种权衡取舍是自TPUv2和V100以来所有主流加速器所采用的内存架构固有的——一个大型逻辑芯片放置在中介层上，旁边是堆叠的HBM内存。

只有将大量用户的数据批量处理，充分利用计算资源，并将模型权重通过HBM传输到大量输出token的能耗分摊，才能实现每个XPU和每兆瓦的高吞吐量。

但大批量处理必然会增加每个用户的延迟，降低交互性，迫使用户做出艰难权衡。

推理性能受限于数据传输。因此，逻辑效率（FLOPs/W）和吞吐量（每个封装的FLOP）的持续提升带来的收益递减。数据传输时间的缩短受到内存墙以及封装互连边界长度和封装尺寸限制的制约。

虽然从HBM2到HBM4的过渡在能效和吞吐量密度方面都取得了显著提升，但要再次实现如此巨大的改进需要近十年时间，并且需要更加复杂和昂贵的制造技术。

HBM性能提升带来的能效提升有限，不可避免限制了每个token传输KV cache所需的 pJ/bit 能量，从而也限制了当前架构中token总能耗的下限。

过去十年，这种架构扩展提升了系统的整体性能，但进一步扩展无法同时实现高吞吐量和高交互性。从英伟达Hopper到Rubin Ultra，封装尺寸大约增长了4倍。再增长4倍将接近晶圆级封装的极限。

更大的封装可以缩短数据传输时间并提高交互性，但无法降低固定数据传输延迟。因此，阿姆达尔定律限制了未来通过进一步增大封装尺寸来提升交互性的可能性。

数据从HBM经由中介层进入计算单元的物理路径并未发生根本性改变，但随着跨光罩高带宽接口的引入，其复杂性却日益增加。

因此，以每次缓存命中或未命中时间衡量的数据传输延迟已接近或达到极限，并逐渐成为每个token延迟中越来越重要的组成部分。

虽然可以通过更大层的张量并行性进一步缩短每层的数据传输时间，但这会增加功耗和互连延迟。

此外，高吞吐量编码方案也会引入编码和解码延迟，进一步提高每个token的最低延迟，并限制可实现的交互性。

如果可以通过规模、集成或执行来解决这一权衡问题，那么当今计算生态系统的核心企业将是做这件事的主体。由于预付了数十亿美元以确保获得领先的逻辑节点、HBM和先进封装能力，这类公司将在软件、系统集成和供应链方面拥有巨大的护城河。

每一代都加倍强化这种方法。系统规模越来越大，集成度越来越高，目标也越来越远大。绝对性能持续提升，但底层限制却始终不变，因此仍然无法同时实现高交互性和高吞吐量。

能够同时提供高吞吐量和高交互性的硬件，必须同时解决大规模数据传输效率和延迟问题。任何仅改善其中一个维度的方法都只是改变了权衡的本质。

Olix团队认为，从供应链和制造角度来看，新的架构必须放弃高密度金属薄膜（HBM）、先进封装或其他任何受现有厂商供应链限制的技术。即便是最大的超大规模数据中心运营商都难以确保产能，初创公司根本无法与之竞争。

从兼容性角度来看，硬件必须支持现有模型。它不应强制要求现有模型具备量子算术能力/物理理论能力，也不应要求采用新的热力学神经拟态架构，即使这种架构承诺在理论上有所改进。

从设计角度来看，实现这一目标需要系统级思考，从光罩级和晶圆级设计转向机架级计算和数据传输的协同设计，将其作为一个单一的统一系统。

这个领域不乏资金雄厚的挑战者，但他们都陷入了同样的两种失败模式。

有些芯片仍然采用逻辑芯片-中介层-HBM架构范式，并且在与新一代GPU/TPU竞争时，仍面临同样的交互性-吞吐量权衡，而这些GPU/TPU采用的是老一代低端HBM和逻辑芯片。

另一些则做得不够。他们认识到需要一种新的范式，试图重新塑造交互性的权衡取舍，但无法摆脱这种权衡取舍，仍然受到仅限硅基方法的局限性的制约。

Olix团队希望摆脱这些限制，创造前沿AI的下一个范式。