亿铸科技徐芳：通用存算一体三大定律拆解大模型时代算力变革逻辑
2026-07-27
10:34:50
来源: Semiinsights
点击
过去几年，AI行业比拼的是谁能把模型做得更大；而到了今天，越来越多的人开始思考另一个问题：怎样才能让AI跑得更划算。
正是在这样的背景下，WAIC 2026期间，由观察者网、WAIC CONNECT主办、半导体行业观察协办的「重构算力」产业链接会，成为了产业界关注的焦点。
这场链接会汇聚了国产AI芯片、智算中心、云计算、边缘AI、存算一体等多个领域的代表企业，同时吸引了多地政府及企业需求方到场，现场释放了十亿级、千万级算力以及大模型、具身智能等采购需求，为政企双方与算力产业链上下游搭建起精准对接的平台，进一步推动完整算力生态的协同建设。
在众多主题分享中，苏州亿铸智能科技有限公司联合创始人兼总裁徐芳带来的《通用存算一体三大定律》主题演讲，无疑成为当天关于新一代AI芯片架构最具代表性的讨论之一。
她试图回答的，并非某一款芯片性能是否足够领先，而是一个更加底层的问题：当AI迈入大模型时代，制约算力价值释放的瓶颈，还单纯是算力规模不足吗？
AI最大的瓶颈，已经不是计算
过去十多年，AI芯片的发展几乎始终围绕着一个目标——提升计算能力。
从CPU到GPU，再到NPU、TPU，计算单元越来越多，并行能力越来越强，制程工艺不断演进，HBM带宽持续增长，几乎每一代产品发布，人们最关注的都是算力提升了多少。
但随着GPT、DeepSeek以及多模态大模型不断发展，一个越来越明显的现象开始出现：GPU越来越强，可真正能够释放出来的有效算力，却并没有同步增长。
原因是什么？徐芳在演讲中引用了图灵奖得主约翰·轩尼诗的一项观点。
“数据在存储与计算间搬运产生的能耗、延迟代价，可达单次计算本身的100倍；AI 系统真正的性能瓶颈不在计算，而在数据搬运。”
在徐芳看来，今天无论是GPU不断升级HBM，还是产业持续投入先进封装、高速互联，本质上都在解决同一个问题——如何让数据更快地送到计算单元。
她强调，当前产业所做的大部分努力，其实仍然停留在“优化搬运”阶段。
HBM让数据离GPU更近一些，高速互联让数据传输更快一些，先进封装让带宽更高一些，但数据依然需要不断来回移动，搬运这件事情本身并没有消失。
“大家都在修路，而且把路修得越来越宽。”徐芳说道，“但有没有一种可能，我们根本不用让数据跑这么远？”
第一条定律：未来AI芯片竞争，本质是一场数据搬运革命
徐芳在演讲中介绍，亿铸科技将产业研判总结为 “搬运代价定律”。
她表示，过去整个产业评价AI芯片，更多关注的是TOPS、TFLOPS以及峰值算力等指标，但随着大模型不断发展，真正决定系统效率的，其实已经变成另外三个变量——参数规模、数据搬运次数以及数据搬运距离。
事实上，回顾过去几年AI芯片的发展路径，也能够清楚看到这一变化。
传统机器学习时代，大量任务依赖CPU完成，矩阵计算占比不足10%，数据搬运并不是主要矛盾；进入深度学习时代之后，矩阵计算快速增长，GPU凭借并行计算能力成为AI时代的主角；而到了今天，大模型、多模态以及Agent不断出现，矩阵计算已经成为绝对主角，占比高达90%-99%，数据搬运损耗也随之成为新的性能瓶颈。
徐芳强调，未来AI芯片架构的发展，也将延续这一趋势，数据搬运效率会成为架构创新必须攻克的核心命题。
过去几十年，CPU、GPU、NPU虽然不断变化，但都没有改变冯·诺依曼架构“存储”和“计算”彼此分离的基本逻辑。数据需要在存储单元与计算单元之间持续往返，为缓解传输延迟，硬件不得不搭建层级更多的缓存体系，多级缓存也随之愈发复杂。
而存算一体，希望改变的正是这一点。
与传统架构相比，存算一体并不是简单增加带宽，而是让计算尽可能发生在数据所在的位置，减少甚至消除存储与计算之间反复搬运的过程，从架构层面降低数据移动带来的时间和能耗损失。
不过，徐芳也特别强调，存算一体并不是对GPU、HBM等技术路线的否定。
在她看来，HBM、3D封装、Chiplet等技术依然会持续发展，它们解决的是"如何让数据搬得更快"；而存算一体希望解决的，则是"如何让数据尽量不用搬"。二者并不是竞争关系，而是不同层面的技术演进。
"未来真正有竞争力的架构，不会只依赖某一种技术。”徐芳表示，“例如3D DRAM的大容量优势，如果能够与存算一体结合，就有机会进一步突破今天AI系统面对的大容量、高带宽瓶颈。“
也正因为如此，在她看来，未来AI芯片真正的竞争，已经不是简单比较峰值算力，而是谁能够以更低的数据搬运成本，释放更多有效算力。
第二条定律：真正决定一款AI芯片命运的，不只是性能，而是通用性
如果说第一条定律回答的是产业为什么需要新的算力架构，那么亿铸科技提出的第二条定律——通用边界定律，则将视野从芯片硬件性能，拓展至完整产业生态层面，徐芳现场对此展开解读。
过去几十年，无论是x86逐渐成为服务器市场的主流架构，还是CUDA成长为AI开发事实上的标准，其背后依靠的都不仅仅是性能领先，更重要的是围绕它建立起来的软件工具链、开发框架以及开发者社区。
因为对于今天的大模型开发来说，更换一块芯片，并不仅仅意味着采购另一块硬件。它意味着重新适配编译器，重新优化算子，重新验证模型，甚至重新培养工程团队。
这些隐藏在芯片背后的迁移成本，往往远比一项性能指标更高。
徐芳在现场提到，很多企业并不是不知道新的架构可能拥有更好的效率，而是不愿意承担整个软件体系重新构建带来的巨大成本。
因此，在徐芳看来，未来的新架构想要真正落地，首先必须解决的不是性能问题，而是兼容性问题。
这也是亿铸科技提出通用存算一体的重要原因。
这里的通用，并不仅仅意味着支持更多应用场景，更意味着能够最大程度兼容现有的软件生态。
演讲中，徐芳特别介绍了亿铸科技在软件体系上的布局，包括CUDA兼容的底层指令集、兼容PyTorch的开发环境，以及编译器、运行时、算子优化工具等完整的软件栈，都是为了尽可能降低开发者迁移门槛。
她的判断很明确，未来真正能够进入主流市场的新架构，一定不是要求开发者重新学习一套体系，而是在保持原有开发习惯的基础上，完成底层架构的升级。
第三条定律：AI芯片不会走向统一，而是走向异构
如果说前两条定律讨论的是效率和生态，亿铸科技提出的异构终局定律，则明确了未来AI芯片架构最终会演化成什么样。
徐芳给出的答案并不是某一种架构会取代另一种架构。恰恰相反，她认为，未来不存在一颗能够解决所有问题的万能AI芯片。
原因其实并不复杂。今天的大模型虽然矩阵计算占据了绝大多数计算量，但整个AI系统依然包含大量控制逻辑、数据调度、通信管理、分布式协同以及各种非矩阵计算任务。这意味着，即使存算一体能够极大提升矩阵计算效率，也无法完全替代通用计算单元。
在她看来，真正合理的AI芯片架构，更像是一支分工明确的团队，而不是一名无所不能的选手。
海量的矩阵计算由存算模块完成，通用计算单元承接逻辑调度、控制任务，各类计算单元各司其职、协同运行，而不是让一种架构承担所有功能。这种思路，其实也与整个AI产业的发展方向高度一致。
过去几年，从CPU+GPU，到CPU+GPU+DPU，再到Chiplet、多芯片异构封装，整个产业一直在不断强化不同计算单元之间的协同能力，而不是试图用一种芯片覆盖所有场景。
徐芳认为，通用存算一体同样应该遵循这样的思路。
因此，亿铸科技提出的GP-IMC架构，并不是单纯把存算一体做成一颗专用芯片，而是将自研存算IP与通用计算模块进行异构融合，在尽可能消除数据搬运损耗的同时，保留完整的通用计算能力。
围绕这一架构，亿铸科技也构建了包括自研ISA指令集、CUDA兼容编译器、算子自动优化工具、自研通信库以及整机组网方案在内的完整技术体系，希望让硬件、软件以及集群能力能够协同工作，而不是各自独立。
她在演讲中详细介绍了亿铸科技的全数字3D DRAM通用存算一体AI芯片。这一芯片遵循三大定律，融合3D DRAM与存算一体架构，存算IP与通用计算异构融合，原生兼容CUDA生态，覆盖工作站、一体机、分布式集群等多类硬件形态。
依托通用存算一体架构，该方案可从底层消除数据搬运损耗，大幅降低大模型推理的单位成本，高效支撑长上下文、MoE、多智能体等前沿模型落地。
徐芳认为，未来优秀的AI芯片，不只是某一个模块性能突出，而是整套系统需要实现更短数据传输路径、更少数据搬运次数、更高带宽利用率、更低软件迁移成本四大核心价值。
写在最后
回顾过去二十多年AI芯片的发展历程，每一次重要的架构变革，几乎都由算法需求驱动。
传统机器学习时代，CPU承担着主要计算任务；深度学习兴起之后，GPU凭借强大的并行计算能力成为AI发展的核心引擎；移动AI时代催生了NPU；而今天，大模型、Agent、具身智能以及空间智能的快速发展，又开始推动整个行业重新思考下一代算力架构应该如何设计。
亿铸科技提出的“通用存算一体三大定律”，正是基于这一背景形成的一套思考框架。
当数据搬运逐渐成为AI系统最大的成本来源之后，未来芯片设计的重点，将不再只是继续堆叠计算单元，而是重新组织数据与计算之间的关系；真正具备生命力的新架构，不仅需要更高的效率，还需要兼容成熟的软件生态；而最终能够支撑AI长期发展的，也不会是一种孤立的计算架构，而是不同计算单元之间更加紧密的异构协同。
存算一体最终是否会像GPU一样，成为下一代AI计算的重要基础设施，现在或许还没有明确答案。但可以确定的是，随着AI产业逐渐从训练走向推理、从比拼模型规模走向比拼商业效率，整个行业对于算力的理解已经开始发生变化。
未来AI芯片竞争，比拼的不再只是算得快，更重要的是如何以更低的成本、更高的效率，让每一次计算、每一次数据流动都创造出真正的价值。而围绕数据搬运、软件生态与系统协同展开的新一轮架构探索，也许才刚刚拉开序幕。
责任编辑：SemiInsights
©2025 半导体行业观察
Copyright©2023 芯算智能科技（扬州）有限公司
苏ICP备2025200240号-2 皖公网安备 34019202000656号