炬芯科技发力端侧AI，打造全球化的专业音频芯片品牌

昨天的炬芯，也许并不是每个人都熟知。但今天要谈的炬芯，也许会让你印象深刻。这是一支承继了珠海炬力全部技术积累，至今拥有20多年技术研发实力，服务着全球三大顶级音频品牌，以及用创新持续驱动品牌价值的专业团队，这支扎根在珠海的芯片团队过去二十多年里持续给全球的消费者带来了优秀的音频产品体验实在是让人赞叹。
 
众所周知，成立于2001年代珠海炬力是第一批走出去的本土芯片大厂，也是国内第二家登陆美股的芯片公司。但在一炮而红之后，公司发展碰到了瓶颈。然后，到2010年，周正宇博士加入炬力，次年担任公司CEO，并开始谋划炬力的发展新大计，意欲卷土重来。炬芯成立于2014年，到了2016年之后，周博士推动炬力从纳斯达克退市，并以炬芯这个名字带领团队继续走向新高峰。
 
“我们是具备全球视野的专业音频芯片品牌。”在与半导体行业观察等交流时，炬芯科技董事长兼CEO周正宇博士如此定位现在的公司。“我们做的产品不是仅仅在国内实现国产替代，更不是替代国产，而是在全球市场替代一些知名的国际芯片公司。”周正宇博士接着说。
 
朝着这个目标，公司制定了一条新的成长战略。
 
聚焦高端市场，炬芯的底气
 
本着这样的初心，炬芯一直瞄准的是中高端市场，公司客户群体也从一开始的MP3/MP4，到后来的蓝牙音箱、TWS耳机，再到蓝牙手表。在这个发展过程中，公司也获得了国际一线品牌的认可：在音频方面，哈曼、索尼和BOSE等国际知名品牌是他们的客户，国内的华为、小米、OPPO、荣耀等一线厂商也选择了炬芯；来到近年来火热的领夹麦方面，炬芯更是成为该市场的主流供应商，诸如罗德、大疆和猛玛等厂商也都是他们的合作伙伴。
 

 
在周博士看来，炬芯之所以能有这样的表现，与公司团队过去多年在技术和市场上的积累功不可没。如他所说，炬芯目前在无线音频方面最核心的竞争力之一就是低延迟、高音质的私有协议，这也是公司能够获得一众知名客户认可的重要因素。但其实除此以外，公司在包括低功耗、高性能ADC/DAC的音频全信号链技术、无线通信技术等方面的积累，是打造炬芯核心竞争力不可忽略的另一重要因素。
 
基于这些技术和产品，炬芯在近几年都获得了非常不错的业绩表现。
 
 

据介绍，炬芯2024年Q3业绩创历史新高，前三季度实现营收4.67亿元，同比增长24.05%。其中，归母净利润同比增长51.12%，端侧AI芯片收入更是实现倍数增长；与此同时，公司还在持续优化产品结构，伴随高毛利产品占比提升，持续改善公司的盈利能力；公司还坚定落实大客户战略，持续加大国内外一线品牌渗透率；此外，公司还不断拓展新客户、新市场，对现有产品系列进行持续优化升级，并迭代更为先进的芯片产品。
 
在这些传统音频技术、产品和市场上发力之际，周博士还总结说，过去的不少科技革命都是从音频开始的。例如移动音频时代的mp3，智能手机时代苹果也首先打造了iPod。为此，在人工智能大爆发之际，公司也看好这个技术在音频技术方面大发神威。这也正是他看好端侧AI的原因之一。
 
“从成本、功耗和体验上看来，并不是所有的应用都适合在云端处理，这就让端侧AI可以一展所长。具体而言，许多端侧AI应用都是专用的, 并不需要大模型和大算力，特别是在以语音交互、音频处理、预测性维护、健康监测等为代表的AIoT领域。”周正宇博士说。
 
有见及此，炬芯科技提出了“Actions Intelligence”战略。
 
据介绍，炬芯的所谓“Actions Intelligence”是针对电池驱动的端侧AI落地提出的战略，将聚焦于模型规模在一千万参数（10M）以下的电池驱动的低功耗音频端侧AI应用，致力于为低功耗AIoT装置打造在10mW-100mW之间的功耗下提供0.1-1TOPS的通用AI算力。换而言之，“Actions Intelligence”将挑战目标10TOPS/W-100TOPS/W的AI算力能效比。
 
面对这些市场和需求，周正宇博士认为，传统的冯诺依曼架构芯片已经不太适合了，于是，炬芯科技将目光投向了存内计算。其中，基于模数混合SRAM存内计算的高端AI音频芯片，正是公司发力的首个方向。
 
看好模数混合SRAM存内计算，定下新目标
 
“我们六年前就开始投入到端侧AI的研发中去。”周正宇博士告诉半导体行业观察，至于为何选中基于SRAM的解决方案？在他看来，这是因为迄今为止，基于SRAM的存内计算方案是最适合的落地方案。
 
据介绍，业界公开的基于SRAM的CIM电路有两种主流的实现方法：一是在SRAM尽量近的地方用数字电路实现计算功能，由于计算单元并未真正进入SRAM阵列，本质上这只能算是近存技术；另一种思路是在SRAM介质里面利用一些模拟器件的特性进行模拟计算，这种技术路径虽然实现了真实的CIM，但缺点也很明显。一方面模拟计算的精度有损失，一致性和可量产性完全无法保证，同一颗芯片在不同的时间不同的环境下无法确保同样的输出结果。另一方面它又必须基于ADC和DAC来完成基于模拟计算的CIM和其他数字模块之间的信息交互, 整体数据流以及界面交互设计限制多，不容易提升运行效率。
 
虽然SARM相对于其他存储介质成本更高，面积更大，但是技术却是目前最为成熟的，性能表现也非常不错。相比之下，虽然新兴的NVRAM如RRAM或MRAM等技术很美好，但当下都不够成熟。周正宇博士预期未来当RRAM技术成熟以后，SRAM 跟RRAM的混合技术有机会成为最佳技术路径，需要经常写的AI计算可以基于SRAM的CIM实现，不经常或者有限次数写的AI计算由RRAM的CIM实现，基于这种混合技术有望实现更大算力和更高的能效比。
 
基于这些见解和调研，炬芯科技创新性的采用了基于模数混合设计的电路实现CIM，在SRAM介质内用客制化的模拟设计实现数字计算电路，既实现了真正的CIM，又保证了计算精度和量产一致性。这正是炬芯所推崇的MMSCIM（Mixed-Mode SRAM based CIM：基于模数混合电路的SRAM存内计算）技术路线。
                     

 
这种创新性的解决方案具有几点显著的优势： 第一，比纯数字实现的能效比更高，并几乎等同于纯模拟实现的能效比； 第二，无需ADC/DAC, 数字实现的精度，高可靠性和量产一致性，这是数字化天生的优势； 第三，易于工艺升级和不同FAB间的设计转换； 第四，容易提升速度，进行性能/功耗/面积(PPA)的优化； 第五，自适应稀疏矩阵，进一步节省功耗，提升能效比。
 
据介绍，炬芯科技推出集合了Arm CPU、Cadence HiFi 5 DSP和公司存内计算NPU MMSCIM三核异构的端侧AI芯片解决方案，能给开发者提供出色的产品竞争力。当中，炬芯的研发人员更是将MMSCIM和先进的HiFi5 DSP融合设计形成了炬芯科技“Actions Intelligence NPU（AI-NPU）”架构，并通过协同计算，形成一个既高弹性又高能效比的NPU架构。在这种AI-NPU架构中MMSCIM支持基础性通用AI算子，提供低功耗大算力。
 
 
 
从炬芯公布的MMSCIM技术路线看到，炬芯第一代(GEN1)MMSCIM采用22 纳米制程，每一个核可以提供100 GOPS的算力，能效比高达6.4 TOPS/W @INT8，该方案已经在2024年落地；到 2025 年，炬芯科技将推出采用22 纳米制程的第二代（GEN2）MMSCIM，新一代解决方案性能将相较第一代提高三倍，每个核提供300GOPS算力，直接支持Transformer模型，能效比也提高到7.8TOPS/W @INT8。
 
“到 2026 年，我们将推出新制程12 纳米的第三代（GEN3）MMSCIM，GEN3 MMSCIM每个核达到1 TOPS的高算力，支持Transformer，能效比进一步提升至15.6TOPS/W @INT8。”周正宇博士说。
 
为了更好地帮助开发者在炬芯的硬件上部署AI。炬芯科技为AI-NPU打造了专用AI开发工具“ANDT”，该工具支持业内标准的AI开发流程如TensorFlow，HDF5，PyTorch和ONNX。同时它可自动将给定AI算法合理拆分给CIM和HiFi5 DSP去执行。 ANDT是打造炬芯低功耗端侧音频AI生态的重要武器。借助炬芯ANDT工具链轻松实现算法的融合，帮助开发者迅速地完成产品落地。
 
写在最后
 
周正宇博士告诉半导体行业观察，音频是一个很容易被低估的产品。例如如何做到低延迟、高品质，就会给芯片公司带来很大的挑战。而针对这个需求，炬芯也在升级自己的技术，例如公司在当前的2.4G私有传输协议基础上，还在探索将超宽带无线音频传输技术应用到其中。
 
“除了技术以外，产品的品质以及知识产权布局对公司来说也是非常重要的。”周正宇博士说。
 
在这些积累和布局的推动下，我们一起期待炬芯未来能在端侧AI市场上再上一个新台阶，持续为全球的消费者带来了更惊艳的音频产品体验，真正成为全球化的专业音频芯片品牌。