​英特尔第一代EUV工艺芯片亮相?用于神经形态计算芯片Loihi 2!

2021-10-01 14:02:15 来源: 半导体行业观察

来源:内容由半导体行业观察(ID:icbank) 编译自 anandtech 」,谢谢。


自从英特尔于 2018 年初推出首款用于神经形态计算的专用 14 纳米芯片 Loihi 以来,我们一直密切关注英特尔在神经形态方面的努力。在2021 年 3 月采访英特尔实验室主任 Richard Uhlig 博士时,我询问了硬件的开发情况,以及我们什么时候可能会看到第二代。现在,新一代的 Loihi 2芯片将要到来,这是对第一代的重大升级,解决了第一代设计中的许多悬而未决的问题。也许同样有趣的是所使用的工艺节点:

英特尔正在传达的关电视, Loihi 2 正在构建,并使用英特尔第一个 EUV 工艺节点Intel 4 来生产。

英特尔的神经拟态计算


通过创建一个其核心像大脑一样建模的架构,让其拥有的数百万个神经元和突触计算起来就像大脑工作的时候一样,拥有独特的功率/性能优势。对于英特尔来说,这是一个长期潜在的商业产品,但团队的任务是开发技术和软件,以发现和加速适合神经元类型计算的任务。


英特尔的神经形态实验室实际上是源自于 2011 年收购的 Fulcrum Microsystems。当时,Fulcrum 团队是一个致力于网络交换机的异步计算团队。该技术被转移到英特尔内部的网络小组,研究部门将注意力转向异步计算的其他用途,并落在了 Neuromorphic 上。

当时,针对实际工作负载的这种神经拟态计算架构的研究还处于起步阶段——虽然该领域自 1980 年代后期就已经存在,但直到 2010 年代初才真正存在专门的研究构建硬件。在欧盟的资助下,一个为期十年的Human Brain Project计划于2013年启航。他们在2019年推出了 SpiNNaker:一个拥有一百万芯片、十亿神经元和100千瓦的有效功率的系统。


相比之下,英特尔的第一代 Loihi 每 60 mm 2 芯片支持 131000 个神经元,而 768 个芯片可以放在一个具有 1 亿个神经元的 Pohoiki Springs 系统中,功耗仅为 300 瓦。genju英特尔自己的介绍,他们将其描述为相当于仓鼠。新的 Loihi 2 芯片在高水平上使用 31 mm 2 每个芯片容纳 100 万个神经元,有效地将密度增加了 15 倍,但其发展超出了原始数字。

Loihi 2


Loihi 2 芯片在高层次上可能看起来很相似:128 个神经形态核心,但现在每个核心都有 8 倍的神经元和突触。这 128 个内核中的每一个都有 192 KB 的灵活内存,而之前每个内核在运行时固定,每个神经元可以根据模型分配多达 4096 个状态,而之前的限制只有 24 个。神经元模型现在也可以完全可编程,类似于 FPGA,从而提供更大的灵活性。


传统上,神经元和尖峰网络在二进制事件中传递数据,这正是 Loihi v1 所做的。使用 Loihi 2,可以使用 32 位有效载荷对这些事件进行分级,从而为片上计算提供更大的灵活性。现在可以使用芯片上的新开发/调试功能实时监控这些事件,而不是暂停/读取/播放。结合起来,这还允许在动态更改计算工作负载时更好地控制,例如扇出压缩、权重缩放、卷积和广播。


也许最大的改进之一是连接性。

第一代使用自定义的异步协议来创建大型 2D 神经元网络,而 Loihi 2 可以根据需要配置使用多种协议,也可以在 3D 网络中使用。我们被告知 Loihi 2 不仅仅是一个芯片,而是一个具有相同神经元架构但基于特定用例的各种不同连接选项的芯片系列。这可以与板载消息压缩加速器结合使用,使芯片到芯片带宽有效增加 10 倍。


通常,对于新的工艺节点,您需要一个硅芯片尺寸较小的客户来帮助解决潜在的障碍,从而使工艺达到全面量产和生产。英特尔的代工竞争对手通常对拥有智能手机大小的芯片的客户这样做,而客户的利益通常首先意味着硬件或某种初始折中(尽管在今天的环境下可能不是这样)。英特尔此前一直在这方面苦苦挣扎,因为它只有自己的芯片可用作测试工具。

Neuromorphic 团队表示,考虑到神经形态硬件需要前沿工艺节点提供的高密度和低静态功耗,它实际上非常适合。128 核设计还意味着它具有一致的重复单元,允许工艺团队查看生产中的规律性和一致性。此外,鉴于 Loihi 目前仍是一个研究项目,因此没有认真的期望将该产品在给定的窗口内推向市场,这可能是大客户可能需要的。

这是否意味着英特尔的Intel 4 工艺已准备好投入生产?不完全是,但它确实表明正在取得进展。许多 Loihi 2 列出的基准测试确实有“预期给定的模拟硬件结果”的警告,尽管其他一些是在真实的芯片上完成的,该公司表示它今天有真正的芯片可以部署在云中。Intel 4 是 Intel 的第一个极紫外 (EUV) 光刻工艺节点,并且 Intel 将是最后一家启动 EUV 工艺进行产品化的主要半导体制造商。但我们还有很长的路要走——回到英特尔的加速活动,EUV 和英特尔 4 预计要到 2022 年下半年才会真正提高产量。


最后,从英特尔的公告中,我们可以查看晶体管密度。在 31 mm 2 中有23 亿个晶体管,这将使密度为每 mm 2 7120 万个,这仅是我们预期的三分之一。根据英特尔之前的公告估计,intel 4 的速度约为 200 MTr/mm 2。那么为什么 Loihi 2 与该数字相比如此之低?

首先可能这与它是一个神经形态芯片有关,而不是传统的逻辑设计。内核总共有大约 25 MB 的 SRAM 以及所有逻辑,对于 31mm 2 芯片来说,这可能是芯片面积的一大块。此外,英特尔对神经形态芯片的主要想法是功能第一,性能第二,功耗第三。所以让它正常工作比让它快速工作更重要,所以并不总是对最高密度有原始需求。还有一个事实是它仍然是一个正在开发芯片,它允许英特尔改进其 EUV 工艺并测试精密光刻,而不必担心由密集的晶体管库引起的缺陷。我敢肯定,还会有更多。

最后一点,我们的简报确实推测神经形态 IP 有可能在未来通过英特尔的代工服务 IP 产品提供。

新的 Lava 软件框架


不管处理能力如何,神经拟态系统的主要构建块之一是计算类型,也许编写软件来利用这种架构是多么困难。在与英特尔神经形态实验室主任迈克戴维斯的讨论中,我们最好地描述了现代计算类似于轮询架构——每个周期都需要数据并处理它。相比之下,神经拟态计算是一种基于中断的架构——它在数据准备好时起作用。神经拟态计算比现代计算更依赖于时域,因此计算的概念和它可以处理的应用程序几乎与传统计算技术正交。例如,虽然机器学习可以以尖峰神经网络 (SNN) 的形式应用于神经形态计算,


今天,作为公告的一部分,英特尔正在为神经形态社区推出一个名为 Lava 的新底层软件框架。这是一个开源框架,不受英特尔控制,而是由社区控制。英特尔推出了一些早期工具作为框架的一部分,其想法是随着时间的推移,可以开发一个完整的软件堆栈,供参与神经拟态计算的每个人使用,无论硬件(CPU、GPU、神经拟态芯片)如何. Lava 被设计为模块化、可组合、可扩展、分层和开源。这包括用于将神经网络映射到神经形态硬件的低级接口、基于通道的异步消息传递,以及所有库和功能都通过 Python 公开。该软件将在 GitHub 上的 BSD-3 和 LGPL-2.1 下免费使用。

初始系统


部署在英特尔云服务中的第一个 Loihi 2 版本是 Oheo Gulch,它看起来像一个 PCIe 卡,使用 FPGA 来管理大量 IO,如果需要,还带有背板连接器。31 毫米2芯片是 BGA,在这里我们看到了英特尔的内部连接器之一,用于将 BGA 芯片固定到开发板上。


未来,英特尔将生产一款名为 Kapoho Point 的 4 英寸 x 4 英寸版本,板上有 8 个芯片,旨在堆叠并集成到更大的机器中。

有了这么小的芯片,我想知道是否值得在硅片上使用 USB 控制器构建它,或者有一个 USB 到以太网接口,并在 USB 记忆棒上提供硬件,类似于英特尔的 Movidius 过去分发的. 我们询问英特尔关于将 Loihi 2 的使用扩展到更广泛的非研究/非商业重点受众,以修补和自制软件,然而,由于目前这仍然是英特尔实验室的项目,团队的关键要素之一是他们与合作伙伴进行了专门的合作,以推动该细分市场向前发展。因此,我们将不得不等待至少一代或更多的人,看看是否有任何未来的 Loihi 系统最终会在亚马逊上提供。

作为英特尔 DevCloud 的一部分,Loihi 2 应该可供研究合作伙伴使用。而预计将在未来 12-24 个月内进行本地研究/协作部署。

★ 点击文末 【阅读原文】 ,可查看声明原文!


*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。


今天是《半导体行业观察》为您分享的第2814内容,欢迎关注。

推荐阅读


接口IP市场的大赢家

疯狂的半导体,它将第一个倒下?

你方唱罢我登场,半导体制造愈加出彩


半导体行业观察

半导体第一垂直媒体

实时 专业 原创 深度


识别二维码 ,回复下方关键词,阅读更多

晶圆|集成电路|设备 |汽车芯片|存储|台积电|AI|封装

回复 投稿 ,看《如何成为“半导体行业观察”的一员 》

回复 搜索 ,还能轻松找到其他你感兴趣的文章!


点击阅读原文,可查看本文
原文链接!
责任编辑:Sophie

相关文章

半导体行业观察
摩尔芯闻

热门评论