前景可观的存算一体技术,到底有多难商用?
没有一家公司的存算一体技术解决方案受到广泛的市场认可。
最近,随着5G商用和云计算需求的迅猛增长,建设新一代适用各类AI场景的大规模数据中心成为各大运营商和巨头公司接下来的工作重点,其中,提升性能和降低成本是大家最为关心的话题之一。
今年年初阿里达摩院发布了2020年十大科技趋势,它认为存算一体是突破AI算力瓶颈的关键技术。 因为利用存算一体技术,设备性能不仅能够得到提升,其成本也能够大幅降低。
然而尽管存算一体技术方向广受认可,英特尔、Arm、微软等公司也均参与到该技术方向的投资,也有多家公司给出了可行的存算一体解决方案,但有一个不争的事实是,没有一家公司的存算一体技术解决方案受到广泛的市场认可。
简单来说,虽然“存算一体”概念很容易理解,即计算与存储两个模块的融合设计以实现对数据的高效处理,但落到场景和商业发展推进过程中,它面临的产业矛盾和难处远超业内的想象。
存算一体技术有多复杂?
存算一体技术虽然极具前景,但其实非常复杂,因此很多大公司都选择投资初创公司来完成这件事,而不是自己从头去开发。
如美国著名的存算一体AI芯片初创公司Mythic,因其在存内计算芯片(IPU)有显著的研究进展,在2019年刚刚结束的B+轮融资中,它就受到了软银、美光等投资者的支持,此前它还获得了美国国防部的资金支持。此外,美国另一家专注于语音识别的存算一体AI芯片初创公司Syntiant,它的背书者们——微软、英特尔、亚马逊、博世等,也是广泛分布在计算和存储领域的巨头公司,甚至高通也邀请Syntiant来做可穿戴设备芯片的语音解决方案。
在国内,现在在这一领域有所探索的,包括知存科技、闪亿半导体、忆芯科技等,也都是初创公司。
可以看见,大公司更倾向于选择“站队”,在巨头们中,除了下游大力推进基于ReRAM的存内计算方案的台积电,IBM是唯一公开自己存算一体技术布局的公司。
在相变存内计算方面,IBM已经有了多年的技术积累,因此它也可以代表整个存算一体技术产业的先进水平。但尽管在核心部件PCM器件上有了十余年的研究积累,并且IBM在2016年就透露了其关于存内计算的研发计划,提出了混合精度内存计算的新概念,至今为止,IBM也只发布了基于该项技术的8位模拟芯片,定位是处理深度神经网络。
与传统芯片相比,该芯片在成本和功耗上有非常显著的改进,包括存储与计算模块之间的通信成本也大大降低了,但是它的弱点也很明显:因为AI训练需要保持梯度计算的保真度和权重更新,现有AI芯片大多在16位精度以上,8位的精度看起来是没有办法广泛使用的。
这也很让人怀疑,费了大力气研发出来的全新架构芯片,到底能不能走出实验室?
不得不直面的“困境”
存算一体技术商用真的那么难?
受计算机冯·诺依曼计算机体系架构影响,计算和存储一直以来是相互分离的设计。但是随着大数据时代的到来,以数据为中心的数据密集型技术成为主流系统设计思路,我们的关注点也不再仅限于数据的计算和加工,而更为看重的是对数据的“搬运”,即从根本上消除不必要的数据流动,这催生了计算与存储的融合(存算一体)。
简单来说,在传统计算机的设定里,存储模块是为计算服务的,因此设计上会考虑存储与计算的分离与优先级。但是如今,存储和计算不得不整体考虑,以最佳的配合方式为数据采集、传输和处理服务。这里面,存储与计算的再分配过程就会面临各种问题,而它们主要体现为存储墙、带宽墙和功耗墙 问题。
以存储墙问题为例,因为计算与存储各自独立演进,且传统的观点认为计算系统性能受限于计算能力,因而过去几十年产业界在计算方面的投入巨大。有数据显示,过去二十年,处理器性能以每年大约55%的速度提升,内存性能的提升速度每年只有10%左右。结果长期下来,不均衡的发展速度造成了当前的存储速度严重滞后于处理器的计算速度,内存瓶颈导致高性能存储器难以发挥应有的功效,遭遇了所谓的存储墙问题。
因此,存算一体技术的提出不仅仅要打破人们对传统存储和计算的认知,它还要解决这些已有的“历史遗留”问题,实现存算之间更加低成本的“无缝对接”。
目前,业内提出了几种可行的技术解决方向,其中计算型存储、存内计算、3D堆叠和类脑计算 颇受关注,但究竟哪一种可行,众说纷纭。
图 | 3D堆叠
以现在最为火热的存内计算技术来说,为了推动这项技术的发展,近两年的芯片设计顶会ISSCC已经为其设立了专门的议程,同时2019年电子器件领域顶级会议IEDM有三个专门的议程共二十余篇存内计算相关的论文。
其实存内计算的核心思想很简单,就是把带权重加乘计算的权重部分存在内存单元中,然后在内存的核心电路上做修改,从而让读出的过程就是输入数据和权重在模拟域做点乘的过程,相当于实现了输入的带权重累加,即卷积运算。而同时,由于卷积运算是深度学习算法中的核心组成部分,因此存内计算非常适合AI,对未来AI芯片的存算一体和算力突破都有帮助。
但是不同于传统的数字电路计算,存内计算是用模拟电路做计算,这对存储器本身和存内计算的设计者都是一个全新的、需要探索的领域,IBM所研究的正是这个方向,里面的难度可想而知。
不仅如此,随着数据量的加大,功耗、存算之间的通信等方面都需要变革,以通信的硬件实现工艺来看,是采用光互联技术还是采用3D堆叠的新型封装实现高性能互联,这就是一个大问题,因为采用不同的技术将会导致整体解决方案天壤之别。
AI芯片公司还是存储芯片公司,存算一体技术应该由谁来做?
可以说,现在对于业内而言,树在大家面前的首要问题就是达成技术方向上的共识,而想要达成技术共识之前,可能大家首先要解决的是,存算一体到底由AI芯片公司来做还是由存储公司来做?
由AI芯片公司来做,技术方向更多偏向于计算型存储或类脑计算,而由存储公司来做,存内计算方向则会更容易被发展和推动。
上文介绍的存内计算是从存储的角度去做计算上的融合,尤其伴随SSD产品(由NAND flash构成)的兴起,因嵌入了ARM核和DRAM,NAND flash、ARM和DRAM、控制器和内部总线实际上构成了一个计算机系统,这让存储产品本身就可以做计算任务,因此也为存算一体提供了发展平台。国内就有诸多初创公司在探索这个方向,尤其是由于AI的引入,各种数据的Key-Value只要直接存储在硬盘里,AI需要的数据就可以自动完成分类,可以显著提升非关系数据库的性能。
而计算型存储则是将存储做到计算芯片上,如现在很多处理器公司都在做片上存储这件事,IBM设计的Blue Gene Active Storage(BGAS)结点就是一种‘存储上的计算’系统,每一个BGAS结点包含32个处理器,每个处理器通过PCIe接口连接2TB的SLC NAND非易失闪存介质,大致就是这样一个思路 。
当然不仅仅如此,超越冯·诺依曼架构之上,人的大脑就是一个典型的存储计算系统,而仿照人脑的仿生系统也被认为是最有可能颠覆现有技术的终极发展方向。
作为电子复兴计划的一部分,DAPRA看中的就是这个更高级的系统——通过将电子元件编程为离散阻值状态并将不同权重的电子元件相互卷积以建立一个类似突触和神经元的系统,即神经拟态计算,又被称为类脑计算。此前,国内清华大学类脑计算团队打造的“天机芯”就是被称为异构融合类脑计算芯片,复旦大学也在单晶体管逻辑架构上有突破性的进展,为存算一体发展奠定了技术基础。然而需要指出的是,DAPRA团队在这项研究上已经涉及了超过1800种混合材料,其难度之高可想而知,而后面架构搭建等都是商用道路上必须要迈过去的坎,因此可以说,类脑的存算一体系统遥不可及。
尽管类脑遥不可及,退回到现有的芯片设计上,存算一体的挑战也是十分之多,如器件方面,现有的浮栅器件存储就不适合存内计算;在芯片的工艺上,存算一体的设计和流片周期都将会很长,甚至连现有的EDA工具,目前尚没有支持存算一体设计的。
总体来看,存算一体有IBM、知存科技等数十家大大小小企业在投入和探索,它们广泛分布在存储、计算等领域里,几大技术方向也都在发展中。但是因可探索的方向很多,且没有人知道哪一种是最适合商用的方向,可以说整个市场还处在早期的百家争鸣状态。
降低成本,市场驱动存算一体
说到这里,可以发现存算一体的未来商用发展前景是极其不明晰的。但看向应用端,存算一体的市场发展驱动却是非常强烈的。
以数据中心为例,百亿亿次(E级)的超级计算机成为各国比拼算力的关键点,为此美国能源部启动了“百亿亿次计算项目(Exascale Computing Project)”,希望于2021年至少交付一台E级超算;中国则联合国防科大、中科曙光和国家并行计算机工程技术研究中心积极开展相关研究,计划于2020年推出首台E级超算。但要想研制E级超算,科学家面临的挑战之中首当其冲的就是功耗过高问题。
随着速度和性能要求的不断提高,如果按现有设计方法,通过不断增加处理器数量来研制超算,其体型和规模会越来越大,数据在存储器和处理器之间进出所耗费的功率会越来越多。以现有技术研制的E级超算功率高达千兆瓦,需要一个专门的核电站来给它供电,而其中50%以上的功耗都来源于数据的“搬运”, 本质上就是冯·诺依曼计算机体系结构计算与存储的分离设计所致。
如何降低功耗成为超算中心必须要解决的问题,各国科学家都在致力于降低超算功率,其中一些可行的技术方案包括让存储器更靠近计算器,减少数据行进距离;让高性能存储器向三维扩展而不是朝二维延伸;超算与闪存的结合等,而这些都隶属于存算一体的技术方向。
另一方面,在边缘计算和物联网端,因存算一体能够大幅提升性能和降低功耗, 因此也被大家寄予厚望。
当然,不仅仅是成本,如阿里达摩院在发布的技术报告所言,AI的出现与存内计算格外匹配,存算一体也将会改善现有的AI算力瓶颈。
更多优质内容,请持续关注镁客网~
兆易创新大容量Nor Flash产品占比提升 车规产品整体进展顺利
在半导体行业景气度调整背景下,A股存储器龙头兆易创新(603986)业绩下滑,今年第三季度营业收入、净利润均同比减少。
据最新披露的机构调研显示,兆易创新将坚持多元化经营策略,平滑业绩波动。目前,新能源市场需求依旧旺盛,兆易创新旗下NorFlash大容量产品占比持续提升,另外车规产品将陆续推出。
半导体供不应求局面缓解
今年前三季度,兆易创新实现营业收入约67.69亿元,同比增长6.94%;净利润约20.92亿元,同比增长26.92%。
但第三季度,兆易创新芯片产品市场需求减少,上市公司营业收入约19.88亿元,同比减少26.07%;净利润约5.65亿元,同比减少34.5%,出现自2019年一季度以来首次单季度业绩下降。
随着半导体供不应求局面得到缓解,芯片产品市场需求减少,第三季度公司存储芯片业务收入同比减少约4.7亿元,微控制器业务收同比减少约1.4亿元,传感器业务收入同比减少约0.9亿元。另一方面,美元兑人民币汇率上升,汇兑收益增加,财务费用同比减少约1亿元。
据兆易创新高管介绍,今年三季度NorFlash大容量产品的占比还在持续上升,出货的平均容量在持续上升;MCU产品中工业应用占比约50%。在经过本轮周期去库存后,兆易创新持续加码工业类产品。同时,公司逐步在海外市场建立本地化销售和服务团队,扩展海外业务。
相比,兆易创新DRAM业务目前还处于起步阶段,工作重心仍然聚焦在产品研发方面,其营收和利润占公司整体营收、利润的比重很小,在该领域明年的工作重心还是在产品研发上。
报告期末,兆易创新出货同比增长约87%。对于存货水位,兆易创新高管在机构调研时指出,虽然期末公司存货金额变高,但从周转率上看,符合公司产品生产周期加上制造过程物流环节的时间,各个产品线的库存和产品销售的结构趋同。另外,公司库存中的绝大部分是原材料,原材料未来生产成品时弹性空间更大,便于匹配未来的需求,且大部分是短短库龄产品。
终止超声指纹解锁项目
近期,美国升级半导体领域对华出口管制。
兆易创新高管表示,相关管制条例主要是128层以上的3DNANDFlash、18nm以下的DRAM及一些其他相关事项,目前公司业务正常进展中。不过,兆易创新DRAM业务代工厂商的情况则不方便做评论。
除了披露业绩,兆易创新在10月29日公告高管变动,因个人原因,舒清明(SHUQINGMING)辞去公司副董事长、董事及副总经理职务,程泰毅(CHENGTAIYI)辞去公司董事、副总经理职务;同时,公司董事会推荐李红、胡洪为第四届董事会董事候选人。
资料显示,舒清明历任Oak Technology高级电路设计工程师以及Monolithic System Technologies Inc.高级设计工程师和项目经理;程泰毅系上海思立微创始人,后来思立微被兆易创新收购。
在本次机构调研中,兆易创新高管表示,公司一直持续在推进干部年轻化,搭建人才梯队,让公司不会因某个人的情况变化影响公司整体的发展。另外,本次新聘任的两位副总经理在技术上非常有经验,在管理方面也在公司经过了非常长时间的锻炼,对公司文化也有非常好的传承。
另外,兆易创新公告终止“30MHz主动式超声波CMEMS工艺及换能传感器研发项目”,拟将该超声项目剩余募集资金等合计1.97亿元用于日常生产经营使用。
据披露,该超声项目实施主体为兆易创新全资子公司上海思立微电,原计划将研发基于MEMS的超声生物信息识别和处理芯片,以扩展公司在移动智能终端、消费电子领域的市场。
但是受疫情和全球消费市场低迷等影响,手机市场销售下滑、整机成本压力加大,手机新功能的应用开发受到一定影响,超声市场成长速度晚于预期。另外,自超声项目立项以来,手机用户认证和解锁的路线发生了较大变化,公司预计超声指纹解锁IC市场短期不具有获取商业回报的空间。
对于明年是否有收购计划,兆易创新公司高管表示,当前行业处于下行周期,内生增长上,需要练好内功,做好产品,提升管理能力,建好管理体系;在外延增长上,行业下行期是比较好的时机,公司会在MCU周边生态以及模拟等产品上积极寻找机会。
就并购而言,市场估值的下调反应在企业运营中会有延迟,一些公司通过之前融资有不错的现金流,目前还没有出售意愿,兆易创新需要积极寻找机会,并谨慎做决定。
相关问答
硬盘厂商哪个好?质量高的有哪些推荐?目前的硬盘主要分为机械硬盘和固态硬盘。目前机械硬盘厂商相对较少,HGST、希捷硬盘整体质量更好一些。固态硬盘可以优先考虑三星、Intel、东芝、镁光等大厂固态...
gps手簿如何设置显示测点高程?测量操作步骤1、室外架设基准站。选择视野开阔且地势较高的地方架设基站,基站附近不应有高楼或成片密林(卫星接收不好)、大面积水塘(多路径效应严重)、高...
5G网络时代,智能手机会有那些变化?1月4日下午,美国电信运营商AT&T正式宣布,该公司将于2018年底在美国十几个城市内率先提供5G网络服务!在国内,中国电信也将在今年开展5G外场试验,到2019年,...