关于我们
投资案例
新闻中心
活动入口
社会责任
联系我们
松禾成长关爱基金会

灵汐科技类脑芯片扬帆起航

发表于:2023-09-11 来源:

本文来源 | 中国安防协会

文 | 华宝洪
近年来,以人工智能、集成电路、生命科学、类脑智能等学科领域为代表的新一轮科技革命和产业变革正在高速发展,重构全球创新版图甚至全球经济格局。在众多极具“颠覆性”的科技领域中,类脑计算无疑是最尖端和最前沿的,因此这个领域也是全球各大经济体之间的“兵家必争之地”。而推动类脑计算领域的长足发展离不开类脑芯片的大力支撑。本文分析了类脑芯片的独特架构、市场现状及前景、应用场景、现阶段的机遇挑战,并介绍了北京灵汐科技有限公司(以下简称灵汐科技)的类脑芯片最新产品技术,以期为行业提供有益借鉴。

undefined


一、类脑芯片发展历程
类脑计算既适用于处理复杂环境下的非结构化信息,又利于发展自主学习机制,甚至有望最终发展出创造能力,进化出新的智能体,打开通用人工智能的大门。类脑计算这一领域主要由两大科学研究与应用落地方向推动,即“类脑智能”和“脑科学”。“类脑智能”一词出自中国计算机学会,类脑研究是以“人造超级大脑”为终极目标,借鉴人脑的信息处理方式,模拟大脑神经系统,构建以数值计算为基础的虚拟大脑,或通过脑机交互将计算机与生命体融合,构建以虚拟脑与生物脑为物质基础的脑机一体化的超级大脑,最终建立新型的计算架构与智能形态。
“脑科学”一词来自美国神经科学学会,脑科学的研究范围不仅仅局限于认识脑,如绘制人脑发育图谱、探究嗅觉及视觉等工作原理,还包括如何更好地保护脑、开发脑及创造脑。脑科学和类脑智能是两个重要的前沿科技领域,二者相互借鉴、相互融合。而无论是对脑科学还是类脑智能进行研究,都离不开使用脉冲神经网络(Spiking Neural Network)。相较于目前正火的人工神经网络(Artificial Neural Network),脉冲神经网络的工作机制更加类似于生物神经元细胞,其在计算效率、运算量、泛化性方面有明显优势,因此也被称为“第三代神经网络”和“新一代神经网络”。脉冲神经网络基于对生物神经元的高度仿生建模,因此其“天生”就能够实现在线学习、元学习及小样本学习等学习方式,其学习效率明显优于人工神经网络,并有望成为实现通用人工智能的最终形式。
为了构建基于脉冲神经网络的在线学习支撑体系及其应用生态,结合新一代人工智能技术及半导体技术的发展并且为了实现对神经元高度仿真建模计算的完美支持,类脑芯片(又称:神经拟态芯片,神经形态芯片,a.k.a Neuromorphic Chip)应运而生。简单地说,类脑芯片就是主要运行脉冲神经网络的芯片,类脑芯片技术的终极愿景是:使得计算机能够像人脑一样思考。
二、类脑芯片的独特架构
大多数类脑芯片都将高效率、低功耗、可塑性作为其最大设计特点,因此在芯片架构上大多都采取“众核协同”“事件触发”“分布式并行流水处理”“存算一体”以及“自适应能耗分配”的设计。众核协同的架构类似GPU,利用多个计算核同时完成高重复性计算任务,从而减少计算时间,提高计算效率。基于冯·诺依曼架构的传统芯片在完成计算任务时,大部分功耗都浪费在了数据搬运过程。因此,类脑芯片采用“存算一体”的新架构,采用此类架构的类脑芯片内部的计算核也具备数据存储功能,因此可以大大节约能耗、降低功耗。

undefined


此外,类脑芯片的“事件驱动”特性相较于传统芯片,也能进一步降低芯片功耗。类脑芯片大多为NOC(Network on Chip)异构芯片,因此从芯片架构来看,类脑芯片具备片上神经元与片上突触。片上神经元与片上突触的数量也是类脑芯片的重要数据指标。目前,已有少数厂商实现了片上神经元可编程,即用户可自行定义神经元数学模型。基于这种异构的架构,类脑芯片能够对神经元做高精度模拟与仿真,将这些神经元通过突触组合起来就形成了具有一定智能化程度的脉冲神经网络。
三、类脑芯片发展前景可期
全球几大经济体都高度重视类脑计算领域的发展,也相应推出了各自的“脑计划”。从学术成果来看,美国暂居全球首位;欧盟国家、加拿大、俄罗斯以及日韩为全球第二梯队;以色列、中国等新兴力量也已暂露头角。美国于2005年提出“神经科学研究蓝图计划”并于2013年将脑科学计划成功启动。欧洲则于2013年启动HBP,即人类脑计划,旨在建立用于模拟和理解人类大脑所需的信息技术,建立模拟技术和超级计算即平台。日本于2014年启动脑计划,并计划每年投入2700—3600万美元,计划实时周期为10年。我国于“十三五”期间启动了“脑科学与类脑科学研究”计划,并于2016年纳入“科技创新2030重大项目”。“十四五”期间,我国将“中国脑计划”以“一体两翼”为结构重点发展了多个重点研究项目并将“类脑智能”写入《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》。目前,我国脑计划已经取得了多项世界级重大科研成果,论文发表增长率处于全球领先水平,这说明中国类脑计算领域一直处于蓬勃发展期。
在各国政府的大力推动下,欧美开始了类脑芯片的研发之路。2008年,在美国国防高级研究计划局(DARPA)的推动下,SyNAPSE项目成立,这标志着美国率先开始了类脑芯片的研究之路。当时的参与方有IBM和HRL实验室。6年后的2014年,基于SyNAPASE项目,IBM推出了类脑芯片——TrueNorth,这也标志着类脑芯片从此走出实验室,走向市场。
2018年,英特尔推出了Loihi一代,并开始着力打造其类脑计算生态圈。同年SynSenes、Brainchip、GrAI、Aspinity等公司相继进入类脑芯片这一领域。2019年英国曼彻斯特大学推出了SpiNNaker类脑计算超级计算机,并推动了多项科研工作进展。2021年,英特尔推出Loihi二代,并发布了脉冲神经网络的开源开发框架LAVA,这标志着其生态建设逐步完善,与其达成合作的机构也超过200家。同年,其余类脑芯片厂商也开始陆续向客户交付产品,这也标志着类脑芯片商业化的开始。在我国,类脑芯片也备受瞩目,2019年清华大学推出了“天机”类脑芯片,并于当年成功登上《nature》杂志首页,实现了中国芯片类科研项目在该杂志上零的突破。随后浙江大学、上海交大等国内大学也纷纷投入到类脑芯片的研究中并不断刷新成果。
从商业角度来看,结合多家资讯机构提供的信息,类脑芯片的全球市场规模在2025年将达到2亿美元,2030年约为70亿美元,CAGR超过70%。从市场信息分析,可发现市面上绝大多数类脑芯片并未实现批量化生产和大规模应用落地。类脑芯片大致有以下几类主要细分市场:开设了类脑智能/神经科学等相关学科的高校;具有类脑算法研发能力的大型企业预研部门;医疗科研场景下利用计算机算法模拟神经元计算过程以及进行生物电信号处理研究的研究机构和科研团队。其中,高校与科研机构相关项目占调研中总项目数量的70%以上,因此类脑芯片主要购买方为高校与研究机构。这些研究机构主要从事事件视觉图像识别、感知信号处理与机器人/UAV控制算法等方向的研究。
综上所述,基于全球对类脑计算领域的高度重视,类脑芯片发展迅速,其技术创新、产品研发、市场规模均取得了重大突破,类脑芯片前景可期。
四、类脑芯片应用场景广阔
如前文提到的,类脑芯片的主要应用场景大致可以分为两大类:类脑智能与脑科学。在类脑智能方面,目前研究人员通常将搭建好的脉冲神经网络或者由脉冲神经网络与人工神经网络组成的混合网络部署于类脑芯片上,用以实现如下下游任务:图像识别、目标检测、无人机/机器人控制算法、嗅觉感知、触觉感知以及各类信号识别。这些下游任务可以在未来被广泛应用于医疗器械、工业生产、安防、智能驾舱、自动驾驶、无人机与机器人等多个领域。由动态相机与类脑芯片组成的视觉感知系统可以轻松实现数千FPS的探测速度,因此未来这项技术在自动驾驶、工业检测等领域应用前景广阔。
基于存算一体的架构以及脉冲神经网络的稀疏性等特点,类脑芯片的功耗特别低,个别应用甚至可以达到毫瓦级功耗。类脑芯片天生的低功耗特点使其在端侧和边缘侧应用有较大优势,例如消费级机器人上的always-on语音唤醒系统,安防摄像头、车载手势识别系统等。此前由清华大学发布的“天机”类脑芯片上就部署有语音识别算法以及避障、目标跟踪等算法。在脑科学方面,类脑芯片主要用于进行神经元仿真、中小规模神经组织仿真及大规模脑仿真甚至人造大脑。研究人员通过将用于模拟生物神经元的数学模型写入到片上神经元中,并设定好突触连接等参数,即可进行各类规模下的神经元仿真,从而帮助人类更加了解大脑结构及其工作原理,也促进人类脑健康研究的发展。通常,做中大规模脑仿真需要大量片上神经元参与,因此类脑芯片需要以类脑计算板卡的形式被部署在服务器节点中。

undefined


五、类脑芯片发展任重道远
虽然类脑计算领域是热门研究领域,但是类脑智能算法与类脑芯片并未实现大规模商业化落地。可想而知,类脑计算领域在发展的道路上正面临着严峻挑战。首先,脉冲神经网络算法的发展仍然处于早期阶段,虽然类脑计算系统在功耗上优于传统深度学习与GPU的组合,但在计算准确度与精度方面需要和传统神经网络融合才能体现出优势。其次,相较于深度学习领域,整个类脑计算领域的生态也较为落后。市面上的深度学习框架五花八门,学习资料琳琅满目,对于开发者来说学习成本低、上手速度快。同时,这些框架与开发工具对于CPU/GPU的支持也较好。
反观类脑计算生态,虽然市面上存在一些开发工具与框架,但对类脑计算硬件的支持程度则较低。目前市面暂不存在通用类脑计算框架,类脑计算框架目前仍然由类脑芯片厂商开发,如英特尔LAVA框架。因此这样的生态较为封闭,发展速度也较为缓慢。再次,相较于深度学习领域丰富的benchmarks、metrics和各类开源数据集,类脑智能算法领域暂无丰富的benchmarks和评判体系,这也大大制约了类脑芯片的持续迭代与发展。
虽然面临来自技术、市场等方面的诸多挑战,但类脑计算相较于传统计算架构仍然具备较大优势,所以全球各大类脑计算相关厂商/高校与研究机构也在不断迭代技术,期望凭借ANN和SNN的融合,带来智能水平的提升,助力通用人工智能的发展。
六、灵汐科技类脑芯片扬帆起航
目前全球在脑科学和类脑智能算法上的研究与开发受限于现有算力平台,尤其是在大规模脉冲神经网络和脑仿真上,现有算力平台效率低下,因此需要真正的类脑计算产品来支撑该领域的发展。起源于清华大学类脑研究院的灵汐科技成立于2018年,是一家全球领先的类脑计算技术公司,致力于创造持续自主进化的新智能体,拥有一支兼备算法、硬件、软件、芯片研发经验与能力的顶级团队。

undefined


2021年,灵汐科技基于清华大学“天机”芯片发布了其第一代商业量产的类脑芯片——领启®KA200,以及基于领启®KA200类脑芯片构建的产品体系,如类脑计算模组、类脑计算加速卡、类脑计算服务器以及软件开发平台,产品可广泛应用于云端和边缘端的AI应用场景,以及脑仿真与脑科学研究。类脑芯片领启®KA200基于全新的存算一体、众核并行、异构融合架构,能高效支持人工神经网络、脉冲神经网络。因此其既能支持传统深度学习,也能够高效支持类脑智能算法开发与大规模脑仿真。领启®KA200单芯片集成25万神经元和2500万突触(稠密模式),其可扩展支持200万神经元和20亿突触的集成计算(稀疏模式),也支持混合精度计算(48Tops@INT8和24Tflops@FP16)。目前该芯片以及相关软硬件产品已经成功投放市场,并广泛应用于泛安防、智慧交通及脑科学研究等多个应用领域。先进的芯片架构设计极大地提升了芯片的计算性能与功耗比,满足了众多行业和领域对于芯片低能耗的需求。
在边缘端应用场景中,灵汐科技类脑计算产品已成功赋能多个行业的生态合作伙伴,包括:智慧电力与能源、智慧石化与矿山、智慧安防与交通以及智慧医疗等。除此之外,灵汐科技也积极与高校科研机构紧密合作,如建立类脑计算云平台,开发装用于脉冲神经网络计算的类脑计算框架等。今年,灵汐科技凭借其类脑计算产品的强大通用性能成功进军金融与隐私保护计算行业,高性能信号处理领域以及AIGC行业。在今年6月7日—10日举办的第十六届(2023)中国国际社会公共安全产品博览会上,灵汐科技自主研发的类脑芯片领启®KA200荣获“创新产品特等奖”,成为了类脑芯片的新典范。
灵汐科技秉承开源开放、合作共赢的宗旨,积极与合作伙伴构建和发展类脑生态,研发开源脑仿真平台和类脑计算训练框架,引导并支撑类脑计算的应用落地,与合作伙伴一起促进类脑产业发展。