半岛彩票36 氪获悉,墨芯人工智能(以下简称「墨芯」)近半年内相继完成A+轮、B轮各数亿元人民币的两轮融资。
其中,B轮融资由蚂蚁集团领投,盛景嘉成跟投;A+轮融资由金浦投资上海金融科技基金领投,华大松禾天使基金、岩山科技战略跟投,多家财务机构、老股东将门创投继续跟投。告捷资本持续担任公司两轮融资的财务顾问。
两轮募集的资金将用于「墨芯」公司二代AI芯片的研发、市场拓展及稀疏化生态的构建。
「墨芯」2018年创立于硅谷,其产品目前主要是加速器芯片,通过稀疏化算法提供高算力、低功耗、高性价比的AI算力服务。产品主要面向互联网、运营商、金融、制造、医疗、交通、能源、生命科学、自动驾驶等众多行业与场景。
「墨芯」创始人兼CEO王维告诉36氪,相比稠密计算,稀疏计算技术是全球公认的新一代AI计算技术——利用AI模型本身的稀疏性,以接近大脑计算的方式,运行计算时仅启动所需的神经元,消减冗余和重复内容,减少运算和数据带宽的压力,提升有效性能。值得注意的是,英伟达的A100、H100系列、近期发布的 Blackwell GPU中也都开始支持低倍率稀疏化。
不过,「墨芯」的稀疏计算是两种路线并行——即神经网络的权重稀疏化+激活稀疏化的方法。相比于仅使用一种稀疏化,「墨芯」的双稀疏可以带来更大的效率收益。
由于市面上的芯片还不能很好支持稀疏矩阵算法,在算法之外,「墨芯」还打造了软硬协同的智能计算平台。2022年,「墨芯」便推出了第一代的英腾处理器ANTOUM,而搭载这款芯片的墨芯计算卡S4和S30,可应用于互联网、生命科学、自动驾驶、智慧城市、通信等多个垂直领域。
据王维介绍,「墨芯」的芯片产品目前聚焦在大模型推理市场,经过验证,可以大大提升芯片的数据吞吐率,能够帮助下游企业提升算力的同时,降低价格,进而提升项目整体的 TCO。根据他们测算,在某项目中,推理成本降低了10 倍,推理速度更有 5-10 倍的提升。
目前,大模型推理芯片的需求还在持续提升。今年2月,随着Sora的横空出世,预示着AGI时代的加速来临,市场对算力的需求变得更加多样化,逐渐催生国内大模型厂商对于算力的全新需求。王维预计,大模型推理芯片或将在今明年两年内爆发。
王维告诉36氪,这两轮融资后,「墨芯」将进一步加强其AI算力产品的研发和市场应用,加大对“第二代Antoum芯片”的开发投入。
在创始团队上,公司创始人兼CEO王维是卡内基梅隆大学ECE硕士,拥有近20年经验的硅谷芯片专家,曾任高通和英特尔核心架构师,是英特尔五代到十代CPU处理器的核心团队之一,参与开发的芯片累计量产超50亿片。
联合创始人兼首席科学家严恩勖,是卡内基梅隆大学机器学习专业博士,曾在Google和Microsoft Research担任研究员,在稀疏化领域独创了双稀疏算法。在2015-2019年间,他作为第一作者在NIPS发文数量全球第二。
联合创始人兼工程副总裁芦勇,毕业于浙江大学电子工程专业,拥有20年以上SoC芯片设计和团队管理经验,曾任SK Hynix芯片设计总监和Marvell资深芯片设计经理,领导开发多款全球量产规模最大的SSD控制器芯片。
蚂蚁集团投资团队认为:墨芯团队的稀疏计算技术具备前瞻性和创新性,有望推动大模型的高性能、低成本落地,为解决算力挑战提供了一种通用且有效的方法,助力构建绿色、高效的计算基础设施,为AGI时代打造高性价比、可持续的AI算力。
金浦投资上海金融科技基金表示:AGI是新一轮的技术革命,是全球新一轮数字技术竞争的新赛道和制高点,将对未来5年至10年全球技术创新、企业竞争、社会发展和国家博弈产生深远影响。AGI对于算力需求的增长是指数级的,同时也带了成本、功耗、能效等一系列难题。墨芯主打的稀疏化算法将算法、软件、芯片架构融为一体,不依赖先进制程和高带宽内存,在保证供应链安全的前提下,提高计算效率、降低成本,为互联网、生命科学等客户提供极致性价比的AI芯片解决方案,我们坚定看好墨芯团队在AI芯片上的持续创新,助力AGI大模型以更普惠的方式实现商业化落地。
盛景嘉成提到:我们对墨芯人工智能的投资决策基于其在AI芯片领域的强大创新能力。墨芯的稀疏化技术在提高计算效率和降低成本方面具有显著优势,这对于当前数据量井喷发展的AI行业尤为重要。稀疏化技术使得墨芯的AI芯片在处理大规模数据时更加高效,尤其是在生成式AI时代下,产品实现了与行业领导者英伟达相媲美的性能,并实现了在TCO层面的超越给客户带来了真正的降本增效。目前公司已经与互联网、医疗等各行业头部企业已经建立了深入的合作关系,这证明了其产品的可靠性和其市场客户的广泛接受度。盛景嘉成创投十分看好墨芯科技的未来,期待其在AI芯片市场中继续巩固并扩大其领导地位。
华大松禾天使基金表示:在以人工智能和生物信息为典型代表的大数据时代,高性能算力已成为支撑科学技术创新和社会产业发展的核心基础设施。无论是数据中心还是产品终端,对算力规模的需求持续快速增长。伴随算力规模增长的同时,传统超算芯片在功耗和成本等方面的压力愈发凸显,正成为制约算力行业进一步发展的重要瓶颈,并倒逼芯片行业开展创新突破。墨芯团队采用其独有的高倍率双稀疏计算技术研制的全球首个稀疏加速专用芯片,具有高算力密度、低运行功耗、低获取成本等显著优势,正成为最具竞争力的创新超算技术。在被不断加压的技术封锁的大背景下,稀疏计算也更加符合我国国情现状,将具有行业压舱石与算力方舟的重要意义。基于对稀疏计算的创新路径和墨芯团队的战略布局的高度认可,我们愿携手墨芯,在人工智能与生物技术的新时代,共创新质生产力,共建超算新基建。