《科创板日报》7月8日讯(记者 郭辉)今年生成式AI带火了“存算一体”的概念。当下AI大模型竞相“开花”,但算力的扩展速度却被认为远没有跟上算法的发展。于是,业内将GPU、存算一体、量子计算等方案列为AI算力的三大解药。在本次2023世界人工智能大会上,对算力增长的路径探讨和成果展示,成了一项关注焦点。
【资料图】
其中,存算一体被业界认为将撑起AI算力需求下继CPU、GPU之后的算力架构“第三极”。方正证券认为,存算一体作为一种新的计算架构,其核心是将存储与计算完全融合,以新的高效运算架构进行二维和三维矩阵计算,具有更大算力(1000TOPS以上)、更高能效(超过10-100TOPS/W)、降本增效三大优势,能有效克服冯·诺依曼架构瓶颈,实现计算能效的数量级提升。
《科创板日报》记者关注到,2023WAIC活动和展台上,忆芯科技五款存算一体计算主流机型集体亮相。
忆芯科技是一家业务方向覆盖消费级和企业级SSD主控芯片的科技企业,近年在持续投入计算存储融合架构研发。此次展示的忆芯科技DeepSSD边缘计算一体机,采用自研主控芯片,是集合了物联网、人工智能、边缘计算、存储等服务,提供一站式存算一体化、软硬一体化的管理分析计算平台。
忆芯科技边缘计算事业部副总裁孙唐在财联社直播间接受《科创板日报》记者采访表示,此次大会公司展台的一大亮点,就是公司最新一代的STAR2000可计算的存储控制器。“基于这颗控制器,我们也带来了不同算力、不同形态、适合于不同行业应用的各类边缘计算一体机的产品。”
据了解,面向不同应用场景,具体可分为可计算存储机型、高性能嵌入式机型、三防机型、工控机型、高性能服务器机型五款机型,能够应用于水利、电力、能源、铁路、学校、加油站等场景,具备低功耗、低成本、防尘防水等物理隔离、防爆特性。
孙唐表示,上述存储控制器本身是一颗PCIe 4.0世代上有顶级性能的存储控制器,其芯片上的AI算力矩阵计算加速和数据库加速应用,帮助他们在实际的智慧化业务应用中,形成了4倍乃至30倍以上功效比的提升。“我们的全国产、高可靠、高保密应用的存储数据底座能力,也帮助我们在一些行业应用中获取了用户的认可。今天早上在展台中,许多参展观众针对这一块跟我们有很深入的讨论。
今年AI发展迎来阶跃式技术变革,产业环境急剧变化对公司成长的影响,孙唐认为,AI大模型的出现,带来的不仅是算力需求上的急剧提升,它还在整个动态存储应用当中,带来了20倍以上的存储需求。“在这一块上,肯定对我们是一个很大的商业机会。”
AI大模型的训练过程中,对于数据的直接存储有着极强要求。孙唐表示:“使用SSD和GPU进行直通式的数据处理,而不需要再经过CPU的中转,可以说是提升整个AI大模型训练效率、加速其商业落地非常有效的手段。”
忆芯科技在可信计算这一远景式的技术需求方面也有着前瞻布局,为其抓住AI产业增长创造了良好条件。据介绍,目前国内正在兴起的隐私计算,或者AI大模型的应用,都涉及到数据主权和数据应用伦理的问题。孙唐表示,忆芯作为国产化的可信计算联盟的存储主任单位,正在联合各家国产化GPU厂商共同协作讨论如何发挥好各自的能力,在生态上把可信计算、可信存储两块业务实现更高效的融合。
AI大模型也带来了数据库的蓬勃发展。如今在国外最火的向量数据库,在今年上半年总体上也拿到了超过5亿美金的融资,而忆芯今年的展台上也带来了存算融合对这类向量数据库加速的现场展示。据孙唐介绍,其方案可进行60路以上的视频采集分析,以及每秒百万次以上的检索和比对的能力。“这体现了我们对现在整个AI大模型生态底层加持的能力。”
“通过这两年可以看到,存算一体的技术真正地从实验室走向了市场,国内也涌现了一大批基于存算一体技术的新兴公司。”孙唐预计,在不久的将来,存算一体技术将会有更多选择,“从传统的芯片工艺到新的元器件,其实在市场上已经可以看到一些公司在采用新技术来进行一些产品的延展。”
孙唐表示,在当前已经遇到的传统计算机架构工艺瓶颈面前,存算一体的架构未来一定有属于它的更广阔应用空间;存算一体的技术特点和优势,也一定会在未来的数字化市场当中占据一席之地。
“从小算力的可穿戴设备,到中等算力的边缘计算设备,再到大算力场景下的数据中心的大量业务应用,其实都离不开存算一体相关技术。”孙唐表示,只有通过存算一体的技术,才能把现在整个系统当中应用功能分离所导致的功耗增加、成本上升以及扩展不变的弊端或痛点,给解决掉。
“我们会坚定不移地沿着存算一体、存算融合的这个方向走下去,”孙唐表示,“企业级的存储市场已经跨入PCIe 5. 0世代,未来,我们会在算存一体化的新兴芯片架构、新兴的市场应用方面,继续我们的研发探索。”
标签:
直击2023WAIC|忆芯科技五款存算一体计算机型亮相展台 直通式数据处理将加速大模型落地
《科创板日报》7月8日讯(记者郭辉)今年生成式AI带火了“存算一体”的
世界人工智能大会在沪召开,大模型成“顶流”,商业化落地受关注
本文来源:时代周报作者:齐鑫,谢敏继OpenAI发布的聊天机器人ChatGPT
生成式AI热潮之下 云计算厂商加码国内大模型初创生态 |直击WAIC
《科创板日报》7月9日讯(记者黄心怡)2023世界人工智能大会(WAIC2023
澳大利亚首届旱地端午龙舟节在悉尼开幕
(顾时宏肖晨曦)澳大利亚首届旱地端午龙舟节8日在悉尼罗兹区海滨公园开
高成长低渗透率赛道迎来有利交易环境!智能驾驶、机器人等四大细分领域已被市场验...
财联社7月9日讯(编辑刘越)今年以来市场焦点先后集中在复苏交易、AI浪
人形机器人打开精密齿轮市场全新空间!受益上市公司梳理
财联社7月8日讯(编辑旭日)人形机器人的快速发展为齿轮行业带来了新机
大片争霸 暑期档开局即“爆”
7月8日,在《八角笼中》《长安三万...
丰收“新”盛景|麦浪滚滚 喜获丰收
央广网尉犁7月8日消息(见习记者姜...
三家IPO终止!天极科技上会前夜被叫停,福贝宠物“不差钱”,千年舟受制于房地产
(原标题:三家IPO,突然终止!)7...
二季度融资资金减持黄金类ETF,加仓这些基金(附名单)
两只黄金ETF遭到融资客10亿元以上...
侨银股份预中标11亿“城市大管家”服务项目 年内新增订单将超30亿元
侨银股份(002973)再获大单。7月9日...
重庆路快速路工程有个“数字大脑”,打造“1+1+3+N”的智能建造体系
仅利用一年时间,让全长17 7公里...
我国登记在册民营企业突破5000万户
证券时报e公司讯,国家市场监督管...
阿里重大宣布!考虑回购蚂蚁股份
综合自券商中国、央行网站、阿里巴...
光影联盟电影下载网站(光影联盟电影下载)
1、可以。2、但是使用快车下载会比...
新加坡中国旅游展现场火爆 丝绸之路线路受欢迎
2023年7月7日至9日,中国驻新加坡...
稀土价格走低 包钢股份、北方稀土下调精矿交易价格
7月9日晚间,包钢股份(600010)、北...
中广核技“电离辐射技术处理抗生素废水及菌渣”科技成果通过专家鉴定
证券时报e公司讯,据中广核技消息...
果麦文化对星图比特增资1500万元 后者为英伟达生态扶持企业
7月9日晚间,果麦文化(301052)公告...
联创股份拟参与新华联控股破产重整投资
联创股份公告,公司董事会会议审议...
广东省人大常委会原党组成员、副主任陈继兴接受审查调查
广东省人大常委会原党组成员、副主...
“中国寻根之旅夏令营”内蒙古营开营 华裔青少年献唱“点燃”全场
中新社呼和浩特7月8日电 (记者 ...
福贝宠物IPO终止:撤回发行上市申请,曾计划募资约6亿元
7月7日,上海证券交易所披露的信息...
2023年“文化中国•水立方杯”中文歌曲大赛智利赛区完美收官
水立方杯”海外中文歌曲大赛智利赛...
千亿市值化工龙头重磅布局 新材料子公司打造“新成长曲线”
本文来源:时代周报作者:韩迅分拆...