腾讯云:超级算力集群,三倍提升

WB3交流加微信:WX-93588,⬅️此处为全站广告位,与正文项目无关
注册并登录App即可领取高达 60,000 元的数字货币盲盒:点击此处注册OKX

自ChatGPT爆火之后,国内众多科技大厂纷纷跟进。4月14日,腾讯(00700.HK)再度加码提速。

红星资本局注意到,今天,腾讯云正式发布新一代HCC(High-Performance Computing Cluster)高功能计算集群。该集群选用腾讯云自研的星星海服务器,搭载英伟达最新代次H800 GPU,服务器之间选用业界最高的3.2T超高互联带宽,为大模型练习、自动驾驶、科学计算等供给高功能、高带宽和低推迟的集群算力。一起,腾讯云新一代集群的算力功能较前代进步高达3倍。

腾讯方面表示,2022年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型练习。在平等数据集下,将练习时刻由50天缩短到11天。假如根据新一代集群,练习时刻将进一步缩短至4天。

资料配图图据ICPhoto

平等数据集下
练习时长缩短至4天

业界标杆大模型,往往利用数万亿个单词练习,消耗了大量算力资源。而算力则负责为大模型的练习推理供给更好的功能。

红星资本局注意到,2022年4月,腾讯现已对外披露“混元”AI大模型的研制进展。混元AI大模型完好覆盖了NLP(自然语言处理)、CV(计算机视觉)、多模态等基础模型和众多职业模型。同年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型练习。

腾讯根据自研的高功能计算集群、星脉网络和练习框架AngelPTM,在平等数据集下,将大模型练习时刻由50天缩短到11天。假如根据此次发布的新一代集群,练习时刻将进一步缩短至4天。

此次新一代HCC选用的腾讯自研的星脉网络,为新一代集群带来了业界最高的3.2T的超高通讯带宽。实测结果显现,搭载同样的GPU卡,3.2T星脉网络相较前代网络,能让集群整体算力进步20%,使得超大算力集群仍然能坚持优异的通讯开销比和吞吐功能。并供给单集群高达十万卡级别的组网规划,支撑更大规划的大模型练习及推理。

芯片方面,国内首发的H800是英伟达新代次处理器,根据Hopper架构,对跑深度推荐体系、大型资深小编、基因组学、杂乱数字孪生等使命的效率进步明显。与A800比较,H800的功能进步了3倍,在显存带宽上有明显的进步,到达3TB/s。

多款自研芯片已量产
紫霄芯片等在腾讯内部交付运用

腾讯方面表示,腾讯多款自研芯片现已量产。其间,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付运用。其间,紫霄选用自研存算架构,添加片上内存容量并运用更先进的内存技能,消除访存才能缺乏制约芯片功能的问题,一起内置集成腾讯自研加快模块,削减与CPU握手等待时刻。

现在,紫霄现已在腾讯头部事务规划部署,供给高达3倍的计算加快功能,和超越45%的整体成本节省。紫霄在语音转写、OCR等腾讯事务场景中,将语音转文字速度进步4.7倍,OCR识别吞吐才能进步2.4倍。视频处理芯片沧海,现已在云游戏、直点播等场景中规划落地,压缩率比业界通用的软件编解码x265Medium进步35%。

未来,不仅能通过实例或容器去供给服务,别的也能够通过腾讯云的机器学习平台直接提交使命,也能够体验到自研芯片带来的算力进步。现在,针对内外的运用场景现已在测试中。

值得注意的是,腾讯云的分布式云原生调度总规划超越1.5亿核,并供给16EFLOPS(每秒1600亿亿次浮点运算)的智算算力。未来,新一代集群不仅能服务于大模型练习,还将在自动驾驶、科学计算、自然语言处理等场景中充分使用。

编辑杨程
(下载红星新闻,报料有奖!)
来源:今天头条
作者:红星新闻

此时快讯

【道德监察机构在致信美参议员,向其提供有关涉嫌使用加密货币洗钱的信息】金色财经报道,非营利性道德组织问责运动(CfA)于11月9日致信美国参议员Elizabeth Warren和Sherrod Brown,向他们提供有关涉嫌使用加密货币洗钱的信息。这封信特别讨论了Tron区块链和稳定币发行商Circle。
在CfA执行董事Michelle Kuppersmith签署的信中,据称USDC发行商Circle与孙宇晨的Tron基金会有着广泛的联系,以及高盛、纽约梅隆银行和贝莱德等华尔街主要投资者都有广泛联系。
Kuppersmith称Circle与华尔街的关系“令人惊讶”,因为该公司据称缺乏监管,而且Tron据称与恐怖主义融资有联系。信中指出,波场正因未经注册的证券销售而受到美国证券交易委员会的调查,并与涉嫌为巴勒斯坦伊斯兰圣战组织、可能还有哈马斯和真主党提供资金有关。
与此同时,它声称Tron生态系统中有价值4亿美元的USDC。

版权声明:本文收集于互联网,如有侵权请联系站长删除。
转载请注明:腾讯云:超级算力集群,三倍提升 | 币百度

相关文章