英特尔AuroragenAI预测模型在大模型领域崭露头角

WB3交流加微信:WX-93588,⬅️此处为全站广告位,与正文项目无关
注册并登录App即可领取高达 60,000 元的数字货币盲盒:点击此处注册OKX

自从ChatGPT诞生以来,越来越多的科技公司加入了生成式AI的开发范畴。微软、谷歌、Meta之后,英特尔在德国汉堡举行的世界超级计算大会高功能会议上宣布与阿贡国家实验室协作,一起使用Aurora超级计算机开发了一个名为AuroragenAI的生成式AI模型。该模型的参数量将达到1万亿,比ChatGPT的1750亿参数增长了约570%。

英特尔AuroragenAI模型以NVIDIA的Megatron和微软的DeepSpeed两个框架为基础。Megatron专门用于分布式练习大规划语言模型,对Transformer进行了优化,不只支撑传统的数据并行练习,还支撑模型并行练习。DeepSpeed则专注于优化大型深度学习模型的练习,经过进步规划、速度、成本和可用性,使练习1000亿参数模型成为可能。

为了支撑AuroragenAI这样大规划参数的练习,英特尔与阿贡国家实验室和HPT协作开发了名为Aurora的百万兆级超级计算机。Aurora超级计算机采用了英特尔Xeon CPU和Xeon GPU,拥有很多的计算和内存资源,供给了百万兆级的功能。该计算机的浮点运算才能达到2exaFLOPS,超过了目前世界上最强的超级计算机Frontier。

AuroragenAI将应用于各种科学范畴,包含分子和材料规划、综合常识素材的整合等。它能够加速癌症和其他疾病相关生物过程的辨认,并为药物规划供给靶点主张。除了科研范畴,AuroragenAI还具有在商业范畴中应用于自然语言处理、机器翻译、图像辨认、语音辨认和金融建模等方面的潜力。

AuroragenAI的发布标志着生成式AI大模型范畴中的重要发展,未来它有可能对各种科学范畴产生严重影响,成为ChatGPT的有力竞争对手。

此时快讯

【加密交易平台OKX推出场外衍生品交易】金色财经报道,加密货币交易平台OKX正在提供衍生品交易,且不存在与交易所持有的资产相关的交易对手风险,从而丰富了与资产管理公司CoinShares和托管合资企业Komainu的现有合作伙伴关系。
今年6月,OKX就开始与托管提供商Komainu合作,后者是日本银行野村证券(Nomura)、CoinShares和加密存储公司Ledger的合资企业。
Komainu策略主管维德曼(Sebastian Widmann)表示,除了从交易角度处理衍生品和掉期交易的复杂性外,这些公司还制定了一项标准化的法律协议,可供众多交易对手采用。

版权声明:本文收集于互联网,如有侵权请联系站长删除。
转载请注明:英特尔AuroragenAI预测模型在大模型领域崭露头角 | 币百度

相关文章