Meta正在构建世界上最快的人工智能超级计算机,以实现其元宇宙雄心
1月24日,Meta发布博文介绍正在建设的AI超级计算机AI Research SuperCluster(RSC)。Meta表示,这是目前世界上最快的AI超级计算机之一,每秒可进行50亿次运算,它将加速Meta的AI研究并帮助Meta构建元宇宙。
RSC目前已完成第一阶段建设,开始运用于训练具有数十亿参数的大型AI模型。RSC可以帮助Meta的AI研究人员构建更好的AI模型,可以从数万亿个示例中学习;跨数百种不同语言工作;无缝分析文本、图像和视频;开发新的增强现实工具等。借助RSC,Meta可以更快地训练使用多模态信号的模型来确定动作、声音或图像是有害还是良性。这项研究将为Meta的元宇宙计划奠定基础。
人工智能超级计算机是通过将多个GPU组合成计算节点来构建的,然后通过高性能网络结构连接这些节点,以实现这些GPU之间的快速通信。目前,RSC共有760个NVIDIA DGX A100系统作为其计算节点,总共有6,080个GPU。Meta声称这应该可以与劳伦斯伯克利国家实验室的Perlmutter竞争。根据排名网站Top 500的数据,Perlmutter是目前运行中的第五强大的超级计算机。目前排名第一的是日本的Fugaku。随着Meta继续构建和升级系统, RSC的威力预计将提高三倍左右,理论上这将使RSC可以在未来争夺排名第三。
Meta长期以来一直是人工智能研究领域的雄心勃勃的参与者。该公司认为人工智能在元宇宙的发展中发挥着重要作用。“我们希望RSC能够帮助我们构建全新的AI系统,例如,可以为一大群人提供实时语音翻译,每个人都说不同的语言,这样他们就可以在研究项目上无缝协作或玩AR游戏一起,”Meta AI研究人员Kevin Lee和Shubho Sengupta在一篇博文中写道。“最终,RSC所做的工作将为构建下一个主要计算平台的技术铺平道路——元宇宙,人工智能驱动的应用程序和产品将在其中发挥重要作用。”
Meta的研究人员解释说,公司最近在自我监督学习(Self-Supervised Learning)领域取得了长足的进步,这是算法从大量未标记示例中学习的领域。它还引领了基于转换器的模型(Transformers)的进步,这使得人工智能可以通过专注于其输入的某些领域来更有效地推理。Meta总结说,为了实现自我监督学习和基于转换器的模型的全部好处,它需要训练越来越复杂和适应性更强的AI模型,这意味着它需要处理大量的数据。例如,要开发更高级的计算机视觉模型,需要以更高的数据采样率处理更大、更长的视频。
同时,语音识别需要在具有大量背景噪音的最具挑战性的场景中工作,自然语言处理必须理解不同的语言、口音和方言。所以Meta决定它需要一台比目前可用的更强大的计算机。
“与Meta的传统生产和研究基础设施相比,RSC的早期基准测试表明,它运行计算机视觉工作流程的速度高达20倍,运行Nvidia NCCL Collectives的速度超过9倍,训练大规模NLP模型快三倍,”Meta AI的研究人员说。“这意味着一个拥有数百亿参数的模型可以在三周内完成训练,而之前是九周。”
除了专注于速度和功率之外,RSC的构建还考虑到了安全性。“RSC的设计从一开始就考虑到了隐私和安全性,因此Meta的研究人员可以使用加密的用户生成数据安全地训练模型,这些数据直到训练前才被解密,”Lee和Sengupta写道。这些保护措施包括确保RSC与公共互联网隔离,没有直接的入站或出站连接。同时,从 Meta 的存储系统到GPU的整个路径都是加密的,只有在使用之前,在GPU端点,内存中的数据才被解密。
Meta透露,RSC的第二阶段建设将在2022年底之前完成,性能将有大幅的提升。RSC将成为世界上最快的AI超级计算机,其混合精度计算性能接近5 exaflops。到2022年,GPU的数量将从6,080个增加到16,000个,这将使AI训练性能提高2.5倍以上。InfiniBand结构将扩展为支持16,000个端口,采用两层拓扑结构,不会出现超额订阅。该存储系统将具16TB/s的目标交付带宽和EB级容量,以满足不断增长的需求。
Meta表示,“我们预计计算能力的这种阶跃函数变化不仅使我们能够为我们现有的服务创建更准确的人工智能模型,而且还能够实现全新的用户体验,尤其是在元宇宙中。”“我们在自我监督学习和使用RSC构建下一代AI基础设施方面的长期投资正在帮助我们创建基础技术,这些技术将为元界提供动力并推动更广泛的AI社区发展。”
您可能也感兴趣:
今日热点
为您推荐
小康股份回应与华为关系及未来规划
“低首付”丰田金融服务让有车生活触手可及
万亿新赛道,未势能源A轮融资9亿,再掀起氢能投资热!
排行
- 腾龙股份股东王柳芳减持302.01万股 价格区间为14.81-15.90元/股
- 因个人资金需要 新泉股份实际控制人唐志华拟减持不超1124.54万股
- 信捷电气股东邹骏宇减持50万股 价格区间为60.41-67.50元/股
- 国家卫健委:湖北以30个省外新增病例17例
- 因自身资金需求 科森科技股东徐宁拟减持不超3.71万股公司股份
- 中公高科股东潘玉利减持50万股 价格区间为20-20.60元/股
- 多地患者治愈后“复阳” 对疫情防控提出新挑战 五大焦点权威解析
- “精诚合作,打赢这一仗!”
- 生态环境部:自1月20日以来全国已累计处置医疗废物12.3万吨 ...
- 承诺两年扭转乱象 银保监会加快推进意外险费率市场化改革 ...
精彩推送
- Meta正在构建世界上最快的人工智能超级计算机,以实现其元宇...
- 30年后的半导体预测:28nm还会是“甜蜜节点”
- 这一条隐秘医疗赛道,火了
- 疫情股血流成河:Peloton仅剩15%,Netflix、Zoom腰斩
- 豫光金铅股东投资集团质押2725.6万股 质押期限至2027年1月13日
- 浙江富润控股股东富润集团质押1000万股 第三季净利润为243万元
- 国立科技控股股东永绿实业质押500万股 第三季度净亏损7839万元
- 今日盘江股份上涨9.97%报价7.61元 封上涨停板
- 欧普康视股东南京欧陶质押198万股 第三季度净利润为1.87亿元
- 中美瑞康完成近2亿元A+轮融资,国投创业领投
- 爱美客不是茅台
- 预制菜与传统餐饮的危和机
- 预制菜:概念虽好,但总要有人买单
- 中国女孩在拒绝维密式性感吗
- 首发 | 金属3D打印公司「汉邦科技」获近4亿元首轮融资,前...
- 青海春天:冬去春没来
- 春节红包还是老三样,承载不了大厂的流量焦虑
- 黄天鹅鸡蛋,或是昙花一现
- 抖快娱乐至死的嬗变:偷走那个旧世界
- 乡村基IPO,老乡鸡服吗
- 元宇宙只是未来技术演化的外衣
- 千亿可降解塑料的远景与近忧
- 有钱没钱,租辆豪车回家过年
- 电商行业的2021:头部主播补税忙,垂类电商频裁员
- 被高估的美妆集合店
- 浙江三兄弟的千亿光伏生意
- 张同学开始直播了
- 炒币被套牢后,我又开始在元宇宙里倒腾大猩猩了
- 逆电商,大厂的自救与补全
- 吉利收购魅族,围城游戏上演了
- 瞄准课后服务市场,能否成为素质类培训机构新出路
- 迪士尼反对迪士尼
- 宁德时代B站联手做PE,战投联手背后有何意图
- 韩国电影也需要《鱿鱼游戏》
- 年底裁员,硬科技正在挤泡沫
- 最牛风投城市合肥布局商业航天:天仪研究院完成新一轮融资
- 有赞,困局难破
- 昔日「女鞋第一股」能靠元宇宙翻身吗
- 临期超市能救苏宁小店吗
- 直播带货,正变得越来越不单纯
- 餐饮创新的2022:行业复活,格局重构
- 东南亚第三方物流平台「Inteluck」完成1500万美元B轮融资
- 快手开通直播招聘功能,无需投简历,一键可报名
- 微软在做的,不是华尔街想要的
- 首发 | 亮道智能获超亿元人民币A+轮融资, 加速激光雷达系...
- 人口结构走到历史拐点,哪些行业正迎来大变局
- 述信科技完成数千万级A轮融资,云晖资本领投
- 全球领先企业数字化合作伙伴述信科技完成数千万级A轮融资
- 达晨财智宣布升任王文荣、李江峰为合伙人
- 鲲行投资(Asia Alternatives)宣布成功完成募资20亿美元
- CEO应当理解的基本原则
- 谁在押注春节档
- 贾乃亮阻止不了女鞋第一股陨落
- VC投资驶入深水区
- 集度完成近4亿美元A轮融资,量产车型2023年上市
- 造价100亿美元,韦布太空望远镜追寻生之来处
- 晶链通完成B+轮融资,已服务1000多家核心新零售企业
- 主攻中高端鸡蛋市场,「黄天鹅」完成6亿人民币C轮融资
- 为迎接超大模型时代,Meta 想要打造全球最快 AI 超算
- 腾讯抄底腾讯,腾讯卖出「腾讯」
- 《开端》开端了一个好开端
- 京泉华股东窦晓月减持180万股 套现3589.2万元
- 瀛通通讯2名股东合计减持81.78万股 价格区间为12.49-12.98元/股
- 今日京蓝科技上涨10.05%报价4.27元 封上涨停板
- 伯特利总经理袁永彬辞职 颜士富接任
- 蠡湖股份副总经理王晓君辞职 2021年第三季度净亏损790万元
- 鲜饺赛道达千亿规模,饺子馆的风口来了?
- 春节红包战的面子与里子
- 春晚小品,群众已经押上题了
- 20年前的《风云》,藏着对抗“韩流”的野心
- 马斯克为何不追风口
- 葛兰加仓,片仔癀还有新想象空间吗
- 蜜雪冰城,再进县城
- 元宇宙时代,服装品牌们如何成为头号玩家
- 湖南平江:把5毛钱辣条做出600亿市场
- 春节活动上线一周,快手跃升苹果应用商店排行榜首位
- 2022水饮市场「水涨船高」
- 赌石到底有多疯狂
- 元宇宙时代的人才就业指南
- 谁创造了李子柒的商业神话,微念还是李佳佳
- 山东首只土壤污染防治基金设立,目标规模10亿元
- 资金盘游戏日进上亿,元宇宙泡沫还能吹多久
- 科创50今后须披露ESG数据,上市企业多了道必答题
- 张一鸣「飞书」开除TikTok全球高管
- 每天工作10分钟年薪57万,这位程序员火了
- 当2000亿大白马跌倒
- 网贷激活额度没提现上征信吗? 规定是这样的
- 做市商制度对证券市场有什么影响? 一起来看看吧
- 买重疾险期满可以全额退款吗? 需要看实际情况
- 集中竞价减持是利空吗? 不一定
- 小孩商业保险保额有限制吗? 具体答案如下
- 换股期对股价有什么影响? 一起来了解一下
- 银行理财的钱年末会延迟到账吗? 来看答案
- 转增股份有什么好处和坏处? 一起来看看吧
- 存折的钱可以直接充值到微信吗? 具体答案如下
- 如何注销光大银行信用卡 方法有哪些?
- 征信报告给别人有风险吗? 一起来了解一下
- 信用卡最低还款后下月能全还吗 注意事项有哪些?
- 网贷有担保费怎么处理 担保费合法吗?
- 贷后管理查询征信会影响个人信用吗? 一起来看看吧