马斯克旗下xAI携手英伟达,利用“全球最大AI超级计算机”训练Grok模型

马斯克旗下的xAI正在利用英伟达先进的网络技术,提升Colossus在训练Grok方面的性能。

通过 Vismaya V

4 最小阅读

芯片制造商英伟达周一宣布,其Spectrum-X网络技术助力初创公司xAI的Colossus超级计算机实现扩展,该超级计算机现被誉为全球最大的AI训练集群。

据悉,Colossus位于田纳西州孟菲斯,是xAI第三代Grok大型语言模型的训练基地。这些模型专为X Premium订阅用户提供的聊天机器人功能而开发。

英伟达周一在一份声明中表示Colossus在短短122天内建成,安装后仅19天便开始训练首批模型。科技亿万富翁埃隆·马斯克旗下的初创公司xAI计划将该系统的容量翻倍至20万个GPU。

Colossus的核心是一个巨大的GPU互联系统,每个GPU都专门用于处理大型数据集。在训练Grok模型时,它们需要分析海量的文本、图像和数据,以提高响应质量。

 

马斯克宣称Colossus是世界上最强大的AI训练集群,它使用统一的远程直接内存访问(RDMA)网络连接了10万个英伟达Hopper GPU。英伟达Hopper GPU通过跨多个GPU分配工作量并并行处理,从而应对复杂任务。

这种架构允许数据在节点之间直接传输,绕过了操作系统,确保了低延迟以及大规模AI训练任务的最佳吞吐量。

传统以太网网络往往受到拥堵和丢包问题的困扰,吞吐量限制在60%左右,而Spectrum-X则能实现95%的吞吐量,且不会降低延迟。

Spectrum-X技术使得大量GPU之间能够更顺畅地通信,因为传统网络在处理过多数据时可能会陷入困境。

这项技术使得Grok能够更快、更准确地接受训练,这对于构建能够有效响应人类交互的AI模型至关重要。

周一的公告对英伟达的股价影响甚微,股价略有下跌。截至周一,该公司股价为141美元,市值达到3.45万亿美元。

编辑:Sebastian Sinclair

Get crypto news straight to your inbox--

sign up for the Decrypt Daily below. (It’s free).

推荐的 新闻

比特币逼近9.9万美元,狗狗币引领meme coin强势反弹

在美国感恩节假期之后,meme coin再次迎来上涨潮,狗狗币(DOGE)和其他模因主题代币纷纷跃升。此时,比特币(BTC)在经历近一周时间低于99,000美元后,正试图重返这一价位。 狗狗币,作为市值最大且最具代表性的meme coin,当前价格为0.42美元,根据CoinGecko的数据,当日上涨7%。上一次狗狗币达到这一价位是在11月25日,之后几天里价格一直低于此。 与其他meme coin一样,狗狗币以其高波动性而闻名,日常价格波动幅度极大。然而,在最近几周里,狗狗币的价格仍然大幅上涨,在过去30天内飙升了149%。这一涨幅得益于知名支持者埃隆·马斯克对唐纳德·特朗普的支持,以及特朗普作为支持加密货币的候选人赢得选举。上周六,狗狗币的价格达到了三年来的高点0.475美元。 在过去的一天里,主要meme coin普遍上涨,其中Popcat(POPCAT)上涨12%,  Bonk (BONK)上涨13%,Brett(BRETT)和Pepe (PEPE) 均上涨约9%。 据CoinGlass数据显示,这波涨势让一些押注主要meme coin价格下跌的交易者蒙受损失。在过去24小时...

不负众望:Hyperliquid 发放约16亿美元空投,创史上最大空投之一

Hyper基金会完成了Hyperliquid网络的原生代币HYPE的创世分发。Hyperliquid网络是一个为去中心化金融(DeFi)构建的高速区块链网络,自一夜之间启动以来,基于5.40美元的峰值价格,向用户空投了价值超过16亿美元的代币。 作为创世分发的一部分,Hyperliquid用户获得了HYPE总供应量10亿枚中的31%,即3.1亿枚,另有38.88%的代币被预留用于未来的发放和社区奖励。值得注意的是,没有代币被预留给“私人投资者、中心化交易所或做市商”。 此次向社区成员空投的15亿美元代币,使HYPE的空投成为加密货币历史上第七大规模的空投,超过了Bonk(BONK)和Optimism(OP)等空投。一些用户表示,他们在这次大规模空投中获得了相当数量的代币分配。 “哇,今天一觉醒来就收到了一个六位数的HYPE空投。这是我人生中最大的空投,”加密货币交易员及知名人士PonziTrader在X(前身为Twitter)上表示。 Perpetual DEX Hyperliquid to Launch Native Token Following Bullish October H...

AI Agent需求激增,Base上的Virtuals协议代币市值飙升

据CoinGecko数据显示,Virtuals协议生态系统在过去一天内价值飙升了28%,使得Base区块链代币的总市值达到了19亿美元。 Virtuals协议的原生代币VIRTUAL当前交易价格为1.38美元,在过去24小时内上涨了近29%,在过去一周内上涨了161%。在此过程中,它创下了历史新高,并凭借市值跻身前100大加密货币之列。 那么,是什么推动了人们对Virtuals的突然关注呢?答案是AI代理的需求。AI代理是由AI驱动的自主程序,旨在自主执行任务并模仿人类处理特定情境的方式。这些代理能够理解环境、做出决策并采取行动以实现其目标。 区块链行业向人工智能技术和代币化的转型正愈演愈烈,而对AI代理的兴趣激增正是这一趋势的最新体现。在近期对与AI代理和生态系统相关的加密代币的需求中,Virtuals成为了最新的大赢家。 Are you keeping an eye on the @virtuals_io Protocol Ecosystem coin category? 👀 Its market cap soared by 50.4% today, reaching $1.7...