你的位置:连云港杖蚊握水泥股份有限公司 > 高反压三极管 >


马斯克:用了10万块H100芯片锤真金不怕火大模子

发布日期:2024-07-03 01:07    点击次数:169


马斯克:用了10万块H100芯片锤真金不怕火大模子

马斯克一经告示其东说念主工智能初创公司 xAI 的谎言语模子 Grok-2 将于 8 月推出,天然还没亮相,但马斯克一经驱动为其 Grok-3 进行造势。其在近期败露, xAI 的 Grok-3 用了 10 万块英伟达 H100 芯片进行锤真金不怕火,瞻望将于年底发布,服气它会“尽头尽头”。

马斯克指的是Nvidia的H100图形惩处单位,也称为Hopper,这是一种用于大型话语模子(LLM)数据惩处的AI芯片。这些芯片是AI设立的要津构成部分,亦然硅谷科技公司争相打造更智能的AI居品时的热点商品。每个Nvidia H100 GPU芯片推测老本约为30,000好意思元,尽管有些推测合计老本高达40,000好意思元。批量扣头亦然可能的。

字据这些推测,意味着Grok 3是在价值30亿到40亿好意思元的AI芯片上进行锤真金不怕火的——但尚不了了这些芯片是否由马斯克的公司胜仗购买。这些GPU筹谋资源也可能是从云职业提供商那儿租用的,据《信息》5月报说念,马斯克的xAI初创公司正在与甲骨文研究,磋磨在多年内破耗100亿好意思元租用云职业器。

但咱们知说念,马斯克的公司频年来照实胜仗购买了盛大H100。举例,据报说念,这位特斯拉CEO将一批价值5亿好意思元的Nvidia H100芯片从特斯拉转向了X。

使用10万个GPU进行锤真金不怕火将是Grok 2的一个大跃进。马斯克在4月与挪威主权基金肃穆东说念主尼古拉·坦根的采访中暴露,Grok 2约莫需要2万个H100进行锤真金不怕火。

到当今截止,xAI一经发布了Grok-1和Grok-1.5,最新版块仅供早期测试者和X(前身为Twitter)的现存用户使用。马斯克在周一的X帖子中暴露,Grok 2将于8月推出,并在另一篇对于GPU的帖子中默示,Grok 3将在年底发布。

xAI未回报置评恳求。

10万个GPU听起来许多——照实如斯。但其他科技巨头如Meta的GPU数目甚而更多。马克·扎克伯格在1月暴露,到2024年底,Meta将购买约35万个Nvidia H100 GPU。他还暴露,Meta将领有约60万个包括其他GPU在内的芯片。

若是是这么,Meta将破耗约180亿好意思元来构建其AI智力。

H100芯片的囤积也导致往日一年中争夺顶级AI东说念主才变得特别热烈。

AI初创公司Perplexity的创举东说念主兼CEO Aravind Srinivas谈到了试图挖角Meta AI参谋员时被拆开的履历,部分原因是扎克伯格庞大的AI芯片储藏。

“我试图从Meta挖来一位尽头资深的参谋员,你知说念他们怎样说的吗?‘等你有了一万块H100 GPU再来找我,’”Srinivas说说念。



    热点资讯

    相关资讯