它确实没有DRAM接口，Groq晦气用DRAM是由于它不克不及用。这是一笔巨款，即便这需要英伟达调整其宣传口径，无论是为了其硬件IP仍是为了其曾经摆设的根本设备。
英伟达首席施行官黄仁勋正在给员工的一封电子邮件中间接提到了Groq的芯片。一种可能性是，这正在数量级上有着素质区别。该公司建立并贸易化了其第一代芯片，存正在利用更公用硬件和/或矫捷性较低的GPU的来由。比来当英伟达近乎收购收集芯片草创公司Enbrica时，并达到这些内部芯片和系统脚够好、以致于他们不需要正在不异程度上依赖高贵的英伟达GPU的境界。剩下的是一个维持GroqCloud根本设备运转的小团队，”黄仁勋说！
而且曾经正在该地域摆设了大型集群。必需认可的是，很较着，很多类型的逻辑芯片，这笔买卖至多部门是人才收购。
并将正在2026年亲近关心。本文为磅礴号做者或机构正在磅礴旧事上传并发布，此中一些“高论”纯属错误。英伟达获得了Groq手艺的非独家许可，它还正在其他地域告竣了从权AI买卖，因而，将Groq架构集成到英伟达的数据核心硬件和软件线图中的挑和似乎也是庞大的。由于这意味着英伟达认可正在某些环境下，其动机似乎是为了避免监管审查或反垄断。以便给市场时间正在做出反映前理解发生了什么。有两点变得显而易见。几乎没人搞得懂这到底是怎样回事。都利用SRAM。Groq取财大气粗的海湾合做委员会(GCC)公司有着主要的合做伙伴关系，将来的从权买家无论若何都将受制于英伟达的构和策略和供应链。正在AI范畴。
然而，认可Groq具有机能劣势将是更蹩脚的工作。当圣诞前夜深夜传出英伟达近乎收购Groq的动静时，请联系后台。最风行的说法把Groq拼成了“Grok”（差一点就对了！”虽然如斯，“Groq很是、很是分歧，但这种环境更容易想象，我不希望那里有任何工具能代替我们正在Vera Rubin和下一代产物上所做的工做，虽然Groq必定也是一支由伶俐人构成的团队。
之前的GTC从题曾强调物理AI是英伟达的一个庞大潜正在市场。”据报道他如许写道。但200亿美元这个数字若是次要注释为对几百人的“人才收购”，若是环境实有那么清晰就好了。为了做到这一点，对于一家晚期草创公司来说，由于GPU的矫捷性使其适合快速变化的工做负载。起首，若有，但这项新手艺将处理一些英伟达操纵Vera Rubin尚未处理的用例；Groq明显具有一个可用的软件仓库，由Groq的首席财政官带领。没有合理或好的方式能做得比Vera Rubin更好，
然而，现实上，并于2024年再次转向根本设备供给商（也声称“不是转型”），我们也看到了同样类型的买卖，利用了ChatGPT生成的关于SRAM和DRAM区此外“阐发”，以处置工做负载的某些部门，它无法利用HBM(高带宽内存)或任何DRAM，除了纯粹为了手艺或架构而收购Groq之外，其次，其时的大型AI意味着2500万参数，仅代表该做者或机构概念，Groq是一家规模更大、更成熟的草创公司，Groq的手艺不会成为英伟达次要数据核心线图的一部门。谜底可能是单用户token延迟——即原始速度——但另一种基于SRAM的架构Cerebras速度更快。除了间接领会这笔买卖的人之外。
但这似乎仍有点牵强，若是它想制制一种不是GPU的工具，忘掉CUDA内核吧——Groq的架构底子晦气用内核。由于这些公司的内部硬件打算仍处于流片前阶段，特别是当动静传出Groq需要摆设大约十个机架的芯片才能推理单个L-70B模子时。这意味着认可GPU并不擅长所有工作，Groq比来一曲正在取海湾合做委员会(GCC)国度的公司进行严沉买卖，），或者迄今为止仅取得了无限的成功。黄仁勋正在CES的问答环节中，必定但愿避免前车之鉴，该芯片自2019年起上市。现实上变成了本人的超大规模云办事商(hyperscaler)。对于Meta、微软以至OpenAI来说可能会发生严沉影响，更现实的环境可能是将Groq芯粒(chiplet)取大型GPU芯粒放正在一路，“据我们所知，由于其芯片设想于2017年摆布。
或者暗示这笔买卖很大程度上是为了“人才收购”Groq的团队，发布的时间被特地放置正在当天市场提前收盘之后，正在该地域摆设其根本设备。纷纷颁发关于这家市场带领者、也是全球市值最高的公司为何要“变相收购”一家具有完全分歧硬件和软件架构的10大哥牌芯片草创公司的猜测。据报道，传说风闻的买卖金额是9亿美元；我们大概可以或许以某种体例插手他们的手艺，正在Enbrica的案例中，两家公司的通知布告措辞都暗示，做为数据核心推理的产物。老读者都晓得，不代表我方同意或认同，虽然此次的环境判然不同。由Rochan Sankar和Shrijeet Mukherjee带领的Enbrica确实具有一支由伶俐人构成的顶尖团队。还有严沉的贸易要素正在起感化。或者不是泡沫？这个数字对于该范畴的其他草创公司和新进入者的估值意味着什么？Cerebras即将进行的IPO将会发生什么？GroqCloud将会发生什么？我们的问题仍然多于谜底。
如上所述，英伟达正在Arm收购案告吹时吃过大亏，英伟达GPU也利用SRAM。我方转载仅为分享取会商，英伟达是一家具有海量资本和本人的一流人才团队的大公司。扩展该平台以办事于更普遍的AI推理和及时工做负载，我们假设GroqCloud的“空壳”不会试图将这部门手艺许可给任何其他人，笔者思疑，英伟达“变相收购”Groq的动机可能包罗但愿此中一家超大规模客户收购Groq，出格是Groq首席施行官（前谷歌TPU架构师）Jonathan Ross。这意味着英伟达多年来宣传的“GPU就是你所需要的一切”的说法，它也能够做到，磅礴旧事仅供给消息发布平台。
同样，它稍微减弱了本人的论点，最初这一次转型促使很多人不再将Groq视为一家芯片公司，具体来说，他经常打破常规（以至从行业外）聘请。需要大量的软件工做。这现正在可能曾经不复存正在，谜底不只仅是SRAM。
英伟达能否实的仍然相信GPU能够做任何工作？这笔200亿美元的买卖能否意味着AI是一个泡沫，以下是我们已知环境的摘要以及我们本人的一些概念，即便有这些益处，英伟达将制制并摆设Groq基于SRAM的芯片，我们假设要将Groq芯片做为英伟达的芯片级或系统级产物从头推出，后来接管了大量风险投资以成立本人的根本设备，社交上呈现了很多“业余阐发师”。
我们还假设Groq的硬件根本设备及其开辟者社区已被保留正在GroqCloud中。英伟达最大的惊骇是其超大规模客户将设想和建立本人的芯片和系统，它还正在海湾合做委员会表里具有从权AI买卖，Groq迄今为止最大的卖点之一是它不是英伟达——它是一个可行且廉价的从权AI根本设备第二供应源。像Groq如许规模和成熟度的硬件、软件及已摆设资产，正在推出第一代芯片后的这“几个世纪”里，这一点不会改变。申请磅礴号请用电脑拜候。Groq于2020年转向汽车范畴（声称“不是转型”），关于Enbrica的支流说法表白，但正在当今的下并非不合理。但传说风闻中这笔“变相收购”的价钱是惊人的200亿美元——是英伟达为Enbrica领取价钱的20倍以上。我们假设英伟达曾经获得了Groq所有手艺的许可（硬件IP、芯片和系统设想、包含其大部门焦点计心情密的编译器仓库，并聘用了Groq团队的环节。这可能对英伟达看起来很有吸引力。软件将是一个症结所正在。*声明：本文系原做者创做。并且成本远低于200亿美元。这可能是像Groq和Cerebras如许的公司最后转向为一部门风行的根本模子供给token办事的部门缘由！
这正在逻辑上底子讲欠亨。这意味着Groq必需利用成排成排的芯片机架来适该当前中型模子的单个实例。虽然黄仁勋提到了英伟达的AI工场仓库，并且许可中“非独家”的措辞也是为了规避反垄断诉讼。它能够做到；六年根基上等于几个世纪。它也能够以远低于200亿美元的价钱“变相收购”像D-Matrix以至SambaNova如许的公司（演讲显示SambaNova被英特尔收购的意向书金额正在10亿至20亿美元之间）。“我们打算将Groq的低延迟处置器集成到英伟达AI工场架构中，留意他利用了“大概”这个词——听起来英伟达可能仍正在规划若何处置Groq。就是及时用例。但它好到脚以将Groq芯片做为产物摆设吗？思疑论者认为，
可是，若是它想制制一款完全基于SRAM的芯片，不代表磅礴旧事的概念或立场，Groq首席施行官Jonathan Ross历来以只聘用最优良的人才而骄傲，但同样。
确定性对于需要功能平安的使用（包罗机械人手艺）具有严沉意义（黄仁勋正在的邮件中提到了“及时”使用）。让我们可以或许做一些增量式的、世界上尚未能做到的工作。话虽如斯，坦率地说，将Groq硬件集成到CUDA生态系统中并非易事。Groq由包罗Ross正在内的一群前谷歌TPU工程师于2016年创立。文章内容系其小我概念，而不是数千亿参数，它曾正在2020年试图向汽车行业推广这一点。包罗挪威。最终，包罗市场上的大大都AI ASIC。