尽管NVIDIA的市值目前稳居美国股市前三,但其市场地位已经不如之前那么稳固。一个标志性的事件,是Google使用TPU芯片(张量处理单元),训练出了Gemini 2.5 Pro这个SOTA通用模型,打破了SOTA模型主要由NVIDIA GPU训练的垄断。 在市场更大的推理计算市场,NVIDIA的领先 ...
人工智能芯片领域的新锐力量Groq正加速追赶巨头英伟达。 据知情人士透露,这家专注于为大型语言模型提供算力支持的芯片公司,正在与投资者洽谈新一轮融资,目标筹资额在3亿至5亿美元之间。 若交易达成,Groq的估值将跃升至60亿美元,较其一年前完成股权 ...
在被谷歌 TPU 挑战霸主地位后,英伟达终于急了? 今天,人工智能芯片初创公司 Groq 发布了一则重磅消息,他们已经与英伟达就 Groq 的推理技术达成了非排他性许可协议。 这个协议并不是说英伟达要把 Groq 买下来,而是挖走 Groq 的几员大将 —— 创始人兼 CEO ...
Groq LPU在LLMPerf排行榜上超越了基于GPU的云服务提供商(如英伟达)。由Groq LPU驱动的Meta Llama 2模型推理性能是顶级云计算供应商的18倍,在大语言模型任务上,LPU比英伟达的GPU性能快10倍,但价格和耗电量都仅为后者的十分之一。 AI这个巨大的风口上,每天都有 ...
近两天,一家名为Groq的美国人工智能公司受到了广泛关注,其主要原因在于其自主研发的LPU芯片在人工智能推理技术上取得了突破。 通过优化架构和减少内存瓶颈,Groq的LPU芯片在大模型处理方面展现出高效率和低延迟的特点,速度远超英伟达GPU,每秒生成速度 ...
《科创板日报》3月21日讯(编辑 朱凌)在人工智能产业狂飙突进的这些年里,GPU几乎霸占了AI算力江湖,英伟达更是坐拥GPU王座。 但在近日举行的英伟达GTC 2026开发者大会演讲中,一个曾经鲜为人知的AI芯片初创公司名字Groq却响彻全场,英伟达CEO黄仁勋发布了 ...
黄仁勋,又动用他的"钞能力"了。 12月24日,据华尔街日报消息,英伟达与Groq已达成非独家许可协议,将把Groq的AI推理技术整合进未来产品中。作为交易的一部分,Groq创始人兼首席执行官Jonathan Ross、总裁Sunny Madra以及部分核心员工将加入英伟达。 而此前CNBC援引 ...
速度,在这里成了Groq的双刃剑。 财报发布前两天,英伟达突然冒出来一个劲敌。 一家名叫Groq的公司今天在AI圈内刷屏,杀招就一个:快。 在传统的生成式AI中,等待是稀松平常的事情,字符一个个蹦出,半天才能回答完毕。但在Groq今天开放的云服务体验平台上 ...
一夜之间,初创公司Groq爆火,其在同名模型启动器上运行的大模型,能够每秒输出近500个token,输出速度比Gemini快10倍,比GPT-4快18倍。 Groq并没有研发新模型,主页上运行的是开源模型Mixtral 8x7B-32k和Llama 270B-4k。其神速的响应源于自研的语言处理单元LPU。根据Groq ...
英伟达计划在下个月的GTC开发者大会上发布一款整合了Groq“语言处理单元”(LPU)技术的全新推理芯片,代表着英伟达正加速向推理计算领域转型,以应对客户对高效能、低成本计算方案的迫切需求。 据华尔街日报报道,这款被英伟达首席执行官黄仁勋称为 ...
虽然Groq有如此之多的好处,但评估某款硬件是否真的具有革命性的核心标准是性能与总成本的比值。 SemiAnalysis的行业专家对最近爆火的Groq推理系统进行了像素级的拆解,测算出其持有成本依然高达现有H100的10倍,看来要赶上老黄的步伐,初创公司还有很多要做。
美东时间12月24日,AI芯片初创公司Groq宣布已与英伟达就其推理技术达成非独家许可协议。根据协议条款,Groq创始人Jonathan Ross、总裁Sunny Madra及其他核心团队成员将加入英伟达,共同推进授权技术的升级与规模化应用。 Groq将继续作为独立公司运营,Simon Edwards将 ...
一些您可能无法访问的结果已被隐去。
显示无法访问的结果