天涯明月刀

敦刻尔克

OpenAI自研芯片取得关键突破:响应速度、能效表现击败英伟达GB300_我的网站

火星文

一 |       OpenAI声称其新款“Jalapeno”芯片在测试中的表现优于英伟达当前的产品阵容,凸显出该公司自主研发AI处理器取得的进展。  OpenAI芯片业务负责人Richard Ho在接受采访时表示,该芯片与英伟达GB300进行了对比,该测试将GB300视为现有最领先的产品。            世界最大直径水下盾构隧道、国内首条穿黄单洞双层盾构隧道——济南黄岗路黄河隧道于8月25日上午正式通车。这条隧道南起蓝翔中路,北接G309互通立交,全长约5755米,单洞双层布置,设计时速60公里。从“摆渡船”到5分钟穿黄,济南黄岗路黄河隧道通车首日获市民点赞        通车后,济南主城区与新旧动能转换起步区之间的跨黄通勤时间从约40分钟压缩至5分钟,将有效缓解现有跨黄通道的交通压力,让市民从“绕行过黄河”变为“直通过黄河”,有力促进济南拥河发展,加快新旧动能转换起步区建设。在测试中,Jalapeno在两个指标上占据优势:单位功耗所能处理的AI工作量,以及响应的速度。值得一提的是,济南牌照(鲁A、鲁S)9座及以下小型客车可免费通行该隧道。  OpenAI此次公开测试Jalapeno时,使用了自家规模较小的开源模型GPT-OSS 120B,以及DeepSeek和Moonshot AI的第三方模型。从“摆渡船”到5分钟穿黄,济南黄岗路黄河隧道通车首日获市民点赞        “我记得20世纪70年代初的时候穿越黄河靠的还是摆渡船,当时还有个铁路大桥,公路基本上没有。

二 | 如今穿黄已经实现了四桥三隧,非常方便。”一位市民寻访团的市民代表告诉记者。在Moonshot的模型Kimi K2.5 1T上,Jalapeno展现出的优势更为明显。

三 | 据悉,由济南城市建设集团负责建设的“四桥四隧”工程已完成“四桥三隧”建设任务,济南航天大道黄河隧道(Ⅰ期)目前已双线贯通,跨黄通道正加速成网。image  OpenAI表示,在内部测试中,Jalapeno运行一些尚未发布的大型先进模型时同样表现良好。这表明,随着工作负载变得更大、更复杂,该芯片的设计“价值将进一步提升”。

四 |   OpenAI与博通合作开发了Jalapeno,公司计划从今年晚些时候开始使用该芯片为其AI模型提供支持,这是其打造自有AI基础设施、更大规模推进芯片自研计划的一部分。  博通为众多客户生产定制芯片,两家公司于去年宣布合作,并在今年6月大力宣传这款处理器的研发速度,称其以创纪录的速度完成开发。

五 |   目前,越来越多的公司正在开发自研AI芯片,而这一领域目前仍由英伟达占据主导地位。

六 | 从“摆渡船”到5分钟穿黄,济南黄岗路黄河隧道通车首日获市民点赞        另一位市民代表马女士告诉新黄河记者:“我们作为第一辆车剪彩进入隧道后,看到路面非常平整、宽阔,车辆行驶起来非常平稳,也就用了4分多钟就穿越了隧道。

七 |   Ho表示,通常情况下,一些芯片在运行AI任务时拥有更强的处理能力,而另一些芯片则更擅长快速响应,但Jalapeno兼具这两方面的优势。记得在我小时候,需要乘坐公交车穿越黄河老桥绕行,如今真是方便多了。  OpenAI将决定哪些AI模型采用Jalapeno运行,从而让客户能够根据需求选择较低成本或较高性能的方案。对于济南籍的小客车还是免费的,非常好。  Ho说:“在实验室测试中,Jalapeno在高吞吐量领域展现出很强的性能,这意味着它能够以更低的成本服务大量客户;与此同时,它在低延迟领域也表现出色,这意味着对于重视响应速度的客户而言,其响应时间将非常非常快。”  Ho表示,由于Jalapeno能够在较低功耗下实现强劲性能——功耗为700瓦——因此可以帮助OpenAI降低数据中心的运营成本。

八 | ”从“摆渡船”到5分钟穿黄,济南黄岗路黄河隧道通车首日获市民点赞        向南,是济南主城区的繁华。

九 | 对于数据中心而言,电力是最重要的成本之一。image  需要指出的是,Jalapeno并未与英伟达最新一代的Vera Rubin芯片进行测试,后者刚刚开始出货。向北,是起步区蓬勃生长的新图景。此外,Jalapeno也并非为AI模型训练而设计,而训练恰恰是英伟达技术最擅长的领域之一。  Jalapeno主要面向AI推理阶段,即模型完成训练后,根据用户提示生成响应并执行任务的阶段。济南黄岗路黄河隧道像一条纽带,把黄河两岸从“隔河相望”变成“紧密相拥”。同时,这条穿黄隧道也将成为人才、资源、产业在两岸之间更快流动的一条城市新动脉。在速度方面的优势意味着,OpenAI可以通过它实现过去只有采用不同内存类型和芯片架构的处理器才能达到的效果。

十 |   OpenAI目前仍依赖Cerebras的技术运行部分模型,这类芯片更适合规模较小的模型。相比之下,Jalapeno能够处理规模更大的模型。Ho表示,OpenAI的技术短期内不会取代Cerebras等供应商。  Ho说道:“我们对算力的需求非常庞大,这也是为什么我们与这么多不同的供应商签约。

十一 | 这种情况还会持续一段时间。”他表示,OpenAI希望公开展示自身的研发成果,以推动AI芯片领域的创新。

十二 |   其他初创公司也在探索类似方向。Etched上周表示,公司已在一轮融资中获得约210亿美元估值,并开始出货一款低电压芯片。由两名前谷歌芯片业务员工创立的MatX,目前正在开发一种半导体产品,目标同样是兼顾高吞吐量和低延迟。

十三 |   OpenAI还表示,公司利用自身AI模型加快了芯片的开发进程。

十四 | 第二代芯片目前也已进入较为深入的研发阶段。Ho表示,公司预计将在“未来几个月”完成该芯片的流片(tape-out),即芯片设计进入最终定型阶段。  与此同时,OpenAI已经开始设计第三代芯片,希望进一步降低其正在全球范围内大规模建设的AI基础设施成本。Ho表示:“我们目前已经达到了一个能够降低基础设施成本的成本水平和功耗水平。这只是第一步。

十五 | ”  尽管OpenAI正在积极宣传自研芯片,并将其性能与英伟达产品进行比较,但Ho仍特别强调,OpenAI依然将英伟达视为关键芯片供应商。  “英伟达是一家非常优秀的合作伙伴,我们仍然需要大量使用英伟达的芯片。

十六 | ”(文章来源:财联社)。

Current article:http://geijuanpobanmumennong.bond/w2sngl/jkk.html

Published on:20:04:52


------分隔线----------------------------