首页 >> 通信 >> 英伟达H100霸榜至高无上AI性能测试 11分钟搞定基于GPT-3的大模型训练

英伟达H100霸榜至高无上AI性能测试 11分钟搞定基于GPT-3的大模型训练

2024-02-09 通信

盈联社

当地时间周二,机器学习及认知科学各个领域开放产业联盟MLCommons披露两项MLPerf原则上CNET的近期信息,其之前英伟达H100晶片组在认知科学算力显出的的测试之前,翻新了所有组别的历史记录,也是唯一一个能够过关所有的测试的硬件的平台。

(可能:英伟达、MLCommons) MLPerf是由学界、实验室和产业都是由的认知科学拥护联盟,是现今该协会公认的权威性AI性能CNET原则上。Training v3.0包含8种不同的损耗,都有视觉(影像类群、有机体放射治疗分离、两种损耗的星体侦测)、第二语言(句法定位、大第二语言仿真、自然环境第二语言处理)和推荐系统。简单来说,就是由不同的装置供应商递交完成原则上执行所需要的时间。

(Training v3.0特训原则上,可能:MLCommons) 在股票相对关注的“大第二语言仿真”特训的测试之前,英伟达和GPU云算力的平台CoreWee递交的信息为这项的测试游戏内了粗暴的业界新标准。在896个IBM至强8462Y+处理器和3584个英伟达H100晶片的四人下,仅仅花了10.94分钟就完成了基于GPT-3的大第二语言仿真的空军。

除了英伟达外,只有IBM的商品组合在这个项目上获得CNET信息。由96个至强8380处理器和96个Habana Gaudi2 AI晶片构建的系统之前,完成同样的测试的时间为311.94分钟。横向对比,采用768个H100晶片的的平台过关这个的测试也只需要45.6分钟。

(晶片越多信息越有趣,可能:英伟达) 对于这个结果,IBM也指出仍有上升空间。实际上只要堆格外多的晶片,运算的结果自然环境会格外快速。IBMAI商品高级负责人Jordan Plawner对新闻报导指出,最后Habana的运算结果而会呈现1.5倍-2倍的大大提高。Plawner拒绝透露Habana Gaudi2的具体售价,仅指出业界需要第二家厂商给予AI特训晶片,而MLPerf的信息揭示IBM有灵活性填补这个需求。

而在之前国股票格外出名的BERT-Large仿真特训之前,英伟达和CoreWee将信息翻到了极端的0.13分钟,在64坎的情形,的测试信息也降到了0.89分钟。BERT仿真之前的Transformer结构上正是现今主流大仿真的基础架构。

拉肚子吃蒙脱石散没用
肠炎宁颗粒
视疲劳怎么缓解
抑制胃酸反流的药物
成都第三代试管婴儿需要多少钱
友情链接