AMD实现处理器效能提升30倍!比原定时间提早一年

12月13日消息,早在四年前,AMD就曾设定目标,到2025年EPYC系列服务器处理器和Instinct系列AI芯片的能效,较2020年提高30倍。如今,MI300X AI芯片基本上实现目标,时间提了早一年。

据THW报道,AMD两个64核心EPYC 9575F CPU、八个Instinct MI300X AI芯片及2304GB DDR5内存的服务器,Llama3.1-70B(vLLM 0.6.1.post2、TP8)测试推理性能,用一组复杂计算确定系统能源效率,并与2020年的旧机器比较,

结果显示,新机能源效率是旧机的28.3倍。

AMD实现处理器效能提升30倍!比原定时间提早一年

不过,AMD并未透露2020年的旧机是何规格。但大概率是EPYC 7002系列,Zen 2架构,每个CPU最多64个核心,以及CDNA 1架构Instinct MI100 AI芯片。

AMD表示,除了强力硬件改进,更高性能效率是架构进步,加上软件优化结合,是跳跃式进展。

AMD实现处理器效能提升30倍!比原定时间提早一年

今年10月份的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡Instinct MI325X。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。

MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。

MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。

对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%

训练性能方面,单卡可领先H200 10%,八卡平台则是持平。

MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。

AMD实现处理器效能提升30倍!比原定时间提早一年

以上就是关于【AMD实现处理器效能提升30倍!比原定时间提早一年】的相关消息了,希望对大家有所帮助!

(0)
广众网的头像广众网
上一篇 2024年12月13日 下午12:36
下一篇 2024年12月13日 下午12:47

相关推荐

  • 微博12小时涨粉10万!吴柳芳回应直播间关打赏:受之有愧 不是努力得来的

    12月3日消息,最近备受关注的女网红吴柳芳正式开通了微博,而不少网友纷纷围观和支持。 这位前体操冠军在个人微博表示:从今天起,我会陆续在微博上更新自己的生活、工作动态,期待大家多多支持哦~。 吴柳芳开通个人微博后12小时涨粉10万,目前,吴柳芳粉丝数量还在上涨中。 值得一提的是,这位网红曾谈自己做互联网是为了改命,没钱没房没车,只能靠自己。; 谈到直播间暂时…

    2024年12月3日
    3600
  • 百度Q3总营收336亿元:核心净利润涨至75.4亿 超预期

    11月21日消息,百度今天下午发布2024年第三季度财务报告,显示季度总营收336亿元,百度核心营收265亿元,归属百度核心的净利润75.4亿元,同比增长17%,超出市场预期。 财报显示,11月文心大模型日均调用量达15亿次,相比去年Q4披露的5000万次,一年内增长30倍。 百度创始人、董事长兼首席执行官李彦宏表示:文心大模型日益增长的调用量,证明我们强大…

    2024年11月21日
    3700
  • 五菱宏光MINI EV十月销量突破4万!连续51个月蝉联A00级新能源销量冠军

    11月5日消息,五菱官方宣布,宏光MINIEV在10月份的销量突破了4万台,达到了42165台。 自2020年7月上市以来,已连续51个月成为A00级新能源车型的销量冠军。 目前,宏光MINIEV家族提供了215km青春版、215km进阶版等多种车型,满足用户日常代步需求。 其中,第三代宏光MINIEV 215km青春版于8月20日上市,售价为4.08万元。…

    2024年11月5日
    2100
  • 999元 雷神推出CF25F300L显示器:1080P 300Hz高刷屏

    9月22日消息,雷神推出了新款CF25F300L显示器,首发到手999元。 据悉,雷神CF25F300L显示器搭载了一块24.5英寸Fast-IPS屏幕,分辨率为1920 x 1080,原生最高支持300Hz刷新率,响应时间为1ms GTG,支持HDR,HDR峰值亮度最高可达450nit,对比度为1000:1,可视角度≥178°(H)/178&…

    2024年9月23日
    3200
  • 韩国公布69款汽车电池制造商:17款源自中国

    8月18日消息,韩国政府在仁川市发生一起严重的电动汽车火灾事件后,建议汽车公司公开电池信息,以提高透明度和安全性。 目前,已有21家整车品牌响应政府的号召,公布了69款电动汽车所载电池的制造商信息。 在这69款电动汽车中,有43款(占比62.3%)装载了韩系动力电池,包括LG新能源、三星SDI和SK On的产品。 同时,有17款电动汽车(占比24.6%)选择…

    2024年8月19日
    9800

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信