AMD实现处理器效能提升30倍!比原定时间提早一年
12月13日消息,实时间早在四年前,现处效AMD就曾设定目标,理器到2025年EPYC系列服务器处理器和Instinct系列AI芯片的提升提早能效,较2020年提高30倍。倍比如今,原定MI300X AI芯片基本上实现目标,实时间时间提了早一年。现处效
据THW报道,理器AMD两个64核心EPYC 9575F CPU、提升提早八个Instinct MI300X AI芯片及2304GB DDR5内存的倍比服务器,Llama3.1-70B(vLLM 0.6.1.post2、原定TP8)测试推理性能,实时间用一组复杂计算确定系统能源效率,现处效并与2020年的理器旧机器比较,
结果显示,新机能源效率是旧机的28.3倍。
不过,AMD并未透露2020年的旧机是何规格。但大概率是EPYC 7002系列,Zen 2架构,每个CPU最多64个核心,以及CDNA 1架构Instinct MI100 AI芯片。
AMD表示,除了强力硬件改进,更高性能效率是架构进步,加上软件优化结合,是跳跃式进展。
今年10月份的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡“Instinct MI325X”。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。
MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。
MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。
对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%。
训练性能方面,单卡可领先H200 10%,八卡平台则是持平。
MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。
- ·迪巴拉:10号是梅西的号码,我在努力以最好的方式代表这个号码
- ·官方:迪比亚吉奥出任沙特U21国青队主帅,签约两年
- ·莫拉塔:平时定位球并不是我们的弱点 如果没有保持专注就会输
- ·团伙给网吧安木马盗装备!央视起底倒卖账号犯罪链
- ·[流言板]有想法!普里查德:要以原则来引导自己前进,而不是感觉
- ·奔驰超级专属典藏座驾!AMG PureSpeed发布:V8动力 3.6秒破百
- ·苹果Mac有望迎革命性升级!搭载自研5G基带首度支持移动网络
- ·特斯拉官网上线Model 3/Y头枕+靠背:组合售价459元
- ·毫无招架之力😐船记:开场时费城球迷嘘哈登 现在开始嘘自己队
- ·奔驰超级专属典藏座驾!AMG PureSpeed发布:V8动力 3.6秒破百
- ·德凯特拉雷:我的进球绝对没有犯规 很高兴对阵老东家取得进球
- ·安古伊萨:孔蒂改变了一切&他信任球队和付出一切我们也要尽全力
- ·[情报站]BLG上单Bin荣获国外联盟颁奖典礼LPL年度最佳选手奖
- ·明星半导体项目卖身!汇顶科技拟100%收购85亿独角兽云英谷
- ·广汽丰田铂智3X盲订开启:预售价10万起、搭载端到端智驾
- ·哈弗茨已在英超比赛中攻入34球,德国球员中仅少于京多安
- ·疯狂吃饼!阿伦首节5中5超高效拿下12分3篮板1盖帽 正负值+13
- ·裁判专家:德凯特拉雷有犯规动作,他对米兰的进球应判无效
- ·小米SU7高速上被磕爆胎 博主亲身叙述找路政索赔有多难
- ·奔驰超级专属典藏座驾!AMG PureSpeed发布:V8动力 3.6秒破百
- ·1球3助导演全场!穆西亚拉德国队生涯首次单场独造4球
- ·图片报:科曼肌肉拉伤可能缺席今年剩余三场比赛,穆勒无大碍
- ·长城气动声学风洞试验室设备启动安装:2026年正式投入使用
- ·图片报:科曼肌肉拉伤可能缺席今年剩余三场比赛,穆勒无大碍
- ·罗马球员税后年薪排行:迪巴拉、帕雷德斯450万欧居首
- ·跨界联动!C罗与斯派克李、范迪塞尔合影,斯派克李获赠签名球衣