AMD史上最大晶片嗨翻全场! 1460亿个晶体体能大幅缩短ChatGPT训练时间

AMD史上最大晶片嗨翻全场! 1460亿个晶体体能大幅缩短ChatGPT训练时间

一颗芯片塞进1460亿个晶体管,还号称能将ChatGPT、DALL‧E等大模型的训练时间,从几个月缩短到几周,节省百万美元电费。 就在CES 2023上,苏妈带着AMD迄今为止最大芯片来嗨翻全场了。

这颗代号为Instinct MI300的芯片,也是AMD首款数据中心/HPC级的APU。

参数性能

1460亿个晶体管是个什么概念?

之前,Intel的服务器GPU Ponte Vecchio拥有的晶体管数量是1000亿+,而Nvidia新核弹H100,则整合了800亿个晶体管。

不过,熟悉AMD的人都知道,APU简单来说就是CPU和GPU封装在了一起。 从这个角度上来说,远超竞争对手的晶体管数量似乎也是情理之中。

具体来说,这颗拥有1460亿个晶体管的芯片,采用的是小芯片(Chiplet)设计方案。 基于3D堆叠技术,在4块6nm工艺小芯片之上,堆叠了9块5nm的运算芯片(CPU+GPU)。

根据AMD公开的信息,CPU方面采用的是Zen 4架构,包含24核心。 GPU则采用了AMD的CDNA 3架构。 由于Zen 4架构通常是8核设计,外界普遍猜测,9块运算芯片中有3块是CPU,6块是GPU。 另外,MI300拥有8颗共128GB HBM3 VRAM。

AMD史上最大晶片嗨翻全场! 1460亿个晶体体能大幅缩短ChatGPT训练时间

性能方面,AMD并未公布太多信息,仅与Instinct MI250X进行了比较。

苏妈表示,相比于MI250X,MI300每瓦AI性能提升了5倍,AI训练性能整体提高了8倍。

AMD史上最大晶片嗨翻全场! 1460亿个晶体体能大幅缩短ChatGPT训练时间

而据Tom’s Hardwre消息,AMD还透露,MI300能将ChatGPT、DALL‧E等大模型的训练时间,从几个月缩短到几周。

Instinct MI300预计将在2023年下半年交付。 届时,这颗芯片还将被部署到两台新的百亿亿次等级(ExaFLOP)超级计算机上。

One More Thing

同样是在今年的CES上,AMD还直接以苹果M系列芯片为比较基准,推出了「世界最快的超薄处理器」——Ryzen 7040系列。

具体型号包括:Ryzen 5 7640HS、Ryzen 7 7840HS、Ryzen 9 7940HS。

AMD史上最大晶片嗨翻全场! 1460亿个晶体体能大幅缩短ChatGPT训练时间

对于其中最高阶的R9 7940HS,苏妈大赞道:

R9 7940HS在多线程性能方面,比苹果M1 Pro快34%; 在AI任务处理上,比苹果M2快20%。

AMD史上最大晶片嗨翻全场! 1460亿个晶体体能大幅缩短ChatGPT训练时间

还给出了更直观的体验数据:搭载Ryzen 7040系列芯片的超薄笔记本电脑,能连续播放30+小时视频。

首批搭载Ryzen 7040处理器的笔记本电脑,将在今年3月份出货。

(0)
打赏 微信扫一扫 微信扫一扫

相关推荐

发表评论

登录后才能评论