1. 首页 > 科技资讯

英伟达xavier芯片,英伟达芯片和amd芯片的区别

凭着公布的新产品,AMD正式向英伟达显卡的AI芯片霸者影响力提出挑战。

美国东部时间6月13日周二,AMD举办了新产品发布会,里面最重磅消息的新产品当特性用以练习大模型的ADM最前沿GPU Instinct MI300。

AMD CEO苏姿丰详细介绍,生成式AI与大语言模型(LLM)必须计算机的算率和运行内存大幅度提高。她预估,在今年的,大数据中心AI 网络加速器的行业有望突破300亿美金前后,到2027 年将突破1500 亿美金,复合年增长率超出 50%。

苏姿丰演试详细介绍,AMD的Instinct MI300A称为全球首个对于AI跟高性能测算(HPC)的快速处理器(APU)网络加速器。在13个芯片中遍及1460亿次晶体三极管。

其采用CDNA 3 GPU架构和24个Zen 4 CPU内核,配备128GB的HBM3运行内存。对比上代MI250,MI300的性能提升八倍,效率提升五倍。AMD在新品发布会早些时候详细介绍,一个新的Zen 4c内核比普通的Zen 4内核相对密度更高一些,比普通Zen 4的内核小35%,同时保证100%的系统兼容性。

AMD推出一款GPU专用MI300,即MI300X,该芯片就是针对LLM的改善版,有着192GB的HBM3运行内存、5.2TB/秒网络带宽和 896GB/秒Infinity Fabric 网络带宽。AMD将1530亿次晶体三极管集成化在共12个5纳米技术这个小芯片中。

AMD称,MI300X所提供的HBM密度最大是英伟达显卡AI芯片H100的2.4倍,其HBM网络带宽最大是H100的1.6倍。这就意味着,AMD的芯片能够运作比英伟达显卡芯片更多的实体模型。

苏姿丰详细介绍,MI300X能够支持400亿次参数Hugging Face AI 实体模型运作,并演试让这一LLM写一首有关美国旧金山的诗。这也是全世界第一次在单独GPU上运作这么大实体模型。单独MI300X能够运作一个主要参数高达800亿实体模型。

LLM所需要的GPU越来越少,给开发人员所带来的立即好处是,能够降低成本。

AMD还发布了AMD Instinct 服务平台,它有着八个MI300X,选用国家标准OCP设计方案,给予累计1.5TB 的HBM3 运行内存。

苏姿丰称,适用CPU和GPU版本MI300A今天就已公布样,MI300X和八个GPU的Instinct 服务平台将在今年第三季度陈列,第四季度重磅推出。

亚马逊平台、微软公司、Meta早已或即将应用AMD新产品

除开AI芯片,AMD本次新品发布会还阐述了第四代EPYC(霄龙)处理器,尤其是在全世界可以用的云实例层面的推进。

AMD第四代EPYC(霄龙)在云工作负载的性能是intel竞争对手处理器的1.8倍,在公司工作负载里的响应速度是intel竞争对手的1.9倍。

AMD称,第四代EPYC(霄龙)开启一个新的Zen 4c内核,比intelXeon 8490H的工作效率高1.9倍。因为绝大部分AI在CPU上运作,AMD在CPU AI领域有着绝对性先发优势。

亚马逊平台周二公布,在使用AWS Nitro和第四代EPYC 处理器打造出一个新的实例。亚马逊云的EC2 M7a实例已经给予测试版,性能比M6a实例高50%。

AMD将会在内部结构工作中中应用EC2 M7a实例,包含芯片定制的EDA手机软件。AMD还宣布,在今年的7月,甲骨文字将会推出Genoa E5实例。

AMD公布的EPYC Bergamo处理器是业内第一款x86原生态CPU,有128个内核,每一个扩展槽256个进程。这就意味着一个普通的2U 4 连接点服务平台把有 2048 个进程。

Bergamo比上代Milan的性能高2.5倍,今天就可向AMD的云顾客安排发货。

Meta的客户代表详细介绍,Meta在基础设施建设中应用EPYC处理器。Meta还对根据AMD的处理器设计方案开源系统。Meta方面称,方案向其基础设施建设应用云处理器Bergamo,还需要将Bergamo用以其存储平台。

AMD与此同时发布本周二上市CPU Genoa-X。它将会增加超出1GB 的96核L3缓存文件。它一共有四个SKU,16到 96 个内核。由于SP5扩展槽适配,因此它能够与当前的EPYC 服务平台一起使用。

微软公司的客户代表和AMD一道展现了微软云Azure HPC的性能,在EPYC处理器的支持下,Azure四年里的性能提高四倍。

Azure公布,配备Genoa-X的HBv4和HX系列产品实例、及其一个新的HBv3实例全方位发售。Azure还表示,性能最多可较市面上标准提高5.7倍。

AMD先前通过收购Pensando得到DPU技术性。本次AMD称,其P4 DPU架构设计是世界上智能化的DPU,它能够降低数据中心的互联网花销,并提升了云服务器可管理性。AMD的Pensando SmartNICs就是这种新数据中心架构不可缺少的构成部分。

AMD也提到有着自己的AI芯片手机软件,名叫ROCm。AMD首席总裁Victor Peng称,在建立强悍的手机软件局部变量层面,AMD获得了真正意义上的巨大进步,ROCm软件栈能与实体模型、库、框架和工具的使用开放生态系统搭配使用。

文中来源于华尔街见闻,热烈欢迎免费下载APP点击查看

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.miyuegong.com/kejizixun/69160.html

联系我们

在线咨询:点击这里给我发消息

微信号:666666