AMD已正式推出其新的ROCm6.1.3OpenCompute软件套件,该套件增加了AI功能和支持,并配备了RadeonPROW7900双槽GPU。
AMD的ROCm6.1.3软件堆栈增加了多GPU支持、TensorFlowAI框架支持和WSL2支持,RadeonPROW7900双插槽GPU上市,售价3499美元
AMD在2024年台北国际电脑展上宣布,将在零售领域正式推出其RadeonPROW7900双插槽GPU。据称,RadeonPROW7900的售价为3499美元,性价比领先,拥有48GB的超大内存池,可在LLM(大型语言模型)等面向AI的工作负载中实现更快的性能。
相关报道AMD遭遇重大黑客攻击后数据泄露,执法机构协助展开调查
AMD推出ROCm6.1.3开放计算AI软件以及RadeonPROW7900双槽GPU2
直接说说规格,AMDRadeonPROW7900显卡采用双插槽设计,是工作站设置的完美解决方案,可容纳多达四个支持AI的庞然大物。在内部,该显卡采用Navi31XTXGPU核心,6144个核心封装在96个计算单元中。该GPU配备384位宽总线,并配备48GBGDDR6内存,可提供高达864GB/s的带宽。该卡还配备了96MB的InfinityCache,进一步提升了性能,为这款高端GPU提供了更多带宽。
以下是该显卡的一些主要亮点:
令人印象深刻的性能——具有96个计算单元、192个AI和96个射线加速器,可在峰值单精度(FP32)下提供高达61.32TFLOPS的卓越性能,在峰值半精度(FP16)下提供122.64TFLOPS的卓越性能。
领先的性价比——Llama370BQ4的性价比比竞争产品高出38%,并且能够在单个GPU帧缓冲区上安装70B参数模型。
卓越内存–配备纠错码(ECC)技术的48GB内存可实现无缝多任务处理并轻松处理复杂项目,以确保数据完整性。
桌面上的AI–配备多达四块AMDRadeonPROW7900双槽显卡的本地PC或工作站可为任何IT基础设施增添强大的AI性能,非常适合关键任务项目,并且有助于将敏感数据保留在内部。
AMD推出ROCm6.1.3开放计算AI软件以及RadeonPROW7900双槽GPU3
除了推出RadeonPROW7900双插槽GPU之外,AMD还公开发布了其ROCm6.1.3开放计算软件套件。新的ROCm软件为Radeon和RadeonPRO系列下的消费级显卡提供了增强的可访问性和更广泛的支持。发布亮点包括:
多GPU支持,可用于为多服务、多用户解决方案构建可扩展的AI桌面。
对WindowsSubsystemforLinux的Beta级支持,允许这些解决方案在基于Windows操作系统的系统上与ROCm协同工作。
TensorFlow框架支持为AI开发提供了更多选择。
AMD推出ROCm6.1.3开放计算AI软件以及RadeonPROW7900双槽GPU4
AMD表示,ROCm6.1.3支持最多四块合格的RadeonRX和RadeonPROGPU(RadeonRX7900XTX、7900XT、7900GRE、RadeonPROW7900、PROW7900DS、PROW7800)。现在可以将其中任意四块GPU的组合直接插入工作站,客户可以利用扩展的性能、可扩展性和可访问性功能。每个GPU都可以独立计算推理并输出响应。ROCm6.1.3软件堆栈还在BETA版WindowsSubsystemforLinux(也称为WSL2)中添加了支持。
为您的桌面提供更高的机器学习性能
由于当今的模型很容易超越非为AI设计的标准硬件和软件的功能,机器学习工程师正在寻找经济高效的解决方案来开发和训练他们的机器学习应用程序。由于有24GB或48GB的超大GPU内存可用,因此使用配备最新高端AMDRadeon7000系列GPU的本地PC或工作站是一种强大而经济的选择,可以应对这些不断增加的机器学习工作流程挑战。
最新的高端AMDRadeon7000系列GPU基于RDNA3GPU架构构建,
与上一代产品相比,每个计算单元(CU)的AI性能提高了2倍以上
现在配备多达192个AI加速器
提供高达24GB或48GB的GPU内存来处理大型ML模型
通过AMD
每个GPU最多有48GB的内存池可用,您可以获得高达192GB内存容量的组合池,可供您的AI需求访问和使用。