亚洲色图26p
AMD 今日发(fa)布了(le)最新 Instinct MI350 系(xi)列(lie) GPU,包括(kuo) Instinct MI350X 和 MI355X GPU 及平台,实现了每代 4 倍的 AI 计算(suan)能力提升和 35 倍的(de)推理性能(neng)飞跃。
新的 GPU 基于 AMD CDNA 4 架构,3nm 制程工艺打造,集成了 1850 亿个晶体管👄🥾,支持 FP4 & FP6 新一代 AI 数据类型💝,可提供 288GB HBM3E 显存🥒🩳👅👙,支持单 GPU 上运行高达 520B 参数的 AI 模型👜🩱,支持 UBB8 行业标准 GPU 节点🥾💝,提供风冷和直液冷两种版本👡,可以帮助企业实现快速部署基础设施。
错一道题做一次play
通过 ROCm👚👞🍍,AMD 表示其正更加专注于其软件堆栈中日益增长的推理能力🩲🩲👚。ROCm 7 堆栈将包括增强型框架👅,如 vLLM v1🩲💛🩳、llm-d、SGLang👙🍓😻💕,并专注于提供多种优化。即将到来的 ROCm 7 新内核和算法包括 GEMM 自动调优、MoE💝💖💛、Attention 和基于 Python 的内核编写🤬。
在本次(ci)大會(huì)上,AMD 展示了其全麵(miàn)的耑(duān)到耑集成人工智能平檯(tái)願(yuàn)景,竝(bìng)推齣(chū)了(le)全新基于(yu)行業(yè)標(biāo)準的開(kāi)放、可擴(kuò)展的機(jī)架級(jí)人工智能基礎(chǔ)設(shè)施産(chǎn)品。