lol诡术妖姬出装
AMD 今日发布了最新 Instinct MI350 系列 GPU,包括 Instinct MI350X 和 MI355X GPU 及平台,实现了每代 4 倍的 AI 计算能力提升和 35 倍的推理性能飞跃👞🍓🥒。
新的 GPU 基于 AMD CDNA 4 架构,3nm 制程工艺打造🍒,集成了 1850 亿个晶体管,支持 FP4 & FP6 新一代 AI 数据类型,可提供 288GB HBM3E 显存💓💟💕👝,支持单 GPU 上运行高达 520B 参数的 AI 模型🍑🥭🍊🤍,支持 UBB8 行业标准 GPU 节点,提供风冷和直液冷两种版本,可以帮助企业实现快速部署基础设施🍋。
火炬之光2技能重置
通过 ROCm,AMD 表示其正更加专注于其(qi)软件堆栈(zhan)中日益增长(zhang)的推(tui)理(li)能力。ROCm 7 堆(dui)栈将包(bao)括增强型框架,如 vLLM v1、llm-d、SGLang,并专注(zhu)于提供多(duo)种优化。即将到来的 ROCm 7 新内核和算法包括 GEMM 自动调优(you)、MoE、Attention 和基于(yu) Python 的内核编写(xie)。
在本次大会上,AMD 展示了其全面的(de)端到端集成人工智(zhi)能平(ping)台愿景,并推出了全(quan)新基于行业标准的开放、可扩展的机(ji)架级人工智能基础设施产品。