www.小蝌蚪
AMD 还公布了一个新的(de) 2030 年目标,即从 2024 年基准年起,将机架级能效提高 20 倍(bei),届时,现在需要超过(guo) 275 个(ge)机架(jia)才能训练的典型 AI 模型,在 2030 年(nian)时(shi)仅需一(yi)个完全利用的机架即可(ke)完成训练,同时耗电量减少 95%。
400元4个小时不限次数
相較(jiào)于上一代的 MI300X ,MI355X 運(yùn)行 Llama 3.1 405B 時(shí),其智能體(tǐ)性能昰(shì)前者的 4.2 倍,“內(nèi)容生成(cheng)能力”昰上一代(dai)( MI300X)的 2.9 倍,“摘要生成(cheng)”能(neng)力昰上(shang)一代( MI300X)的 3.8 倍,“對(duì)(dui)話(huà)式人工智能”性能錶(biǎo)現(xiàn)則(zé)爲(wèi)(wei)上一代( MI300X)的 2.6 倍。同样,在软件生(sheng)态系统方面,AMD 发布(bu)了新(xin)的 ROCm 7 软件(jian)栈,包括增强型框架如 vLLM v1、llm-d 和 SGLang,并专注于提供各种(zhong)优化。