網路與網站知識 • AMD Ryzen AI Max+ 395 128G 跑LLM預估值

AMD Ryzen AI Max+ 395 採用共通記憶體配置, 最高可配置 96G 來跑 AI大模型.
參考: https://www.youtube.com/watch?v=ku3OWpe-t5c

各模型估計速度.
---------------------
8B 28.1 token/s
14B 18.2
32B 9.3
70B 4.4

RTX 4090 24G 預估值 32B 為 28.9 token/s, 一張卡要價不便宜.

預估 AMD Ryzen AI Max+ 395 128G 筆電估約 3000(略低於) 美金(2025第1季上市).
AMD Ryzen AI Max+ 395 評測為適合用於工作站, 約 105W (低功耗).

註記: 在 framework 上有訂製 mini desktop 的組裝價格表. 組一台 AMD Ryzen AI Max+ 395 128G ; 2 TB M.2 * 2; windows 11 Pro 約 90,000 台幣

統計資料: 發表於 由 dtchang — 2025-02-28, 22:10

---