flfq
发表于 2026-6-8 11:30:26
不知道你要部署什么模型，但是现在模型出的这么快，从尽可能支持最新的模型的角度来说，选显存大的，卡内带宽高的（ 200W 也做不了多机互联），厂家支持到位的；符合前面三个条件下，选支持 FP8 ，最好能支持 MXFP4 的；这些都满足的情况下，选省电的，便宜的，能稳定供应的
Eiro
发表于 2026-6-8 11:53:03
这种部署最终都是浪费掉的，说实话
至尊宝
发表于 2026-6-8 11:59:14
哎
信创
ak47998
发表于 2026-6-8 12:38:21
有经验的老哥可以合作
云朵收集者
发表于 2026-6-8 12:43:04
看显存和带宽，合适就买
快乐小牛
发表于 2026-6-8 12:59:04
我测过几家的显卡只能说阿里的 ppu 还是能用的,其他的都不太行.尤其吹的锣鼓震天响的华为.