26-06-16 14:46 微博认证:Timer时一工作室主编

原文AI幻觉太多了。5090跑不动70B,Q4量化都不够,且现在谁还跑70B啊,要么30B左右小快灵,要么百B级别。5090最大特点是Blackwell架构,支持原生FP4,租来多用于文生图/视频,模型大体是B级别的,算力要求高、容量要求相对低;以及ASR、AI的TTS等,比如Whisper也是B级别的模型。以及跑一些推荐算法。

发布于 北京