感觉小Dense模型适合工作，大MoE模型反而适合写小说……可能是用固定的专家层去遍历KV的这种机制原因，情节连贯性好得多，拿掌机玩游戏没玩哭过，拿掌机部署AI写小说给我差点看哭了，你说这是啥事[泪奔]
发布于 山东
快乐肥宅庆先森
感觉小Dense模型适合工作，大MoE模型反而适合写小说……可能是用固定的专家层去遍历KV的这种机制原因，情节连贯性好得多，拿掌机玩游戏没玩哭过，拿掌机部署AI写小说给我差点看哭了，你说这是啥事[泪奔]