今天看到一句话还是挺感慨的,
大意是说为什么老外更期待开源大模型,
是因为他们可以利用充足的显卡,诸如ollama、opencode等GPU供应商那里拿到:
满血、无限量、充足、高速的大模型API服务,他们可以充分利用开源模型的能力,
甚至可以将API token速率拉到500以上。
而我们面临的则是:
额度不足、高峰排队、降智降质、高价低量。。。
国产GPU加油吧
发布于 辽宁
今天看到一句话还是挺感慨的,
大意是说为什么老外更期待开源大模型,
是因为他们可以利用充足的显卡,诸如ollama、opencode等GPU供应商那里拿到:
满血、无限量、充足、高速的大模型API服务,他们可以充分利用开源模型的能力,
甚至可以将API token速率拉到500以上。
而我们面临的则是:
额度不足、高峰排队、降智降质、高价低量。。。
国产GPU加油吧