国内token为什么能这么便宜?
电价便宜,大模型疯狂优化推理效率,大集群摊薄成本,再加上一堆AI厂商卷得厉害!
虽然高端芯片确实拿得难受,但靠堆规模、猛优化硬挤成本,硬生生把token价格打下来了……[doge]
#一台AI晚会要烧多少token#
发布于 四川
国内token为什么能这么便宜?
电价便宜,大模型疯狂优化推理效率,大集群摊薄成本,再加上一堆AI厂商卷得厉害!
虽然高端芯片确实拿得难受,但靠堆规模、猛优化硬挤成本,硬生生把token价格打下来了……[doge]
#一台AI晚会要烧多少token#