现在有个事情很尴尬。
大家知道,聊天,包括搜索,轻办公这类应用,其实是一个很大的杀手级应用。
这个是2C的,需要的模型参数不会很大。
重点把聊天的情绪、文笔、审美、知识点等等掌握好就行了,对于agent的能力要求没那么高。
聊天的模式,适合走互联网那种模式,就是尽量免费,扩大用户规模,靠广告和会员费赚钱。
但是,大模型需要的算力太大了,增加一个用户就增加了成本,跟互联网还不太一样。
很可能出现用户量很大,但是收不到太多钱的情况。
编码、agent也是一个很大的赛道,但是2B的比较多,需要模型的参数很大。
现在问题来了,你要训练模型,预训练可以是一样的,但是后训练的侧重点有所不同。
你想要一个模型占领两个市场,那么必然两个都不能兼顾,两个方面都不太尽如人意。
而且你用一个巨大的模型去支撑聊天,也是浪费。
另外一种方案,你要占有两个市场,你用两个模型。
这个成本就比较高。
openai现在就有点卡在这里了,chatgpt有10亿用户,又不想放弃。
看着anthropic那么赚钱,又想搞编码和agent。
除非搞出一个方法,一个模型可以对两个市场,而且针对聊天的时候,用的算力很小。
否则,就很尴尬了,进也不是,退也不是。
发布于 江苏
