X上传来惊爆消息。
AI内幕记者ChrisGPT爆料,即使顶着政府审查的压力,GPT-6 (Astra)仍将在8月发布。
GPT-6,就是昨天OpenAI紧急暂停发布的模型Astra。
9个月前,OpenAI开始发力,重新分配计算资源。意识到Anthropic在预训练上领先,OpenAI着急了!
据估计GPT-4的参数约为1.8万亿。如果Astra参数真的10万亿,那就是GPT-4的五倍以上。
不管怎么说,OpenAI都在预训练上砸出了前所未有的规模。
别急,后面还有高手。
ChrisGPT第二个曝出的,是代号为Doug的年底「史诗级巨兽」。
它不仅是OpenAI迄今为止规模最庞大的一次预训练模型,更是据说让Fable显得像个原始产物。
而且,它并不是GPT-6。
但这个模型需要先进行预训练,然后还要进行大量网络安全测试,因此可能最迟在11月之前会发布。
巧的是,就在最近,OpenAI总裁Greg转发了一篇X——
GPT-4,就是在四年前的8月8日完成训练的。
业界猜测,GPT-4的参数在1.8万亿,四年后,GPT-6的参数居然达到了十万亿,在数量级上完成一次恐怖的跃升!
可以推测,GPT-6将涌现出难以想象的逻辑推理和泛化能力。
