宝玉xp 24-09-13 02:34
微博认证:前微软Asp.Net最有价值专家 2025微博年度新知博主 科技博主

OpenAI 发布了新的模型 o1 的预览版,也就是传闻中的🍓模型 #OpenAI发布最强模型o1#

这个模型的特点是推理能力非常强,在数学和编程方面表现出色,在国际数学奥林匹克竞赛(IMO)的资格考试中,GPT-4o 仅解决了 13% 的问题,而 o1 模型解决了 83% 的问题。o1 的编程能力也在 Codeforces 比赛中超过了 89% 的选手。

ChatGPT Plus 和 Team 用户今天将可以在 ChatGPT 中访问 o1 模型。可以在模型选择器中手动选择 o1-preview 和 o1-mini,o1-preview 的每周消息限制为 30 条,o1-mini 为 50 条。

API 用户需要 Tier 5 (API 上花费超过 1,000 美元并且付费超过 1 个月 platform.openai.com/docs/guides/rate-limits/usage-tiers?context=tier-five ) 才可以在 API 中使用这两个模型,速率限制为 20 RPM。

目前 o1 只是一个早期模型,侧重点是推理,所以像网络搜索、多模态都还不支持,需要配合 GPT-4o 一起使用。

看看 API 的价格,表面上看和 GPT-4 的价格差不多,GPT-4o的3-4倍,但是 o1 模型引入了推理 Token。模型使用这些推理 Token 进行“思考”,通过分解对提示词的理解并考虑多种回应方法。生成推理 Token 后,模型会生成可见的完成 Token 作为回答,并从上下文中丢弃推理 Token。

图 4 是用户和助手之间多步对话的示例。每一步的输入和输出 Token 都会被保留,而推理 Token 则被丢弃。

图 4 中灰色部分就是推理 Token,尽管推理 Token 在 API 中不可见,但它们仍占用模型的上下文窗口,并按输出 Token计费。

所以对比以前用 GPT-4,在输出 Token 的数量上,要多上数倍,所以不能简单看输入输出Token的价格,还要看因为推理导致的 Token 数量增加。

o1-preview
$15.00 / 1M input tokens
$60.00 / 1M output tokens

o1-mini
$3.00 / 1M input tokens
$12.00 / 1M output tokens

gpt-4o
$5.00 / 1M input tokens
$15.00 / 1M output tokens

gpt-4
$30.00 / 1M tokens
$60.00 / 1M tokens

http://t.cn/A69edO0L

相关资料:
Learning to Reason with LLMs http://t.cn/A6RBbJsR
Introducing OpenAI o1-preview http://t.cn/A6RBysTG
OpenAI o1-mini Advancing cost-efficient reasoning http://t.cn/A6RBbu2x
OpenAI o1 System Card http://t.cn/A6RBbu2M
OpenAI o1 System Card http://t.cn/A6RBbu2I

发布于 美国