Easy 23-03-22 10:14
微博认证:AI博主

#方糖2A1B实验# 开始继续实验,不过首先遇到的就是 GPT3.5 上下文容量太少而 GPT4 太贵(8K也就多一倍)的问题。

因此我写了个工具 GPT::BAT( http://t.cn/A6C1IMBJ ),可以自动把长文本拆分后按设置提交给GPT,并将返回内容进行拼接。

图片里有教程,代码已经开源到GitHub,产品页面上有链接。

为了避免处理到一半 OpenAI 挂了,GPT::BAT 会把已经处理的片段缓存到 Localstorage , 这样你点继续时就不用重复请求消耗 Token 了。

拿了篇英文长文测试下来,还挺好用的。就是 提示词 要自己调调。

发布于 重庆