ChatGPT API 接入简介⚠️ 请千万不要在公司内和上班时间做这些事情
接入方式ChatGPT 暂时没有提供公开的 API 目前主要的接入方式有三种 - 使用浏览器 + Puppeteer + 注入 JS 模拟接入.
- 免费, 资源消耗高
- 由于 CloudFlare 的 AntiBot 能力 需要运行 有头浏览器
- 偶发遇到 CAPTCHA , 之前必现, 现状已经不出现了, 我没有遇到过
- 使用体验最好, 但是单条消息返回慢
- 具备 (50/60)/Hour 的 RateLimit , 且同时只能处理一条消息.
- 使用泄漏的模型
- API Key 方式
- 已经收费
- 目前体验最接近 ChatGPT 的模型 优于 GPT3
- 没有官网公开, 被一群人穷举出来的模型名
- 使用 text-chat-davinci-002-20221122 模型
- 使用 GPT3 模型 收费,效果一般,最常用
- 目前最常见的方式 使用 text-davinci-003
- Proxy 方案
- 采用前置一个 browser 作为 Proxy 来跳过 CF 的检测
- Server 部分使用 Session Token 进行直接交互
- 冷门思路
- 通过浏览器插件的形式来和 ChatGPT 进行交互, 太冷门了 就不做描述了
基础库Node: - 4.* 版本使用 APIkey 方案接入
- 3.* 版本使用 Browser 方案接入
Python 其他语言: 上层解决方案目前似乎只有我做了一个 🤔 欢迎补充， 实现细节APIKEY:APIKEY 版本通过模型的自动补全能力来构造 promote 构造一个类似这样的数据, 然后让 OpenAI 的模型进行补全 You are ASSISTANT, a large language model trained by OpenAI. You answer as concisely as possible for each response (e.g. don't be verbose). It is very important that you answer as concisely as possible, so please remember this. If you are generating a list, do not have too many items. Keep the number of items short.Current date: 2022-02-08USER:帮我看看这个...<1 im_endl>ASSISTANT: 你应该....<1im_ endl>USER: 然后呢？<1im_end >ASSISTANG:- 上下文需要自己进行保存, 每次调用的时候带上, 由于 OpenAI 使用 Token 计费, 很贵.
- 上下文可以根据自己的设计注入不同的 GPT index, 实现 Finetune, 比如文档搜索, 灵活性非常高.
BrowserBrowser 方案是使用前端的具备交互能力的 API 接口, 每条 Conversation 具备一个 Conversation id, 每个 message 具备 message id, 如果需要进行交互, 需要每次调用的时候带上对应的 ID, 第一次可以随机生成 UUID 使用. 参考数据结构如下 { "action": "next", "messages": [ { "id": str(uuid.uuid4()), "role": "user", "content": {"content_type": "text", "parts": [prompt]}, }, ], "conversation_id": conversation_id, "parent_message_id":uuid.uuid4(), "model": "text-davinci-002-render", }- Conversation 无限制
- 官方的 Conversation 删除逻辑本质就是给 Conversation 设置可见性
- 由于 CloudFlare 的限制, 你无法获取 Cookie 后直接调用这个接口
- 其实不是不行, 但是你需要注意 SSL 握手的时候指纹保持一致, 同时也需要不断刷新 Token
- Cloudflare 的跳过难度一般, 有兴趣可以研究, 但是代价是更新比较快....
- Plus 版本可能没有 50/60/h RateLimit
一些小提示- 对于 ChatGPT Overload 的时候 无法登录, 可以不断刷新来挤进去
- 已经登录的 ChatGPT 账号, 在保持浏览器连接的情况下 不会收到 Overload 影响
- 频繁更换 IP 会导致 CF 触发 Antibot 页面
- 单 IP 多 APIKEY 很大概率会导致封号
- 每个 APIKEY 注册以后都包含 18 刀
- 使用 Browser 方案应该是违反用户协议的, 我只是测试, 没有这么用过.
- 已知 Browser 登录会 Ban 掉一部分地区的 IP, 其中包含香港 , 所以在选择 VPN 的时候请注意不要使用香港的节点.
- Provide by @
- apikey 的限流是按照账号所属的 org 来限制的，即 org 级别的限流，同一个 org 下多个 apikey 不解决限流问题
- 账号注册需要🪜和国外的手机号，🪜自备，手机号可以在 https://sms-activate.org/# 里用支付宝解决
- 如果你对微信版本的 Bot 有兴趣 可以看我的这个项目 https://github.com/fuergaosi233/wechat-chatgpt
- Notion 的 AI 也是 ChatGPT 的模型提供服务, 可以曲线救国体验
- 其他是一些不太方便提示的🛝
感谢其他不方便提及名字的同学对内容的一些贡献
|
IP卡
狗仔卡
发表于 2023-2-12 16:36:24
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
显身卡
楼主
