教你通过API在本地使用ChatGPT
前言
首先申明本教程仅限有编程经验的同学才能看懂或者使用,需要准备条件:
1.ChatGPT key,无论是3.5还是4都可以;
2.科学上网的环境-最好US;
3.本地准备好Node环境16以上版本;
4.阿里云账号;
首先我们要登录阿里云账号的后台,然后进入函数FC的界面:
确保你的函数FC权限是开的
函数FC的使用流程在这里不做赘述,请开发的同学自己去阿里云官网文档中心去查看;
地址:help.aliyun.com/document_de…
配置好本地的开发工具之后,直接使用FC的命令:
部署之前检查配置文件的区域一定要选择美国区域:us-west-1
bash复制代码初始化目:s init openai-proxy -d openai-proxy 部署项目:cd openai-proxy && s deploy - y
本地初始化完的项目目录结构是这个样子,如果要改区域可以修改s.yaml:
修改FC节点到美西
当你部署完之后,会出现这样的输出结果:
到这里你的OpenAI,代理服务已经部署成功了,上边的domain是社区提供的免费地址,有可能过期就不能访问了,所以建议配置自己的域名。
请注意,到此这只是代理服务部署成功不等于可以访问像GPT那样的界面了,所以接下来我们还需要配置一个可以对接代理服务的前端聊天窗口;
我这里使用的是开源项目:chatbat-ui ,界面有点以假乱真,哈哈哈;
开源地址:
是的它长这个样子
官方提供了很多部署方案,有docker k8s 等等,我只是想从本地跑起来使用,所以我把项目download下来之后,通过本地的安装方式启动,主要关键步骤为:
前置步骤,需要配置本地的配置文件:
这里我把我的配置文件放到这里仅供参考
DEFAULT_MODEL=gpt-3.5-turbo NEXT_PUBLIC_DEFAULT_SYSTEM_PROMPT=You are ChatGPT, a large language model trained by OpenAI. Follow the user's instructions carefully. Respond using markdown. OPENAI_API_KEY=YOUR_API_KEY
OPENAI_API_HOST=http://openai-proxy.openai-proxy这里是你的代理地址,就是函数FC的domain # Google GOOGLE_API_KEY=YOUR_API_KEY GOOGLE_CSE_ID=YOUR_ENGINE_ID
1、npm install ; 2、npm run dev;
好了到此为止,本地的ChatGPT的前端就启动了,然后你就可以随时随地的使用自己的ChatGPT了。
大家可能担心函数FC的成本问题,这里假如个人用的话可以忽略不计,阿里云的函数FC按量计算,个人的使用量基本可以忽略;
下边是开源项目的本地调试描述,可以作为参考:
Running Locally
1.Clone Repo
git clone https://github.com/mckaywrigley/chatbot-ui.git
2.Install Dependencies
npm i
3.Provide OpenAI API Key
Create a .env.local file in the root of the repo with your OpenAI API Key:
OPENAI_API_KEY=YOUR_KEY
You can set OPENAI_API_HOST where access to the official OpenAI host is restricted or unavailable, allowing users to configure an alternative host for their specific needs.
Additionally, if you have multiple OpenAI Organizations, you can set OPENAI_ORGANIZATION to specify one.
4.Run App
npm run dev