侧边栏壁纸
博主头像
凡心小站博主等级

以平凡之心,瞰世间繁星

  • 累计撰写 26 篇文章
  • 累计创建 13 个标签
  • 累计收到 4 条评论

目 录CONTENT

文章目录

【AI】群辉Docker本地部署Chatgpt,通过AI提升生产效率

凡心
2024-04-19 / 0 评论 / 0 点赞 / 30 阅读 / 2348 字
温馨提示:
本文最后更新于 2024-04-19,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

前言

近些年AI大模型发展迅猛,chatgpt,文言一心,通义千问等各家都推出了自己的大模型,大家也通过AI大模型提升自己的工作效率,增加自己的创作灵感。今天在github平台发现一个免费的gpt项目,和大家分享下。 截图_2024-04-12_22-55-38.png

部署过程

部署aurora

1、项目地址:https://github.com/aurora-develop/aurora,拉取docker镜像直接部署(端口冲突记得修改)

docker run -d --name aurora -p 8080:8080 ghcr.io/aurora-develop/aurora:latest

截图_2024-04-12_22-57-28.png

2、本文采用portainer部署,记得设置下环境变量需要科学上网,否则无法连接

截图_2024-04-12_23-00-34.png

3、执行以下命令测试是否部署成功

curl --location 'http://你的服务器ip:端口/v1/chat/completions' 

--header 'Content-Type: application/json' 

--data '{

     "model": "gpt-3.5-turbo",

     "messages": [{"role": "user", "content": "Say this is a test!"}],

     "stream": true

   }'

截图_2024-04-12_23-02-29.png

部署chatgpt-next-web

1、项目地址:https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web,直接部署命令

docker run -d -p 3000:3000 yidadaa/chatgpt-next-web

截图_2024-04-12_23-03-45.png

2、部署完事后,访问地址:http://chatgpt-next-web地址:3000,进行访问;点击左下角设置,接口地址填上:http://aurora地址:端口/,然后即可愉快的访问。 截图_2024-04-12_23-09-27.png 截图_2024-04-12_23-32-22.png

3、配合npm等可以外网访问(记得设置chatgpt-next-web访问密码),参考前面文章: 【Docker】Nginx Proxy Manager反向代理安装和设置

FAQ

问:​github无法访问怎么办? ​答:​github作为常用的学习网站,可以网上查询访问方法,例如:【网络】Github高速访问方案

问:配置完成后还是无法连接?

答:aurora安装完成后记得用curl命令测试连接是否成功

后记

合理利用AI大模型带给我们的便利提升工作效率,生产效率,带来更多的创造灵感;大家有更好的方案可以评论区分享和讨论。

0

评论区