侧边栏壁纸
博主头像
凡心小站博主等级

以平凡之心,瞰世间繁星

  • 累计撰写 30 篇文章
  • 累计创建 13 个标签
  • 累计收到 10 条评论

目 录CONTENT

文章目录

【AI】群辉Docker部署kimi-free-api打造智能长文本摘要助手

凡心
2024-04-20 / 0 评论 / 0 点赞 / 67 阅读 / 1894 字
温馨提示:
本文最后更新于 2024-04-19,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

前言

在这个科技日新月异的时代,人工智能(AI)的发展可谓突飞猛进,它不仅改变了我们的工作方式,也深刻地影响着我们的日常生活。国内KIMI大模型,作为一种前沿的人工智能技术,无论是长文本阅读、内容总结,还是情感分析、自然语言理解等,都展现出了其超凡的能力;

前面介绍过【AI】群辉Docker本地部署Chatgpt,通过AI提升生产效率 ",今天就和大家通过群辉本地Docker部署的方式来体验下KIMI长文本处理能力。KIMI官网地址:https://kimi.moonshot.cn/

准备工作

  • nas一台(带Docker的机器即可)
  • 域名一枚

部署过程

1、登录kimi官网,微信扫码或者手机号登录下

截图_2024-04-19_22-02-01.png

2、F12查看对应的Application-> Local storage记录refresh_token信息,后续作为API接口调用秘钥。

截图_2024-04-19_22-05-35.png

3、拉取镜像并启动,github地址:https://github.com/LLM-Red-Team/kimi-free-api,端口冲突的话自行修改

docker run -it -d --init --name kimi-free-api -p 8000:8000 -e TZ=Asia/Shanghai vinlic/kimi-free-api:latest

4、启动完成后,打开地址:http://IP:Port/,出现部署成功页面即可

截图_2024-04-19_22-13-44.png

5、登录下one-api,添加渠道信息,保存成功后测试下渠道OK,然后再令牌选中kimi模型保存 截图_2024-04-19_22-20-53.png

6、后面就可以在nextweb等前台UI愉快使用,ChatGPT Next Web记得新增下one-api中的kimi模型

截图_2024-04-19_22-28-59.png 截图_2024-04-19_22-31-30.png

FAQ

问:没有搭建one-api,是否可以使用kimi大模型?

答:是可以的,接口都是兼容的,one-api只是将各个大模型统一认证管理,github地址:https://github.com/songquanpeng/one-api

后记

通过本文的探索和实践,实现了群辉本地Docker部署连接KIMI大模型,能够让大家体会到AI带给我们的便利,提升了我们处理和理解大量信息的效率,大家有啥问题可以评论区讨论和分享。

0

评论区