套壳ChatGPT项目调研
前言
笔者因为两方面原因,一是工作需要,主要是为了公司挑选合适的类 ChatGPT 应用作为公司内部使用,用以提高工作效率;二是生活需要,笔者的很多朋友日常工作比较需要 GPT 等大模型加持,奈何本身不会翻墙等操作,所以需要笔者能找到 ChatGPT 的平替使用。笔者本身对此类事情比较感兴趣,也开一贴记录下笔者在调研过程中的记录。
项目挑选
因为项目众多,属于大海捞针,加上网上评价参差不齐,于是笔者使用类似调查问卷的方法,在相关性非常大论坛板块(v2ex 的 openai 板块)中发贴询问,得到的回复中一共有四个比较流行的工程较为合适:
ChatGPT-web: https://github.com/Chanzhaoyu/chatgpt-web
ChatGPT-Next-Web: https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web
LibreChat: https://github.com/danny-avila/LibreChat
LobeChat: https://github.com/lobehub/lobe-chat
因为每个项目的理念是不同的,所以功能等相差还是比较大的,可以根据笔者对以上项目的调研信息从而判断哪个项目更适合自己使用,笔者也会给出自己的建议。
项目简介
ChatGPT-web
一个 23 年非常知名的项目,很多个人搭建或者套皮赚钱的网站都以此项目修改搭建,但是可惜项目基本已经处于停更状态(未知原因),笔者看到最后一次项目 release 是在 23 年 11 月,距笔者调研时已有 5 个月时间未发布新版本更新。
项目本身是十分优秀的,国人所创建项目,笔者所在公司现在使用的套壳 ChatGPT 就是 fork 于此项目改造搭建,项目整体比较简介,主页面整体结构如图所示:
如上图可以看到,项目整体和 ChatGPT 官方版本比较有相似度,并且整个页面看起来也比较整洁,同时如图也可以看出,项目支持 ChatGPT 的基本功能,左下角有用户,说明项目本身支持用户管理系统,左侧栏中也类似 ChatGPT 有聊天记录,同时也支持 Prompt 管理,也能格式化输出代码,可以说该项目功能已经基本完善,可以直接修改后部署。
奈何项目已经停更,若出现一些 bug 也需要使用者自身去解决,而且随着 ChatGPT 本身在持续迭代更新,如插件功能,项目是不支持的,这里笔者的建议是,此项目基本满足日常使用,也有满足公司部署的用户管理功能,可以作为考虑部署的项目,但是由于项目已经停止更新,所以后续如果出现比较大的接口或者其他变动,需要使用者有能力自己维护好。
结论:因为该项目停更,笔者这里是不推荐使用的,不过可以作为兜底项目和选择其他项目时对比的项目。
ChatGPT-Next-Web
目前最火的套皮 ChatGPT 项目,喊出了 “一键免费部署你的跨平台私人 ChatGPT 应用” 的口号,笔者体验之后,发现正如项目宣传一致,只需几行指令,即可部署一套私人跨平台的 ChatGPT 应用,项目主题如下图所示:
基于项目的这种主题思想,所以项目的发力点更多的在于个人使用时的功能丰富度,而忽视掉对个人使用基本不会用到的用户管理登录模块和数据管理模块,但是如上图所示,多种安装部署方式(web 端和客户端),多端(pc 和移动端)适配能力,丰富的提示词,输出时格式优美,以及后续开放适配的插件能力,同时有大量的用户群体,项目支持的人数也是这几个项目中最多的。
笔者自己也尝试部署了 web 端和客户端,发现只要按照部署说明填写好 API 相关信息,分分钟即可部署完成一套个人使用的跨平台私人 ChatGPT 应用,项目没有用户管理模块,所以也并没有数据库存储用户的使用记录,使用记录只保存在用户本地缓存中。笔者尝试部署过程中也发现一个问题,项目本身对 Azure OpenAI 支持并不是很好,不能快速切换模型使用。
结论:个人或家庭使用的 ChatGPT 应用中最优异项目。部署过程快速简单,文档支持丰富,支持多种大模型 API,同时舍弃用户管理和数据管理模块,所以决定项目本身非常适合私人家庭部署使用,并不太适合在公司部署使用。
LibreChat
项目外观完全模拟 ChatGPT,几乎模拟了 ChatGPT 的所有功能,除了 GPTs 没有模拟,对应的用户管理系统,数据收集系统,支持多种插件能力,并且支持多种现有的大模型接入,文档也非常友好,细节到功能和配置细节部分,甚至也做了自己的宣传视频:
笔者尝试部署使用,发现项目对于公司内部部署是非常友好的,除了上文中提到的用户管理系统,项目中数据管理也非常优秀,记录了所有用户信息和用户与大模型交互信息,可以拿来做用户和数据分析,从而向上汇报当前部署成果;并且项目支持限额管理,项目的限额管理是定义一个标杆,通过然后将其他语言换算成对应的倍率从而管理用户使用限额。具体可以看如下图代码部分:
结论:推荐公司部署使用的项目,简单修改即可在公司内部使用,并且项目目前属于活跃期,相对于 ChatGPT-web 有很多明显优势。
LobeChat
“花里胡哨”的项目,这是笔者接触该项目的第一印象,当然这里的“花里胡哨”并不是贬义词,而是夸夸该项目 UI 做的很优秀。
笔者尝试部署了一套,试用之后发现 UI 和交互方面都做的十分优秀,深入了解后,笔者发现这是一个无服务端数据库的、 Local First 的实现方案,和 ChatGPT-Next-web 的初始理念一致,界面使用体验优秀,缺点是无后端数据库,无法满足跨端使用,数据统计等需求,当然项目负责人已经认识到该设计的限制,预计在 1.0 版本中加入数据库功能。
结论:与 ChatGPT-Next-Web 一样优秀的项目,并且笔者个人认为 UI 和交互体验方面优于 ChatGPT-Next-Web,但是项目出发点决定了项目天然不支持服务端数据库相关,导致无法在企业内部或项目组中使用,但是作为个人或者家庭使用,完全是非常优秀的一套方案。笔者这里也期待该项目的 1.0 版本的发布,到时再考虑引入企业内部使用。
项目对比(截至 24 年 4 月)
项目 | fork | star | 后端 SQL | UI | 交互 | 鉴权 | 文档 | 体验 | latest release |
---|---|---|---|---|---|---|---|---|---|
ChatGPT-web | 11.1k | 30.3k | ✔️ | 😐 | 😐 | ✔️ | 😐 | 😐 | 23 年 10 月 |
ChatGPT-Next-Web | 54.4k | 66.8k | ❌ | 😃 | 😃 | ❌ | 😃 | 😃 | 24 年 3 月 |
LibreChat | 1.7k | 9.5k | ✔️ | 😐 | 😃 | ✔️ | 😃 | 😃 | 24 年 4 月 |
LobeChat | 6k | 26.8k | ❌ | 😃 | 😃 | ✔️ | 😐 | 😃 | 24 年 4 月 |
据此调研,
笔者在公司决定部署了 LibreChat,因为其自带后端 SQL,鉴权等功能,部署文档详细,并且使用体验十分接近于官方 ChatGPT,笔者决定部署这个用以替代已经停更的 ChatGPT-web;
笔者给朋友的是 ChatGPT-Next-Web 的客户端软件,因为 ChatGPT-Next-Web 提供了软件安装包,而不需要使用 docker 或者其他必要运行环境,对非计算机的朋友们十分友好;
笔者这里建议的是,如果读者看到这篇文章时,LobeChat 已经发布带有后端 SQL 的版本,笔者还是偏向于部署 LobeChat,原因是 LobeChat 的 UI 和交互设计是优于 LibreChat,LibreChat 是对 ChatGPT UI 的模仿,而 LobeChat 原创的 UI 更吸引人眼球,这在公司内部推广使用是十分友好的。
笔者调研时也考察了每个项目的生成,每个项目对生成内容的显示其实都很相似,比如代码部分的显示等等,这里 UI 都十分接近,因为本身也有比较成熟的前端方案,所以笔者这里没有做对比,并且由于每个项目目前和计划中也都是免费且开源的,并且项目本身也都为了让用户在给项目和公司做部署提供便利,比如鉴权和后端 SQL 的设计,所以给公司部署没有法律风险,但是建议不要去修改 UI 等商标信息,也是对开源作者的尊重。