docker妙用 篇十七:在本地部署一个免费的3.5 API服务器|docker应用|绿联NAS|OpenAI
提示:本篇文章1027字符,阅读大约需要2分钟。
写在前面
OpenAI公司近日宣布3.5步入完全开放使用阶段,也就是说用户不用注册账号即可使用网页端3.5模型,什么第三方注册商都可以滚犊子了,当然目前4模型还是需要付费使用的。
本来前一阵子各路媒体都报道说,OpenAI的流量在下降,各路大模型的能力在某些方面就要超越了。结果呢?OpenAI直接放个大招:我不用注册了!
年轻人不讲武德啊!!!
另外就是,3.5模型免费的只有网页端,API使用还是要付费的,而各类AI工具和Chrome浏览器插件都是依托于API使用的,光免费掉网页端还是不行的。那各位是不是可以灵机一动:那用网页端直接模拟API岂不是神了。
于是,这个docker项目它来了!
注1:部署使用前请自行解决网络问题;
注2:请不要频繁请求使用,否则可能会被OpenAI限制IP使用;
注3:如果将服务开放到公网,请一定注意安全使用问题,以及其带来的法律合规性问题(也就是说在本地用用就行了,尽量不要开放到公网使用)。
关于DX4600+
DX4600+绿联DX4600+搭载了4核4线程的低功耗CPU——N5105,兼具了性能和节能的特性。同时最高支持16G内存(双8G),使你在部署docker容器时,容量不再捉襟见肘。同时具备双M.2插槽,将docker文件夹放入固态硬盘中,会极大降低系统运行时机械硬盘读写的噪音。同时,两张M.2固态硬盘还能组建RAID1存储池,为你的docker数据保驾护航。
DX4600+同时,在UGOS系统中,dockerUI集成了绝大部分常用功能,大大简化了docker部署的繁琐程度:
绿联的dockerUI你甚至可以在docker应用中直接为Jellyfin映射核显,非常方便:
为Jellyfin映射核显新手小白不会部署docker怎么办?绿联也为你贴心的准备了各类常用容器的部署教程,实现一键下载,一键部署哦。
常用docker项目docker教程部署项目
今日我们使用搭载N5105的绿联DX4600+进行部署:
第一步,打开docker应用;
第二步,点击镜像管理,然后点击镜像仓库,搜索missuo/freegpt35;
下载镜像确认版本镜像下载完成第三步,点击创建容器;
点击创建容器第四步,点击创建后启动容器;
点击创建后启动容器端口设置点击完成后创建容器第五步,查看容器运行状态。
正在运行使用攻略
比如我们可以使用如下代码直接请求使用
curl http://127.0.0.1:3040/v1/chat/completions
-H "Content-Type: application/json"
-H "Authorization: Bearer any_string_you_like"
-d '{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "user",
"content": "你能干什么?"
}
],
"stream": true
}'
下面就是输出结果:
curl当然,这种使用方式虽然也能看,但是不太优雅。
或者在支持的软件中添加API即可,以下以Bob为例:
Bob配置比如我们翻译一段nascompares网站上有关最新绿联NAS消息的文字:
划词翻译备注:如果需要使用https,用反代即可。
总结
3.5免费确实是一个非常好的消息,对于普通人来说使用AI门槛又进一步降低了。
心动不如行动,赶快部署起来吧。
下期带大家部署一个非常好用的AI API统一管理容器,结合今天的项目,你就可以免费把API分享给你的亲朋好友使用了。
这就是本期的全部内容了,如果这篇文章对您有帮助的话,欢迎您在评论区多多讨论,也欢迎关注、点赞、打赏一键三连,您的支持对我非常重要。
我是冥冰薇,点个关注不迷路,我们下期再见。
关注图作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
冥冰薇
校验提示文案
solekg
校验提示文案
cwz1985
校验提示文案
cwz1985
校验提示文案
EbenGuo
校验提示文案
EbenGuo
校验提示文案
cwz1985
校验提示文案
cwz1985
校验提示文案
solekg
校验提示文案
冥冰薇
校验提示文案