这是一个来自超过10kstar的GitHub项目(点击查看)
Demo
这里我以进去后的第一个模型为例点击【Download】(下载缓慢可以用魔法试试)
下面的About是模型介绍,你可以根据这个来选择你需要的模型!
下载完成后在聊天界面右边即可切换刚刚下载好的模型
需要注意的是本地运行大模型需要有足够的RAM内存,如果你的内存不够则会显示如下的警告
同时在模型在在界面也会提醒你内存不足无法运行!(模型大小越大需要内存越多哦)
使用须知
①模型输出速度与你的电脑硬件性能匹配,并且默认使用CPU来运行!
我这个u实测速度很慢
所以我们需要用GPU显卡来加速模型输出!
在左下角设置中,我们可以找到N卡加速开关,来使用自己的独显运行模型
如果你打开跟我一样遇到了如下错误请别急,看我的另一篇文章就能解决
②使用openai的chatgpt模型是需要API Key的哦,如果需要直连使用ChatGPT3.5/4以及集成了多模态的GPTs请看我的这篇文章
P.S.要花钱,不过是积分制,用多少算多少,但是不可能免费!
#免责声明#
①本站部分内容转载自其它媒体,但并不代表本站赞同其观点和对其真实性负责。
②若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。
③如果本站有侵犯、不妥之处的资源,请联系我们。将会第一时间解决!
④本站部分内容均由互联网收集整理,仅供大家参考、学习,不存在任何商业目的与商业用途。
⑤本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与任何商业和非法行为,请于24小时之内删除!