本文介绍: GPT4ALL项目部署简易，但是在运行体验上一般，并且是只调用CPU来进行运算。看官方文档介绍在嵌入式上有比较大的优势，但是目前个人对嵌入式方向接触不深，仅在本机部署使用。本机配置。
一、GPT4ALL模型
官网地址：
Github：https://github.com/nomic-ai/gpt4all
GPT4ALL项目部署简易，但是在运行体验上一般，并且是只调用CPU来进行运算。
看官方文档介绍在嵌入式上有比较大的优势，但是目前个人对嵌入式方向接触不深，仅在本机部署使用。
本机配置（CPU：i5-8400、显卡：1060、内存：8）
二、模型下载
链接：https://gpt4all.io/index.html
可以自行选择不同的model类型，都有相对应的介绍，然后直接下载即可。
model使用相关文档链接：https://docs.gpt4all.io/index.html
三、使用过程
安装第三方库：pip install gpt4all
运行如下代码
from gpt4all import GPT4All
model = GPT4All(r'D:GPT_ModelGPT4All-13B-snoozy.ggmlv3.q4_0', allow_download=False)
while True:
str = input('Loading Done! Please input: ')
if str == '0':
break
output = model.generate(str)
print(output)
使用上述代码，既可在命令行和模型连续沟通，但是体验感不佳（可能是因为我自己电脑配置的原因。。 ）
也可以安装界面版，相关信息github自行获取。
将陆续更新其他的模型本地部署（问就是GPT4ALL不是很好用… ）
原文地址:https://blog.csdn.net/weixin_43486940/article/details/135506230
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若转载，请注明出处：http://www.7code.cn/show_54372.html
如若内容造成侵权/违法违规/事实不符，请联系代码007邮箱：suwngjj01@126.com进行投诉反馈，一经查实，立即删除！
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
