离线也能提问的大语言模型privateGPT,支持私有化部署

离线也能提问的大语言模型privateGPT,支持私有化部署

privateGPT利用LLMs的强大能力,在没有互联网连接的情况下向您的文档提问。

100%私密,任何时候都不会有数据离开您的执行环境。

您可以在没有互联网连接的情况下导入文档并提问!

privateGPT使用LangChain和GPT4All以及LlamaCpp构建完成。

800_auto

安装

git clone?https://github.com/imartinez/privateGPT

安装所有要求:

pip install -r requirements.txt

然后,下载这 2 个模型并将它们放在您选择的目录中。

LLM:默认为ggml-gpt4all-j-v1.3-groovy.bin(https://gpt4all.io/models/ggml...

点击查看剩余70%

{{collectdata}}

网友评论