离线也能提问的大语言模型privateGPT,支持私有化部署
privateGPT利用LLMs的强大能力,在没有互联网连接的情况下向您的文档提问。
100%私密,任何时候都不会有数据离开您的执行环境。
您可以在没有互联网连接的情况下导入文档并提问!
privateGPT使用LangChain和GPT4All以及LlamaCpp构建完成。
安装
git clone?https://github.com/imartinez/privateGPT
安装所有要求:
pip install -r requirements.txt
然后,下载这 2 个模型并将它们放在您选择的目录中。
LLM:默认为ggml-gpt4all-j-v1.3-groovy.bin(https://gpt4all.io/models/ggml...
点击查看剩余70%
网友评论