使用gpt4all搭建一个支持openai api的本地大模型问答ai?
gpt4all是一个利用chatgpt问答训练的一个ai模型,里面有广大网友提供的免费训练模型,你也可以自己训练模型共享出来,今天我们使用ggml-gpt4all-j-v1.2-jazzy.bin模型来实现离线的ai模型进行问答与embedding向量解析。支持mac、windows、linux操作系统运行,下载地址:https://github.com/nomic-ai/gpt4all
请求接口的代码跟openai一样,只是服务器的域名换成本地的
import openai op...
点击查看剩余70%
网友评论