nodejs结合ollama+faiss实现本地向量文件rag相似检索存储

nodejs结合ollama+faiss实现本地向量文件rag相似检索

向量数据库很多,例如mongodb、mysql等传统关系数据库新版也已经支持向量的存取和相似查询了,那么有没有跟sqlite一样的文件向量数据呢,有,他就是faiss,我们今天使用的nodejs版本。

1、安装ollama和下载大模型

官网:https://ollama.com/

然后运行以下面的命令下载大模型,我们以qwen2为例

ollama pull qwen2:7b

2、安装FAISS向量神器

FAISS(Facebook AI Similarity Search)是Facebook AI Research开发的一个用于高效相似性搜索和密集向量聚类的库。nodejs下也有一个库叫faiss-node,我们安装一下:

npm install faiss-node

3、整合一起

通过ollama的api接口生成embedding存入向量文件中,然后进行相似查询检索,完整代码如下,可将每一个知识库单独生成一个向量索引文件。

完整代码:

点击查看全文

{{collectdata}}

网友评论0