nodejs结合ollama+faiss实现本地向量文件rag相似检索
向量数据库很多,例如mongodb、mysql等传统关系数据库新版也已经支持向量的存取和相似查询了,那么有没有跟sqlite一样的文件向量数据呢,有,他就是faiss,我们今天使用的nodejs版本。
1、安装ollama和下载大模型
官网:https://ollama.com/
然后运行以下面的命令下载大模型,我们以qwen2为例
ollama pull qwen2:7b
2、安装FAISS向量神器
FAISS(Facebook AI Similarity Search)是Facebook AI Research开发的一个用于高效相似性搜索和密集向量聚类的库。nodejs下也有一个库叫faiss-node,我们安装一下:
npm install faiss-node
3、整合一起
通过ollama的api接口生成embedding存入向量文件中,然后进行相似查询检索,完整代码如下,可将每一个知识库单独生成一个向量索引文件。
完整代码:
点击查看全文
网友评论0