准备模型
- 支持function的qwen2模型
随便找了一个,也可以下载其他支持function的模型,或者自己下载模型文件搭建
ollama run sam4096/qwen2tools
- embedder 模型
ollama run nomic-embed-text
拉取mem0ai 源码,切换对应分支
git clone https://github.com/mem0ai/mem0.git
git checkout user/dyadav/ollama-support
修改mem0ai 源代码,适配ollama 环境
修改这几个文件
1.ollama.yaml
http://192.168.0.24 换成ollama的ip地址
llm:
provider: ollama
config:
model: 'sam4096/qwen2tools'
temperature: 0.5
top_p: 1
stream: true
base_url: 'http://192.168.0.24:11434'
embedder:
provider: ollama
config:
model: 'nomic-emb