使用Ollama提供的Llama3 8B搭建自己的斯坦福多智能体AI小镇

自从斯坦福发布了Generative Agents: Interactive Simulacra of Human Behavior论文后，迅速燃起了人们对多智能体的兴趣。

许多著名的机构也都投入到相关的研究之中，其中a16z开源的AI小镇相比斯坦福原始的AI小镇，在保留原始AI小镇功能的基础上，更易上手，因此本文将使用a16z开源的AI小镇项目，带大家一起部署一个属于自己的AI小镇，使用本地部署的Ollama即可运行，全程免费。本篇将带大家部署项目原始英文版，下一篇将提供一个我自己翻译之后的版本，并带大家一起部署。

项目地址: https://github.com/a16z-infra/ai-town

项目支持Linux系统和macOS系统，Windows系统的朋友可以使用WLS进行部署。

1 环境信息

本文内容，所使用系统为macOS，以下是所使用到的相关代码、库的信息：

• ai-town版本：所使用的原始项目commit id=8449a052d9d107691f42bf8b3233ef0481c8e3e6

• npm版本：8.19.2

• node版本：18.18.2

Ollama提供的模型：

• • llama3
  • mxbai-embed-large

注意：作者在代码仓库强调需要确保node版本为18，如果node版本不是18，需要在./convex-local-backend和npm run dev之前，执行nvm install 18，或者nvm use 18

2 准备代码并安装包

3 使用Convex本地部署

3.1 Linux系统

后续可能会使用just命令，可以在https://github.com/casey/just寻找对应Linux发行版的安装方法，以Ubuntu 24.04为例，安装命令为：

sudo apt install just

安装convex。对于Linux系统，直接下载预编译版本，解压缩即可，下载地址在https://github.com/get-convex/convex-backend/releases下载之后，执行如下命令：

3.2 macOS系统

以下代码为macOS平台

# For new Macs:
curl  -L -O https://github.com/get-convex/convex-backend/releases/latest/download/convex-local-backend-aarch64-apple-darwin.
zipunzip convex-local-backend-aarch64-apple-darwin.zip

brew install just

# Runs the server
./convex-local-backend

4 Ollama相关配置

ollama pull llama3
ollama pull mxbai-embed-large

检查convex/util/llm.ts，如下图所示，当前版本默认就是使用llama3，LLM和向量模型也都能对应上，所以不用修改

或者使用如下命令指定所需要使用的模型：

just convex env set LLM_MODEL llama3

如果观察到对话很慢，修改convex/constants.ts，将NUM_MEMORIES_TO_SEARCH改为1，这样可以减小会话Prompt，加快对话速度。

5 添加背景音乐（可选）

创建一个Replicate账户，并在API Token页面创建一个token。

just convex env set REPLICATE_API_TOKEN <此处替换为Replicate API Key>

6 运行代码

同时运行前后端：

npm run dev

然后使用浏览器访问http://localhost:5173/ai-town

**注意：**刚启动之后，可能小镇中的人物是静止的，也没有对话，此时可以观察日志，如果没有报错，继续等待即可。大概等待2分钟，点击人物可以看到人物的描述和计划，没多久就会发现人物开始移动，再等待大约2分钟，可以看到有些人物移动的过程中彼此相遇，点击他们，可以查看他们之间的对话

下图是最终的效果

如果想分别启动前后端，可以分别使用如下明令

npm run dev:frontend
npm run dev:backend

​

如何学习AI大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。