不知道你是不是也幻想过跟自己喜欢的动漫角色对话的场景
在2025年角色扮演LLM模型已经相对成熟的今天
我们已经能够将任意一个自己喜欢的角色通过ai角色扮演的方式部署在自己的电脑上并进行你想要的任何对话
我非常喜欢《电锯人》里面的玛奇玛
这些天就通过 SillyTavern+StableDiffusion+Ollama-DeepSex (什么?你说听不懂?听不懂也没关系,这篇教程正是面对小白的教程,保证一步一步教你如何本地部署你喜欢的动漫角色)
部署了一个玛奇玛在本地与我进行角色扮演游戏
本所用所有模型以及框架皆为本地部署,不需要任何第三方平台,也就是没有额外费用
效果展示
搭建前的注意事项:
此教程是以纯本地部署模型为主,所以对电脑的配置有一定要求
以下是小b的配置清单(以下能达到一个较为流畅的体验):
Windows 11 家庭中文版
CPU:12th Gen Intel(R) Core(TM) i7-12700H 2.30 GHz
GPU:NVIDIA GeForce RTX 3060 Laptop
内存:16(无所谓杂牌)
硬盘:无所谓杂牌
本教程对内存和显卡要求较高 显卡决定生图的速度以及人物产出对话的速度,内存则决定流畅度
那么接下来教学正式开始
第一步:安装Node.JS Node.js — Run JavaScript Everywhere(下载地址)
双击下载包进行安装
等待安装结束即可,过程中如果出现需要信任的选项均点击信任
打开命令行(win+r) 输入cmd 输入命令:node --version
如果得到的是如下图片所示,那么我们第一步安装NodeJS就完成了
第二步:安装Git for Windows Git for Windows(下载地址)
双击文件进行安装
这里我们选第二种就好,第一种千万不要选,选了还得多一步配置环境变量的操作,如果有特殊需求可以选
第三种在本项目中用不到,也不需要选,我们只需要用到Git的拉取功能就够了
打开cmd(win+r)输入cmd 输入命令 git --version
出现如图所示界面代表Git安装成功 至此我们第二步安装Git也就成功了
第三步:安装酒馆(SillyTavern)
SillyTavern(酒馆) 是由 Cohee、RossAscends 及 SillyTavern社区 共同开发的一款 AI角色扮演聊天平台,专注于让用户与 文本生成AI(LLMs) 进行深度互动。它能够根据用户设定的角色背景、性格和世界观,让AI以高度拟真的方式扮演各种角色,带来沉浸式的对话体验。
总而言之就是一个可以玩AI角色扮演的平台
首先创建一个文件夹
E:\edge\sillyagen 这是我的文件夹路径(不要问我为什么取个这么个名字,问就是我故意的)
然后打开命令行(win+r)输入cmd
输入命令 cd /d 刚刚你创建的文件路径
然后输入命令 git clone https://github.com/SillyTavern/SillyTavern.git
等待下载完成再次打开文件所在地
进入文件,找到Start.bat文件
双击Start.bat文件启动酒馆
游览器会进行跳转,进入酒馆(SillyTavern)webui界面
如果游览器没有自动跳转,则可以在游览器输入 http://127.0.0.1:8000/ 进行访问
至此,酒馆的安装也就完成了
到了这一步,已经可以借助第三方接口进行角色扮演游戏了
但本教程是全本地部署方案,第三方接口教程放在最后
第四步:安装Ollama Download Ollama on Windows(下载地址)
Ollama
是一个支持在Windows
、Linux
和MacOS
上本地运行大语言模型的工具。它允许用户非常方便地运行和使用各种大语言模型,比如Qwen
模型等。用户只需一行命令就可以启动模型。
进入Ollama官网首页
根据你的系统进行下载,本文皆以Windows系统进行演示
双击进入安装流程
然后直接进行安装,Ollama默认安装在C盘,模型也会默认安装在C盘
如果想要把Ollama或者下载的模型放在其他盘里,需要修改系统环境变量
本篇是面向小白的谁都能搭建的基础教程,如果需要修改安装位置请参考具体教程
下载完成后,同样是打开cmd(win+r)输入cmd 输入命令 ollama --version
如出现下图,则证明安装成功
至此,Ollama的安装完成
第五步:安装本地语言模型
选择Ollama模型进行安装Ollama Search(下载地址)
进入模型安装界面,这里我们选deepseek-r1模型进行演示
这里下载的模型就是等会我们与人物进行对话时可选用的模型
如果你跟小b一样是3060Laptop的话,建议选择8b,勉强跑满以点也可以选择14b
同样的,打开命令行cmd(win+r)输入cmd 输入复制下来的命令,就会自动下载
等待下载完成后,输入命令 ollama list 对下载好的模型进行查看
如果能看到下载的模型,也就证明下载成功了
到这里已经可以和你本地部署的模型进行对话了 输入命令 ollama run deepseek-r1:8b
(输入你下载的模型)
至此,本地对话模型就算是搞定了,但我们的目标肯定不止于此
如果到这里都没出现错误,那么我们离胜利已经不远了,加油!为了玛奇玛!
第六步:安装Anaconda Download Now | Anaconda(下载地址)
根据自己电脑系统来进行下载即可,因为我的电脑是windows系统,本文章的所有环境都以windows系统来进行演示
StableDiffusion是基于python环境来启动运行的,anaconda是一个环境管理工具,能够加载各种依赖以及创造环境,十分方便管理,如果你电脑中已经有了anaconda或者python3.9以上的环境则可忽略这一步
找到安装包开始安装
然后全部点下一步即可,完成anaconda的安装
随后进行环境变量配置,如果没有配置环境变量会导致需要进入文件目录环境才能进行命令行操作
点击新建,将这几条anaconda路径输入进去
C:\Users\32449\anaconda3
C:\Users\32449\anaconda3\Scripts
C:\Users\32449\anaconda3\Library\bin
C:\Users\32449\anaconda3\Library\mingw-w64\bin
注意!要选择自己的真实安装路径,这是我的,不是你的,看你具体安装在哪个盘
然后验证一下是否安装成功 打开cmd (win+r)输入cmd 输入命令 conda --version
出现版本号就说明安装成功了,至此,conda环境准备就完成了
第七步:安装Stable Diffusion webui
首先我们要用刚才下载的anaconda创建一个Stable Diffusion的部署环境
打开cmd 输入命令 conda create -n sdwebui python=3.9
等待下载完成
会发现环境文件已经创建成功
打开cmd 启动环境 输入命令 conda activate sdwebui
当左边出现(环境名称)时,就说明已经启动了
然后使用git命令,将StableDiffusionwebui克隆到本地
在下载之前,可以先进入你想指定的文件下载路径
例如 cd /d C:\Users\32449\anaconda3\envs\sdwebui
然后输入命令 git https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
在项目文件中检查是否下载完成
进入stable-diffusion-webui文件,用记事本打开webui-user.bat文件进行修改
修改内容如下
@echo off
set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=--enable-insecure-extension-access --xformers --no-half-vae --api
call webui.bat
--enable-insecure-extension-access
:加载扩展
--xformers
:启用 xFormers库,用于优化 Transformer 模型的注意力机制
--no-half-vae
:禁用 VAE(变分自编码器)的半精度计算
--api
:启用 API 接口(重中之重,一定要加!)
然后回到我们刚才已经启动环境的cmd窗口
输入命令 cd /d C:\Users\32449\anaconda3\envs\sdwebui\stable-diffusion-webui
最后输入启动命令 webui-user.bat
就会开始加载依赖,进行下载
如果第一次下载失败,则再输入一次 webui-user.bat 会继续进行下载
当下载完成 输入 webui-user.bat 会进行启动 将会自动跳转至webui游览器界面
如果没有自动跳转 可在游览器输入 http://127.0.0.1:7860/ 进行访问
这里已经可以玩ai生图的功能了(当然!我们的目标同样也不是这里而已!)
如果出现char 等json传值错误,那是因为你开了某些东西的缘故,关掉再重新输入启动命令即可
至此,我们的Stable Diffusion Webui就算是安装完毕了
如果你需要关闭Stable Diffusion Webui就回到控制台界面按下ctrl+c 等待它询问是否停止终止批次处理操作输入y
第八步:在酒馆内整合所有模型一体化
进行这一步操作前,请确保第五步和第七步的模型开着,也就是语言模型和生图模型都开着
进入酒馆界面
一:配置语言模型接口
点击这个插头图标,进入api配置界面
二:配置生图模型接口
三:朗读功能TTS配置
四:对角色进行导入Character Tavern | AI Character Cards for SillyTavern & Others(角色卡下载地址)
选好角色卡后,点击Download Character Card进行下载
这里下载的是Stable Diffusion 出来的原型图,所以图片里面会有这些角色的所有信息
同样的,也可以自己去Stable Diffusion生成一张自己喜欢角色的原型图,将信息包含进去同样也是一张角色卡
点击从外部导入后选择我们下载的角色卡就能将我们的角色导入进去
五:点击角色进入对话
至此,本教程结束
快去跟自己的玛奇玛对话吧!!!
后记TPS
如果遇到角色一直重复一段对话,有可能是你的模型在你本机跑不动
在设置里面调一下重复惩罚权重,如果还是重复对话建议换一个对话模型
这里推荐一些下模型的网站,希望对各位能有帮助
StableDiffusion的模型网站
Civitai: The Home of Open-Source Generative AI
非常适合角色扮演的语言模型
Deepsex: 1st roleplay model! (unofficial)
结尾:感谢所有的开发者,因为有你们的开源,我们的生活才会更精彩