ComfyUI-Phi-3-mini 项目教程
1、项目介绍
ComfyUI-Phi-3-mini 是一个将微软的 Phi-3-mini-4k-instruct 模型引入到 ComfyUI 中的开源项目。该模型体积小、速度快,性能强大,可媲美 GPT-3.5 和 Mixtral 8x7B。Phi-3-mini-4k-instruct 模型开源且可商用(MIT 许可),在中文表现上非常出色,适用于生成/补全提示词或进行多轮对话。
项目支持系统提示词、单/多轮对话双模式,并支持中文输入自动并输出英文提示词。详细功能包括:
- 节点:
Phi3mini 4k ModelLoader
:自动下载模型Phi3mini 4k
:支持系统指令设置Phi3mini 4k Chat
:支持系统指令设置 + 多轮对话
2、项目快速启动
环境依赖
transformers>=4.40.0
安装步骤
- 卸载旧版本 transformers(如果已安装):
pip uninstall -y transformers
- 安装最新版本 transformers:
pip install git+https://github.com/huggingface/transformers
- 手动安装 ComfyUI-Phi-3-mini:
cd custom_nodes git clone https://github.com/ZHO-ZHO-ZHO/ComfyUI-Phi-3-mini.git cd ComfyUI-Phi-3-mini pip install -r requirements.txt
- 重启 ComfyUI
3、应用案例和最佳实践
应用案例
- 生成提示词:使用
Phi3mini 4k
节点生成高质量的英文提示词。 - 多轮对话:利用
Phi3mini 4k Chat
节点进行多轮对话,支持系统指令设置。
最佳实践
- 集成到工作流:将
Phi3mini 4k
和Phi3mini 4k Chat
节点与其他 ComfyUI 节点(如ComfyUI-Gemini
中的DisplayText_Zho
)结合,构建复杂的工作流。
4、典型生态项目
- ComfyUI-Gemini:一个与 ComfyUI-Phi-3-mini 兼容的生态项目,提供了丰富的文本处理节点,可用于构建更复杂的工作流。
通过以上步骤和案例,您可以快速上手并充分利用 ComfyUI-Phi-3-mini 项目,实现高效的文本生成和多轮对话功能。