ComfyUI-Phi-3-mini 项目使用教程
1. 项目介绍
ComfyUI-Phi-3-mini 是一个将微软 Phi-3-mini-4k-instruct 模型引入到 ComfyUI 中的开源项目。Phi-3-mini-4k-instruct 模型体积小、速度快、性能强,能够媲美 GPT-3.5 和 Mixtral 8x7B。该模型开源可商用(MIT 许可),中文表现优秀,可用于生成/补全提示词或进行多轮对话。
项目版本为 V1.0,支持系统提示词、单/多轮对话双模式,并支持中文输入自动并输出英文提示词。
2. 项目快速启动
环境依赖
transformers>=4.40.0
安装步骤
-
手动升级 transformers 库
pip uninstall -y transformers pip install git+https://github.com/huggingface/transformers
-
使用 ComfyUI Manager 安装(推荐)
请参考 ComfyUI Manager 的官方文档进行安装。
-
手动安装
cd custom_nodes git clone https://github.com/ZHO-ZHO-ZHO/ComfyUI-Phi-3-mini.git cd ComfyUI-Phi-3-mini pip install -r requirements.txt
-
重启 ComfyUI
安装完成后,重启 ComfyUI 以使更改生效。
3. 应用案例和最佳实践
应用案例
- 生成/补全提示词:使用 Phi-3-mini-4k-instruct 模型生成或补全提示词,适用于需要高质量提示词的场景。
- 多轮对话:支持系统指令设置和多轮对话,适用于需要进行复杂对话的场景。
最佳实践
- 系统提示词设置:在节点中设置系统提示词,以指导模型生成更符合预期的输出。
- 多轮对话管理:利用多轮对话功能,确保对话的连贯性和一致性。
4. 典型生态项目
- ComfyUI-Gemini:一个与 ComfyUI 兼容的项目,提供了多种文本处理节点,可与 Phi-3-mini-4k-instruct 模型配合使用。
- Hugging Face Transformers:提供了丰富的预训练模型和工具,是 Phi-3-mini-4k-instruct 模型的基础依赖库。
通过以上步骤,您可以快速启动并使用 ComfyUI-Phi-3-mini 项目,结合应用案例和最佳实践,充分发挥其强大的功能。