搞大模型必备的4种开源工具
太变态了!搞大模型必备的4种开源工具打死都不能删除,自己偷偷用起来!
视频链接: https://www.bilibili.com/video/BV17ysSeWETe
本人从这个视频教程中,整理的,如下:
模型平台
模型的管理
数据集的管理
各类功能模型的排行榜
- huggingface
地址:https://www.hugging.co
(科学上网) - 魔搭 (国内)
地址:https://www.modelscope.cn/
模型定制
模型能力定制
- pytorch
地址:https://pytorch.org/
- LLama-Factory
地址:https://github.com/hiyouga/LLaMA-Factory
Easy and Efficient LLM Fine-Tuning
那这个门槛就会低一些
模型部署
Ollama 是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。
地址: https://ollama.com/
模型应用
应用开发
应用部署
应用监控
- langchain
地址: https://python.langchain.com/ - llamaindex
地址: https://www.llamaindex.ai/