- 博客(5)
- 收藏
- 关注
RSS订阅原创 使用ollama本地部署大模型作为idea编码插件或者龙虾的算力(ollama,qwen,vllm)
之前我们是使用vllm部署的大模型,但是vllm虽然速度快,但是会在启动后把大模型直接塞到显存里一直占用,显存小的显卡根本跑不了什么模型,所以我们这次选择从ollama部署,相对于vllm速度快,并发高,适合商用,ollama更适合你在自己机器折腾ollama不仅会用显存,在显存不够的情况下,还能使用内存来进行扩展,如果你的内存够大,即使是4050 6G的显卡也能流畅跑qwen3-30b的模型,流畅度对于普通使用基本够用。
2026-06-02 16:54:26
205
原创 easy-excel fill+模板的情况下 如何合并单元格
easy-excel 导出excel时,遇到需要保留模板内的格式和表头等,在使用模板+fill模式填充数据的情况下,单元格合并比较麻烦先试用fill导出数据到内存,在内存中使用poi对需要合并的单元格进行操作。
2026-04-27 13:19:41
127
原创 保姆级windows/linux安装vllm+dify运行千问教程,零基础
系统环境:设备名称 DESKTOP-SAT4K70系统 windows11处理器 13th Gen Intel(R) Core(TM) i5-13600K (3.50 GHz)机带 RAM 64.0 GB (63.7 GB 可用)显卡 NVIDIA A5000 24G需安装环境:wsl windows上docker跑起来的前提显卡驱动powershel目的：确认是否安装了 WSL 2。如果提示“不是内部命令”，说明我们需要先安装。powershell目的。
2026-04-16 17:02:30
500
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人