- 博客(7)
- 收藏
- 关注
原创 书生·浦语大模型 笔记作业 合集
https://blog.csdn.net/kuangkaiming/article/details/135457808https://blog.csdn.net/kuangkaiming/article/details/135507266https://blog.csdn.net/kuangkaiming/article/details/135507304https://blog.csdn.net/kuangkaiming/article/details/135518864https://blog
2024-01-30 09:38:53 387 1
原创 书生·浦语大模型 笔记+作业 LMDeploy 大模型量化部署实践
将训练好的模型在特定软硬件环境中启动的过程,使模型能够接收输入并返回预测结果。为了满足性能和效率的需求,常常需要对模型进行优化,例如模型压缩和硬件加速项目地址: https://github.com/InternLM/lmdeployInternLM 实现在Nvidia设备(服务端)上部署LLM的全流程解决方案turbomind。
2024-01-25 14:34:34 882
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人