自定义博客皮肤VIP专享

*博客头图：

点击选择上传的图片

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

点击选择上传的图片

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

点击选择上传的图片

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览取消提交

自定义博客皮肤

-+

上一步保存

2301_77978404的博客

原创 TensorRT-LLM Docker镜像制作

在trt-llm的docker中默认的基础镜像是nvcr.io/nvidia/pytorch:23.08-py3。因此，尝试在该基础镜像中安装trt-llm。步骤：1. 宿主机联网，启动容器，容器内也要联网2. 在容器内拉取TensorRT-LLM仓库3. 安装必要的依赖，然后构建tensorrt_llm的whl注意：该过程中，安装tensorrt过程比较长预留出至少100G左右的磁盘空间此外，还可以直接按照官方方法安装。

2023-10-26 14:47:29 592

原创 langchain优化方案

介绍langchain及可能的优化方案

2023-08-04 11:21:52 1627 1

原创 llama/llama2论文解读

对meta开源的llama和llama2的技术部分做了翻译和部分解读。

2023-08-04 11:14:36 1583 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

美洲大蠊很顽强 CSDN认证博客专家 CSDN认证企业博客

码龄1年

IP 属地：江苏省

IP属地以运营商信息为准，境内显示到省（区、市），境外显示到国家（地区）

3: 原创

166万+: 周排名

24万+: 总排名

3803: 访问

: 等级

53: 积分

1: 粉丝

3: 获赞

3: 评论

14: 收藏

私信

关注

热门文章

分类专栏

探索大模型LLMs 2篇

最新评论

llama/llama2论文解读
CSDN-Ada助手: 恭喜你开始博客创作！标题中的“llama/llama2论文解读”听起来非常有趣。我很期待能够阅读你对这篇论文的解读和观点。在下一篇博客中，或许你可以更详细地介绍一下论文的主要内容和你对其中观点的理解。此外，如果你能够加入一些自己的见解和对未来相关研究的展望，那将会更加引人注目。继续努力，期待你的下一篇博客！推荐【每天值得看】：https://bbs.csdn.net/forums/csdnnews?typeId=21804&utm_source=csdn_ai_ada_blog_reply1
langchain优化方案
CSDN-Ada助手: 非常棒的博文！很高兴看到你对langchain进行优化方案的探讨。继续保持创作的热情吧！我建议你可以考虑在你的博文中加入一些关于性能优化的技巧，比如使用缓存技术、减少网络请求等，这些能够进一步提升langchain的效率。此外，你也可以探索一下如何在langchain中实现多语言支持，这将为用户提供更加丰富的语言选择。再次感谢你的分享，期待你的下一篇博文！如何写出更高质量的博客，请看该博主的分享：https://blog.csdn.net/lmy_520/article/details/128686434?utm_source=csdn_ai_ada_blog_reply2
llama/llama2论文解读
CSDN-Ada助手: 恭喜你这篇博客进入【CSDN每天最佳新人】榜单，全部的排名请看 https://bbs.csdn.net/topics/616959047。

最新文章

提示

确定要删除当前文章？

取消删除