![](https://img-blog.csdnimg.cn/direct/dbc3bfbef28d4df9b85af24927f3cc2e.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
大模型
文章平均质量分 94
大模型学习之路,包括:训练、推理、压缩,RAG应用部署...
猫哥说
IT男
展开
-
FastAPI:在大模型中使用fastapi对外提供接口
文档: https://fastapi.tiangolo.com源码: https://github.com/tiangolo/fastapiFastAPI是一个用于构建 API 的现代、快速(高性能)的 web 框架,使用 Python 并基于标准的 Python 类型提示。快速:可与 NodeJS 和 Go 并肩的极高性能(归功于 Starlette 和 Pydantic)。最快的 Python web 框架之一。高效编码:提高功能开发速度约 200% 至 300%。更少 bug。原创 2024-06-10 22:04:41 · 1084 阅读 · 0 评论 -
RAG:如何从0到1搭建一个RAG应用
检索增强生成)是一种强大的工具,整合了从庞大知识库中检索到的相关信息,并以此为基础,指导大型语言模型生成更为精准的答案,从而显著提升了回答的准确性与深度。2020 年,Meta AI 研究人员提出了RAG的方法,用于提高 LLM 在特定任务上的性能。信息滞后:LLM 的知识是静态的,来源于当时训练时的数据,也就是 LLM 无法直接提供最新的信息。模型幻觉:实践表明,当前的生成式 AI 技术存在一定的幻觉,而在一些常见的业务应用中,我们是希望保证事实性的。私有数据匮乏。原创 2024-06-10 16:12:21 · 1017 阅读 · 0 评论 -
streamlit:如何快速构建一个应用,不会前端也能写出好看的界面
Streamlit是一个开源的Python框架,供数据科学家和AI/ML工程师使用,只需几行代码即可交付交互式数据应用程序。官方给出了非常多的组件使用案例,在编写代码时请结合官方文档+pycharm的代码提示+函数注释,函数注释中一班都给出了组件的具体使用修改完布局后,刷新访问网站,可以实时查看更改后的结果,无需重新Streamlit是一个用于构建数据科学界面的Python库,它使得创建交互式应用程序变得非常简单。原创 2024-06-10 10:55:50 · 1051 阅读 · 0 评论 -
大模型学习资料整理:如何从0到1学习大模型,搭建个人或企业RAG系统,如何评估与优化(更新中...)
学习:从小白如何入手,从0到1开始学习大模型。RAG系统:我想搭建属于自己或者企业的RAG系统,我该怎么去做?评估:微调后的模型或者RAG系统,如何评估自己的模型和系统?有哪些工具集、数据库、指标可以使用?优化:怎么去优化RAG系统?包括:prompt工程,LLM选择,embedding选择,数据清洗,如何分块,检索,二阶段检索等原创 2024-06-01 13:59:34 · 1001 阅读 · 0 评论