lf43131314-CSDN博客

原创 AI大模型本地化部署Q/A硬件篇

若用于服务器，建议选择涡轮散热加底部供电的版本，这主要是出于散热和机箱空间的考虑。虽然启动服务时涡轮卡的噪音会比3风扇卡大，但在大模型推理时，300的版本已足够使用。这里推荐的是Qwen1.5 72B模型，它的中文处理能力可与GPT4相媲美，属于中文大型模型的佼佼者。- 8卡魔改2080Ti则提供174G显存，在vllm框架下，Qwen1.5 72B能处理30k上下文或达到35T/s的速度。- 市场上的服务器多为淘汰品，购买时务必选择提供一年保障的商家，避免购买价格高且可能被筛选过的尾货。

2024-07-25 15:09:29 643

原创一文带你了解火遍全网的“AI大模型”

这里的关键是模型的大小和速度。从2020年起，中国的大模型进入了高速发展阶段，如今，中美两国大模型的数量占全球大模型数量的近90%，中国大模型数量已进入第一梯队。不少人称2023年为大模型元年，不管是技术的创新和成熟，还是应用的广泛认知，都可以看出来，AI大模型行业进入了一个新的发展阶段。这就是大模型的一种，而大模型之所以大，正是因为参数量大，GPT-3的参数量1750亿，GPT-4的参数量达到1.8万亿。随着核心技术的突破，产业生态的持续完善，利用场景的深化，训练数据的打磨，大模型时代的序幕才刚刚拉开。

2024-07-25 15:08:17 1432

原创 AI技术在博物馆中的应用现状如何

未来随着技术的不断进步和应用场景的不断拓展，AI技术在博物馆领域的应用将更加广泛和深入。博物馆通过数字技术实现了馆藏文物的数字化，包括文物的数字化信息采集、储存、分析和处理，从而全面精确地再现文物的形式、结构、装饰等信息。AI技术在文物修复与考古研究方面发挥重要作用，如通过AI智能计算分析文物的三维模型，提取文物的几何特征信息，计算特征相似性，为文物修复和考古研究提供量化支撑依据。基于自然语言处理技术的AI应用，如ChatGPT等，能够为博物馆提供策展、讲解导览、藏品管理、文创开发、研究咨询等服务。

2024-07-25 15:07:23 474

原创 AI大模型入门基础教程（非常详细），AI大模型入门到精通，收藏这一篇就够了！

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。大模型时代，企业对人才的需求变了，AIGC相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。天道酬勤，你越努力，就会成为越优秀的自己。

2024-07-25 15:06:36 298

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

原创 AI大模型本地化部署Q/A硬件篇

原创 一文带你了解火遍全网的“AI大模型”

原创 AI技术在博物馆中的应用现状如何

原创 AI大模型入门基础教程（非常详细），AI大模型入门到精通，收藏这一篇就够了！

空空如也

空空如也

原创一文带你了解火遍全网的“AI大模型”