测评qwen 、glm ,deepseek的模型 对垂直领域的能力的支持情况对比

最新推荐文章于 2025-02-26 15:04:18 发布
最新推荐文章于 2025-02-26 15:04:18 发布
阅读量8.5k 收藏 20
点赞数 32
文章标签： 人工智能 语言模型 机器学习 神经网络 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_47958619/article/details/143096729
版权

前言：

​ 在写这篇文章的时候，我也看了许多测评的文章，总觉得差点意思，都是对通用能力的测评，或者是垂直领域的coder 或者是math能力，就不太适用于我目前的项目，对于任何一个公司开发项目肯定是数据是非常核心的，不能说去直接调用市面给用户使用的大模型的api,需要部署本地大模型进行使用。我的思路，通过本地部署大模型，通过开发平台进行对垂直领域的回答,把chatGPT作为专家模型，进行对比，最后选出参数合适，领域知识全面的模型进行使用，引入项目当中去。

一、模型的测评平台搭建

​ 通过开源项目Open_webUI和Ollama集成进行测试的项目地址我放到了下面

https://github.com/open-webui/open-webui

Download Ollama on macOS

1.Docker desktop的安装

1.1 Docker desktop下载

网址：https://www.docker.com/products/docker-desktop/

进入网址后：点击Download Docker Desktop,我这里是windows系统，可以选择“Download for Windows - AMD64” 和 “Download for Windows - ARM64”

主要有以下区别：

  1. “Download for Windows - AMD64” 是针对 64 位的 AMD 处理器架构设计的软件版本。

    • AMD64 架构在个人电脑领域广泛应用，具有强大的性能和广泛的软件兼容性。它能够处理大量的数据和复杂的计算任务，适用于各种高性能需求的场景，如游戏、图形设计、视频编辑等。
    • 很多主流的软件和游戏都针对 AMD64 架构进行了优化，以充分发挥其性能优势。

  2. “Download for Windows - ARM64” 则是针对 ARM64 架构的版本。

    • ARM64 架构主要用于移动设备和一些低功耗的计算设备，如智能手机、平板电脑和部分轻薄笔记本电脑。近年来，随着技术的发展，ARM64 架构也开始在桌面级电脑市场崭露头角。

    • ARM64 架构的特点是功耗低、续航能力强，适合对移动性要求较高的用户。

      我这里选择的是Download for Windows - AMD64，你根据你的需要进行选择即可

下载完成后你的目录就会有.exe的应用程序

具体的Docker desktop的安装不做过多的赘述，点击下一步下一步安装即可，安装好之后，打开软件主界面是：（这里我调整了主题是暗色系，正常是白色）

我们在 CMD 终端上看。

至此，Docker Desktop 安装告一段落，接下来就是在 安装Ollama平台和Open_webUI

2.Ollama的本地部署

进入网址：Download Ollama on macOS 根据你的需求进行下载即可，我这里直接下载的是windows版本，下载完成后也是在目录里出现了一个exe的文件，点击下一步进行安装即可

ollama部署完成后我们继续进入官网https://ollama.com/，搜索栏进行搜索选择你想用的模型

最低0.47元/天 解锁文章
人工智能 - DeepSeek-VL2 、 qwen2.5 VL技术选型比较
02-05 2782
建议根据具体任务需求，结合少量实验（如使用开源版本的Qwen2.5-VL和DeepSeek-VL的试用API）进行效果验证。（如医疗影像分析、视频内容审核），尤其在需要深度推理和高精度定位的场景。在视觉-语言（Vision-Language, VL）多模态模型领域，企业级付费服务 → DeepSeek-VL2（商用API）高性能服务器 → DeepSeek-VL2（千亿参数版）边缘设备/低算力 → Qwen2.5-VL（量化版）场景占优，且开源生态完善，适合中小团队快速迭代。→ 选Qwen2.5-VL。
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
丨汀、的博客
04-30 875
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
qwen2.5-max 和deepseek 比较
百态老人的博客
01-30 2099
是两个不同团队开发的大语言模型，各有其技术特点和适用场景。是垂直领域模型，技术类任务更专业。建议根据具体场景测试后再做选择。是通用型多模态模型，中文生态完善；
轻松部署 DeepSeek R1：基于 Ollama、Chatbox 平台的操作指南
热门推荐
暖风
01-25 2万+
打开浏览器，访问Ollama官网，点击“Download”进入下载页面。该平台支持Windows、macOS和Linux系统，苹果平台无论是Intel内核还是M1系列均能适配。：在Windows系统下，获取对应的exe应用程序后，双击启动安装程序。安装过程中，全程选择默认设置，点击“Install”后一路确认到底。安装完成后，程序会自动启动，此时在电脑右下角的托盘区域，你将看到Ollama的应用图标。ollama -v。
deepseekV3 qwen2.5 72B横向测评
u011005003的博客
01-08 1320
对大模型进行了相关测评
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2547
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
DeepSeek各模型现有版本对比分析
神的博客
02-23 3057
DeepSeek作为最近特别火爆的模型，本文将对DeepSeek现有的主要版本进行对比分析,涵盖参数规模、训练数据、功能改进、应用场景和性能表现等方面。
DeepSeek-V3 与 DeepSeek-V3-Base：两大模型对比解析
12-27 1万+
近年来，随着人工智能技术的飞速发展，大型语言模型（LLM）在自然语言处理、代码生成、数学推理等领域的应用越来越广泛。：在 MMLU、DROP、LiveCodeBench 等基准测试中表现优异，尤其在数学推理和代码生成任务中超越了许多开源和闭源模型。：开源 FP8 权重，支持 SGLang、LMDeploy、TensorRT-LLM 等工具，用户可在不同硬件平台上高效运行。：主要针对编程任务，尤其是在多语言编程测评中表现突出，适合开发者用于代码生成和优化。
【03】LLaMA-Factory微调大模型——多模型部署
H66778899的博客
07-17 3306
【03】LLaMA-Factory微调大模型——多模型部署
一文可懂国内外主流AI大模型
wangxi06的专栏
02-18 886
人工智能技术的飞速进步，正在重塑全球商业格局，其影响辐射到各个行业领域。大模型时代，开源与闭源模型不断涌现，大模型为AI领域注入了新的活力，基于开源大模型的应用如雨后春笋般出现，同时也为研究者和开发者提供了更广阔的创新空间。在此，梳理当前国内外主流的大模型，并赋予简单介绍。
大模型公开可用的模型检查点或 API
weixin_43961909的博客
05-03 1448
    众所周知，大模型预训练是一项对计算资源要求极高的任务。因此，经过预训练的公开模型检查点（Model Checkpoint）对于推动大语言模型技术的渐进式发展起到了至关重要的作用。得益于学术界和工业界的共同努力，目前开源社区已经积累了大量的模型检查点资源，用户可以根据自身研究或开发需求，灵活选择并下载使用这些检查点。此外，对于那些仅需利用模型进行解码生成的用户而言，商业公司提供的闭源模型的 API 接口也是一种便捷的选择。这些接口为用户提供了与模型进行交互的渠道，而无需关心模型内部的复杂结构和训练过程
DeepSeek与其他GPT模型的比较分析
2201_75642955的博客
02-02 2968
自适应注意力机制：DeepSeek引入了自适应注意力机制，使其在处理复杂语言任务时具有更高的灵活性和准确性。多任务学习框架：DeepSeek采用了多任务学习框架，能够在不同层次上捕捉语言的细微差别。多语言数据处理：DeepSeek引入了多语言数据，使其在多语言处理任务中表现更为出色。高质量训练数据：DeepSeek的训练数据经过了严格的清洗和筛选，确保了数据的高质量。
DeepSeek与其他大模型性能参数详细对比
胡萝卜不甜的博客
02-08 4022
DeepSeek 的混合专家架构和强化学习技术使其在计算效率和资源消耗方面表现出色，适合资源有限的环境。中文语境表现：DeepSeek 在中文语言理解与生成方面表现优于 GPT-4，生成的文本更符合中文表达习惯。推理能力：DeepSeek 在数学和逻辑推理任务中表现出色，超越了 GPT-4。成本效益：DeepSeek 的训练成本远低于 GPT-4，使其在商业应用中更具性价比。多模态能力：在多模态任务中，DeepSeek 的表现略逊于 Google Gemini。生成速度。
ChatGLM、DeepSeek、Qwen、Llama 模型对比
最新发布
学亮编程手记
02-26 1289
ChatGLM：中英双语对话与低显存部署的标杆，适合轻量级应用。DeepSeek：高效推理与多任务处理的技术突破者，适合企业级复杂场景。Qwen：中文长文本与垂直领域任务的优化专家。Llama：英文通用场景的经典选择，学术研究友好。
大模型研究：DeepSeek版本比较说明
ctotalk
02-08 6704
特点：这是专注于代码领域的模型。它基于海量代码数据进行训练，对各类编程语言的语法、语义有深入理解。能快速准确地完成代码补全、代码生成、代码解释、代码纠错等任务，在编程场景中为开发者提供高效的辅助。性能表现：在代码生成的准确性、生成速度和对复杂编程问题的处理能力上表现突出。例如，在一些代码生成基准测试中，它能够生成高质量、可运行的代码片段，极大提高开发者的编程效率。
DeepSeek 大模型每个版本的特点以及运用场景对比
Navy的博客
02-09 1万+
DeepSeek从V1到R1系列不断升级，参数规模从数十亿到6710亿，功能涵盖代码生成、长上下文处理、多模态支持和复杂推理，适用于技术文档处理、商业应用开发、教育辅导、跨模态交互等场景。R1系列进一步细分，满足不同配置和需求。
DeepSeek-R1,DeepSeek-V3,DeepSeek-VL,DeepSeek-V2,DeepSeek-R1-Zero各个模型区别
FPGA/MATLAB学习教程/源码/项目合作开发
01-29 1万+
DeepSeek-VL：DeepSeek-VL2 系列有 DeepSeek-VL2-Tiny、DeepSeek-VL2-Small 和 DeepSeek-VL2，分别具有 10 亿、28 亿和 45 亿个激活参数。DeepSeek-V2：基于高效且轻量级的框架 HAI-LLM 进行训练，采用 16-way zero-bubble pipeline 并行、8-way 专家并行和 ZeRO-1 数据并行。DeepSeek-VL：训练过程包括视觉-语言对齐、视觉 - 语言预训练、监督微调（SFT）三个阶段。
一文读懂！DeepSeek与其他大模型的差异探秘
2401_85375186的博客
02-11 7438
在大模型这个 “神仙打架” 的江湖里，DeepSeek 宛如一位横空出世的黑马大侠，迅速吸引了众多目光。它是由深度求索公司推出的人工智能大模型，一登场就凭借独特的 “武艺” 在大模型领域站稳脚跟。自诞生以来，DeepSeek 就以迅猛之势发展，在各大榜单上成绩斐然，在自然语言处理、代码生成等任务中表现亮眼，和那些早已名声在外的老牌大模型相比也毫不逊色，甚至在某些方面还更胜一筹。其之所以能如此 “出彩”，关键在于强大的技术实力。
开源模型新突破：DeepSeek-V3与Qwen2.5的颠覆性创新
2401_84204413的博客
01-17 2430
在全球人工智能模型快速发展的浪潮中，DeepSeek-V3和Qwen 2.5系列的亮相为开源模型注入了新的活力。这两大模型通过技术创新和高效优化，成功将训练成本和资源消耗降至最低，同时实现了与闭源顶级模型相媲美的性能。DeepSeek-V3技术报告报告内容详见：DeepSeek-V3模型–一个100%开源的LLM，在许多基准上击败了GPT 4o和Claude 3.5 Sonnet；一个强大的混合专家（MoE）语言模型，总参数为671B，每个token激活了37B。
国内各家公司的ai大模型排名
02-19
<think>好的，用户想要了解国内各家公司的AI大模型排名。首先，我需要确定用户的需求是什么。他们可能是在做市场调研，或者在选择合作伙伴，也可能是学术研究。不管怎样，用户需要的是一个综合的排名，涵盖主要公司和他们的模型。 接下来，我需要回忆国内有哪些主要的公司推出了大模型。百度、阿里、腾讯、华为这些大厂肯定有。然后是字节跳动、科大讯飞、商汤科技、智谱AI、MiniMax、零一万物等。可能还有一些初创公司，但用户可能更关注知名度高的。 然后，排名的依据是什么？通常包括技术能力、应用场景、商业化程度、开源情况、创新能力等。但用户可能想要一个综合的排名，而不是分项评估。不过直接说排名可能有主观性，需要说明这一点。 我需要先列出每个公司的模型，比如百度的文心一言，阿里的通义千问，腾讯的混元，华为的盘古，字节的云雀，讯飞的星火，商汤的日日新，智谱的GLM，MiniMax的ABAB，零一万物的Yi系列，还有百川智能和深度求索的模型。 接下来，按什么顺序排列？可能需要根据技术实力、市场影响力、应用范围来排序。百度、阿里、腾讯、华为这些大厂可能在前列，但讯飞、商汤这些专注于AI的公司也有竞争力。字节作为新入局的，但资源多，可能排名也不低。另外，像智谱AI这样的初创公司，虽然成立时间不长，但技术上有亮点，比如GLM-4。 需要注意的是，排名可能因评价标准不同而变化，比如有的模型在特定领域表现好，有的在商业化上更成功。此外，开源模型和闭源模型也有区别，比如百川和深度求索的开源模型可能在开发者中更受欢迎。 还要考虑最新动态，比如最近几个月有没有新模型发布，或者性能提升。比如讯飞的星火大模型3.5可能在某些评测中表现不错，而华为的盘古强调B端应用，可能在企业级市场有优势。 另外，用户可能想知道这些模型的特点，比如多模态能力、参数规模、应用场景等。所以在介绍每个公司时，需要简要说明其模型的特色和优势。 可能还需要提到政策和数据安全的影响，国内模型更注重中文环境和本土化需求，这也是一个优势点。 最后，要避免绝对化的排名，而是给出一个分档，比如第一梯队、第二梯队，或者按领域划分，这样更客观。同时提醒读者排名是动态变化的，可能存在主观因素，建议参考第三方评测。 总结一下，我的回答结构应该是：先说明排名的主观性和动态性，然后分公司介绍其模型和特点，最后给出一个分档排名，并建议参考具体需求选择模型。</think>国内AI大模型的竞争格局目前处于快速发展阶段，各家公司在技术能力、应用场景和商业化进展上各有侧重。由于评价标准不同（如技术性能、生态布局、行业影响力等），以下排名综合了技术实力、市场声量及实际应用情况，仅供参考（截至2024年7月）： --- ### **第一梯队（综合实力领先）** 1. **百度·文心一言（ERNIE Bot）** - 优势：依托搜索引擎数据和多年NLP技术积累，多模态能力突出，已迭代至4.0版本，覆盖搜索、内容创作、企业服务等领域。 - 生态：通过“文心大模型”开放平台赋能千行百业，商业化落地广泛。 2. **阿里云·通义千问（Qwen）** - 优势：参数规模达万亿级，开源版本（如Qwen-72B）受开发者关注，与阿里云生态深度整合，在电商、金融场景表现突出。 - 动态：通义2.5版本强化逻辑推理和长文本处理能力。 3. **科大讯飞·星火大模型（Spark）** - 优势：专注教育、医疗等垂直领域，语音交互能力国内领先，星火3.5版本在多项中文评测中排名前列。 - 应用：已落地智慧课堂、医疗辅诊等场景。 --- ### **第二梯队（技术突破/垂直领域领先）** 4. **字节跳动·云雀（Lark/Doubao）** - 优势：依托抖音、头条的海量数据，擅长内容生成与推荐，C端产品“豆包”用户增长迅速。 5. **华为·盘古大模型** - 优势：聚焦B端工业场景（气象预测、矿山调度等），联合昇腾AI生态，强调行业解决方案而非通用对话。 6. **智谱AI·GLM大模型** - 优势：清华系团队背景，GLM-4在多语言、代码生成能力突出，开源生态活跃（ChatGLM系列）。 7. **商汤科技·日日新（SenseNova）** - 优势：计算机视觉技术加持，多模态生成（如视频）能力较强，布局智慧城市、自动驾驶等场景。 8. **MiniMax·ABAB大模型** - 优势：聚焦AIGC赛道，旗下“海螺AI”在长文本生成和拟人化交互体验上有特色。 --- ### **第三梯队（快速追赶/细分赛道）** 9. **零一万物·Yi系列** - 亮点：李开复团队推出，Yi-34B曾登顶HuggingFace开源榜，长上下文处理能力突出。 10. **百川智能·Baichuan** - 亮点：王小川团队主导，Baichuan2开源模型在中文数学、代码任务表现优异。 11. **深度求索·DeepSeek** - 亮点：专注模型轻量化，DeepSeek-MoE架构在推理成本控制上有创新。 12. **昆仑万维·天工（Skywork）** - 动态：3.0版本支持万字上下文，重点布局海外市场。 --- ### **评价维度补充** - **开源影响力**：智谱AI（ChatGLM）、阿里（Qwen）、零一万物（Yi）的开源模型在开发者社区接受度较高。 - **垂直领域**：医疗（医联的MedGPT）、金融（恒生的Warren）、法律（幂律的ChatLaw）等赛道涌现专业模型。 - **政策支持**：北京、上海、深圳等地政府主导的联合实验室（如北京通用AI研究院）正推动国产算力与模型协同发展。 --- ### **争议与挑战** 1. **同质化竞争**：多数大模型在通用能力上趋同，差异化多依赖数据场景而非技术代差。 2. **算力瓶颈**：英伟达芯片限制下，国产算力（华为昇腾、寒武纪等）的适配仍需时间。 3. **商业化路径**：除云服务、API调用外，C端付费习惯尚未成熟，盈利模式待探索。 建议结合具体场景需求（如开源/闭源、中文理解、行业适配）选择模型，可参考权威评测（如SuperCLUE、C-Eval）的最新结果。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值