DeepSeek上线国家超算平台！671B满血版，三大运营商接入，玄铁芯片适配

于 2025-02-10 11:55:37 发布
阅读量296 收藏
点赞数
原文链接：https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247776488&idx=1&sn=b37a2c891f564b74f78e375f9eeabf19&chksm=e9749121939c5bd47d23e0a16872932647cfe6d7bd4fb0060f4c7ec73a14d377a8e13d7b0bc9&scene=126&sessionid=0
版权
梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

DeepSeek的含金量还在上升，一个半个周末过去发生这些大事：

  • 国家超算互联网平台上线DeepSeek-R1，最高支持671B的满血版。

b4726139a1db02b6b449e0ce1177bb21.png

  • 达摩院玄铁芯片成功适配DeepSeek-R1系列蒸馏模型，在RISC-V架构CPU和端侧平台打开新的应用空间。

af66b8c88bfc5282d5caf42eb77fe185.png

再加上春节期间的三大运营商全面接入DeepSeek等消息，它的影响力已不仅限于AI和互联网，正在往产业更深层进发。

总之，对于用户和开发者来说不用再看“服务器繁忙”的脸色，可以多换几个地方再试了。

65786a3bc27a40f983bbc513a49629d1.jpeg

随着官方服务器不堪重负，以及DeepSeek-V3 API优惠结束恢复原价，各大云服务商也抓住机会卷了起来。

e264f7ab54058c3bae3f5110e7df6fd7.png

云服务卷价格，新式芯片卷速度

腾讯云率先上线支持联网搜索的DeepSeek，结合自家旗下搜狗搜索提供搜索增强API。

ebdd3afdc320f8d4eba2c158d2377c7c.png

同时支持集成私域知识库，一键整合RAG。

05d27732b09097132a1c6ce2fd58c83b.png

商汤和阿里直接卷起了价格。

商汤大装置平台上3个月内可限时免费使用1000万tokens，同时支持128K最大上下文长度限制。

33df626c1d144b0182d7d22c282913c0.png

阿里云为新用户提供100万免费tokens，同时蒸馏版模型价格也比较低。

d3ea7fdfdaebd0fb0eb34495d4358563.png

与此同时，各类芯片正在输出速度上展开激烈竞争。

通用GPU方面，AMD员工透露MI300X上的DeepSeek-R1满血版速度比刚发布时已经快了3倍，并发布官方Docker Image镜像。

在英伟达与CUDA生态之外，提供AMD与ROCm的另一种选择。

d880764dcc993054525782366c523e3f.png

三大新型AI推理芯片Groq、Cerebras、Sambanova已经把DeepSeek-R1-Distill Llama-70B搞到了每秒500-1500tokens。

7e474b906b3764b791071b6bc5b6478f.png

快到你都看不清发生了什么，推理思维链完成了、代码写完了，一眨眼直接运行了。

△groq芯片运行DeepSeek-R1-Distill Llama-70B

One More Thing

还有一条有意思的消息，ai.com域名现在已定向到DeepSeek官网。

甚至有传言称是DeepSeek重金拿下了该域名。

7e5c95b3f2b39c52a2377a2d8a9046c5.png

不过一直关注大模型的朋友可能还记得，这个域名曾先后定位到ChatGPT和xAI。

大概率是域名所有人个人行为～

国家超算互联网平台
https://www.scnet.cn/
腾讯云DeepSeek专题
https://cloud.tencent.com/developer/special/deepseek
阿里云DeepSeek解决方案
https://www.aliyun.com/solution/tech-solution/deepseek-r1-for-platforms
商汤大装置
https://www.sensecore.cn

参考链接：
[1]https://x.com/AnushElangovan/status/1888006978959741390
[2]https://x.com/Dev__Digest/status/1887337604267332022

QbitAl
关注
博客
老黄唱衰编程，GitHub CEO硬刚：放弃写代码等于放弃智能体未来话语权
05-19 2
谈及Copilot的定价调整，由早期的10美元/月到如今的39美元/月，超额请求每次按0.04美元收费，CPO表示他们将持续评估商业模式的演变路径，以更好地支持代理模式运行。这也是GitHub推出Project Padawan的意义所在，他们希望能够让系统并行处理多个GitHub问题，引入SWE智能体后，开发者将实际成为多个智能体的。在当前的VS Code环境中，代理模式主要负责处理同步任务，正如多姆克所比喻的，这种关系类似于。在他的构想中，2025年是属于编程智能体的一年，但未来仍然属于全体人类程序员。
博客
23999元起，鸿蒙「折叠屏」电脑来了！展开比手机还薄
05-19 5
举个例子，华为MateBook Pro支持手眼协同跨屏写作和文件互传，手机电脑平板放到一起，眼镜看到哪里光标就移动到哪里，支持多个屏幕共享文件和剪贴板。铰链中的三段式转轴创新性地采用了中国古典文化中的榫卯架构，整个部件零焊接，使整台电脑更加紧密、稳固、可靠，做到了闭合无缝。这块“华为史上最好的屏幕”，分辨率高达3.3K，同时还首次在电脑当中使用了LTPO自适应刷新率，能耗降低了30%。说到这里，操控方面，这一次，华为是把自身在手机里已经运用得炉火纯青的手势控制大法，直接带到了鸿蒙电脑之中。
博客
英伟达新“桌面超算”800GB大内存，满血DeepSeek R1能装1个半
05-19 1
比如，Aerial和Sionna能够将AI带到5G和6G；老黄举了个例子，比如说滚动一个球，根据球的速度，它可能到了汽车底下或者汽车的另一边，但它没有消失；现场也特意用了DeepSeek R1模型的测试数据，每花费500万美元，RTX PRO Server的性价比是H100的四倍。老黄表示，人类要查询像SQL这样的结构化数据，而AI想要查询的是非结构化数据，因此需要打造新型存储平台，也就是。，内含总长两英里（3.218公里）的5000条铜缆，将每块芯片之间全互联，实现每秒14.4TB的全连接带宽。
博客
参数量暴降，精度反升！哈工大宾大联手打造点云分析新SOTA
05-19 5
实验结果表明，PointKAN以及PointKAN-elite在各个下游任务上相比于基于MLPs的点云分析架构都有出色的表现，特别是在小样本学习任务上，体现了KANs具有极强的泛化能力和知识迁移能力，更重要的是参数量和FLOPs都有明显的下降。另一方面，每一维输入的激活函数需要存储多个参数，对于大规模网络，KANs的内存需求可能成为瓶颈，并且KANs中使用的B样条函数对于现代硬件上的并行计算未进行优化，导致推理速度较慢。有理函数计算过程简单，非常适合并行计算，提高了模型的计算效率。
博客
华为+DeepSeek，推理性能创新高！技术报告也公布出来了
05-19 543
作为示例，华为团队使用2机16卡进行Prefill，4机32卡进行Decode，每卡部署8个路由专家和1个共享专家，MLA部分采用DP并行，并针对性地使用在真实负载下性能更优的AllGather/ReduceScatter的通信方案。，针对Prefill阶段的MLA层，通过张量并行（TP）与数据并行（DP）的灵活转换，消除节点内卡间求和操作，并利用网络低维特性与量化技术压缩通信数据量，显著降低跨卡通信时延，为大模型分布式推理提供更高效的通信支撑。因此在计算时延和吞吐的时候默认按照70%接受率来折算。
博客
全新GPU高速互联设计，为大模型训练降本增效！北大/阶跃/曦智提出新一代高带宽域架构
05-19 1
结果表明，InfiniteHBD在这两方面均具有明显优势，其互连成本仅为NVL-72的31%、TPUv4的63%，同时在能耗方面也处于最低水平，仅为NVL-72的75%，并且与TPUv4持平。随着故障率上升，基线方法的跨ToR流量线性增长，而优化算法在节点故障率低于7%时，持续保持近乎零的跨ToR流量，展现了出色的韧性和容错性。的愿景，致力于在算力需求大爆发的时代，通过光电混合算力新范式，为客户提供一系列算力提升解决方案，共建更智能、更可持续的世界。已经在筹备相关的集群建设，推动该领域的应用和实践。
博客
OceanBase全面拥抱AI！首发PowerRAG产品，CTO杨传辉详解AI战略
05-19 2
我们将形成AI时代从一体化存储（行存、列存、KV、文档、向量、倒排）到一体化计算（OLTP、OLAP、NoSQL、向量数据库、搜索、推理、RAG）的全方位布局，依托蚂蚁的丰富应用场景将OceanBase的“Data × AI”能力打磨成为新的核心竞争力，并逐渐服务外部客户，打造如分布式技术般的世界级AI数据底座。数据决定着大模型的能力上限，且依旧有很大挑战：一是数据的获取成本显著增加，二是严谨的行业数据稀缺且流动困难，三是多模态数据需要更强的处理能力，四是数据的质量评估难。无法数字化，就无法智能化。
博客
矩阵乘法可以算得更快了！港中文10页论文证明：能源、时间均可节省
05-18 225
与此前最先进的算法（基 Strassen的递归分治）相比，RXTX的递归关系式为 R(n)=8R(n/4) + 26M(n/4)，而原算法为 S(n) = 4S(n/2) + 2M(n/2)。尽管这类运算在统计、数据分析、深度学习和无线通信等领域有着广泛应用，例如协方差矩阵的计算和线性回归中的关键步骤，但对于具有特殊结构的矩阵乘法（如计算矩阵与其转置的乘积XX。实验显示，当n≥256时，RXTX的总运算量优于原算法；整体来看，这个基于4×4分块矩阵的递归乘法，通过机器学习搜索与组合优化相结合的方法发现。
博客
经典教材《泛函分析》作者逝世，享年99岁：首位获阿贝尔奖的应用数学家
05-18 542
这种体验必须亲身参与才能获得。1950年代，他频繁往返于纽约大学与洛斯阿拉莫斯，既参与氢弹研发中的流体力学计算，又深入研究双曲型偏微分方程的理论，逐渐形成 “用数学理解自然现象” 的独特方法论。他的离去标志着一个时代的终结，但他留下的遗产——从超级计算机的计算中心到孤子理论的方程，从跨学科的研究范式到 “数学统一” 的哲学观——仍在塑造着当代科学的面貌。在这位伯乐的引导下，拉克斯13岁便完成了匈牙利全国高中数学竞赛的试题，其解法足以斩获头奖（只是他年龄太小，不能正式参赛），展现出惊人的数学天赋。
博客
翁荔最新万字长文：Why We Think
05-18 27
Wang和Zhou（2024）研究发现：如果在第一个采样token处保留置信度最高的前k个候选（这个置信度是通过采样时top-1和top-2候选之间的差值来衡量的），然后用贪婪解码继续这些采样尝试，很多情况下模型会自动产生思维链。这些反馈可基于以下要素：真实答案匹配、启发式规则与任务特定指标、编程问题的单元测试结果（Shinn等，2023）、更强模型的指导（Zhang等，2024），以及人类反馈（Liu等，2023）。事实上，CoT有一个很好的特性，它允许模型根据问题的难度使用可变的计算量。
博客
打破56年数学铁律！谷歌AlphaEvolve自我进化实现算法效率狂飙，堪比AlphaGo“神之一手”
05-18 275
在谷歌内部使用中，它将Gemini架构中大型矩阵乘法运算加速了23%，从而将Gemini的训练时间缩短了1%，并且还将FlashAttention提速了32.5%。研究人员表示，评估指标会有一个非常微妙的限制，他举了一个具体的例子，比如在问题定义中内置时间约束，只关注能够在10分钟之内取得进展的搜索算法，探索算法空间。理念，对Gemini 大语言模型生成的多样化代码初始种群的每个算法进行适应度评估，对表现优异的代码保留、变异或组合，投入下一轮优化。
博客
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
05-17 52
比较了在Qwen-2.5-3B和LLaMA-3.2-3B模型上，使用PPO和GRPO算法的ZeroSearch性能，可以看到ZeroSearch与PPO和GRPO两种强化学习算法的兼容性。这表明ZeroSearch不仅适用于小型模型，还能在大型模型中发挥更大的潜力，为LLM的检索能力提升提供了广阔的空间。这些算法为模型提供了不同的优化策略，使得ZeroSearch能够在不同的模型和任务中表现出色。随着训练的进行，模型逐渐适应更复杂的检索任务，最终能够在高质量和低质量文档中找到平衡。
博客
带图推理碾压同类开源模型！港中文微软等开源OpenThinkIMG框架，教AI学会使用视觉工具
05-17 73
具体而言，需要先通过SFT进行“理论学习”（冷启动），然后通过V-ToolRL进行“上路实操”，根据任务完成情况获得奖励或惩罚，不断优化策略。未来，他们将继续扩展OpenThinkIMG支持的工具和模型，探索更复杂的任务场景，并期待与社区共同推动这一激动人心的领域向前发展。项目通讯作者为港中文。具体而言，随着训练的进行，模型平均调用的工具次数显著下降，说明它学会了“好钢用在刀刃上”，只在必要时才使用工具。这一算法让AI通过强化学习，在与视觉工具的真实交互中，从错误中学习，自主探索和掌握最佳的工具使用策略。
博客
OpenAI：GPT-5就是All in One，集成各种产品
05-17 42
相比以往，良好的软件工程实践越来越重要，包括清晰的代码模块划分、对关键功能的充分测试、高效的测试流程，以及便于快速审核的代码结构。虽然它目前仍处于研究预览阶段，但未来会进行改进，成为一个非常有用的工具。: 如何确保Codex用来增强人类开发人员的能力而不是取代他们，特别是那些依靠边做边学的初级开发人员和自学成才的程序员？作为强化学习领域的研究者，我们对这类研究方向感到兴奋，并且认为强化学习在LLM和编码领域的应用前景广阔。: GPT-5是我们的下一代基础模型，核心目标是提升现有模型的能力，减少模型切换。
博客
做AI眼镜，为什么一定要有定制化大模型 | 对话雷鸟创始人李宏伟
05-16 745
这件事情是蛮重要的，举个例子，比如你去徒步的时候，你一边走要一边举起手机来拍，体验就不太好，或者是你去旅行，在海外，比如在巴塞罗那的街头去City walk，你就不希望不断掏手机出来，你希望直接拍到，不管是照片还是视频，这样效果就比较好。比如芯片，我们也在跟一些芯片公司定制；带显示的眼镜，一方面可以把原来的体验做得更好，比如说第一视角的拍摄，现在我们第一视角的拍摄，因为没有显示，所以我们不知道当时拍的大概是什么样子，但有了显示之后，我就可以做预览，我就可以知道拍的什么样子，这样才能拍到我想要的画面。
博客
ChatGPT的记忆机制被公开了
05-16 29
但ChatGPT无法正确维护消息顺序，也无法在明确的时间范围内回忆，例如：“引用在过去一小时内发送的所有消息”，因此它应当是通过对话摘要和消息内容进行消息检索。，于是各路技术大佬开始着手破解起新记忆功能的具体机制和技术实现路径，甚至披露了连官方都没有透露的聊天记录系统的三大子系统细节。首先是大家最熟悉的保存记忆系统，简单、用户可控，用以保存用户自定义信息，例如你的姓名、喜欢的颜色或饮食偏好。好的方面，记忆系统帮助ChatGPT平台上的OpenAI模型，提供比API更好的用户体验。欢迎在评论区多多留言讨论～
博客
GPT-4V仅达Level-2？全球首个多模态通才段位排行榜发布，General-Level打造多模态通用AI评测新范式
05-16 183
不同Scope相当于不同范围和难度的子排行榜，允许能力各异的模型各展所长，从“全能冠军赛”一路覆盖到“单项能力赛”， 既保证了顶尖通才模型有舞台角逐全能桂冠，也让普通模型能选择合适范围参与比较，降低了社区参与的门槛。在这些技能背后，General-Bench跨越了29个跨学科知识领域，囊括自然科学、工程、医疗、社会科学、人文学科等，从图像识别到跨模态推理、从语音识别到音乐生成、从3D模型到视频理解与生成，应有尽有。”这一问题的回答上，过去常用的多模态大模型评测方法是堆砌多个任务的成绩。
博客
超越OpenAI、拿下全球双料第一，“AI吴彦祖”背后大模型SOTA了！
05-16 578
AI教育硬件方面，MiniMax为听力熊团队提供底层模型支持，专为青少年解决学习、生活中的各种问题，不局限于问题回答，还可以进行适当的反馈和情感表达，兼顾教育与陪伴场景。就在年初，MiniMax还完成了MiniMax-01系列开源，包含两个模型，基础语言大模型 MiniMax-Text-01 和视觉多模态大模型 MiniMax-VL-01，为开源社区提供优质选择。，这种架构创新极大地提升了模型的计算效率，降低了成本，尤其在处理超长文本场景中，展现出显著的可扩展性。此外，研究团队还探索了模型的多种下游应用。
博客
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
05-15 193
模型并行与数据并行结合：将400亿参数拆解为128个分片，分布在不同节点进行 “模型并行” 训练，同时每个节点处理独立的数据批次（“数据并行”），通过DisTrO优化器同步梯度更新。并且，旋转位置嵌入的运用，有效解决长序列位置依赖问题，从多维度保障了训练的高效性与模型性能的优质性。以往类似规模的模型训练往往需要耗费大量的资源和时间，并且通常是由大型科技公司或专业研究机构凭借其雄厚的资金和算力优势来完成的。这一设计彻底摆脱了对传统云服务商高带宽网络的依赖，即使是家用宽带连接的GPU，也能稳定参与训练。
博客
梁文锋署名DeepSeek新论文：公开V3大模型降本方法
05-15 57
简单来说，下一代AI硬件要向算数快（低精度计算+本地细粒度量化）、传话快（直连网络+智能路由）、记性好（3D内存+近存计算）、不宕机（自愈网络）的方向改进，才能更好地应用于大模型训练，实现高效扩展。针对计算效率低的问题，下一代的AI硬件需要提高累积寄存器的精度，支持FP32累加，或可配置精度（如训练用FP32，推理用FP16）。DeepSeek-V3采用类似的思路，其总参数虽然是6710亿，但每次仅激活370亿参数，训练成本仅为同规模稠密模型的1/10（如Llama-3.1的训练成本是其近10倍）。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值