飞桨星河社区实战指南：速通大模型API服务开发项目全攻略

于 2025-02-21 20:54:58 发布
阅读量208 收藏
点赞数
文章标签： paddlepaddle 数据库 人工智能
原文链接：https://mp.weixin.qq.com/s?__biz=Mzg2OTEzODA5MA==&mid=2247659415&idx=1&sn=b17409ec9af07e336c792b23d4b53f22&chksm=cfcfcb606ea5f50f91cfc056095fcf47b7c3e55cad57342d698bc35795ea325f9c91aad57a5a&scene=126&sessionid=0
版权

b6f6b82514c09c7643551126532f9c62.gif

你是否还在为服务器拥堵、API调用费用高昂而烦恼？是否渴望安全高效地运行各类模型？快来飞桨星河社区玩转AI！

飞桨星河社区是面向AI学习者的人工智能学习与实训社区，充满活力、鼓励创新，无论你是技术爱好者还是企业开发者，都能在这里找到从初学者到专家的全方位生态支持。社区提供了丰富的算力资源，助力开发者顺利进行模型训练和推理，为AI项目的开发提供了坚实的算力保障。

一文带你了解飞桨星河社区大模型 API 服务、模型部署服务、边学边练实训活动，让你的AI开发简单高效！

01f8427370537bc72315ee162711ca48.png

星河社区大模型API

星河大模型 API 是为开发者提供的一套基础的大模型 API 服务，提供文心全系列、DeepSeek等大模型能力。该大模型 API 服务兼容 openai-python SDK，开发者可以直接使用原生的 openai-python SDK来调用文心等大模型服务。

在使用 openai-python 调用大模型 API 服务时，仅需简单填写以下信息

  • 指定 api_key = "令牌(Access Token)"

  • 指定 base_url = "https://aistudio.baidu.com/llm/lmapi/v3"

  • 指定 model = "ernie-4.0-turbo-8k

API 密钥获取方式：登录飞桨星河社区，在「个人中心」查看访问令牌，详见下图

b827b69f57dcb5b7b45cf59d95f4a8bc.pnghttps://aistudio.baidu.com/account/accessToken

支持的模型列表：

a39055de3f61605e026a0045e5b42c9f.png

限时福利发布，DeepSeek-R1满血版服务API免费调用，不限量！

  • 指定 api_key = "令牌(Access Token)"

  • 指定 base_url = "https://aistudio.baidu.com/llm/lmapi/v3"

  • 指定 model = "deepseek-r1"

*DeepSeek-R1 限时免费，免费调用 Tokens 无上限（免费截止时间待定，以后续站内通知为主）

61065e978ce1b4ed83fcbaa600106745.png

全新上线DeepSeek一键部署功能

模型部署服务层面，在飞桨星河社区支持使用PaddleNLP部署调用DeepSeek系列、LLaMA 系列、Baichuan 系列、Bloom 系列、ChatGLM 系列、Gemma 系列、Mistral 系列、OPT 系列和 Qwen 系列等更多模型，模型列表持续更新中！详细列表👉

【LLM】模型参数支持列表

https://github.com/PaddlePaddle/PaddleNLP

🔥 飞桨星河社区模型部署功能全新升级，2 步实现模型服务化部署，提供OpenAl API兼容的调用接口，支持将大模型服务集成到任意第三方工具，如Cursor、Dify等，轻松跨越技术门槛！

🔥 开发者友好型权益再次升级，DeepSeek-R1-Distill系列模型免费部署！不限时！功能升级初期上架DeepSeek-R1蒸馏全系列模型（见下方列表）：

  • DeepSeek-R1-Distill-Qwen-1.5B

  • DeepSeek-R1-Distill-Qwen-7B

  • DeepSeek-R1-Distill-Llama-8B

  • DeepSeek-R1-Distill-Qwen-14B

  • DeepSeek-R1-Distill-Qwen-32B

  • DeepSeek-R1-Distill-Llama-70B

*DeepSeek-R1-Distill 1.5B-70B 限时免费部署，免费部署时长无上限（免费截止时间待定，以后续站内通知为主）

操作方法见详细说明

https://aistudio.baidu.com/blog/detail/32

9f469eafb9aec055ee00d5d6a47a4b00.png

乘风破浪，AI 进阶

实战训练营全面助学

飞桨星河社区致力于为AI开发者提供全面的学习资源，2-3月，多场实战营等你来学！课程内容涵盖从模型部署调用、微调到应用开发的全流程。无论你是初学者还是技术达人，都能在这里找到属于自己的学习路径。从理论到实践，一站式解决AI开发难题，千万Tokens与千元京东卡等你拿！

首先推荐《大模型API服务：从大模型调用到应用实战》课程 ，尽情体验各类大模型的强大能力：

  • 快速入门 ：通过星河社区大模型API服务，轻松几步完成文心全系列模型、满血版DeepSeek-R1调用！

  • 模型开发 ：利用平台模型开发部署能力，掌握文心大模型、DeepSeek模型训练、微调、蒸馏全系列能力。

  • 实战案例 ：我们还准备了丰富的实战应用项目，比如 RAG（检索增强生成）、Agent开发等，让你边学边练，掌握AI开发的核心技能！

课程链接

https://aistudio.baidu.com/education/group/info/33550

86c94c11ccf2f122e56191ce2567dc67.png

创新不止步，学习不设限！无论你是想探索文心全系列大模型，还是尝试DeepSeek、LLaMA等其他开源模型，星河社区都将为你提供最全面的支持和最丰富的资源。快来加入我们，一起玩转大模型吧！与顶尖开发者同台竞技！

图片

图片

图片

图片

图片

图片

关注【飞桨PaddlePaddle】公众号

获取更多技术内容~

‍

‍

百度大脑
关注
博客
下一站，星辰大海！
03-23 3253
3月23日上午9点30分，百度正式在香港联交所上市，股票代码9888。这是继2005年在纳斯达克上市后，我们在香港的第二次上市——16年间，百度已经从一家搜索引擎公司成长为具有强大互联网基础的领先 AI 公司。 百度董事长兼 CEO 李彦宏“在百度最初的10年，我们专注于搜索引擎...
博客
百度AI的2020
12-31 1万+
世界的2020，是充满不确定性的变局之年；中国的2020，是团结一心、共克时艰、于变局中开新局的希望之年；百度 AI 的2020，是坚定信念，拥抱变化，践行“科技为更好”的实干之年。回望2020年，抗击疫情中，百度 AI 第一时间贡献了科技抗疫、保护生命安全的温度和力量；复工复产和高质量发展中，百度 AI 是促进创新、构建新格局的新动能；我们的工作和生活中，百度 AI 在你搜索的每一条信息和知识里、在地图导航的叮咛声中、在国际会议的同传字幕上、在工厂的无人质检设备上、在自动驾驶出租车持续拓展的里程上……
博客
人民日报举办2020智慧媒体高峰论坛，百度智能云助力发布人民日报创作大脑
12-25 2175
人工智能、云计算、5G等新兴技术正在加快媒体行业智能化升级步伐。12月24日，人民日报举办“2020智慧媒体高峰论坛”，发布人民日报“创作大脑”，以百度智能媒体中台为技术底座，共同打造了媒体一站式智能创作平台，致力于加速媒体行业智能化变革，开启智能媒体新时代。中华全国新闻工作者协会党组书记刘正荣，人民日报社副总编辑赵嘉鸣，中国工程院院士邬贺铨，中国人民大学教授、博导，中宣部媒体融合专家组成员宋建武，人民日报社新媒体中心主任丁伟，百度首席技术官王海峰等参加了论坛。（12月24日，中华全国新闻.
博客
快到飞起！不用代码，一分钟体验二十个开源模型
12-02 7939
开源模型效果体验，废话不说，先上图：看到如此神奇，是不是手痒现在就想体验？步骤非常简单！Step1: 点击https://ai.baidu.com/easyedge/home进入百度EasyEdge端计算模型生成平台Strp2: 点击“立即使用”进入操作中心后，选择“体验开源模型”，点击想体验的模型，拿出手机（安卓苹果皆可）扫码，自动安装，等待几秒钟，即可打开APP实时体验各类模型的效果。这就是EasyEdge平台最近升级给开发者提供的“开...
博客
分分钟搞定POC？速速掌握AI开发和落地？百度EasyDL“万有引力”计划带着机会来啦
10-12 3812
世界瞬息万变，虽有颗进步的心但总跟不上节奏是一种什么体验？当高楼里又迸发出因财富自由而激动的呐喊声时，你在不分昼夜地闷头POC；当24岁程序猿辞职去环游世界时，你才懵懂地开始摸索转型AI开发；当别人正观赏阿拉斯加的鳕鱼跃出水面时，你纠结在深度学习模型的训练中……技术从业者之间的差距就是这样，一转眼，别人就“神奇地”飞跃有钱又有闲了，但似乎自己进步的速度总跟不上时代发展的脚步。秘诀到底是什么？百度EasyDL联合战略合作伙伴intel重磅推出的“万有引力”计划了解一下。学会使用工具“弯道超车”好吗？（文末还有
博客
太初元碁联合飞桨为百家企业提供高性能 AI for Science 端到端方案
05-16 111
近年来，大模型技术在生物信息学领域成果斐然，尤其在蛋白质结构预测方面取得革命性突破，备受全球关注，获得科学界和产业界的高度认可。未来，飞桨将与太初元碁继续深化在高性能科学计算、智能模拟、自动化研究等方向联合攻关，共同推动 AI for Science 从实验室走向产业落地，加速科研范式变革。这一成果打破了 DeepMind 在该领域的技术垄断，同时完成了商业化落地。直播（飞桨PaddlePaddle 视频号、飞桨B站），面向生物科研人员与 AI 开发者，聚焦 AI 模型在国产芯片上的预测能力与实战部署。
博客
大模型创新进入深水区，倒计时6天百度“文心杯”点燃 AI 产业突围
05-14 302
2024年是我们在创业之后遇到的融资环境最差的一年，但是反而在这一年，我们的产品更加成熟了，更多的投资人、客户看到了我们。”百度通过连接云服务、算法能力及业务资源，为参赛团队构筑全链路护城河，百度生态系统不仅提供技术底座，更通过大赛形成“技术-声量-信任-商业转化“的增长飞轮。更重要的是，我们不是去替代科学家，而是让他们的智慧聚焦在更高层的创造上面。百度生态给我们的支持源于其对于应用的持续投入，百度的算力资源、文心大模型、百度智能云都是我们的隐形地基。"百度文心杯创业大赛"官网，在倒计时6天内押注未来。
博客
第二届「兴智杯」全国人工智能创新应用大赛线上报名开启！
05-13 957
建立科学的监督评价考核体系，以确保各项工作处置到位。面向硬件芯片、加速卡、服务器、一体机、智算集群、解决方案商等在内的对象，征集基于国产飞桨深度学习平台、国产文心大模型的 AI 软硬件系统及解决方案，从适配技术、适配性能、落地应用等维度开展评估，遴选一批可实际落地应用的国产全栈 AI 软硬件系统及解决方案。面向工业、终端、能源、矿山、网络通信、医疗、金融、城市、文旅等关键行业的实际需求，提供真实业务场景数据，挖掘一批能够解决具体行业中特定场景发展痛点问题的作品方案，推动人工智能技术在千行百业中的赋能应用。
博客
燃爆2025开源之夏｜飞桨开源社区向全网开发者发出挑战！
05-12 1049
在 OCR、文档解析等领域通过技术创新，研发出业界重磅特色方案，基于 PaddleX 版面解析 V3（PP-StructureV3）产线，结合大语言模型，支持对文档图像的多语种翻译工作，并且能够支持 PDF 转为 word/LaTex，恢复正确版面顺序。开源之夏是由中国科学院软件研究所“开源软件供应链点亮计划”发起并长期支持的一项暑期开源活动，旨在鼓励在校学生积极参与开源软件的开发维护，培养和发掘更多优秀的开发者，促进优秀开源软件社区的蓬勃发展，助力开源软件供应链建设。
博客
倒计时两周！百度“文心杯”创业大赛亿元奖金池等你来冲
05-07 155
前两届大赛总计收到了国内外2500余支创业团队报名，获奖项目覆盖办公、泛文娱、电商、营销、金融、医疗等各个应用方向，获得了超过2亿元级的资金支持，也成为了百度重要的生态伙伴。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金+资源”组合投资，全面赋能大模型技术创新与应用落地。百度将以“文心杯”为起点，持续加码推动AI基础设施建设及应用落地，通过技术开源、算力普惠和商业资源协同，与开发者共同构建AI原生应用的中国范式。最高7,000万人民币的特别投资。
博客
线上/线下赛任务全流程培训来啦！智能汽车竞赛百度智慧交通组
05-06 1387
参赛队伍需综合运用深度学习、图像识别、大模型、具身智能等技术，完成规定的任务。按参赛队最优成绩排名，设一等奖、二等奖、三等奖。在今年的线上练习赛中，线上练习赛将采取“报告式”任务，让大家全流程开展人工智能模型试验，通过标准化的训练，使选手掌握产业级人工智能模型开发及部署经验。智能车尺寸、控制器、执行器、传感器、结构、轮子、电源等均有详细规定，且必须使用飞桨开源深度学习平台完成模型的训练、推理和部署。包括参赛队组建、赛制说明、比赛过程（搭建智能车与编程、赛前准备、启动、重试、自主返回基地、比赛结束）等。
博客
PaddleOCR实现精准定位！香港企业Sigtica为加拿大头部高校打造法律文档智能检索系统
04-30 1045
1.1→(a)→(i)”、“第3.1(a)(ii)条→附注★”），而法律条款的层级关系必须完整保留，以支持学术研究的追溯与分析。在此类文档面前，传统OCR工具难以区分主条款与解释性文本，更无法还原条款间的逻辑关联，导致搜索结果缺乏上下文语境，同时通用OCR模型无法精准识别特殊符号标记（如★※§）及行业术语的，导致语义偏差。从扫描件“数字化”到内容“知识化”，析提加的解决方案展现了AI在垂直领域的精细化落地能力，这种以技术迭代驱动价值延伸的模式也正在为法律行业智能化转型勾勒出清晰的演进路径。
博客
飞桨实现插件式硬件图接入方案，模型推理加速2.2倍
04-30 945
对于一个融合后的OP，真正执行时需要多个硬件kernel 完成，厂商通过kernel 融合技术将部分硬件kernel 融为一个，减少了engine_op 内部的硬件kernel 数量（从159 个下降到58 个)，从而减少了硬件调度开销和kernel 执行的IO 开销。成为具有执行硬件信息的kernel Program，执行器将按照kernel Program 中的OP 顺序逐个执行，其中子图OP 的编译执行托管至硬件厂商定义的CustomEngineBuild 和 CustomEngineRun 方法。
博客
PaddleScience完成与沐曦AI芯片适配，AI驱动科学计算再提速！
04-28 568
沐曦致力于为异构计算提供安全可靠的GPU芯片及解决方案，打造全栈GPU芯片产品，推出曦思N系列GPU用于智算推理，曦云C系列GPU用于通用计算，以及曦彩G系列GPU用于图形渲染，满足“高能效”及“高通用性”的算力需求。当前，PaddleScience已与包括沐曦在内的多家国产AI芯片企业展开深度合作，涵盖智能仿真、高性能计算、科学建模等多个方向。PaddleScience将持续开放异构算力支持，提升科学研究建模效率、降低AI入门门槛，为科研机构、高校和工业界提供更强大、灵活、高效的AI科研引擎。
博客
百度发布文心4.5 Turbo、X1 Turbo两大模型，王海峰详解背后技术
04-25 725
文心大模型的能力拓展和效率提升，得益于飞桨文心的联合优化。后训练方面，百度研制了自反馈增强的技术框架，基于大模型自身的生成和评估反馈能力，实现了“训练-生成-反馈-增强”的模型迭代闭环，不仅解决了大模型对齐过程中，数据生产难度大、成本高、速度慢等问题，而且显著降低了模型幻觉，模型理解和处理复杂任务的能力大幅提升。代码智能体，基于智能体的理解、规划、反思，以及工具调用能力，用自然语言对话，即可实现应用的自动开发，并支持多轮交互，迭代优化代码质量，实现了无代码编程，让人人都可以成为程序员。
博客
文心4.5Turbo、X1Turbo和多款AI应用发布！李彦宏：应用创造未来
04-25 192
文心大模型X1 Turbo是基于文心大模型4.5 Turbo的深度思考模型，性能提升的同时，具备更先进的思维链，问答、创作、逻辑推理、工具调用和多模态能力进一步增强，整体效果领先DeepSeek R1、V3最新版。未来的AI应用将从回答问题，走向任务交付，而任何一个复杂任务的交付，都需要多智能体协作来解析需求、分拆任务、调度资源、规划执行，最终交付结果。高说服力数字人的背后，是由内容丰富的多模剧本驱动的，能够实现台词与数字人表情、语气、动作的高度融合，以及顺畅的情绪转折和动作切换，表现“超拟真”。
博客
开单效率暴增30倍！“数字销冠”的AI密码：飞桨+文心大模型双引擎驱动
04-24 696
场景二：语音输入开单时，客户一般会一次性念十几二十种商品，除了数量多，更难的是，用户口音差异可能会导致生成内容存在误差，比如王总的火锅食材配送开单时，曾将“独大蒜”识别为“毒大蒜”，“包包菜”识别为“巴巴菜”，“鲜苕粉丝”识别为“轩少粉丝”，“绿豆粉”识别为“罗豆粉”等。好业财希望能够通过人工智能的布局和落地，实现基于人机交互的数据分析和洞察，让 AI 成为解放传统财会专业人员的数字助理，将其从原先滞后的审核流程工作中解脱出来，进阶到提前发出财会层面的决策预警，推动财务安排更加合理和精细化。
博客
Wan2.1和HunyuanVideo文生视频模型算法解析与功能体验丨前沿多模态模型开发与应用实战第六期
04-23 75
HunyuanVideo使用了一个预训练好的多模态大语言模型(MLLM) Llama作为text encoder，这种设计具有如下优势：（1）与T5相比，MLLM经过visual instruction finetuning后其特征空间中的图像-文本对齐更好，（2）与CLIP相比，MLLM具有更好的图像细节描述和复杂推理能力，（3）MLLM可以作为一个zero-shot learner，通过跟随用户提供的prompt，帮助文本特征更多地关注关键信息。为了消除这种冗余，CP组内的设备最初读取不同的数据。
博客
大模型训练代码开发再提效——3行代码就能实现分布式训练！飞桨框架3.0自动并行功能现已正式上线！
04-22 182
mesh = dist.ProcessMesh([[2, 4, 5], [0, 1, 3]], dim_names=['x', 'y']) 定义了6个设备的拓扑结构，并定义了 ProcessMesh 2个轴的名称分别为 x 和 y，分别对应设备的第 0 维和第 1 维；具体来说，自动并行引入统一的分布式张量表示，用户仅需通过轻量级 API 进行张量切分标记，框架即可自动推导出所有张量和算子的分布式切分状态、并插入高效的通信算子，实现不同的分布式并行策略。
博客
「技能树成长计划」项目征集：点亮技能分支，成为“全能开发者”！
04-21 512
在活动期间，月度基础分累积可用于季末兑换礼品，当月有2篇以上项目获得“精品项目”认证的开发者，月底可统一参与社区的高级抽奖，中奖率为100%，奖品价值均在100积分以上，活跃创作者每月享有一次这样的超值兑换机会。」项目征集活动‌ ，社区继续以创新与协作的姿态，诚邀您基于文心大模型、飞桨框架3.0等全栈国产技术，开发创新应用与解决方案，共同塑造AI新标杆！学习&开发ERNIE 4.5、飞桨框架3.0、PaddleNLP、PaddleMIX、PaddleX及行业实战案例、智能硬件等相关精品项目，
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值