大模型快速部署，以浪潮源2.0为例

于 2024-08-09 17:35:49 发布
阅读量57 收藏
点赞数 1
文章标签： 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46503355/article/details/141067555
版权

step1: 申请PAI-DSW试用

在这里插入图片描述

step2：魔塔社区授权

在这里插入图片描述

在这里插入图片描述

由于本地授权一直失败，于是采用了魔塔免费平台实例进行学习。

搭建好之后，打开就有相关页面了：

在这里插入图片描述

demo搭建：

按照官方提示的步骤进行搭建，内容如下：

输入命令

文件下载

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

在这里插入图片描述

环境安装

pip install streamlit==1.24.0

在这里插入图片描述

启动demo

streamlit run AICamp_yuan_baseline/Task\ 1：零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

在这里插入图片描述

然后点击链接，先加载一段时间的模型，然后就开始尝试对话

在这里插入图片描述

尝试对话的结果如下：

在这里插入图片描述

在这里插入图片描述

试音刀郎
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
大模型微调工具-torchtune
weixin_40777649的博客
08-08 506
1.定义2.安装3. 案例。
根据哈希值或者特征值判断图片是否相同
最新发布
Y_warmth
08-09 301
detectAndCompute 方法结合了特征检测和描述符计算两个步骤，可以在图像中检测出特征点并计算这些特征点的描述符。ORB（Oriented FAST and Rotated BRIEF）是一种结合了 FAST 特征检测器和 BRIEF 描述符的特征提取算法，具有旋转不变性和尺度不变性，适用于图像特征匹配、目标检测等任务。接着使用 ORB 对象的 detectAndCompute() 方法检测图像中的特征点并计算描述符，最后将特征点绘制在图像上并显示出来。
Crowd-SAM：SAM作为拥挤场景中目标检测的智能标注器
AI浩
08-06 900
问题定义。如图1所示，我们的目标是在标记数据很少的情况下，检测拥挤场景中的对象（如行人）。我们将此问题表述为一类小样本检测任务。常见的小样本流程是将数据分为基础集和新集。不同的是，我们直接使用目标类的数据进行模型训练，因为基础模型已经在大规模数据上进行了训练。特别是，我们采用分割掩码作为中间结果，这些结果可以很容易地转换为边界框。在训练和评估过程中，仅提供边界框标注。对SAM自动生成器的初步研究。提示数量会影响SAM的性能，我们针对拥挤场景分析了这一问题。
电脑技巧：9个免费的AI图片无损放大工具和网站
08-05 933
今天小编给大家介绍9款免费的AI图片放大工具和网站，帮助你提高图片清晰度，感兴趣的朋友可以自己试一试！美图设计室是美图秀秀公司推出的一款在线图片编辑和设计工具箱，提供包括AI 抠图、AI海报、AI PPT、AI消除、AI文生图、AI变清晰、AI无损放大等AI图片编辑工具。其提供的图片无损放大功能，目前是限时免费中，可以帮助用户将JPG、JPEG、PNG、HEIC等格式的图片放大清晰不失真，细节更丰富。✅ 产品优点由美图推出，产品功能稳定，处理速度较快支持免费进行图片放大到8倍。
pytorch下载慢，如何下载到本地再去安装，本地安装pytorch
weixin_53035684的博客
08-09 193
本地安装torch
目标检测的详细介绍
极客栈
08-05 761
目标检测是一项复杂的计算机视觉任务，它不仅需要识别图像中的对象类别，还需要精确地定位每个对象的位置和大小。
RPA+AI有什么应用？6大技术融合方向分析 | 实在RPA研究
SHIZAIZHINENG的博客
08-06 1038
随着数字化转型的加速，企业正寻求更高效、智能的方法来优化业务流程。机器人流程自动化（RPA）作为一种快速兴起的技术，已经证明了其在自动化重复性任务方面的能力。然而，当RPA与各种人工智能（AI）技术相结合时，其潜力将得到更全面的释放。本文将探讨不同的AI技术如何与RPA结合，以及这种结合为企业带来的变革性应用方向。机器学习 (ML)使系统能够从数据中学习和改进提高预测准确性，自动化决策制定风险管理、欺诈检测、个性化推荐银行使用ML增强RPA进行信用评分和欺诈识别计算机视觉 (CV)
Python面试题：结合Python技术，如何使用PyTorch进行动态计算图构建
码农超哥的博客
08-06 600
PyTorch 是一个流行的深度学习框架，它通过动态计算图（Dynamic Computation Graphs）来支持自动微分（Autograd）。动态计算图的特点是每次前向传播时都会构建新的计算图，这使得它非常灵活，适合处理可变长度的输入和复杂的模型结构。以下是如何使用 PyTorch 构建动态计算图的步骤和示例：导入必要的库：定义模型：创建输入数据：前向传播：反向传播：更新参数：以下是一个简单的线性回归示例，演示了如何使用动态计算图： 关键点解析 动态计算图：在 方法中，每次调用都会构建新的计算
打造智能障碍物检测系统：从零开始的深度学习项目
a871923942的博客
08-05 1069
随着自动驾驶技术的发展，障碍物检测成为保障行车安全的重要一环。通过深度学习模型，尤其是YOLO（You Only Look Once）模型，可以高效、准确地检测道路上的障碍物，从而提高自动驾驶系统的安全性和可靠性。
线性代数课程概要介绍
08-07 867
线性代数课程内容丰富，主要围绕向量、矩阵和线性变换等核心概念展开，旨在培养学生的空间直观和想象能力、抽象思维和逻辑推理能力。线性代数是理工科大学生必修的数学基础课之一，也是硕士研究生入学全国统一考试中必考的数学课程之一。它不仅是离散化和数值计算的理论基础，还广泛应用于自然科学、社会科学、工程技术、军事和工农业生产等领域。
python识别车辆标志
weixin_45570158的博客
08-09 297
要使用Python来识别车辆标志，你通常会用到计算机视觉库，如OpenCV，结合深度学习框架如TensorFlow或PyTorch。这里我将提供一个基于OpenCV和TensorFlow（使用预训练模型，如MobileNetV2）的基本示例。
如何释放生成式AI潜力？物联网技术是关键
趣味科技v
08-08 470
在生成式AI热潮席卷全球的今天，物联网（Internet of Things，简称IoT）技术正在成为充分释放生成式AI潜力的关键。近日，在亚马逊云科技汽车暨制造与消费电子行业峰会上，亚马逊云科技全球副总裁、物联网技术负责人Yasser Alsaied指出，生成式AI需要持续不断产生的高质量数据作为基础，而物联网相当于“数据收集器”，可以通过传感器或智能摄像头等采集的精准数据，为大模型后续的推理与...
【知识】PyTorch中的数据类型dtype
xfxuezhang.cn
08-09 903
对数据类型有个大致的了解还是很必要的
sheng的学习笔记-AI-k近邻学习（kNN)
coldstarry的专栏
08-07 449
k近邻（k-Nearest Neighbor，简称kNN）学习是一种常用的监督学习方法，是一种基本的分类与回归方法。分类问题：对新的样本，根据其 k 个最近邻的训练样本的类别，通过多数表决等方式进行预测。回归问题：对新的样本，根据其 k 个最近邻的训练样本标签值的均值作为预测值。
开源力量：PlugLink如何重塑中文AI技术生态系统（附源码）
AI心易行者
08-08 1031
随着中文互联网生态的蓬勃发展，AI技术的应用正以前所未有的速度改变着我们的工作与生活。在这股洪流之中，——一个专注于链接AI技术与实际业务场景的开源应用，正在悄然引领一场技术与运营的融合革命。本文将深入剖析PlugLink如何巧妙地将AI技术融入日常工作流程，提高效率，降低成本，同时，我们也将一窥其内部机制，并探索如何利用它来解决中文环境下的特定挑战。
昇思基础课程打卡（SPONGE课前学习）9.使用静态图加速
cftang9999的专栏
08-06 685
AI编译框架分为两种运行模式，分别是动态图模式以及静态图模式。MindSpore默认情况下是以动态图模式运行，但也支持手工切换为静态图模式。
人工智能在教育上的应用3-脑洞大开高中数学与人工智能的出题方向，未来的趋势方向
weixin_42878111的博客
08-07 881
大家好，我是微学AI，今天脑洞大开，想到高中数学与人工智能的出题方向，未来的趋势方向。在当前人工智能迅速发展的背景下，将高中数学知识与人工智能技术相结合，不仅可以加深学生对数学概念的理解，还能激发他们对人工智能的兴趣。本文通过自己的奇思妙想，结合人工智能技术的高中数学题目。
新一代AI软件基础设施 | ZStack AIOS平台“智塔”发布
ZStack_io的博客
08-06 959
ZStack正式发布新一代AI基础设施AIOS平台“智塔“，在算力层、模型层、运营层帮助企业实现以AI为核心的重构，同时解耦算力竖井和模型竖井，优化AI应用性能和成本，解锁千亿级企业AI市场。
JeecgBoot 低代码平台快速集成 Spring AI
JEECG官方博客
08-05 658
JeecgBoot 是一款基于代码生成器的低代码开发平台！前后端分离架构 SpringBoot2.x和3.x，SpringCloud，Ant Design Vue3，Mybatis-plus，Shiro，JWT，支持微服务。强大的代码生成器让前后端代码一键生成，实现低代码开发!JeecgBoot 引领新的低代码开发模式(OnlineCoding-> 代码生成器-> 手工MERGE)， 帮助解决Java项目70%的重复工作，让开发更多关注业务。既能快速提高效率，节省研发成本，同时又不失灵活性！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值