阿里云开源大模型开发环境搭建

最新推荐文章于 2024-05-19 00:00:22 发布
最新推荐文章于 2024-05-19 00:00:22 发布
阅读量510 收藏 3
点赞数 4
分类专栏： 人工智能技术与架构 应用软件系统技术与架构 文章标签： 阿里云 云计算 大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/uesowys/article/details/138376959
版权

ModelScope是阿里云通义千问开源的大模型开发者社区，本文主要描述AI大模型开发环境的搭建。

图片

如上所示，安装ModelScope大模型基础库开发框架的命令行参数，使用清华大学提供的镜像地址

图片

图片

如上所示，在JetBrains PyCharm的项目工程终端控制台中，安装深度学习基础库开发框架pytorch

图片

图片

如上所示，在JetBrains PyCharm的项目工程终端控制台中，安装深度学习基础库开发框架tensorflow

图片

图片

如上所示，在JetBrains PyCharm的项目工程终端控制台中，安装ModelScope大模型基础库开发框架

图片

如上所示，在JetBrains PyCharm的项目工程终端控制台中，安装ModelScope大模型多模态领域开发框架

图片

图片

如上所示，在JetBrains PyCharm的项目工程的测试代码中，使用分词器对原文执行分析操作，输出分词列表

https://www.modelscope.cn/models/qwen/Qwen1.5-1.8B-Chat/summary

如上所示，从ModelScope社区的模型仓库下载开源的千问大模型到本地

图片

如上所示，在JetBrains PyCharm的项目工程的测试代码中，加载开源的千问大模型，设置本地开发环境使用CPU设备

图片

如上所示，在JetBrains PyCharm的项目工程中运行测试代码完成

wangys2006
关注
  • 4
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
开源版本gpt3.5无需服务器搭建（阿里云函数）.rar
04-10
开源版本gpt3.5无需服务器搭建（阿里云函数开源版本gpt3.5无需服务器搭建（阿里云函数开源版本gpt3.5无需服务器搭建（阿里云函数开源版本gpt3.5无需服务器搭建（阿里云函数开源版本gpt3.5无需服务器搭建（阿里云函数...
本地部署开源大模型的完整教程：LangChain + Streamlit+ Llama
deephub
06-26 8923
通过LangChain和Streamlit我们可以方便的整合任何的LLM模型，并且通过GGML我们可以将大模型运行在消费级的硬件中，这对我们个人研究来说使非常有帮助的。作者：Afaque Umer。
开源的跨平台AI模型部署总有一款是你的菜
修炼之路
03-28 6729
Mediapipe是Google开源的一个跨平台模型部署项目 ，Mediapipe还提供了大量的开源模型。我们能够很方便的使用MediaPipe将模型部署在Android、IOS、Desktop、Web以及IOT设备上。
“开源 vs. 闭源：大模型的未来发展趋势预测“——探讨大模型未来的发展方向
热门推荐
想你依然心痛的博客
11-16 3万+
在当今快速发展的技术和商业环境下，大模型在各个领域都有着广泛的应用。然而，开源和闭源两种不同的开发模式一直是业界争论的热点。本篇文章将探讨这两种模式对大模型未来发展的影响，以及其中的利弊和走向。“开源”一词，起源于软件开发领域，其全称为“开放源代码”，在版权限制范围内，任何人都可以公开获取源代码，并进行修改甚至重新开发。与之相反，在闭源的情况下，只有源代码所有者掌握代码修改的权力，其他人只能向其购买软件。
大模型开源与闭源：优势与挑战
python12345_的博客
05-06 1153
随着人工智能技术的快速发展，大模型已成为许多领域的关键驱动力。但关于大模型的开源与闭源问题，一直存在争议。本文将深入探讨大模型开源与闭源的优势与挑战，帮助您更好地理解两者的优劣。：开源大模型允许全球范围内的开发者共同参与，集思广益，推动模型的持续创新。这种社区驱动的模式有助于加速技术的发展，提高模型的质量和性能。：开源大模型促进了技术的共享和交流。通过开源，研究者可以共享最新的研究成果、技术突破和创新实践，推动整个领域的发展。这种共享和交流也有助于避免重复造轮子，提高研发效率。
免费部署开源大模型 ChatGLM-6B
wangqiaowq的博客
11-27 2969
其他的不支持，这里注意！V100 性能更好，但我们测试使用没必要，就选 A10 就行，A10 显卡每小时消耗6.991计算时，如果不关机持续使用大概可以使用30天。输入实例名称，就叫它 550W 吧~，GPU 选择 A10 或者 V100 都行，我打开的时候只有V100 了 支持资源包抵扣。1、在阿里云上申请注册及登录并完成认证。进入工作空间 宣交互式建模（DSW）2、登录阿里云 免费试用 页面。
创新实训——阿里云搭建神经网络模型开发环境
UnLongChemin的博客
08-25 1566
1.安装python 默认python版本是 2.7.5，所以不需要安装 2.安装lua5.1 wget http://www.lua.org/ftp/lua-5.1.tar.gz tar -xzvf lua-5.1.tar.gz cd lua-5.1 make linux make install 3.安装luarocks（不必须，因为装torch会自动安装luarocks） ...
浅谈宇宙最强开源大模型Llama3如何应用
Trb701012的博客
05-01 1191
Llama系列模型由Meta公司开发，旨在通过大规模的参数和先进的Transformer架构，处理复杂的语言任务。Llama家族图谱2023年2月，Meta发布Llama-1 系列开源大模型，是当时性能非常出色的开源模型之一，有7B、13B、30B和65B四个版本。Llama-2 系列2023年7月，Meta发布了Llama-2系列，有7B、13B、34B和70B四个版本。2023年8月，Meta发布了Code-Llama，共有7B、13B、34B和70B四个版本。Llama-3 系列。
基于开源大模型Vicuna-13B构建私有制库问答系统
u011728347的专栏
05-18 4510
使用开发的大模型应用项目和大模型，部署一个私有知识库使用 基于开源大模型Vicuna-13B构建私有制库问答系统
阿里主流开源框架大汇总
公众号：微观技术
01-18 7779
Fastjson fastjson 是一个性能很好的 Java 语言实现的 JSON 解析器和生成器。 快速FAST (比其它任何基于Java的解析器和生成器更快，包括jackson）；强大（支持普通JDK类包括任意Java Bean Class、Collection、Map、Date或enum）；零依赖（没有依赖其它任何类库除了JDK）。 地址：https://github.com/alibab...
智能AI开源模型与大模型接口整理
01-29
8个开源模型（可本地部署）+7个大模型接口 1.说明 1.1 开源模型 1.2 大模型接口 2.开源模型整理 2.1 ChatGLM 2.2 Baichuan 2.3 Qwen 2.4 Yi 2.5 XVERSE 2.6 MOSS 2.7 ChatRWKV 2.8 GPT4All 3.大模型接口...
开源版本gpt3.5无需服务器搭建（阿里云函数）
04-18
开源版本gpt3.5无需服务器搭建（阿里云函数） 搭建前说明：此教程使用阿里云函数搭建，搜阿里云函数，开通，领取100万次调用。 此教程只是函数使用阿里云，数据库什么的不用动，如果你之前有版本上线，直接复制...
阿里云开源插件log-pilot搜集k8s部署应用容器内日志
06-27
阿里云开源插件log-pilot搜集k8s部署应用容器内日志
详解Angular 开发环境搭建
10-19
Angular 是一款开源 JavaScript 框架，使开发和测试变得更加容易,这篇文章主要介绍了详解Angular 开发环境搭建,需要的朋友可以参考下
实锤，阿里云盾会拦截百度云防护的IP！
云加速
05-15 281
可以说是实锤阿里云是拦截百度云防护的IP段的，当然不是每台服务器都拦截，可能是某些情况下触发了云盾的拦截规则，为了安全起见，建议站长放开0.0.0.0，或者由于阿里云盾不支持添加IP段白名单，我们提交工单联系阿里云把百度云防护的IP段加白。而客户反馈服务器内没有安装防火墙，那么只能是服务器商拦截的了，而客户用的阿里云服务器，就刚好默认有云盾，我们立马让客户登陆云盾（今天凌晨，一位站长联系上云加速客服，反馈说，网站突然出现了502的情况。），把添加0.0.0.0。结果添加完后，马上恢复了！
Linux CentOS 8.5 安装NTP时间服务器 chrony时间同步服务 阿里云NTP时间服务器+腾讯云NTP时间服务器
最新发布
tonyhi6的博客
05-19 573
特殊云服务,可能只有DMZ区域服务器可以访问特定的互联网地址,而应用服务器和数据库服务器不能访问互联网的。同步时间可以开通访问DMZ时间服务器.1 CentOS 8 默认使用的时间同步服务是 chronyd ,能够保持系统时间的同步更准确。3 chronyc 可配置。
在阿里云linux 3 arm64架构下部署jenkins ，升级jenkins版本
空
05-18 215
在阿里云linux 3 arm64架构下部署jenkins ，升级jenkins版本。
【阿里云】云服务器ECS创建搭建宝塔面板（解决无法通过8888端口访问）
Vinca@的博客
05-16 404
【阿里云】云服务器ECS创建搭建宝塔面板（解决无法通过8888端口访问） a. 在阿里云服务器 ECS 创建宝塔面板。b. 解决：无法通过8888端口访问宝塔面板。
开源大模型和混元大模型的区别
11-21
根据引用和引用的描述，开源大模型和混元大模型的区别如下： 1. 开源大模型：指的是模型的参数量非常大，但是模型的训练和预测代码是公开的，可以供大家使用和修改。例如BERT、GPT-2等模型都是开源的，可以在GitHub上找到它们的代码和预训练模型。 2. 混元大模型：指的是模型的参数量非常大，但是模型的训练和预测代码是私有的，只有少数公司或组织可以使用和修改。例如GPT-3和Switch Transformer等模型都是混元大模型，只有少数公司可以使用它们的预训练模型。 总的来说，开源大模型和混元大模型的区别在于代码的开放程度。开源大模型的代码是公开的，可以供大家使用和修改，而混元大模型的代码是私有的，只有少数公司可以使用和修改。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

wangys2006

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值