- 博客(101)
- 资源 (27)
- 收藏
- 关注
RSS订阅原创 InternLM 2.5 书生·浦语 开源大模型本地部署体验
上海人工智能实验室发布了书生·浦语（InternLM）新开源版本，增强了在复杂场景下的推理能力，本文介绍在本地进行部署和推理……
2024-08-24 00:41:59
378
原创 MiniCPM-V 2.6 面壁“小钢炮”，多图、视频理解多模态模型，部署和推理实战教程
MiniCPM-V 最新发布了 2.6 版本，仅 8B 的参数量，但在图片、视频方面理解能力表现卓越，本教程在本地进行部署和推理实战……
2024-08-14 23:31:31
693
2
原创 vLLM CPU和GPU模式署和推理 Qwen2 等大语言模型详细教程
vLLM默认并不支持纯CPU模式部署和推理模式，老牛同学应网友要求，根据vLLM官网整理vLLM在CPU模式下如何部署和推理大语音模型，并以Qwen2为了进行验证和演示……
2024-08-11 14:57:27
928
原创 PyTorch 训练自定义功能齐全的神经网络模型的详细教程
PyTorch 是一个开源的机器学习框架，可以方便地进行神经网络模型训练和推理。本文基于 PyTorch 演示了一个非常简单但是功能齐全的神经网络训练过程，无论模型权重有多大，使用 TyTorch 训练的过程是类似的，期望本文能启到抛砖引玉的作用……
2024-08-02 23:48:48
1064
1
原创 太卷了，阿里云免费1个月大模型算力额度，玩转Llama3.1/Qwen2等训练推理
阿里云百炼平台发布推文，提供30天免费算力额度，助力玩转 Llama3.1 训练推理。老牛同学首当其冲，去体验一把，本文详细记录了整个过程，同时给出了老牛同学的一些想法，欢迎交流学习……
2024-07-27 01:34:02
1110
1
原创 基于 Qwen2 大模型微调技术详细教程（LoRA 参数高效微调和 SwanLab 可视化监控）
本教程详细介绍了 LoRA 参数高效微调技术，包括数据集准备和处理、模型加载、参数设置等，然后以 Qwen2-0.5B 预训练模型实践，进行了文本分类能力微调，微调过程通过 SwanLab 可视化界面查看，最终微调模型进行测试数据评估……
2024-07-20 00:27:50
1637
1
原创 LivePortrait 数字人：开源的图生视频模型，本地部署和专业视频制作详细教程
数字人最近比较火，LivePortrait 是快手、中科大和复旦大学联合研发的开源的图生视频模型，比较适合个人、小团体和企业等用于生成自己的数字化人物视频。老牛同学尝试通过本教程，详细介绍如何在本地部署和生成专业视频……
2024-07-14 13:50:57
3430
1
原创 Ollama完整教程：本地LLM管理、WebUI对话、Python/Java客户端API应用
Ollama可以非常方便的管理和部署我们本地大语言模型，老牛同学希望通过本文对Ollama进行一次详细介绍，包括本地大模型管理和使用、WebUI对话界面部署、通过Python和Java使用Ollama的API接口等……
2024-07-10 23:24:01
3715
1
原创 基于Qwen2/Lllama3等大模型，部署团队私有化RAG知识库系统的详细教程（Docker+AnythingLLM）
大语言模型在垂直细分领域存在知识局限、幻觉、数据安全等一些问题，可通过RAG（检索增强生成）方案来解决。本文基于AnythingLLM框架，搭建团队私有知识库系统，并进行使用和验证，RAG系统在保留输出的有效性同时，还保留了创造性……
2024-07-06 15:48:56
2176
2
原创 阿里Qwen2-72B大模型已是开源榜的王者，为什么还要推出其他参数模型，被其他模型打榜？
阿里Qwen2-72B大模型已是开源榜的王者，为什么还要推出其他参数模型，被其他模型打榜？
2024-07-04 23:07:59
949
1
原创 Google 发布了最新的开源大模型 Gemma 2，本地快速部署和体验
Google 重磅发布了最新版大语言模型Gemma 2，其中 90亿 参数版本适合我们个人在笔记本本地部署，老牛同学通过本文和大家一起，通过2种方式快速部署和体验，当然这2种快速部署模型的方式，也同样适用于其他大模型……
2024-07-02 23:16:28
2708
2
原创 使用Llama3/Qwen2等开源大模型，部署团队私有化Code Copilot和使用教程
代码辅助工具（Code Copilot）可以提高团队代码研发效率，能有效帮助产品快速上市抢占先发优势，但同时又需要保证代码和信息隐私，私有化Code Copilot是保护隐私的重要手段。老牛通过本文，详细介绍通过开源大模型，部署私有化Code Copilot和使用教程……
2024-06-30 01:03:55
1514
3
原创 大模型应用研发基础环境配置（Miniconda、Python、Jupyter Lab、Ollama等）
大模型应用研发的第一步，就是研发环境的配置，好的工具和环境是提升研发效率的关键，最基础的配置包括Miniconda包管理器、Python SDK、Jupyter Lab WebIDE、Node.js SDK、Ollama本地模型管理器、Ollama WebUI可视化对话界面等……
2024-06-25 23:12:49
1381
1
原创 Phi-3 模型手机部署教程（微软发布的可与GPT-3.5媲美的小模型）
Phi 是微软AI研究院新推出的开源小型语言模型，适用于商业使用，其优势在于体积小、资源需求少，被称为“一个能跑在手机上的大模型”，我们通过Termux和Ollama工具，在我们手机上部署和体验……
2024-06-23 10:08:51
1324
3
原创 Stable Diffusion 3 大模型文生图“开源英雄”笔记本部署和使用教程，轻松实现AI绘图自由
Stability AI正式开源了Stable Diffusion 3 Medium 文生图大模型，它仅20亿参数，就能够生成更高质量和更细腻的图片；因模型尺寸较小，它适合在个人PC、笔记本电脑上运行。老牛同学手把手部署和体验SD3……
2024-06-18 20:07:53
1670
1
原创 [AI资讯·0618] 快手AI模型“可灵“在质量优于Sora，OpenAI和谷歌发布新技术推动AI视频推理发展，Gemini1.5Pro在该榜单中表现突出
快手新AI模型"可灵"在视频生成质量上优于Sora，在细节处理、对中国元素理解及适合中国用户方面表现突出；LumaAI同样能生成高质量两分钟视频，具备“电影感”功能以及图片+提示词生成视频的能力；Direct 3D采用3D Diffusion Transformer技术路线；中国首个超长时长、高性价比大模型“视界一粟YiSu”发布，推动视频生成技术发展
2024-06-18 08:00:38
1361
原创 [AI资讯·0612] AI测试高考物理题，最高准确率100%，OpenAI与苹果合作，将ChatGPT融入系统中，大模型在物理领域应用潜力显现
高考多地结束，端午佳节，各类科目答案网上流传。AI测试物理题，最高准确率100%，涉及矢量标量概念。多选题部分，海螺AI表现最佳。AppleIntelligence功能发布，支持图片AI消除、系统录音通话录音等。用户无需注册即可体验ChatGPT-4，适用于搭载特定芯片的设备。AppleIntelligence强调隐私保护和智能体验升级。iOS18、iPadOS18、macOSSequoia等新操作系统集成AI功能。OpenAI与苹果合作，将ChatGPT融入系统中。大模型在物理领域应用潜力显现。
2024-06-12 22:45:07
1273
3
原创 Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人
阿里云正式开源通义千问Qwen2系列模型，其中Qwen2-72B成为全球性能最强的开源模型，在全球权威测评中，性能超过美国最强开源模型Llama3-70B，也超过文心4.0、豆包pro、混元pro等众多中国闭源大模型。今天老牛同学部署和体验Qwen2-7B中等尺寸模型，包括本地部署、API嗲用和WebUI对话客户端……
2024-06-12 22:00:49
6781
5
原创 [AI资讯·0609] SamAltman建立了庞大投资帝国，通义千问Qwen2发布即爆火，OpenAI泄密者公布165页文件，奥特曼百万年薪挖角谷歌TPU人才……
SamAltman建立了庞大投资帝国，但不持OpenAI股票；个人资产包括房产和多家公司股权。他曾在YCombinator担任总裁，并投资40家公司，有五家估值增长100倍以上。尽管他不参与OpenAI决策，但其利益与公司业务存在复杂关系，引发监督和透明度争议……
2024-06-09 20:40:49
961
2
原创 ChatTTS 开源文本转语音模型本地部署、API使用和搭建WebUI界面（建议收藏）
ChatTTS是一款专为对话场景设计的支持中英文的文本转语音（TTS）模型，能够生成高质量、自然流畅的对话语音，同时还支持笑声、停顿等韵律特征，超越了大部分TTS开源模型。本文手把手部署、AIP使用、搭建可视化WebUI界面体验ChatTTS能力……
2024-06-09 10:25:21
7295
17
原创 本地部署GLM-4-9B清华智谱开源大模型方法和对话效果体验
清华大学和智谱AI推出了全面升级的新一代基座大模型GLM-4，整体性能相比GLM3提升60%，支持128K上下文，可根据用户意图自主理解和规划复杂指令、完成复杂任务……
2024-06-08 15:24:20
1631
2
原创 [AI资讯·0605] GLM-4系列开源模型，OpenAI安全疑云，ARM推出终端计算子系统，猿辅导大模型备案……
智谱AI发布MaaS平台2.0和GLM-4系列开源模型，提升中文学科能力；四大聊天机器人同时宕机引发网络猜测；OpenAI安全疑云，前员工揭露内部问题；Arm推出终端计算子系统，支持生成式AI时代的布局；猿辅导看云大模型备案成功，教育应用潜力展现；商业智能领域迎来新变革，帆软FineChatBI利用AI大模型实现对话式业务分析^
2024-06-05 22:02:58
1075
原创 [AI资讯·0604] Anthropic致力于解决安全性和可解释性问题；AI搜索产品改变信息检索，百度应对挑战；AMD挑战NVIDIA市场领导地位；版权保护问题日益凸显，强化学习方法超越GPT-4v
AI将取代某些工作，Anthropic致力于解决安全性和可解释性问题；AI搜索产品改变信息检索，百度应对挑战；AMD挑战NVIDIA市场领导地位；版权保护问题日益凸显，Shapley值框架提出解决方案；强化学习方法超越GPT-4v；Octopusv4模型优化多模态查询；李飞飞强调空间智能对AI发展的重要性^
2024-06-04 19:05:28
959
原创 SpringBoot与MyBatis零XML配置集成（附源码）
Java存在很多ORM框架，MyBaits框架是我们项目中使用得最多也是最愿意推荐的框架，它既有数据表和Java对象映射功能，又有原生SQL的特性。在与SpringBoot集成上，和其他框架一样，可以做到全注解化，无XML配置……
2024-06-02 19:46:44
828
原创 【Django技术深潜】揭秘Django定时任务利器：django_apscheduler全面解析与实战
本文分析了Django定时任务不同的实现方式的优劣，然后深入探讨Django定时任务解决方案，特别是django_apscheduler定时任务库，最后进行了实战应用。
2024-06-01 23:23:46
1415
原创 [AI资讯·0601] 亚马逊云科技中国峰会聚焦生成式AI应用，ARM在移动终端优化AI性能，OpenAI与苹果合作可能带来数十亿美元收益，研究表明大型语言模型模拟记忆，GPT-4已达成年人的心智理论
亚马逊云科技中国峰会聚焦生成式AI应用，推出三层技术栈解决企业挑战。Arm在移动终端推出新产品，优化AI性能。OpenAI与苹果合作可能带来数十亿美元收益。点军智算中心成为宜昌多元算力高地，燧原科技推动AI开源开放平台。研究表明大型语言模型模拟记忆，但实际是无状态函数。旷视团队发布“点读笔”，支持复杂文档理解。六位AI工程师分享大型语言模型应用开发经验。GPT-4已达成年人的心智理论水平，在心理推理超越人类。
2024-06-01 17:35:45
955
原创 [AI资讯·0531] 达摩院医疗AI新里程碑，OpenAI价值数十亿美元，微软投资130亿美元，百度文库成为一站式AI内容获取与创作平台，三大运营商完成AI产品市场，AI获得成功PMF需多次尝试……
[AI资讯·0531] 达摩院医疗AI成就新里程碑，OpenAI价值数十亿美元，微软投资130亿美元，百度文库成为一站式AI内容获取与创作平台，提供智能画本、PPT生成等功能，累计用户1.4亿，AI新功能使用次数超过15亿。三大运营商完成产品市场匹配“进化”，致力于构建适宜的生长环境以支撑技术价值兑现。在人工智能领域，获得成功PMF需多次尝试，持续调整以适应市场变化至关重要……
2024-05-31 18:49:52
1091
2
原创 借助AI大模型，三分钟原创一部儿童故事短视频（附完整操作步骤）
前面文章的介绍，我们可以通过在自己笔记本电脑上部署的Llama 3大模型生成文章、文本润色、生成摘要等。今天我们更进一步，在文本的基础上，快速制作一部儿童故事短视频，且可根据自己需要完全原创……
2024-05-31 14:56:43
1652
8
原创 [AI资讯·0529] OpenAI超级对齐负责人加入Anthropic，Leike执行超级对齐任务，DarioAmodei因安全观念与OpenAI不合离开，带走了政策负责人JackClark，Cla
JanLeike，OpenAI超级对齐团队负责人加入Anthropic，Anthropic成为了OpenAI离职员工的避难所。Leike表示将继续执行超级对齐任务，在Anthropic致力于可扩展监督、弱到强泛研究。DarioAmodei因安全观念与OpenAI不合离开，带走了政策负责人JackClark。Anthropic注重模型安全，对齐能力更强，其产品Claude3获得好评。Leike的团队正在组建中，研究可扩展监督技术练，但预计不会在90天内发布。
2024-05-29 20:58:17
821
原创 高效编写大模型 Prompt 提示词，解锁 AI 无限创意潜能
随着 ChatGPT 的出现，AI 成为新的焦点，有人说过“未来 50%的工作将是提示词工作”，目前很多公司也在开始招聘 Prompt 提示词工程师。Prompt（提示词）成为了连接创意与技术的桥梁，它不仅是简单的指令，更是激发 AI 潜能的关键。从文章编写到艺术创作，从文本摘要到语言润色，Prompt 的恰当使用能够极大地提升输出的质量与效率。本文将探讨如何编写高效、精准的 Prompt 提示词，最后通过应用场景来具体分析……
2024-05-28 23:04:19
1577
1
原创 [AI资讯·0527] OpenAI员工离职，马斯克获得60亿美元投资，国内大模型厂商降价争夺市场份额，中国电信推出多方言语音识别模型，苹果WWDC展示新AI战略，联想业绩回暖，谷歌AI搜索引擎遇错误
AI领域面临挑战：OpenAI员工离职、外界批评；新安全团队成立。马斯克的xAI获得60亿美元投资，估值180亿。国内大模型厂商降价争夺市场份额。中国电信推出多方言语音识别模型。AI评估工具讨论：JasonWei提倡简单易用且针对特定任务。苹果WWDC展示新AI战略。ChatGPT性能测试，Perplexity获胜。联想业绩回暖，AI技术促进PC市场复苏。中国移动推出自主研发的大型全栈模型。AI是否具备“心智理论”争议；谷歌AI搜索引擎遇错误问题；硅谷AI产业发展至鸡尾酒模式，初创企业需专注数据质量。
2024-05-27 20:40:47
999
2
原创 [AI资讯·0526] AI技术快速发展，英伟达股价上涨但面临竞争隐忧。大模型应用增长，网络攻击风险增加。中国AI领域追赶美国一年，独角兽寻求出售。AI翻译公司专注网络小说。中国移动推出大模型服务。
2024年中国生成式AI大会上，VAST创始人兼CEO宋亚宸以《大模型Tripo驱动3D生成迈入秒级时代》为题进行了演讲。他认为，3D技术的体验质量和信息密度在不断提升，并且具有互动性。目前3D生成已经达到MidjourneyV3水平，将于今年年底达到V5/V6水平，实现真正可用并通过图灵测试。VAST是3D生成模型领域的领先者，创建了全球最大的几个3D生成开源社区，并与Stability共同开发了全球最大的0.5秒图生3D模型TripoSR。宋亚宸也是首位在计算机图形学顶会SIGGRAPH上发表主舞台主题
2024-05-26 08:34:30
897
2
原创 Python游戏编程：一步步用Python打造经典贪吃蛇小游戏
贪吃蛇作为一款极其经典且广受欢迎的小游戏，是早期 Windows 电脑和功能手机（特别是诺基亚手机）流行度极高的小游戏，是当时功能手机时代最具代表性的游戏之一。游戏的基本规则和目标十分简单，但却极具吸引力，让人欲罢不能。本博文我们用 Python 编写属于自己的贪吃蛇游戏，一起来体验一下编程的乐趣与成就……
2024-05-25 09:58:25
2248
原创 基于Llama 3搭建中文版（Llama3-Chinese-Chat）大模型对话聊天机器人
前面两篇博文，我们在笔记本部署了Llama 3 8B大模型，使用Ollama搭建了基于Web 可视化对话机器人。在使用过程中，大模型经常出现中文问题英文回答的问题。本博文就用Llama3-Chinese-Chat微调模型来解决这个问题……
2024-05-21 21:21:12
5513
7
原创 一文彻底整明白，基于Ollama工具的LLM大语言模型Web可视化对话机器人部署指南
在上一篇博文中，我们在本地部署了**Llama 3 8B**参数大模型，并用 Python 写了一个控制台对话客户端，基本能愉快的与 Llama 大模型对话聊天了。但控制台总归太技术化，体验不是很友好，我们希望能有个类似 ChatGPT 那样的 Web 聊天对话界面，本博文就安排起来……
2024-05-18 20:05:29
3505
原创 玩转AI，笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
2024 年 4 月 18 日，Meta**开源**了 Llama 3 大模型，把 AI 的门槛降低到了最低，这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了，这简直就是给个人开发者发了个大红包！Llama 3 模型有不同的参数版本，本文主要分享我在个人笔记本电脑是部署 8B 参数过程和编写客户端，让我们大家都参与进来，推动 AI 应用更上一层楼……
2024-05-12 14:41:46
1782
2
原创 AI已来，我与AI一起用Python编写了一个消消乐小游戏
在数字化与智能化的浪潮中，目前 AI（人工智能）几乎在各行各业中发挥了不可忽略的价值，今天让我们也来体验一下 AI 的威力：我通过命令，一步一步的教 AI 利用 Python 编程语言打造了一款富有创意和趣味性的消消乐小游戏……
2024-05-10 23:10:58
708
原创 上海个人购房提取公积金经历和注意事项（收藏不踩坑）
线下办理完成，走出建行网点，预计 10 分钟左右资金可到账资金到账了，接下来就是准备装修了，关注本公众号，后篇文章在与大家分享和交流。
2024-05-07 21:04:19
904
原创 [每日AI·0506]巴菲特谈 AI，李飞飞创业，苹果或将推出 AI 功能，ChatGPT 版搜索引擎
像“二战”的时候，当时有了核技术，我们当时发明了原子弹，我们觉得好像是非常必要地来终止战争，对美国来说可以长期拯救生命，而且爱因斯坦也提过，说“你如果做了核试验，你可能会让文明终止”，但是最后美国还是决定把这个精灵从瓶子里放出来。所以，当你去思考一下，在未来你可以用这样的技术去欺诈、去重新生成这样一张图片，比如说图片里边也是我，然后我来找你说需要钱，生成式 AI 可以做这种事情，让我突然出现在一张图片里，你难辨真假，或者说我需要多少多少钱。费马表示，自己知道怎么证明，但因为书的空白部分太小，就没有写。
2024-05-06 21:10:51
1156
3
原创 Python魔法方法__str__和__repr__深入理解和应用
Python 中有不少的魔法方法，我们在阅读源代码过程中，经常会看到__str__方法和__repr__方法，这 2 个方法有什么联系和区别？它们该如何使用？在 Python 中，__str__(self)都是非常重要的魔法方法，它们都用于生成。
2024-05-05 17:43:48
1282
Word Tab中文免费版
2010-12-15
Linux Bash脚本大全
2010-08-19
Linux Bash脚本大全
2010-08-19
OSGi实战(文档+源代码)
2009-12-25
Oracle Concepts 10g 中文英文对照版
2009-08-12
SUN云计算基础设施和体系架构指南_中文版
2009-07-14
BPEL 经典教程，第二版，目前学习BPEL最好的书籍
2009-05-18
ExtJS 实用简明教程
2009-04-24
ExtJS 中文手册
2009-04-24
Teradata SQL基础教程
2008-11-10
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人