AI
文章平均质量分 94
老牛同学
上海浦东,程序员,2个孩子的父亲,微信公众号:老牛同学
展开
-
Ollama完整教程:本地LLM管理、WebUI对话、Python/Java客户端API应用
Ollama可以非常方便的管理和部署我们本地大语言模型,老牛同学希望通过本文对Ollama进行一次详细介绍,包括本地大模型管理和使用、WebUI对话界面部署、通过Python和Java使用Ollama的API接口等……原创 2024-07-10 23:24:01 · 585 阅读 · 1 评论 -
基于Qwen2/Lllama3等大模型,部署团队私有化RAG知识库系统的详细教程(Docker+AnythingLLM)
大语言模型在垂直细分领域存在知识局限、幻觉、数据安全等一些问题,可通过RAG(检索增强生成)方案来解决。本文基于AnythingLLM框架,搭建团队私有知识库系统,并进行使用和验证,RAG系统在保留输出的有效性同时,还保留了创造性……原创 2024-07-06 15:48:56 · 1060 阅读 · 2 评论 -
阿里Qwen2-72B大模型已是开源榜的王者,为什么还要推出其他参数模型,被其他模型打榜?
阿里Qwen2-72B大模型已是开源榜的王者,为什么还要推出其他参数模型,被其他模型打榜?原创 2024-07-04 23:07:59 · 737 阅读 · 1 评论 -
Google 发布了最新的开源大模型 Gemma 2,本地快速部署和体验
Google 重磅发布了最新版大语言模型Gemma 2,其中 90亿 参数版本适合我们个人在笔记本本地部署,老牛同学通过本文和大家一起,通过2种方式快速部署和体验,当然这2种快速部署模型的方式,也同样适用于其他大模型……原创 2024-07-02 23:16:28 · 1198 阅读 · 1 评论 -
使用Llama3/Qwen2等开源大模型,部署团队私有化Code Copilot和使用教程
代码辅助工具(Code Copilot)可以提高团队代码研发效率,能有效帮助产品快速上市抢占先发优势,但同时又需要保证代码和信息隐私,私有化Code Copilot是保护隐私的重要手段。老牛通过本文,详细介绍通过开源大模型,部署私有化Code Copilot和使用教程……原创 2024-06-30 01:03:55 · 1203 阅读 · 3 评论 -
大模型应用研发基础环境配置(Miniconda、Python、Jupyter Lab、Ollama等)
大模型应用研发的第一步,就是研发环境的配置,好的工具和环境是提升研发效率的关键,最基础的配置包括Miniconda包管理器、Python SDK、Jupyter Lab WebIDE、Node.js SDK、Ollama本地模型管理器、Ollama WebUI可视化对话界面等……原创 2024-06-25 23:12:49 · 1120 阅读 · 1 评论 -
Phi-3 模型手机部署教程(微软发布的可与GPT-3.5媲美的小模型)
Phi 是微软AI研究院新推出的开源小型语言模型,适用于商业使用,其优势在于体积小、资源需求少,被称为“一个能跑在手机上的大模型”,我们通过Termux和Ollama工具,在我们手机上部署和体验……原创 2024-06-23 10:08:51 · 925 阅读 · 1 评论 -
Stable Diffusion 3 大模型文生图“开源英雄”笔记本部署和使用教程,轻松实现AI绘图自由
Stability AI正式开源了Stable Diffusion 3 Medium 文生图大模型,它仅20亿参数,就能够生成更高质量和更细腻的图片;因模型尺寸较小,它适合在个人PC、笔记本电脑上运行。老牛同学手把手部署和体验SD3……原创 2024-06-18 20:07:53 · 1396 阅读 · 1 评论 -
[AI资讯·0618] 快手AI模型“可灵“在质量优于Sora,OpenAI和谷歌发布新技术推动AI视频推理发展,Gemini1.5Pro在该榜单中表现突出
快手新AI模型"可灵"在视频生成质量上优于Sora,在细节处理、对中国元素理解及适合中国用户方面表现突出;LumaAI同样能生成高质量两分钟视频,具备“电影感”功能以及图片+提示词生成视频的能力;Direct 3D采用3D Diffusion Transformer技术路线;中国首个超长时长、高性价比大模型“视界一粟YiSu”发布,推动视频生成技术发展原创 2024-06-18 08:00:38 · 1259 阅读 · 0 评论 -
[AI资讯·0612] AI测试高考物理题,最高准确率100%,OpenAI与苹果合作,将ChatGPT融入系统中,大模型在物理领域应用潜力显现
高考多地结束,端午佳节,各类科目答案网上流传。AI测试物理题,最高准确率100%,涉及矢量标量概念。多选题部分,海螺AI表现最佳。AppleIntelligence功能发布,支持图片AI消除、系统录音通话录音等。用户无需注册即可体验ChatGPT-4,适用于搭载特定芯片的设备。AppleIntelligence强调隐私保护和智能体验升级。iOS18、iPadOS18、macOSSequoia等新操作系统集成AI功能。OpenAI与苹果合作,将ChatGPT融入系统中。大模型在物理领域应用潜力显现。原创 2024-06-12 22:45:07 · 1095 阅读 · 3 评论 -
Qwen2 阿里最强开源大模型(Qwen2-7B)本地部署、API调用和WebUI对话机器人
阿里云正式开源通义千问Qwen2系列模型,其中Qwen2-72B成为全球性能最强的开源模型,在全球权威测评中,性能超过美国最强开源模型Llama3-70B,也超过文心4.0、豆包pro、混元pro等众多中国闭源大模型。今天老牛同学部署和体验Qwen2-7B中等尺寸模型,包括本地部署、API嗲用和WebUI对话客户端……原创 2024-06-12 22:00:49 · 3592 阅读 · 5 评论 -
[AI资讯·0609] SamAltman建立了庞大投资帝国,通义千问Qwen2发布即爆火,OpenAI泄密者公布165页文件,奥特曼百万年薪挖角谷歌TPU人才……
SamAltman建立了庞大投资帝国,但不持OpenAI股票;个人资产包括房产和多家公司股权。他曾在YCombinator担任总裁,并投资40家公司,有五家估值增长100倍以上。尽管他不参与OpenAI决策,但其利益与公司业务存在复杂关系,引发监督和透明度争议……原创 2024-06-09 20:40:49 · 897 阅读 · 2 评论 -
ChatTTS 开源文本转语音模型本地部署、API使用和搭建WebUI界面(建议收藏)
ChatTTS是一款专为对话场景设计的支持中英文的文本转语音(TTS)模型,能够生成高质量、自然流畅的对话语音,同时还支持笑声、停顿等韵律特征,超越了大部分TTS开源模型。本文手把手部署、AIP使用、搭建可视化WebUI界面体验ChatTTS能力……原创 2024-06-09 10:25:21 · 3716 阅读 · 11 评论 -
本地部署GLM-4-9B清华智谱开源大模型方法和对话效果体验
清华大学和智谱AI推出了全面升级的新一代基座大模型GLM-4,整体性能相比GLM3提升60%,支持128K上下文,可根据用户意图自主理解和规划复杂指令、完成复杂任务……原创 2024-06-08 15:24:20 · 1275 阅读 · 2 评论 -
[AI资讯·0605] GLM-4系列开源模型,OpenAI安全疑云,ARM推出终端计算子系统,猿辅导大模型备案……
智谱AI发布MaaS平台2.0和GLM-4系列开源模型,提升中文学科能力;四大聊天机器人同时宕机引发网络猜测;OpenAI安全疑云,前员工揭露内部问题;Arm推出终端计算子系统,支持生成式AI时代的布局;猿辅导看云大模型备案成功,教育应用潜力展现;商业智能领域迎来新变革,帆软FineChatBI利用AI大模型实现对话式业务分析^原创 2024-06-05 22:02:58 · 948 阅读 · 0 评论 -
[AI资讯·0604] Anthropic致力于解决安全性和可解释性问题;AI搜索产品改变信息检索,百度应对挑战;AMD挑战NVIDIA市场领导地位;版权保护问题日益凸显,强化学习方法超越GPT-4v
AI将取代某些工作,Anthropic致力于解决安全性和可解释性问题;AI搜索产品改变信息检索,百度应对挑战;AMD挑战NVIDIA市场领导地位;版权保护问题日益凸显,Shapley值框架提出解决方案;强化学习方法超越GPT-4v;Octopusv4模型优化多模态查询;李飞飞强调空间智能对AI发展的重要性^原创 2024-06-04 19:05:28 · 909 阅读 · 0 评论 -
[AI资讯·0601] 亚马逊云科技中国峰会聚焦生成式AI应用,ARM在移动终端优化AI性能,OpenAI与苹果合作可能带来数十亿美元收益,研究表明大型语言模型模拟记忆,GPT-4已达成年人的心智理论
亚马逊云科技中国峰会聚焦生成式AI应用,推出三层技术栈解决企业挑战。Arm在移动终端推出新产品,优化AI性能。OpenAI与苹果合作可能带来数十亿美元收益。点军智算中心成为宜昌多元算力高地,燧原科技推动AI开源开放平台。研究表明大型语言模型模拟记忆,但实际是无状态函数。旷视团队发布“点读笔”,支持复杂文档理解。六位AI工程师分享大型语言模型应用开发经验。GPT-4已达成年人的心智理论水平,在心理推理超越人类。原创 2024-06-01 17:35:45 · 909 阅读 · 0 评论 -
[AI资讯·0531] 达摩院医疗AI新里程碑,OpenAI价值数十亿美元,微软投资130亿美元,百度文库成为一站式AI内容获取与创作平台,三大运营商完成AI产品市场,AI获得成功PMF需多次尝试……
[AI资讯·0531] 达摩院医疗AI成就新里程碑,OpenAI价值数十亿美元,微软投资130亿美元,百度文库成为一站式AI内容获取与创作平台,提供智能画本、PPT生成等功能,累计用户1.4亿,AI新功能使用次数超过15亿。三大运营商完成产品市场匹配“进化”,致力于构建适宜的生长环境以支撑技术价值兑现。在人工智能领域,获得成功PMF需多次尝试,持续调整以适应市场变化至关重要……原创 2024-05-31 18:49:52 · 1005 阅读 · 2 评论 -
借助AI大模型,三分钟原创一部儿童故事短视频(附完整操作步骤)
前面文章的介绍,我们可以通过在自己笔记本电脑上部署的Llama 3大模型生成文章、文本润色、生成摘要等。今天我们更进一步,在文本的基础上,快速制作一部儿童故事短视频,且可根据自己需要完全原创……原创 2024-05-31 14:56:43 · 1560 阅读 · 8 评论 -
[AI资讯·0529] OpenAI超级对齐负责人加入Anthropic,Leike执行超级对齐任务,DarioAmodei因安全观念与OpenAI不合离开,带走了政策负责人JackClark,Cla
JanLeike,OpenAI超级对齐团队负责人加入Anthropic,Anthropic成为了OpenAI离职员工的避难所。Leike表示将继续执行超级对齐任务,在Anthropic致力于可扩展监督、弱到强泛研究。DarioAmodei因安全观念与OpenAI不合离开,带走了政策负责人JackClark。Anthropic注重模型安全,对齐能力更强,其产品Claude3获得好评。Leike的团队正在组建中,研究可扩展监督技术练,但预计不会在90天内发布。原创 2024-05-29 20:58:17 · 779 阅读 · 0 评论 -
高效编写大模型 Prompt 提示词,解锁 AI 无限创意潜能
随着 ChatGPT 的出现,AI 成为新的焦点,有人说过“未来 50%的工作将是提示词工作”,目前很多公司也在开始招聘 Prompt 提示词工程师。Prompt(提示词)成为了连接创意与技术的桥梁,它不仅是简单的指令,更是激发 AI 潜能的关键。从文章编写到艺术创作,从文本摘要到语言润色,Prompt 的恰当使用能够极大地提升输出的质量与效率。本文将探讨如何编写高效、精准的 Prompt 提示词,最后通过应用场景来具体分析……原创 2024-05-28 23:04:19 · 1428 阅读 · 1 评论 -
[AI资讯·0527] OpenAI员工离职,马斯克获得60亿美元投资,国内大模型厂商降价争夺市场份额,中国电信推出多方言语音识别模型,苹果WWDC展示新AI战略,联想业绩回暖,谷歌AI搜索引擎遇错误
AI领域面临挑战:OpenAI员工离职、外界批评;新安全团队成立。马斯克的xAI获得60亿美元投资,估值180亿。国内大模型厂商降价争夺市场份额。中国电信推出多方言语音识别模型。AI评估工具讨论:JasonWei提倡简单易用且针对特定任务。苹果WWDC展示新AI战略。ChatGPT性能测试,Perplexity获胜。联想业绩回暖,AI技术促进PC市场复苏。中国移动推出自主研发的大型全栈模型。AI是否具备“心智理论”争议;谷歌AI搜索引擎遇错误问题;硅谷AI产业发展至鸡尾酒模式,初创企业需专注数据质量。原创 2024-05-27 20:40:47 · 918 阅读 · 2 评论 -
[AI资讯·0526] AI技术快速发展,英伟达股价上涨但面临竞争隐忧。大模型应用增长,网络攻击风险增加。中国AI领域追赶美国一年,独角兽寻求出售。AI翻译公司专注网络小说。中国移动推出大模型服务。
2024年中国生成式AI大会上,VAST创始人兼CEO宋亚宸以《大模型Tripo驱动3D生成迈入秒级时代》为题进行了演讲。他认为,3D技术的体验质量和信息密度在不断提升,并且具有互动性。目前3D生成已经达到MidjourneyV3水平,将于今年年底达到V5/V6水平,实现真正可用并通过图灵测试。VAST是3D生成模型领域的领先者,创建了全球最大的几个3D生成开源社区,并与Stability共同开发了全球最大的0.5秒图生3D模型TripoSR。宋亚宸也是首位在计算机图形学顶会SIGGRAPH上发表主舞台主题原创 2024-05-26 08:34:30 · 846 阅读 · 2 评论 -
基于Llama 3搭建中文版(Llama3-Chinese-Chat)大模型对话聊天机器人
前面两篇博文,我们在笔记本部署了Llama 3 8B大模型,使用Ollama搭建了基于Web 可视化对话机器人。在使用过程中,大模型经常出现中文问题英文回答的问题。本博文就用Llama3-Chinese-Chat微调模型来解决这个问题……原创 2024-05-21 21:21:12 · 3026 阅读 · 4 评论 -
一文彻底整明白,基于Ollama工具的LLM大语言模型Web可视化对话机器人部署指南
在上一篇博文中,我们在本地部署了**Llama 3 8B**参数大模型,并用 Python 写了一个控制台对话客户端,基本能愉快的与 Llama 大模型对话聊天了。但控制台总归太技术化,体验不是很友好,我们希望能有个类似 ChatGPT 那样的 Web 聊天对话界面,本博文就安排起来……原创 2024-05-18 20:05:29 · 2085 阅读 · 0 评论 -
玩转AI,笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
2024 年 4 月 18 日,Meta**开源**了 Llama 3 大模型,把 AI 的门槛降低到了最低,这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了,这简直就是给个人开发者发了个大红包!Llama 3 模型有不同的参数版本,本文主要分享我在个人笔记本电脑是部署 8B 参数过程和编写客户端,让我们大家都参与进来,推动 AI 应用更上一层楼……原创 2024-05-12 14:41:46 · 1395 阅读 · 2 评论 -
AI已来,我与AI一起用Python编写了一个消消乐小游戏
在数字化与智能化的浪潮中,目前 AI(人工智能)几乎在各行各业中发挥了不可忽略的价值,今天让我们也来体验一下 AI 的威力:我通过命令,一步一步的教 AI 利用 Python 编程语言打造了一款富有创意和趣味性的消消乐小游戏……原创 2024-05-10 23:10:58 · 661 阅读 · 0 评论 -
[每日AI·0506]巴菲特谈 AI,李飞飞创业,苹果或将推出 AI 功能,ChatGPT 版搜索引擎
像“二战”的时候,当时有了核技术,我们当时发明了原子弹,我们觉得好像是非常必要地来终止战争,对美国来说可以长期拯救生命,而且爱因斯坦也提过,说“你如果做了核试验,你可能会让文明终止”,但是最后美国还是决定把这个精灵从瓶子里放出来。所以,当你去思考一下,在未来你可以用这样的技术去欺诈、去重新生成这样一张图片,比如说图片里边也是我,然后我来找你说需要钱,生成式 AI 可以做这种事情,让我突然出现在一张图片里,你难辨真假,或者说我需要多少多少钱。费马表示,自己知道怎么证明,但因为书的空白部分太小,就没有写。原创 2024-05-06 21:10:51 · 1132 阅读 · 3 评论 -
Python魔法方法__str__和__repr__深入理解和应用
Python 中有不少的魔法方法,我们在阅读源代码过程中,经常会看到__str__方法和__repr__方法,这 2 个方法有什么联系和区别?它们该如何使用?在 Python 中,__str__(self)都是非常重要的魔法方法,它们都用于生成。原创 2024-05-05 17:43:48 · 1227 阅读 · 0 评论 -
国内免费的AI工具出色地帮我辅导女儿的小学英语作业
我主要使用文心一言和通义千问这2个国内免费AI工具,从上面的四年级应用的作业测试可以看出,他们2者在句子改写能力表现一致,结果都符合预期。但在完型填空和选择填空作业方面,通义千问均完全正常,文心一言出现了2次错误;在文生图方面,文心一言更是完全不符合预期了,通义千问就更胜一筹了。原创 2024-05-04 10:34:40 · 606 阅读 · 0 评论 -
[每日AI·0501]GitHub 版 Devin,Transformer的强力挑战者 Mamba,Sora 制作细节与踩坑,OpenAI 记忆功能
博客地址微软的“GitHub 版 Devin” - Copilot WorkSpace,终于上线了!WorkSpace是一种“Copilot 原生”的全新开发环境,目的是让所有开发者都可以用自然语言,把脑海里的创意转化成应用。也就是说,只要有想法,而且会打字,就可以搞软件开发了。原创 2024-05-03 20:50:52 · 832 阅读 · 1 评论 -
[每日AI·0430]首个自主更新的多模态大模型,马斯克访华,文本一键转3D数字人骨骼动画,创新的虚拟试衣模型
最近,大语言模型(LLMs)取得了显著成就,但它们容易受到某些越狱攻击的影响,导致生成不当或有害内容。手动红组测试需要找到导致越狱的敌对提示,例如在给定指令后附加后缀,效率低且耗时。在另一方面,自动敌对提示生成通常导致语义无意义的攻击,可以轻松被感知度过滤器检测到,可能需要来自TargetLLM的梯度信息,或由于耗时的离散优化过程而无法很好地扩展。在本文中,我们提出了一种新方法,使用另一个LLM,称为AdvPrompter,仅需几秒钟生成人类可读的敌对提示,比现有基于优化的方法快约800倍。原创 2024-05-03 17:47:29 · 1140 阅读 · 0 评论