vastgrassland的博客

原创 浅谈智能体开发（第一部分）：从编程到提示引导

作为一种新型软件，智能体（AI Agent）展现出许多传统软件所不具备的特征。不仅与传统软件的设计理念、方法、工具和技术栈有显著的差异，AI原生（AI Native）的智能体还融入了多种新概念和技术。我们从多个维度对AI Native智能体与传统软件进行了比较和分析，涉及开发语言、软件架构、设计模式和编程模式等多个方面。本文通过与传统软件的比较分析，浅谈AI原生的开发语言的异同。编程（Progra...

原创 AI Agent 微洞察

詹姆士·邦德无疑是世界上最酷、最厉害的Agent（“Agent Double-O Seven"，007）。他聪慧机敏，任何复杂的任务，只需知道一个大致的目标（比如拯救世界），他就能给出计划，并一步步地去达成。他独立自主，灵活机动，不拘一格解决问题，不走平常路；他百折不回，一计不成又生一计，直到完成任务；他善用各种武器和工具，使自己更加无所不能。他更是善于沟通社交，在获取情报的同时，甚至俘获美女芳...

原创 复合AI系统

今年2月中旬，加州大学伯克利分校的人工智能研究实验室（BAIR Lab，UC Berkeley) 的网站刊登了博客文章《从模型向复合人工智能系统的转变》。文章认为，AI技术发展不再是仅仅依靠机器学习模型，而是由多种技术交织在一起的复合（Compound）系统获得。我们且称这样的系统为CAIS （CompoundAISystem）。截图：2024年2月18日，《从模型到复合人工智能系统的转变》C...

原创 Relevant

‍‍‍‍Focus onRelevanceInvest In Core AssetsForge Meaningful Partnershipby Steve Jobs （1997.8）这是1997 年 8 月 6 日乔布斯在波士顿的 Macworld Expo 大会演讲的片段。乔布斯宣布了他准备拯救当时濒临破产的苹果公司的战略方向。Be Relevant，正是我们（睿类文特）的名字和我们的追...

原创 房间里的大象

孩子真是可爱，牛！亲爱的孩子，中国最厉害的高科技公司，他们选择了不上市。除了Facebook，其他如Google、Apple、Tesla、NVidia、Amazon、和Microsoft， 所有的事儿他们都在刚 。。。...

原创 NVIDIA NIM微洞察

1. What：什么是Nvidia NIM‍‍‍‍NIM是英伟达AI的Nvidia Inference Microservices，即英伟达的模型推理微服务。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍基本上，NIM是包含了大模型，并提供推理微服务的容器（Container）。大模型和推理服务经过了针对Nvidia GPU的优化。封装成容器的方式使它可以部署在云端，数据中心、工作站或在笔记本电脑中，在任何支...

转载 XLang™，AI 时代的编程语言 | 新程序员

【导读】随着 AI 技术的发展，对于编程语言的需求也发生了变化，要求其具备原生支持张量计算、并行计算及分布式计算等能力，并能够适应多样化的硬件环境，尤其要关注边缘 AI 和 AI 民主化的问题。传统 Python、C/C++ 和 CUDA 虽各具优势，但难以满足 AI 计算对张量处理、并行计算及分布式计算的原生需求。在全新的 AI 时代，究竟何种编程语言能够满足 AI 开发者的多样化需求？本文为这...

原创 AI时代的操作系统：LLM OS

让我们把时间拉回到25年前：1999年，朴树发表了一首充满活力的歌曲《New Boy》，大家知道这首歌吧？(在本文尾部可以听听）图：《NEW BOY》由朴树作词、作曲并演唱，收录在他于1999年个人首张录音室专辑《我去2000年》中。歌词写到：“快来吧/奔腾电脑/就让它们代替我思考 ...”，“轻松一下/Windows98/打扮漂亮/18岁是天堂 ...” 在那个即将进入新世纪的理想化的年代，...

原创 从ChatBot到AIVerse：展望AI 的社会化趋势

智能机器人（"Bots")、智能助手（"Assistants"）、智能代理（"Agents"）和智能管家（"Butlers"）等术语被广泛用于描述和命名智能软件。在过去的几十年中，人们并不真正地区分这些词汇，经常被交替使用。随着AI的迅速发展，有必要为智能体在社会中所承担的角色做一个更加清晰的分析，希望有助于我们认识到AI对于人类的意义，定位AI与人的关系，展望AI互联网发展的未来（我们称为AIV...

原创 OpenAI能不能再创Google的辉煌

从1998年公司成立起，Google迅速崛起为全球互联网搜索的霸主，引领了众多新技术的发展，并几乎垄断了互联网搜索广告市场。25年后，OpenAI在人工智能领域成为一颗耀眼的明星。其GPT模型在理解和生成自然语言方面表现出惊人的能力，正在引发一场前所未有、意义深远的AI革命。在评估OpenAI能否复制Google的商业辉煌时，我们还是可以进行一些对比分析。大环境：当Larry Page和Serge...

原创 AI PC

在刚刚结束的CES消费者电子展上，发布了很多AI个人电脑。一个有代表性的新闻是Nvidia 宣布推出可增强生成式 AI 性能的 GeForce RTX™ SUPER 桌面 GPU、各大顶级制造商纷纷推出的全新 AI 笔记本电脑。图：Nvidia 于CES'24推出GeForce RTX™ SUPER 桌面 GPU、最低售价599美元，支持ACER, ASUS, DELL,HP, LENOVO等推出...

转载 CantorAI

https://cantorai.comCantorAI是简洁易用、高性能，可扩展的分布式计算平台，可加速人工智能应用的开发、极简化分布式部署并深度优化人工智能工作负载。简洁：CantorAI支持从低端IoT设备（如MCU8）到云端的无需编码的扩展。平台部署不依赖第三方软件，只占用较小的内存。此外，它还提供了零代码的人工智能应用程序构建功能，实现前端、边缘和云端的协同工作。高性能：CantorAI...

原创 AI时代的社交网络

全球流量最大的十大网站（见下图）中，一半都是社交网络，足见其重要性。AI爆炸性的发展，社交网络会怎么变化？本文捋一捋在社交网络中人类、AI技术、大语言模型等重要元素所扮演的角色，简单分析一下。图：SimiliarWeb统计的全球流量排名前十网站中，有五个社交网络和媒体和三个搜索引擎人类（Human）Facebook、YouTube、Instagram、TikTok、X/Twitter、Linked...

原创 AI时代的编程语言

明天(12月16日），开源语言XLang就要举办第一次Meetup。XLang的壮志雄心是成为物联网和人工智能的编程语言。通过这篇小文快速扫描一下AI时代的一些编程语言，虽然不免浅尝辄止，也算是帮XLang Meetup暖暖场。祝愿Meetup举办成功，XLang的勇士们顺利启航。12月16日XLangMeetup的中文海报Python：以人为本的编程语言Python可能是AI最重要的编程语言。...

原创 LSG三叉戟：大语言模型 + 搜索 + 知识图谱

随着大语言模型技术的崛起，原本专注于提供知识图谱和智能搜索服务的平台公司怎么应对？我们通过一些相关公司的官网和互联网搜索去了解一下。搜索图谱在两边，人工智能放中间我们看到有一批公司，非常积极主动地拥抱AI的新发展，将AI深入地引入自己的产品和方案。比如：Elastic截图：Elastic官网中文主页（12.3.2023）https://www.elastic.co/cn/Elastic将AI放在了...

原创 平凡人做AI的底层逻辑和基本策略

OpenAI在首届全球开发者大会“OpenAI DevDay”发布了性能更强成本更低的GPT-4 Turbo模型、个人定制版ChatGPT（GPTs）、助手API以及应用商店GPT Store等产品。AI创业圈和相关媒体则哀鸿遍野。AI创业的风险变得越来越大，大量的创业项目前景立显黯淡。难道广大的AI开发者们不得不拿起OpenAI和其他少数大厂所提供的APIs和工具箱，在他们提供的环境里，做他们“...

原创 Hugging Face 的拥抱

图：左搂机器学习和大语言模型开发者，右抱互联网大厂，Hugging Face风生水起，走在时代巅峰抱抱脸（Hugging Face）是一个机器学习和数据科学平台和社区，可帮助用户构建、部署和训练机器学习模型。到今天为止，Hugging Face的网站上已发布了38万个机器学习模型，近8万个数据集。从Llama1，Llama2, Stable Diffusion，到三天前中国智谱发布ChatGLM3...

原创 从联邦国家到联邦大语言模型

"联邦"（Federation）不但是个政治概念，在技术领域也发挥着作用。联邦国家"联邦"（Federation）描述由多个独立的实体组成一个国家的政治制度。各成员实体保留一定程度的自治权力，同时也将一部分权力和职责授予中央政府，以实现协同合作和管理国家事务。这种制度常被用于处理多元文化、语言、宗教和地理差异，以实现国家的统一和合作。美国就是联邦体制的例子。图示：美国南北战争时期的美国联邦架构图联...

原创 聚聚聊聊LLM：盒饭会上的抛砖引玉

谢谢邀我参加聚聚聊聊盒饭会。大家有缘聚在一起，随便聊聊AI和大语言模型。借这个机会，我把我这个公众号写过的二十几篇文章简单梳理一下，组成一系列专题的框架，希望抛砖引玉，激发大家讨论。还请大家多多指教。大语言模型的发展趋势 - GOSIM 2023：AI开放在路上 -企业生成式AI的常见需求和最新案例 -智能体（Agent)：智能体技术“简史”M...

转载 将博客搬至CSDN

原创 智能体技术“简史”

LLM三趋势我能感受到大语言模型发展的三个趋势：1. 行业/领域大模型：基础模型之间的“百模大战”鏖战尚酣，在各个垂直领域的大模型和ChatGPT式的应用已纷纷探出头来。2. 检索增强生成(RAG)：RAG是由数据库、搜索和大语言模型自然语言处理技术等以流水线方式构建起来的问答系统。系统有效地结合大语言模型和传统的信息技术，部分解决了企业对信息安全的限制，控制了大语言模型所提供的幻觉知识，并提升了...

原创 GOSIM 2023：AI开放在路上

前两天深度参与了首届全球开源创新汇（GOSIM）工作坊五个分论坛中的AI论坛。有机会看到很多人，听到很多事；有幸感受、学习和洞察了开放、开源的人工智能的发展。2023 GOSIMWorkshophttp://workshop2023.gosim.org在这个Workshop里，大家交流和讨论有关人工智能、RUST语言、移动和互联网、汽车与机器人以及游戏与元宇宙五大技术方向的各种话题。各分论坛里多...

原创 MetaGPT：多智能体协作

新的大语言模型仍在不断涌现。然而，随着时间的推移，关于大语言模型的发展是否已见巅峰的疑虑也逐渐升温。如今，业界领袖们认为，人工智能的发展正在从基础大模型的研发阶段转向了大模型应用的发展阶段。虽然发展方向明确，但问答和对话等应用场景已经开始让人们感到乏味，未来道路仍然充满了未知，令人难以想象。图：MetaGPT 的 Logo然而，MetaGPT所展示出的多智能体协作生成复杂软件的案例，给了我们不一...

原创 Code LLM：代码生成大语言模型

引言9月，开源创新大会（GOSIM 2023）将在上海举行。其中在23-24日的 GOSIM AI工作坊AI论坛中，来自Hugging Face的专家将介绍他们在代码生成大语言模型（Code LLM）领域所做的相关工作，其中包括他们领导的Big Code组织以及StarCoder代码生成大语言模型。本文简要扫描Code LLM领域最近的发展，也为参会做好前期准备。图：Hugging Face在GO...

原创 大语言模型的自然语言生成能力和测评

为了更加清晰准确地了解以ChatGPT为代表的大语言模型的能力，前面两篇文章分别专题整理了大语言模型的自然语言理解和自然语言推理方面的测评工作，本篇继续整理对大语言模型在自然语言生成方面一些能力测评工作。自然语言生成（NLG）是大语言模型在生成特定文本方面的能力，包括摘要生成、对话生成和问答等多个任务。摘要生成（Summarization）【能力描述】生成给定句子或文本的简洁摘要。【测试数据集举例...

原创 当搜索遇见大语言模型：效率倍增

Why生成式AI影响传统搜索业务生成式AI和大模型技术对传统搜索引擎的冲击显而易见。与其通过搜索引擎辛辛苦苦地查阅网页，不如让ChatGPT直接帮我生成回答。微软发布了新的由ChatGPT支持的新搜索引擎New Bing，更让搜索和大语言模型的能力合二为一。提高搜索效率对提高生产力意义重大麦肯锡全球研究院（MGI)估计，知识工作者花费了大约五分之一的时间，即每周工作一天来搜索和收集信息。如果生成式...

原创 Transform, 时代的关键词

人工智能正在不断替代人们原本掌握的知识和技能；技术进步速度之快又让人难以跟上。个人和组织都面临转型的挑战，有必要认清这个时代的特点，抓住其脉搏。Transform，正是这个时代的关键词。Transformer AI：新技术GPT（GenerativePre-training Transformer即生成式预训练变换模型）是一种Transformer神经网络模型。这个高度专业化的词汇因为ChatG...

原创 推理？大语言模型能力测评

大语言模型能做什么？能做多好？如何验证？接上一篇测评大语言模型的自然语言理解能力，这回把关注点放在大语言模型推理能力的测评上。看看大语言模型推理水平有多高，如何测试证实。本文同样基于十几位中美学者在7月6日发布的《大语言模型测评调查》研究报告（https://arxiv.org/pdf/2307.03109.pdf )展开。推理以及推论 Reasoning vsInference图：大语言模型通...