- 博客(496)
- 资源 (89)
- 收藏
- 关注
原创 通用大模型应用研究重点六:AgentOS
然而,与人类不同的是,智能体缺乏物理世界的直接互动能力、人类的记忆能力以及规划思考能力。大型语言模型智能体操作系统是一种创新的操作系统,旨在解决资源分配、上下文维护和异构代理集成的挑战。该系统将大型语言模型(LLM)嵌入到操作系统中,作为操作系统的大脑,从而优化了操作系统的功能。短期记忆涉及执行任务过程中的上下文信息,这些信息在子任务执行过程中产生和暂存,任务完成后被清空。智能体可以是任何具有感知、推理和行动能力的系统,比如人工智能、机器人或者软件代理。智能体操作系统,是一种多模态协通的智能体系统。
2024-08-26 15:19:43 321
原创 生成式大语言模型:SGLang推理框架
SGLang: Efficient Execution of Structured Language Model Programs,由斯坦福大学、加州大学伯克利分校、上海交通大学、德克萨斯大学完成。
2024-07-30 17:05:22 796
原创 通用大模型研究重点之三:model App
当然,现在有一些更先进的模型,比如 BERT,GPT 等,它们生成的是上下文相关的词嵌入,即词的嵌入会根据上下文变化,这样一定程度上弥补了传统词嵌入模型的不足。Word Embedding:词嵌入通常被用来生成词的向量表示,这个过程通常是静态的,即一旦训练完成,每个词的向量表示就确定了。然而,词嵌入并不能理解上下文信息,即相同的词在不同的上下文中可能有不同的含义,但词嵌入无法区分这些含义。更好的理解和利用上下文信息:例如,动态的、可变长度的上下文,以及更复杂的上下文结构。
2024-03-12 11:51:36 520
原创 通用大模型研究重点之二:model history
十年前,上面的这篇文章算是为自然语言领域的RNN和Attention奠定了基础,BiRNN1997年,RNN encoder-decoder2014年分别为该论文奠定了基础,在这篇论文中详细阐述了通过软注意力解决对齐问题,也就是硬注意力和软注意力的一个区别,主要作用在隐含层得分问题上的基础研究。大佬之所以是大佬是能对一个现象级问题进行抽象并建模分析,同时先通过定性后定量实现系统性研究,下图是当时大佬们在这项研究中的核心工作。
2024-01-24 19:13:12 527
原创 通用大模型研究重点之一:data embedding
在过去的传统机器学习中,通常我们是直接处理同一类型的数字类型数据。随着深度学习发展,在图像,文本,语音领域分别取得了超越平均人类水平后,多模态数据的量随着互联网技术指数性增长,近两年自媒体更是推动了多模态数据处理的发展。那么怎么更加高效的处理不同结构类型并且数量巨大的数据,经过我对《复杂》《规模》《模型思维》等深度的研究,得出如下结论:(1)场景业务问题抽象成业务模型,这个在很多咨询公司流行(简称:业务问题符号化)(2)针对抽象问题得到的业务模型和既定的目标探索建模方法(简称:符号问题数字化)
2024-01-22 17:06:32 1053
原创 浅谈对“科学,技术,工程”的个人理解及总结我和我的错
战略坚定,战术灵活,完成既定目标;科学的本质是探索并发现,它的结果是发现自然,社会,思维存在的客观规律,这个过程其实是比较唯心,个别人有天赋的人能通过思考去将这种唯心过程发现的客观规律表示成唯物定论,这种定论是成体系的,可延续的,这个过程就是科学研究。查理*芒格说过一句话我也是今年反思总结深有感悟:‘当你有疑问时,要学会利用聪明人丰富的知识和经验’,这句话验证了俗语‘狐狸和蝉’的寓言,智慧的人从别人的错误中学到教训和经验,聪明的人从自身出发学会教训和经验,愚蠢的人对人性和社会的感知及教训和经验毫无感知。
2023-12-22 12:52:47 490
原创 2023年目标检测研究进展
1:本文主要总结近两年的部分目标检测成果2:本文通过这些研究给出学派发展方向参考3:本文针对理论基础研究进行探索性的分析4:个人目前相关工作内容的一些基本的介绍(命名实体识别,文献情报分析,摘要内容生成,亚像素图像处理,超分辨图像处理,编码器,解码器,生成器,判别器,基于加瓦罗定理与海涅定理的认知计算理论研究,基于多模态可编程异构的下一代芯片设计,互联式实时芯片操作系统)
2023-08-20 17:03:46 6543
原创 如何面对工作中的问题(指责和沮丧)
2.2:如果出现失误及时和主管沟通,一定要先沟通,更重要是在沟通前最好给出两个解决方案,带着方案去沟通失误并且可以很快执行见到效果那种,避免误差传导。1.2:你要分析这个失误的价值观判断是基于什么条件来做出的结论(这个结论的价值点最终谁收益),思考下如果是你会怎么做,越是关键时刻先缓一缓很重要。1.3:不要带着情绪做什么决定,给自己带来很多不快乐的东西换个方式发泄下正常,但不要在公共场合有任何情绪表现,可以爬山、游泳、游泳、吃喝玩乐散心。4.1:分析清楚这次错误的评价标准,Why,和what。
2023-06-11 09:19:10 473
原创 谈科普、科学、技术、工程具体含义和给人带来焦虑问题的思考!
科学技术是指人类在探索自然规律和应用自然规律的过程中所获得的知识和技能。科学技术包括各个领域的知识和技能,如物理学、化学、生物学、信息技术、工程技术等。科学技术的发展对人类社会的进步和发展起到了至关重要的作用,但现实中往往存在真理是掌握在少数人手里,不管是高校、科研院所、还是国际顶尖机构,一种奇怪的现象是拥有真理的人往往和光同尘不会出现在公众视野,反而是小范围知名,那些看似公知的名流其实只是在借助平台和位置宣传。
2023-05-29 07:21:43 380
原创 ChatGPT:通用人工智能设计范式方法
目前随着ChatGPT在国际人工领域的开放体验,一举重新点燃人工发展过程新的里程碑,接下来基于ChatGPT的设计范式通用技术在大模型大算力多维数据共同发展情况下取得新。
2023-02-21 15:50:31 318
原创 DiffusionDet:Diffusion Model for Object Detection
Diffusion、objectdetection、扩散模型、目标检测
2022-11-28 18:00:50 1545
Miniforge-pypy3-Linux-aarch64.sh
2020-07-20
exchange.7z
2020-05-21
gcc-10.1.0 .tar.gz
2020-05-19
深度学习matlab代码
2017-10-10
Deep Learning in Radiology: Recent Advances, Challenges and Future Trends
2017-07-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人