- 博客(12)
- 收藏
- 关注
RSS订阅原创 大模型的好伙伴，浅析推理加速引擎FasterTransformer
是一个用于实现基于Transformer的神经网络推理的加速引擎。它包含Transformer块的高度优化版本的实现，其中包含编码器和解码器部分。使用此模块，您可以运行编码器-解码器架构模型（如：T5）、仅编码器架构模型（如：BERT）和仅解码器架构模型（如： GPT）的推理。FT框架是用C++/CUDA编写的，依赖于高度优化的 cuBLAS、cuBLASLt 和 cuSPARSELt 库，这使您可以在 GPU 上进行快速的 Transformer 推理。
2024-07-12 17:45:00
523
原创 如何用AI 来帮助我们提升学习能力加快学习进度，帮助我们升职加薪
2024 年 5 月 6 日，下班开车时，我在「一席」 App 里听了一场演讲，主题是《反人类设计背后的心理学》。听完以后，我觉得内容很不错，于是就想着晚上把它整理到笔记软件里。接下来我怎么操作的呢？传统的方法是：自己再听一遍，然后梳理整个框架，再提炼重点。但这一次，我想试试 AI。具体方法如下：第一步，我打开「一席」的网页版，然后选择了「打开文稿」，并把文稿复制到了 Word 里。第二步，我把 Word 上传到了 Kimi （一个人工智能助手） 里，然后让它「按照文章的顺序，整理它的架构」。
2024-07-12 17:00:00
460
原创 2024 年过半，AI 大模型在各行业的落地实践走到哪了？
转眼之间，2024 年已经过半，AI 大模型的热度从去年的技术探索转向落地实践，肉眼可见的是，各行各业都纷纷在这场热潮中寻找新的业务创新点和行业增长点。“大模型的出现带来了变革，它实现了知识平权，为我们提供了技术条件，使得我们能够参与到 AI 的应用中来。”宁德核电人工智能实验室负责人王澍在 InfoQ 17 周年庆直播中表示，核电由于行业特殊性，从业人员自身的技术意识和能力有限，加上传统 AI 依赖于规则驱动，知识门槛高，使得过去核电领域对 AI 的应用并不广泛。
2024-07-12 10:28:15
483
原创 狂奔的羊驼-llama3生态大爆发
在本地通过ollama使用llama3, 将较长的视频分块，并自动形成摘要。从llama3发布后理论上预测社区的爆发，到接下来的2周见证社区的持续火热，llama3带给我们非常多惊喜，未来会有更加参数小而能力强的模型出现，但llama3是1个重要的开始，fine-tune的低成本促进了社区创意的发挥，而这些创意产生的新模型又推进了应用生态的繁荣。另外本地化模型正在变得越来越好用，这进一步降低了大模型成本以及满足了离线使用模型的需求。
2024-07-11 17:30:00
1426
原创 转型AI产品经理需要掌握的硬知识：AI产品经理能力模型和常见AI概念梳理
从现在的招聘市场来看，产品经理岗位已经出现大量细分，如数据产品经理，支付产品经理，ERP产品经理，CRM产品经理，供应量产品经理，POP产品经理等，AI产品经理可能将成未来的一个主流细分岗位，而且因为AI对应的行业不同，AI产品经理下面将衍生出大量的细分行业AI产品经理。在讨论AI产品经理之前，我们来看看，非AI产品在公司中需要面对哪些角色，而面对这些角色需要的能力模型是什么，在这个基础上我们再来讨论AI产品经理的能力模型。
2024-07-11 15:15:00
768
原创 AI时代的产品经理的成长之路：可能是小宇宙最全的产品经理指南
2019年～2021年期间，我在做智能写作项目创业的时候，由于当时市场相关产品较少，遇到了问题没有可以参考的竞品。我们只能一路探索，一路踩坑，一路修正。随着产品的迭代，我也在不断地迭代自己的认知，梳理AI产品的方法论和技能树。当时还和Shadow在“蔚来”做了一次关于《AI时代的产品思维》分享。但是光有方法论还不够，随着团队越来越大，也出现了一些管理上的新的问题。团队中新入行的同学，在职业发展的道路上产生了迷茫，甚至也有人提出了离职。
2024-07-11 10:21:54
615
原创 AI大模型时代，如何提升教师核心竞争力
文生文顾名思义，就是文字提问然后回复给你的也是文字，这个大模型最擅长的就是这个。至于国内的大模型，要问国内大模型哪家好，专业来看……不是本篇要讲的内容在此不论述。张老师关心的是如何用大模型来提高老师们的核心竞争力。用大模型生成思维导图: 一说生成思维导图，立马有人起来说这个简单。但是要让具体举个例子来说一说又说不出个所以然，所以此篇我们将从老师的应用场景入手一一分析。①人工智能/大模型学习路线②AI产品经理入门指南③大模型方向必读书籍PDF版④超详细海量大模型实战项目⑤LLM大模型系统学习教程。
2024-07-10 17:15:00
545
原创 SOTA多模态大模型！13个开源模型汇总，附论文和代码_开源多模态大模型
近年来，多模态大模型（Multimodal Large Language Models, MLLMs）在人工智能领域取得了显著的进展，特别是在自然语言处理、计算机视觉和多模态理解方面。这些模型能够理解和生成多种类型的数据，如文本、图像、音频和视频，为多模态学习和应用提供了强大的工具。今天给大家汇总了13个开源多模态大模型，这些模型在各自的领域中刷新了多个SOTA记录，每个模型都将附上相关的论文和代码，一起看看多模态大模型的最新研究成果吧！论文PDF和开源代码都整理好了😝有需要的小伙伴，可以保存图片到。
2024-07-10 14:45:00
500
原创 零基础，零成本，部署一个属于你的大模型_阿里云大模型部署
看了那么多chatGPT的文章，作为一名不精通算法的开发，也对大模型心痒痒。但想要部署自己的大模型，且不说没有算法相关的经验了，光是大模型占用的算力资源，手头的个人电脑其实也很难独立部署。就算使用算法压缩后的大模型，部署在个人电脑上，还要忍受极端缓慢的计算速度以及与chatGPT相差甚远的模型效果。有什么办法能够部署属于我们自己的大模型呢？有编程基础：作为一个合格的程序员，这应该是必备素质。
2024-07-10 10:07:05
1307
原创 离线运行Llama3：本地部署终极指南_liama2 本地部署
4月18日，Meta在官方博客官宣了Llama3，标志着人工智能领域迈向了一个重要的飞跃。经过笔者的个人体验，Llama3 8B效果已经超越GPT-3.5，最为重要的是，Llama3是开源的，我们可以自己部署！本文和大家分享一下如何在个人电脑上部署Llama3，拥有你自己的GPT-3.5+!①人工智能/大模型学习路线②AI产品经理入门指南③大模型方向必读书籍PDF版④超详细海量大模型实战项目⑤LLM大模型系统学习教程⑥640套-AI大模型报告合集⑦从0-1入门大模型教程视频。
2024-07-09 22:00:00
552
原创 Langchain实战：构建高效的知识问答系统_langchain 问答助手
通过Langchain库，我们快速搭建出了一个基础的知识问答系统。不仅如此，Langchain还提供了丰富的模块和功能，使得开发者可以根据项目的需求定制问答系统。例如，我们可以使用不同的文档加载器、文本切割器和向量存储库，来适应不同类型和规模的数据。此外，Langchain还支持多种检索和问答模式，如Retrieval-augmented Generation (RAG)模式，使得我们能够构建出更为高级和复杂的知识问答系统。
2024-07-09 17:56:00
761
原创 AI 赚钱的 26 种方法：视频变幻、文案撰写、虚拟直播
Stars:1.0kLicense:这个项目是一个 AI 副业赚钱资讯信息的大合集，主要围绕使用 AIGC 技术生成内容，并分享一些自己的认知。该项目收录了各种利用 AI 技术进行副业赚钱的思路和方法，包括视频变幻、图片创作、文案撰写等多个方面。①人工智能/大模型学习路线②AI产品经理入门指南③大模型方向必读书籍PDF版④超详细海量大模型实战项目⑤LLM大模型系统学习教程⑥640套-AI大模型报告合集⑦从0-1入门大模型教程视频⑧AGI大模型技术公开课名额。
2024-07-09 17:52:38
853
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人