- 博客(51)
- 收藏
- 关注
RSS订阅原创 AI大模型时代，程序员何去何从
10月24日，位于安徽合肥的奥林匹克体育中心，正在举行一场大型科技峰会，奔涌而入的人潮，很快就将主会场挤了个满。这是科大讯飞主办的第六届世界声博会暨2023全球1024开发者节的现场。自2017年以来，这家公司每年都会在1024程序员节这一天举办这样的大会。同一日，还有大量的公司，例如百度、腾讯、字节跳动、统信软件、小鹏汽车等，或举办对外的活动，或针对程序员们，推出了各种内部分享大会、代码大赛、以及趣味性活动或福利派送……
2024-10-08 10:01:10
724
原创 字节人困惑：35 岁后遭裁员者何去何从？现 2-2 级别，是否该在最后一年奋力上岸？—— 互联网裁员后的去向探寻。
35岁，曾被视为职场的黄金年龄，但对于许多互联网公司尤其是技术岗位的员工而言，这一里程碑也意味着职场的不确定性。，他们曾是别人眼中的“完美夫妇”，前一刻还在自得于“富贵不还乡，如锦衣夜行”，享受着成功带来的光环，后一刻便遭遇了裁员、失业，找工作四处碰壁的窘境。在剧中，哥哥公司的创始人在A轮融资的关键时期，突然选择“出家”，面对这种情况，那隽预言凶多吉少，提醒哥哥要早做打算。其实，在剧集一开始，那隽就曾说，要在35岁完成人生大事，买房、结婚、生孩子，无论工作还是生活，他的每一步都是规划好的。
2024-10-08 09:56:23
1074
原创 大模型应用新领域：探寻终端侧 AI 竞争核心｜智于终端
（全套教程文末领取哈）从大模型系统设计入手，讲解大模型的主要方法；在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；以SD多模态大模型为主，搭建了文生图小程序案例；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2024-10-07 10:21:22
594
原创 实操了 AI 大模型项目的落地过程，成功实现了向 AI 大模型工程师的华丽转变
根据《2024 年全球人工智能行业报告》最新的数据显示，全球 AI 市场预计将以每年超过 40% 的速度增长，到 2030 年市值将达到数万亿美元，这也是预示着在接下来的十年到十五年里，人工智能将获得巨大的发展红利。在过去的一年多时间里，我持续关注着大模型的发展趋势，并且尽可能地进行了尝试和实践。在学习的过程中，遭遇了不少问题，可能你也碰到过，比如：· 如何在众多模型中选择合适自己领域的模型并进行优化？· 如何在 AI 时代找到自己的位置，并实现技术的真正落地？
2024-10-07 10:09:05
552
原创 为什么要学习大模型？AI在把传统软件当早餐吃掉？
上周末在推特平台上有一篇写在谷歌文档里的短文，在国外的科技/投资圈得到了非常广泛的浏览，叫做 The End of Software（软件的终结）， 作者 Chris Paik 是位于纽约市的风险投资基金 Pace Capital 的创始合伙人，他之前同样在谷歌文档里总结的自己的投资框架也得到广泛的阅读。
2024-10-06 10:25:16
1111
原创 大模型的挑战与优势？普通人学习大模型应该怎么学？
近年来，人工智能领域掀起了一股“大模型”热潮，吸引了无数研究者和企业关注。所谓“大模型”，是指那些参数量巨大、结构复杂人工智能模型，如谷歌BERT、OpenAI的GPT等。这些模型在自然语言处理、计算机视觉等任务中取得了显著成果，引领着人工智能技术发展。那么，这些“大模型”究竟有何魅力？它们又将给人工智能领域带来怎样变革？大模型出现是人工智能技术发展必然趋势。随着硬件设备不断升级、数据量爆发式增长以及算法日益成熟，人工智能模型得以在更大规模上进行训练，从而实现更强大功能。
2024-10-06 10:16:46
1888
原创 AI时代产品经理的入行秘籍（阿里内部分享），看完你就懂了
随着算法、算力和数据的蓬勃发展，AI时代的曙光已然照耀全球，行业巨头们纷纷摩拳擦掌，布局人工智能赛道，催生了对AI人才的渴求。在这个充满机遇的时代，产品经理如何才能抓住AI的风口，快速入行，抢占职业先机呢？
2024-10-05 08:30:00
699
原创 AI大模型最新算法岗常见面试题100道（值得收藏）
大模型无疑是当今最具影响力的AI技术之一，它正在革新包括自然语言处理、机器翻译、内容创作和客户服务等多个行业，并逐渐成为未来商业环境的重要组成部分。截至目前，大模型的数量已超过200个。在这个大模型盛行的时代，大模型技术的竞争愈发激烈，大模型相关的岗位和面试也开始变得越来越卷。本文总结了大模型算法岗位面试题（含答案），内容如下：一、基础篇1、目前主流的开源模型体系有哪些？Transformer体系：由Google提出的Transformer模型及其变体，如BERT、GPT等。
2024-10-03 08:30:00
546
原创 新的风口，AI大模型，高薪且竞争相对较小
近两年来，随着大厂频繁裁员的消息不断传出，大厂的光环似乎不再那么耀眼。然而，尽管如此，大厂的薪资水平仍然远超小厂，仍然是众多求职者的首选。在这样的背景下，AI大模型作为新兴技术领域，正逐渐成为新的职业风口，为求职者提供了高薪的机遇。
2024-10-01 08:00:00
539
原创 从中年危机再到AI大模型新赛道：我的转行之路
既然要系统的学习大模型，那么学习路线是必不可少的，下面的这份路线能帮助你快速梳理知识，形成自己的体系。在这样的状况下，生活开销带来的压力以及职业发展遭遇的瓶颈，成为无法回避的难题。我们学习AI大模型必然是想找到高薪的工作，下面这些面试题都是总结当前最新、最热、最高频的面试题，并且每道题都有详细的答案，面试前刷完这套面试题资料，小小offer，不在话下。为了帮助大家更好地把握AI大模型的学习和发展机遇，下面提供一份AI大模型的学习路线图以及相关的学习资源，旨在帮助您快速掌握AI大模型的核心技术和应用场景。
2024-09-29 11:20:06
1004
原创 如何快速成为AI大模型专家，从入门到精通的指南
随着AI大模型技术的兴起，程序员们正面临前所未有的机遇和挑战。从谷歌到亚马逊，从百度到阿里，科技巨头们纷纷布局AI领域，这直接影响了招聘市场，使得大模型相关岗位的需求激增，年薪甚至可达80万至90万人民币。对于程序员来说，掌握AI大模型技术已成为一项必备的技能。那么，作为一个普通人，如何成为AI大模型领域的专家呢？
2024-09-29 11:13:48
925
原创 AI大模型速成指南，一键提升工作效率！
引言：在这个数字化和智能化飞速发展的时代，人工智能（AI）正以前所未有的速度推动着各行各业的革新与发展。随着AI技术的不断进步，许多原本繁琐的任务，如数据分析、文件整理和公文撰写等，都可以借助AI工具变得轻松简单。不仅如此，AI大模型还可以帮助我们更好地理解客户的需求、优化业务流程，甚至创造全新的商业模式。从自动化的文档处理到智能的决策支持，AI大模型已成为提升工作效率和个人能力的关键技术。
2024-09-28 11:31:25
720
原创 AI大模型：揭秘AI产品经理与传统产品经理的差别与转型攻略
引言：随着ChatGPT等革命性产品的流行，人工智能（AI）在中国的发展势头愈发强劲。众多企业纷纷投身AI领域，希望在激烈的市场竞争中占据有利位置。在这一背景下，AI产品经理成为了一个备受瞩目的职业角色。那么，AI产品经理与传统产品经理之间有何异同？如何顺利实现职业转型？本文将为您逐一解答。
2024-09-28 11:21:00
702
原创 AI产品经理面试题详细整理【已拿offer】
理解AI、掌握产品经理核心职责、运用大模型开发应用、模型调优能力，这些都将成为决定职业前景的关键因素。字节跳动、百度、昆仑天工、minimax、彩云、蕞右、粉笔、作业帮、火花、好未来等知名企业。这份资料包已在CSDN上线，包含完整的大模型相关信息，助您一臂之力。
2024-09-27 09:47:41
1146
原创 AI大模型全套学习资料
如果您也对AI大模型感兴趣想学习却苦于没有方向👀👉获取方式：😝有需要的小伙伴，可以保存图片到wx扫描二v码关注免费领取【保证100%免费】🆓。
2024-09-26 10:31:27
1128
原创 AI 时代就业指南：Java 程序员如何转行做大模型？
在如今这个 AI 大爆发的时代，大模型成为了科技领域的新宠。对于 Java 程序员来说，这也是一个实现职业转型、提升薪资待遇的绝佳机遇。一、明确大模型概念简单来说，大模型就是具有大量参数和强大计算能力的人工智能模型，可以处理各种复杂的任务，如自然语言处理、图像识别等。想象一下，大模型就像是一个超级聪明的大脑，能够理解和处理各种信息。二、转行步骤第一步：学习基础知识。了解机器学习、深度学习的基本概念和原理，掌握常见的算法和模型架构。可以通过在线课程、书籍等资源进行系统学习。第二步：掌握相关工具和框架。
2024-09-26 10:30:00
839
原创 大模型的latency（延迟）和throughput（吞吐量）有什么区别？
这些不同的实现方式都旨在提高推理性能，降低延迟，同时优化资源的利用。prefill指的是生成第一个token的时候，kv是没有任何缓存的，需要预填充prompt对应的KV矩阵做缓存，所以第一个token生成的最慢，而从第二个token开始，都会快速获取缓存，并将前一个token的kv也缓存。可以看到，这是一个空间换时间的方案，缓存会不断变大，所以在私有化部署计算显存的时候，除了模型大小，还要要看你的应用中prompt和completion的大小（当然还有batch-size）。每个token输出是多久？
2024-09-25 10:36:32
991
原创 超详细的系列总结！大模型岗面试题(含答案)来了！（大语音模型基础篇三）
大模型应该是目前当之无愧的最有影响力的AI技术，它正在革新各个行业，包括自然语言处理、机器翻译、内容创作和客户服务等，正成为未来商业环境的重要组成部分。截至目前大模型已超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关岗位和面试也开始越来越卷了。
2024-09-25 10:25:28
966
原创 FlashAttention v2相比于v1有哪些更新？
大模型应该是目前当之无愧的最有影响力的AI技术，它正在革新各个行业，包括自然语言处理、机器翻译、内容创作和客户服务等，正成为未来商业环境的重要组成部分。截至目前大模型已超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关岗位和面试也开始越来越卷了。
2024-09-24 17:59:14
735
原创 超详细的系列总结！大模型岗面试题(含答案)来了！（大语音模型基础篇二）
大模型应该是目前当之无愧的最有影响力的AI技术，它正在革新各个行业，包括自然语言处理、机器翻译、内容创作和客户服务等，正成为未来商业环境的重要组成部分。截至目前大模型已超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关岗位和面试也开始越来越卷了。
2024-09-24 17:55:32
877
原创 开启RAG进阶：混合检索（关键字&向量）+重排序（原理讲解与示例体验）
接下来我们就先来了解下到底什么是混合检索，可能从我们以上综合提到了两个检索方式，也已经能推断出来了。没错，在RAG系统中，混合搜索最常见指向量检索和关键词检索的组合。混合检索是结合了两种或者多种搜索算法提高搜索结果相关性的搜索技术。RAG部分，我们陆陆续续分享了好几篇文章，从了解RAG到RAG与Fine tune的对比，再到RAG的实操：文档切片的方法、关键字检索、向量检索。
2024-09-23 10:48:31
664
原创 超详细的系列总结！大模型岗面试题(含答案)来了！（大语音模型基础篇一）
大模型应该是目前当之无愧的最有影响力的AI技术，它正在革新各个行业，包括自然语言处理、机器翻译、内容创作和客户服务等，正成为未来商业环境的重要组成部分。截至目前大模型已超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关岗位和面试也开始越来越卷了。
2024-09-23 10:44:44
1339
原创 大模型之RAG-基于向量检索的理论与实战，对比关键字检索方案
向量是一种有大小和方向的数学对象。它可以表示为从一个点到另一个点的有向线段。例如，二维空间中的向量可以表示为 (𝑥,𝑦)(𝑥,𝑦)，表示从原点 (0,0)(0,0) 到点 (𝑥,𝑦)(𝑥,𝑦) 的有向线段。以此类推，我可以用一组坐标 (𝑥0,𝑥1,…,𝑥𝑁−1)(𝑥0,𝑥1,…,𝑥𝑁−1) 表示一个 𝑁𝑁 维空间中的向量，𝑁𝑁 叫向量的维度。之所以介绍一下chromadb，下面我们的实战demo就是基于chromadb来实现。
2024-09-21 11:39:13
1095
原创 从理论再到实践：AI大模型学习路线，提升核心竞争力，看这篇就够了
大模型，通常指的是在人工智能领域中的大型预训练模型。随着技术的进步，未来大模型还会在更多的领域发挥作用，比如医疗、教育、娱乐等，让我们的生活变得更加便捷和丰富多彩。针对所有自学遇到困难的同学，我为大家系统梳理了大模型学习的脉络，并且分享这份LLM大模型资料：其中包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等。虽然现在大多讨论的是千亿模型参数、万亿模型参数，但我们发现，在某些特定领域，百亿、甚至十亿级的模型参数就能取得很好的效果。
2024-09-21 11:30:12
1110
原创 大模型之RAG-关键字检索的认识与实战（混合检索进阶储备）
首先，RAG不是一个单项技术，它是一个流水线，行话叫pipeline。只有对流水线上的每一步骤都进行精细打磨，最后才能出来效果，我们的目标就是努力使每个环节都达到尽可能准确本文我们对关键字检索做了讲解以及从实战的角度做了讲解。首先我们应该认识到RAG的核心在于外部知识库，这个外部知识库甚至可以是基于关系型数据库的sql查询。而本文基于ES的关键字检索也是一个比较传统和基础的检索方式，他比较简单，也有它适用的场景。
2024-09-20 11:08:15
718
原创 字节跳动算法岗面试亲历：高效流程大公开，通关诀窍全掌握
技术面试主要问简历项目内容和专业相关知识，也有业务场景提出方案与策略。在回答业务场景并设计方案的时候，确实之前没有遇到过，所以感觉自己也答的磕磕绊绊，比较好的是，面试官最开始会详细讲解具体是什么场景。HR 面想在实习中学到什么/如果offer不过你会做什么/到岗时间和时长/在做项目的过程中遇到的困难/有无考博打算15分钟很快结束，我还以为凉了，后来发现好像基本都是这个时间。总结一下：字节的面试流程很规范，每次都会hr提前联系约面。流程进度也很快，从面试到offer时间为10天。
2024-09-20 11:03:31
1026
原创 你还在为写好Prompt而头疼吗，带你走进DSPy-Program LLMs之初体验
本文我们一是回顾了prompt使用过程中的痛点和问题，同时介绍了DSPy一种program的全新的大模型应用方式，并通过一个例子初步了解了DSPy是如何工作的，目前生成式人工智能社区对该框架非常感兴趣。DSPy 框架引入了一系列概念，将构建基于 LM 的应用程序从手动提示工程转向编程。
2024-09-19 10:55:16
707
原创 大模型微调是否具有技术含量？或者说其技术含量究竟有多少？
有句老生常谈的话：一项工作是否具有技术含量取决于你怎么做，这在大模型（LLM）方向上尤其如此，因为与传统自然语言处理（NLP）相比，它的上手门槛变得更低了。我来举些例子，就大模型微调的几个重要环节而言，我所列举的每一种做法基本上都能实现最终目标，甚至训练出的模型效果也相差无几。然而，它们对个人能力成长的助益却大不相同。
2024-09-19 10:51:31
1052
原创 大模型系列之-OpenAI的Assistants API，一个开箱即用的RAG
我们可以看到，Assistants API 的内置工具支持了代码解释器、知识库检索以及函数调用，允许接入外部知识（文档）、使用更长的提示和集成各种工具。它能够帮助开发者分担繁重的工作，并构建高质量的 AI 应用。代码解释器允许助手API在受限执行环境中编写和运行Python代码。该工具可以处理具有不同数据和格式的文件，并生成带有数据和图像的文件。代码解释器允许助手迭代运行代码以解决复杂的代码和数学问题。函数调用（ Function Calling）允许您向助手描述函数，并智能返回需要调用的函数及其参数。
2024-09-18 11:04:59
684
原创 转行大模型开发：挑战与机遇，如何有效学习以实现职业转变
甚至随着技术的进步，我们每个人都可能面临失业风险，因为未来我们所处的整个行业都可能被颠覆，公司也会不复存在。司机这一职业就是随着科技发展而不断演进的典型案例，从最早的马车夫，到现在的汽车驾驶员，再到随着自动驾驶技术的成熟，未来的 “司机” 可能是具有高度复杂算法和传感系统的自动驾驶车辆。面对这种趋势，从大家的提问中能看出对失业的担忧，但我觉得没必要过度恐慌。首先，社会未必会允许未来完全由机器替代人类工作，毕竟这涉及就业和民生问题。而且，时代在发展、科技在进步，原地不动就等于倒退，也会面临被淘汰的危险。
2024-09-18 10:56:45
1140
原创 运维人员转行 AI 大模型全攻略：史上最详尽总结，一篇在手，转行无忧！
做运维的苦，谁做谁懂。有时候真感觉自己就像个杂役，在公司都快成修电脑的了。不装了，我要转行！在此给大家分享点经验，希望能帮到你们。运维工程师若要转行至大模型领域，需要学习一系列全新的技能与知识。一、夯实基础知识数学基础：学习线性代数、概率论、统计学以及微积分等基础数学知识，这些是涉足大模型领域的根基。编程语言：若你已熟悉 Python，那这是个不错的起点。因为 Python 是机器学习与数据科学领域广泛应用的编程语言。二、钻研机器学习理论机器学习基础。
2024-09-14 10:40:06
773
原创 大模型之RAG，LLM性能的提升，RAG与Fine-Tune我们该如何选择？
正如我们所探讨的，在 RAG 和微调之间进行选择需要对 LLM 申请的独特需求和优先级进行细致的评估。没有一种万能的解决方案；成功在于使优化方法与任务的具体要求保持一致。通过评估关键标准（对外部数据的需求、调整模型行为、训练数据可用性、数据动态、结果透明度等），组织可以就最佳前进路径做出明智的决策。在某些情况下，同时利用 RAG 和微调的混合方法可能是最佳选择。
2024-09-13 11:38:53
456
原创 深度解读：从新手到专业，大模型开发者知识技能养成之路
伴随人工智能与大模型（例如 GPT - 4、BERT 等）技术的迅猛发展，众多专业人士期望转行踏入这一领域。大模型开发涵盖复杂的技术体系以及多样的应用场景，对从业者的知识储备与能力水平提出了较高的要求。本文将深入剖析转行大模型开发所需具备的知识体系、能力要求以及学习路径，并结合实际数据与案例给予深度的指导。：作为主流的 AI 编程语言，需掌握数据结构、函数编程、面向对象编程以及如 NumPy、Pandas、TensorFlow、PyTorch 等常用库。
2024-09-13 11:37:10
1321
原创 大模型之RAG系列，走进RAG以及它未来的发展趋势
所谓RAG，检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。通俗点说;就是通过自有垂域数据库检索相关信息，然后合并成为提示模板，给大模型生成漂亮的回答。
2024-09-12 10:33:18
1138
原创 AI 大模型快速上手攻略：零起点到精通，一篇全搞定！详细至极，值得收藏！
我深信，只要你有学习的意愿并肯努力，就能掌握大模型，并用其达成诸多有意义的事情。因此，从未有过一种技术能像大模型这般深入众多领域，而且大模型支持跨平台操作，还支持开源，拥有丰富的预训练模型。尤其随着人工智能的持续升温，大模型在学术界和工业界的受关注度不断攀升，越来越多的技术爱好者和行业关注者开始学习和应用大模型。但通过学习大模型，你能够不断提升自己的技术能力，拓宽视野，甚至可能发现自己真正热爱的事业。不断深入学习，可以参加一些专业培训课程，或者深入研究最新的学术论文，以便时刻掌握大模型领域的最新动态。
2024-09-12 10:28:36
1089
原创 用Function Calling 连接大模型和业务，用自然语言连接系统的认知
函数调用（Function Calling）是 OpenAI 在 6 月 13 日发布的新能力。根据官方博客描述，函数调用能力可以让模型输出一个请求调用函数的消息，其中包含所需调用的函数信息、以及调用函数时所携带的参数信息。这是一种将 GPT 能力与外部工具 / API 连接起来的新方式。支持函数调用的新模型，可以根据用户的输入自行判断何时需要调用哪些函数，并且可以根据目标函数的描述生成符合要求的请求参数。
2024-09-11 09:50:08
1083
原创 大模型 LLM（Large Language Models）如今十分火爆，对于初入此领域的新人小白来说，应该如何入门 LLM 呢？是否有值得推荐的入门教程呢？
很明显，这是一个偏学术方向的指南要求，所以我会把整个LLM应用的从数学到编程语言，从框架到常用模型的学习方法，给你捋一个通透。也可能是不爱学习的劝退文。通常要达到熟练的进行LLM相关的学术研究与开发，至少你要准备 数学、编码、常用模型的知识，还有LLM相关的知识的准备。TL;DR要求总结：数学知识：线性代数、高数、概率开发语言：Python, C/C++开发框架：Numpy/Pytorch/Tensorflow/Keras/Onnx。
2024-09-11 09:38:23
1378
原创 大模型应用开发之业务架构和技术架构（从AI Embedded 到 Copilot,再到Agent）
本文章，我们从大模型目前应用的典型业务架构和技术架构进行分析，让大家初步能够了解我们都是在如何使用LLM的，从而大家在自己的实际落地场景中，也可以对照分析，如何建设自己的业务架构和技术架构，以及选择什么样的技术路线。
2024-09-10 10:28:37
1084
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人