xindoo

善于沟通的人能充分发挥 LLM 的潜力，因为和LLM沟通和与人沟通并没有本质的区别。同样，那些擅长解决复杂问题的人往往具备出色的系统思维，能设计出高效实用的工作流程，将复杂任务分解为可管理的步骤。最后总结下本文的核心观点，在AI应用中，合理的工作流设计是提升系统效能的关键，通过任务的水平拆分和垂直拆分，我们可以构建出既能处理大规模数据又能保证质量的混合工作流体系。工作流不仅仅是一种技术实现方式，更是一种系统化思维的体现，它能帮助我们更好地应对复杂的AI应用场景，实现更高效的任务处理和更可靠的质量控制。

过将视频拆分为关键帧并使用GPT-4o进行分析，可以实现对视频内容的解读。该方法包括提取视频帧、将其转换为base64编码，并利用GPT-4o生成详细的剧情描述。实验结果表明，该方法有效且展示了GPT-4o在多模态任务中的能力。

jq是一个强大的命令行工具，用于处理JSON数据，能够简化数据过滤、转换和操作过程。文中介绍了jq的基本用法，包括提取字段、数组操作、过滤和数据转换，以及一些高级特性如条件语句、自定义函数和数学运算。jq的灵活语法和链式操作使得处理复杂JSON数据变得高效，适合开发者和数据分析师使用。

通过这篇文章，我们了解了OpenAI结构化输出的基本用法，并深入探讨了其可能的实现原理。希望这些内容对大家有所帮助。结构化输出功能无疑是AI与现有系统对接的关键依赖，因为目前所有系统的输入都有特定的格式要求。在没有结构化输出能力之前，我们不得不使用各种奇技淫巧来完成数据格式化。显然，有了结构化输出，这部分工作就会简单得多。不过，我还要提醒大家一点：不要把结构化输出当成万能工具。俗话说，“拿着锤子看什么都像钉子”，可别落入这个陷阱。

AI提示词是引导AI生成特定输出的指令或问题，掌握有效构建提示词对获取理想结果至关重要。提示词通过提供丰富的上下文信息，影响LLM的输出质量，技巧包括设定角色、使用示例、任务拆解和思维链等。这些方法旨在增强上下文信息，从而提高人机交互的准确性和效率。与LLM的沟通类似于人与人之间的交流，需要清晰表达和适当的反馈。

但是，凡事有利就有弊端，比较优势的应用明显会鼓励明确分工，这个理论也印证了亚当斯密分工制的有效性，所以我认为其弊端也来自于分工制度，职责过度的单一话，虽然可以明显天生效率，但也限制了个人全方位的发展，尤其是在当今迅速变化的社会中，身兼多职才更可能活下去，毕竟你今天可能干这这个，明天就要被迫去干别的事了。相反，Ruby生产1份土豆的时间可以生产0.5份牛肉，Frank则只能生产0.25份，所以Ruby在生产牛肉上有相对优势。即使Ruby在两种商品的生产上都更强，Frank在生产土豆上的相对效率更高。

AI不会直接夺走你的工作，但懂得运用AI的人可能会。更可能的情况是，会用AI的你将取代不会用AI的你。那些夸张的宣传并非针对普通人，而是为了吸引投资，维持AI市场的繁荣。AI的价值很高，但开发成本也不菲。，作者表述了自己关于人工智能的30个观点，部分观点还是很新颖的，特搬运翻译过来。AI就像政治，人们选定立场后，就难以接受新信息，他们被困在了自己的部落认同中。少数人热爱AI，少数人痛恨AI，绝大多数人要么漠不关心，要么根本不了解。我相信那些AI末日论者大多是真诚的，尽管他们的观点独特，表达方式激进。

我认为从员工个体的需求出发做管理来达成组织或者公司的目标，才是公司和员工双赢的方式。如果公司只是为了单纯达成自己的盈利目标，利用大家的职场“生理需求”或则“安全需求”去压迫员工，比如通过不断试探员工的需求下限来克扣员工的福利待遇、个人时间，这种行为本质上和奴隶主没啥区别，如果你遇到这种公司能跑则跑。反过来，如果公司在利用“归属需求” “尊重需求” “自我实现” 这些高层层次的需求来激励你，那么说明你在一个比较好的公司，这两年能苟则苟。

自从我上大学以来，知识的获取就很方便了，只要你掌握一些互联网信息检索的技巧，刹那间就可以获取海量的知识，而这两年AI大模型的诞生，你甚至不需要技巧就可以获取海量知识，我们比以往任何时候都更容易获取知识。然而，正如我们在程序员的世界里所看到的，仅仅拥有知识是远远不够的。真正的挑战在于如何将这些知识转化为智慧，并在复杂多变的职场环境中灵活运用。知识就像是我们手中的工具箱，里面装满了各种编程语言、框架和技术；而智慧则是知道何时、如何使用这些工具来解决实际问题的能力。它是在无数次的实践、思考和反思中逐渐积累而成的。

Mermaid.js 是一个强大的基于文本的图表生成工具，它通过使用类似Markdown的语法，可以通过简单的文本描述来生成复杂的图表，完全不依赖于繁琐的图形编辑软件。这极大地简化了图表的创建过程，尤其是很多Markdown渲染软件已经完全集成了Mermaid，完全可以做到仅使用一个Markdown编辑器完成写作和绘图的工作。流程图（Flowcharts）：用于展示过程或系统的操作流程。序列图（Sequence diagrams）：适合描述对象或参与者之间的交互序列。

以上就是我目前自建大模型平台的方案了，两个开源软件的安装方式在各自项目里都有，可以自行查阅，我这里就不再赘述了。我自己其实是购买了阿里云5年的2c4g的服务器（一次性投入2.6k），然后用docker的方式安装了上面这两个软件，不过后续也不需要每年花1.5k买poe或者gpt的会员服务了，只需要按token使用量付费给大模型服务商即可，我自己估算如果日常使用国内高性价比模型的话，偶尔特殊任务用下贵的模型，每个月花费最多也就几块钱，相当之划算了。

事情是这样的，我们公司不是有个读书小组嘛，但是今年大家都忙于工作，忽视了读书这件事，所以我就想着搞个群机器人，让它明天定时向群里推荐一本书，用来唤起大家对读书的兴趣。但在调试的过程中就发现gpt4o老喜欢推荐同样的几本书，这可就勾起我的好奇心了，是不是gpt4o就只知道推荐那几本，正好周末有空，我就斥巨资调用gpt4o的接口让它给我推荐书，调用1000次+，发现gpt4o最喜欢的书是…… 具体让我们来看下推荐结果的简单分析。

前一段时间，DeepSeek宣布1M的token只需要1块钱(人民币)，率先打响了LLM价格战的第一枪，紧随其后，智谱宣布其旗下的GLM-3-Turbo也只需要1块钱（批处理只需要5毛），然后前两天字节开发布会，宣布豆包只需要8毛钱/M，国内几家公司纷纷卷大模型的价格，要知道现在OpenAI的gpt-4o需要36￥(5$)，而gpt-3.5-turbo还需要3.6￥(0.5$)，同水平的模型OpenAI算比较便宜的。这三者里当前是豆包价格最低，性能的话我们就参考CompassRank的评分榜。

LangChain在早期曾推迟过Memory模块，但Memory模块目前被官方标记为beta版本，说是并为这边好投入生产，而且也不支持最新的LCEL语法，但是ChatMessageHistory这个功能是个例外，它已经支持LCEL并且基本可以用在生产上了，所以我们今天说下如何使用ChatMessageHistory让我们的agent记录下对话历史，实现多轮对话。首先还是来创建基本的agent，这里我们就创建一个简单的对话agent，如果你想创建具备某些功能的复杂agent，可以参考我之前两篇实践文章。

那么接下来的问题就是如何让GPT能够查询和操作这个表了。这里我们直接使用了LangChain的@tool装饰器，讲schedules表的基本操作设置为GPT可以识别的接口，当然使用OpenAI的纯原始接口也是可以实现的（参加我之前的文章OpenAI的多函数调用）,就是代码量相对会多很多。具体的代码如下，这里我定义了对schedules表的增、删、查的功能。""" 连接到数据库 """@tool""" 新增日程，比如2024-05-03 20:00:00, 周会 """@tool。

我们首先就是要定义个可以加载到网页内容的工具，这次我们直接使用LangChain提供好的WebBaseLoader。另外借助LangChain的装饰器@tool，我也仅需要正常写一个函数并表明出入参类型和功能即可，不用提供像之前那样复杂的函数定义schema。@tool"""抓取url对应网页的内容"""

由于文章篇幅的原因，我挑选了大部内容做了介绍，当然ShellGPT还有一些其他的细节需要大家自行去探索。其所有的参数都可以通过分类参数类型描述默认值基本选项prompt[PROMPT]用于生成完成的提示。--modelTEXT使用的大型语言模型。生成输出的随机性。0.0--top-p限制最高可能的token。1.0--md美化markdown输出。md--editor打开$EDITOR来提供提示。no-editor--cache缓存完成结果。cache--version显示版本。

我高中时候语文都是属于偏差的那种，作文也是很普通的水平，而且我性格偏内向，很长一段时间都不怎么会表达（高考的时候800字的作文都不知道怎么写）。但坚持写博客10年多，给我一个主题（前提是我熟悉的），我坐下来很容易写几千字，而且还能保证质量部那么水，反思10年前和现在的变化，我总结是有两方面的因素让我改变这么多，一是疯狂阅读，二就是持续写作。阅读主要是输入，看到别人如何总结和表达，以及汲取更多的信息。

例如，如果有一个奇数宽度的视频帧，最右边会有一个无法形成完整块的列像素。的特殊之处在于，它会确保计算出的宽度或高度是偶数，这是为了满足某些视频编码器的要求，它们需要偶数的分辨率尺寸。这对于编码像H.264这样的视频时特别重要，因为（如前所述）这些编码器使用基于块的编码算法，其要求块的尺寸（通常是16×16像素或其它偶数尺寸）能够完全适应视频帧的尺寸。解决方案当然很简单，那就是将分辨率强行指定成偶数即可，在当我思索难道要放弃-1这个好用的自适应参数，在指定宽为1280时，自己去计算出一个高来的时候。