guslegend的博客

本文深入解析了Transformer架构的核心原理及其在构建情感聊天机器人中的应用。首先对比了RNN和Transformer在处理序列数据上的差异，重点阐述了Transformer通过自注意力机制实现全局依赖建模和并行化训练的优势。接着详细拆解了Transformer的编码器-解码器结构，包括词嵌入、位置编码、多头注意力机制等关键组件。然后探讨了文本生成机制中的解码策略（Top-K、Top-P采样）和温度参数对输出风格的影响。最后从工程实践角度，提出了优化提示词工程、上下文管理和生成参数调优的具体方法，为开

保存助手回复到 MySQL，并将完整的对话对（用户消息+助手回复）保存到向量数据库，供未来检索使用 这种设计实现了"检索在生成前，保存在生成后"的流程，确保每次生成回复时都能利用历史相似对话的上下文，同时将新对话持续积累到长期记忆中。在 LangChain 中，LCEL（LangChain Expression Language）是构建处理流程的核心方式，它通过直观的“管道”（| 操作符）将不同组件串联起来，形成可复用、可扩展的处理链。：初期使用通义千问或GPT-4o API进行快速原型开发；

核心功能包括：倾听用户情绪表达提供共情回应引导积极认知记录情绪变化趋势危机时转接人工。

大模型应用开发与传统软件开发存在本质差异，核心体现在从显式编程转向隐式推理、结构化输入输出变为自然语言交互、知识存储方式从数据库转向模型参数。开发路径可分为需求定义、技术选型、开发集成、评估优化、部署运维五个阶段，需重点掌握Prompt工程、RAG和Agent三大核心技术范式。开发过程中面临幻觉、成本、延迟、安全等挑战，需通过模型选型、架构设计、评估优化等策略应对。大模型正在推动软件开发模式的根本性变革，开发者需从编码转向上下文设计和模型引导。