- 博客(5)
- 收藏
- 关注
RSS订阅转载 LLM中的Top-K/Top-p/温度都是怎么发挥作用的？
许多大模型具有推理参数，用于控制输出的“随机性”。常见的几个是 Top-K、Top-p，以及温度。比如我们常用的 Dify 平台就支持 Top-p 和 温度 的设置：Top-p：核采样阈值。用于决定结果的随机性。值越高，随机性越强。对于同一个问题，得到不同答案的可能性越高。温度：在生成过程中，核采样方法的概率阈值。值越大，生成的随机性越高。值越小，生成的确定性越高。看起来，他们都可以控制模型输出内容的随机性。那么它们有什么不同呢？以及作用机制又有哪些区别呢？本文将一探究竟。
2025-05-16 12:09:35
7
转载 揭秘AI编排爆火真相：从“人工智障“到“真正智能“的关键一跃
当行业还在追捧大模型参数竞赛时，领先团队早已转向新战场：AI编排（Agent Orchestration）—— 这个方向是 AI 技术“从聊天到做事”的关键突破口。
2025-05-08 07:47:50
7
转载 从源码的角度了解Netty的初始化过程
源码用到的最多的特性就是多态，一个基础类可能有2到3层继承关系，甚至可能更多，所以在看的时候要弄清楚当前这个变量究竟是哪一个类，是子类还是父类，也有可能是内部类，这样每个地方所执行的代码逻辑就比较清晰了。1. 网络操作抽象类 ChannelChannel是Netty对网络操作的抽象类，通过Channel可以进行I/O操作。...
2024-08-17 02:39:44
30
转载 25w的理想L6简约民宿，15W的哪吒L拎包入住
文 | AUTO芯球作者 | 谦行25w买理想L6 ？踩坑咯！你是没看哪吒L吧！哪吒是杂牌？兄弟！买车要动脑子！你先去哪吒店里体验一下！肠子都给你悔青！上有老下有小，要精打细算过生活，人家顶配的增程版哪吒L才15万9，入门版12万9，还有2W的优惠!你这理想直接翻倍啊！同样都是增程，都是中型SUV，25w的L6你图啥？也就...
2024-07-23 03:15:38
47
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人