自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(6)
  • 收藏
  • 关注

原创 推理加速资源整理

AI框架都是怎么表示控制流的?【计算图】第五篇_哔哩哔哩_bilibili。大模型是怎么训起来的?分布式并行框架介绍 #大模型 #分布式并行 #训练_哔哩哔哩_bilibili。transformers源码阅读——入门(提高nlp工程师的工程能力)_哔哩哔哩_bilibili。张量并行的数学原理是什么?【分布式并行】系列第03篇_哔哩哔哩_bilibili。【推理引擎:核心原理】系列来啦!- 哔哩哔哩 (bilibili.com)vLLM源码阅读s1——源码介绍_哔哩哔哩_bilibili。

2024-09-01 10:53:07 621

原创 MoE结构梳理

第二十课:MoE_哔哩哔哩_bilibilimixtral的moe结构。

2024-08-28 22:31:06 689

原创 zomi笔记_分布式

总体结构。

2024-08-25 21:32:10 940

原创 笔记2407

代码走读c++计算图 其它代码todo飞哥test学习计划阶段2计划推理加速学习路径,有yifei和莉姐的课zomi课程ai框架 2.mindie 3.flashattension 4. tongyilingma考试计划申请出差原理课程 — 代码实现 — 项目整合mindie源码在哪里?atb源码?与deepseek项目源码。

2024-08-04 22:42:24 822

原创 算法项目概要

模型 == 各种层的组合 + 目标函数 + 优化器策略的整体思路会决定使用什么模型,模型中使用什么因子。国情,股市制度:中国以选股为主,一是体量大,,二是中国股票中国7层散户,美国8成是基金打理股票市场的投机也可以繁荣市场,因为市场是有财富增量的择时策略估价模型,设定目标价 — 相对简单的目标策略各种高频交易策略:期货,CTA策略,套利价差交易策略 — 相对少,期货市场小BloomGPTllama微调, 大号的聊天机器人,金融投资的客服,开户客服4种微调线路一级龙头的持仓比例。

2024-06-13 11:39:01 1119

原创 NLP八股

模型类型:HMM是生成式模型,它同时建模观测序列和隐藏状态序列(相当于标签序列)的联合分布 P ( X , Y ) P(X,Y) P(X,Y),然后通过贝叶斯规则推导条件概率 P ( Y ∣ X ) P(Y|X) P(Y∣X)。而CRF直接建模条件概率 P ( Y ∣ X ) P(Y|X) P(Y∣X),更专注于学习决策边界,通常能更好地利用观测数据的特性。特征表达能力:HMM依赖于固定的转移概率和发射概率,而CRF通过特征函数可以灵活地捕获更复杂的观测与标签之间的关系,允许模型学习到更多的上下文信息。

2024-04-25 01:36:28 1299 1

笔记222222222222222222222222222222

笔记222222222222222222222222222222

2024-08-04

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除