机器学习
文章平均质量分 96
珍妮的选择
这个作者很懒,什么都没留下…
展开
-
当大语言模型遇上扩散模型(一、简要介绍)
本系列文章对近期学习的大语言模型(LLM)和扩散模型(Diffusion Model)的相关内容进行简要总结,作为该系列文章的开篇,主要谈谈近期学习的感受和心得。原创 2023-04-16 22:01:18 · 2193 阅读 · 1 评论 -
Stable Diffusion 原理介绍与源码分析(二、DDPM、DDIM、PLMS算法分析)
本文对 Stable Diffusion 主要使用的如 DDPM、DDIM、PLMS 等算法进行分析,详解其代码实现。原创 2023-03-19 23:31:06 · 8661 阅读 · 4 评论 -
Stanford Alpaca (羊驼):ChatGPT 学术版开源实现
最近 ChatGPT 大热,让人惊叹其强大的对话、上下文理解、代码生成等等能力,3 月 15 日 OpenAI 又放出了能实现图像理解的多模态大模型 GPT-4,直让人感觉通用人工智能 (AGI)仿佛离自己不远了。本文对其学术版开源实现进行简要介绍。原创 2023-03-16 03:09:29 · 3663 阅读 · 1 评论 -
Stable Diffusion 原理介绍与源码分析(一)
本文以 “文本生成图像(text to image)” 为主线,考察 Stable Diffusion 的运行流程以及各个重要的组成模块,在介绍时采用 “总-分” 的形式,先概括整体框架,再分析各个组件(如 DDPM、DDIM 等),另外针对代码中的部分非主流逻辑,比如 `predict_cids`、`return_ids` 这些小细节谈谈我的看法。原创 2023-03-12 13:30:19 · 21186 阅读 · 9 评论 -
扩散模型 (Diffusion Model) 简要介绍与源码分析
Diffusion Model (扩散模型) 是一类生成模型, 和 VAE (Variational Autoencoder, 变分自动编码器), GAN (Generative Adversarial Network, 生成对抗网络) 等生成网络不同的是, 扩散模型在前向阶段对图像逐步施加噪声, 直至图像被破坏变成完全的高斯噪声, 然后在逆向阶段学习从高斯噪声还原为原始图像的过程.原创 2022-10-23 19:46:16 · 20143 阅读 · 11 评论 -
DMIN 模型介绍与源码分析
DMIN 模型介绍与源码分析四. 源码分析DMIN 模型定义在 https://github.com/mengxiaozhibo/DMIN/blob/master/code/model.py 文件中, 类名为 Model_DNN_Multi_Head.Behavior Refiner Layer采用 Multi-Head Self-Attention 完成对用户兴趣的初步提取:maxlen = 20other_embedding_size = 2## 生成 Position Embedding原创 2021-10-28 09:15:36 · 1413 阅读 · 0 评论 -
DMR (Deep Match to Rank) 网络介绍与源码浅析
DMR (Deep Match to Rank) 网络介绍与源码浅析文章目录DMR (Deep Match to Rank) 网络介绍与源码浅析零. 前言 (与正文无关, 请忽略)广而告之一. 文章信息核心观点核心观点解读User-to-Item 子网络Item-to-Item 子网络源码分析Position Embedding 的生成User-to-Item 网络Item-to-Item 网络MLP 网络总结零. 前言 (与正文无关, 请忽略)晚上(2021-10-13)参加了一个会议, 体验了啥叫原创 2021-10-15 09:29:46 · 1343 阅读 · 0 评论 -
MMOE 多任务学习模型介绍与源码浅析
MMOE 多任务学习模型介绍与源码浅析前言 (与正文无关, 请忽略~)后续打算写 DMT, 先介绍一些基础模块.文章信息论文标题: Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts论文地址: https://www.kdd.org/kdd2018/accepted-papers/view/modeling-task-relationships-in-multi-task-le原创 2021-01-29 08:44:59 · 3490 阅读 · 0 评论 -
DeepMCP 网络介绍与源码浅析
DeepMCP 网络介绍与源码浅析前言 (与正文无关, 请忽略~)又有一段时间没写博客了, DIEN 写了一部分, 在草稿箱内躺着, DMT 看完了代码, 在想啥时候写… 一直拖着是因为早上真的不愿起床了 ????文章信息论文标题: Representation Learning-Assisted Click-Through Rate Prediction论文地址: https://www.ijcai.org/Proceedings/2019/0634.pdf代码地址: https://git原创 2021-01-28 09:04:36 · 570 阅读 · 2 评论 -
DSIN 深度 Session 兴趣网络介绍及源码剖析
DSIN 深度 Session 兴趣网络介绍以及源码剖析前言(可以忽略~)本文介绍 DSIN 网络的基本原理,并对源码进行详细分析,从数据预处理,训练数据生成,模型构建等方面对 DSIN 的完整实现进行详细介绍。(PS:好久好久没有写文章了,罪过罪过,这段时间发生了太多的事情,似梦如幻,2020 年结尾钟声快要敲响之际,平静终于回归了我的内心,过去的事情不再留恋,2021 年开启新的征程。“星空”我望过了,还差的就是脚踏实地。祝新的一年身体健康,万事如意!)文章信息论文标题: Deep Sess原创 2021-01-07 08:32:48 · 1783 阅读 · 12 评论 -
开通知乎专栏和公众号啦!
开通知乎专栏和公众号啦!可以在微信中搜索 “珍妮的算法之路” 或者 “world4458” 关注我的微信公众号;另外可以看看知乎专栏 PoorMemory-机器学习, 以后文章也会发在知乎专栏中;最近堕落了,以后会坚持吸取养分并总结的????...原创 2020-12-20 17:21:07 · 643 阅读 · 0 评论 -
FuxiCTR 介绍 -- CTR 预估任务中的 Open Benchmark
FuxiCTR 介绍 – CTR 预估任务中的 Open Benchmark前言 (与主题无关, 可忽略~)上班太用功了, 眼睛有点不舒服 … 今早终于 7 点醒了, 正常了一点, 平时 4 ~ 5 点醒简直可怕 ????推荐一个 Chrome 插件: Find Code for Research Papers - CatalyzeX, 可以主动搜索论文中的源代码; 相关介绍可以查看 Chrome 科研神器!去谷歌学术搜到文章,代码链接就能自动展示FuxiCTR文章信息论文标题: FuxiCT原创 2020-10-12 22:44:09 · 2040 阅读 · 0 评论 -
xDeepFM 网络介绍与源码浅析
xDeepFM 网络介绍与源码浅析前言 (与主题无关, 可以忽略)哈哈哈, 十月第一篇博客, 希望这个季度能更奋进一些~~~ 不想当咸鱼了… ????????????xDeepFM文章信息论文标题: xDeepFM: Combining Explicit and Implicit Feature Interactions for Recommender Systems论文地址: https://arxiv.org/abs/1803.05170代码地址: https://github.com/原创 2020-10-11 22:51:19 · 1100 阅读 · 0 评论 -
FiBiNet 网络介绍与源码浅析
FiBiNet 网络介绍与源码浅析前言 (与主题无关, 可以忽略)我知道这有点不太厚道, 文章不写全就发出来, 但最近真的很忙, 同时给自己立了 9 月再写一篇博客的 Flag~ 可是这个月只写了一篇 ???????????? 今晚是 9 月 30 日, 月色很美 … (猜测的, 毕竟明日中秋和国庆一起过; 走路忘了抬头看看夜空, 忧桑~). 虽然下班较早, 但心事重重, 不到最后一刻不动笔. 因此现在先扯一点前言, 后续一定会以全副精力来完成 Flag! 我最近可是看了很多 paper 的, 可以乘着原创 2020-09-30 22:38:20 · 907 阅读 · 0 评论 -
AutoInt 网络介绍与源码浅析
AutoInt 网络介绍与源码浅析前言 (与正文无关可以忽略~)好几个星期没有写博客了, 表层原因是最近这段时间确实比较忙, 但深层原因是本质上放松了对自己的要求, 好在论文还是抽空看了几篇, 所以这里就做个简单的总结~ 另外提醒下自己, 写过的博客也应该经常查阅和复习呀, 现在琐事太多了, 记忆力明显不像原来那么有活力了, 即使是最近学习的内容, 也会将一些细节忘记…好吧, 我承认不止只忘一些细节 (核心原理都快忘了) ???????????? 所以啊, 记录下来至少能证明我曾经学过 ????????原创 2020-09-20 22:41:10 · 1176 阅读 · 2 评论 -
DeepFM 网络介绍与源码剖析
DeepFM 网络介绍与源码剖析前言好吧, 我承认, 本周末我的精力确实有些过剩; 如果写完这篇, 那么就肝完了 3 篇博客啦 (打广告: FNN 网络介绍与源码浅析 与 NFM 网络介绍与源码浅析, 哈哈哈 ???? ???? ????; duang~~~. 另外, 主要原因是本周看的 Paper 也比较多, 希望能及时将相关感受想法记录下来, 后面回忆起来核心观点也会很快. ????DeepFM文章信息论文标题: DeepFM: A Factorization-Machine based N原创 2020-08-22 23:55:07 · 467 阅读 · 2 评论 -
NFM 网络介绍与源码浅析
NFM 网络介绍与源码浅析前言OK, 周末继续肝!!! 昨晚完成了 FNN 网络介绍与源码浅析NFM (Neural Factorization Machines)文章信息论文标题: Neural Factorization Machines for Sparse Predictive Analytics论文地址: https://arxiv.org/abs/1708.05027代码地址: https://github.com/hexiangnan/neural_factorization_原创 2020-08-22 10:46:29 · 801 阅读 · 0 评论 -
FNN 网络介绍与源码浅析
FNN 网络介绍与源码浅析前言周五晚上分享 paper !!! 感动自己一把~ ???? 感觉本周看的 Paper 还挺多的, 打算尽可能都做下记录, 方便日后查阅.文章信息论文标题: Deep Learning over Multi-field Categorical Data – A Case Study on User Response Prediction论文地址: https://arxiv.org/abs/1601.02376代码地址: https://github.com/wnz原创 2020-08-22 00:06:55 · 1446 阅读 · 0 评论 -
AFM 网络介绍与源码浅析
AFM 网络介绍与源码浅析前言分享一篇上上个星期看过的论文, 记录下重点吧~Attentional Factorization Machines (AFM)文章信息论文标题: Attentional Factorization Machines:Learning the Weight of Feature Interactions via Attention Networks论文地址: https://www.ijcai.org/Proceedings/2017/0435.pdf代码地址:原创 2020-08-15 16:59:16 · 640 阅读 · 0 评论 -
Product-based Neural Network (PNN) 介绍与源码浅析
Product-based Neural Network (PNN) 介绍与源码浅析前言继续介绍论文~ 本文初看的时候有些懵逼, 多看几次总算有些 Get 到了, 总结一下.Product-based Neural Network (PNN)文章信息论文标题: Deep Interest Network for Click-Through Rate Prediction论文地址: https://arxiv.org/abs/1611.00144代码地址: https://github.com/原创 2020-08-14 10:01:54 · 1106 阅读 · 1 评论 -
DIN 深度兴趣网络介绍以及源码浅析
DIN 深度兴趣网络介绍以及源码浅析前言继续分析论文, 养成及时记录的好习惯; 周末立了写两篇博客的 Flag, 期望能够完成 … ???? ???? ????另外需要说明的是, 本篇文章并不打算详细的解读原文, 而是按照我的理解记录文章最核心的观点, 以及对相关代码进行解读, 最终的目标是以后我再翻看本文能够快速回忆起文章最重要的内容. OK, 下面开始分析.Deep Interest Network (深度兴趣网络, DIN)文章信息论文标题: Deep Interest Network f原创 2020-08-08 20:31:22 · 3326 阅读 · 10 评论 -
FM 算法介绍以及 libFM 源码简析
FM 算法介绍以及 libFM 源码简析libFM 的大名如雷贯耳, 然而一直没有机会看看它的具体实现; 周末查看了一下 FM 算法的原理以及源码实现, 现在记录下心得. 另外发现大佬很多, 像博主 zhiyong_will 写了一系列的文章, 比如 机器学习算法实现解析——libFM之libFM的训练过程之SGD的方法 来介绍 libFM 的源码实现, 看后受益匪浅. 感觉以后要是看其他的源...原创 2020-04-21 22:31:08 · 1857 阅读 · 0 评论 -
Deep Cross Network (深度交叉网络, DCN) 介绍与代码分析
Deep Cross Network (深度交叉网络, DCN) 介绍与代码分析文章目录Deep Cross Network (深度交叉网络, DCN) 介绍与代码分析文章信息主要内容Deep Cross Network特征输入Cross NetworkDeep NetworkCombination Layer总结参考资料发现看完 Paper 和源码后如果不做点笔记, 一段时间过后, 甚至记不...原创 2020-04-18 23:21:36 · 7587 阅读 · 1 评论 -
逻辑回归模型 Logistic Regression 详细推导 (含 Numpy 与PyTorch 实现)
逻辑回归模型 Logistic Regression文章目录逻辑回归模型 Logistic Regression内容概括LR 模型介绍符号说明Sigmoid 函数LR 模型LR 模型的优化目标似然函数与损失函数模型参数更新 -- 代数法求梯度模型参数更新 -- 矩阵法求梯度参数更新LR Numpy 代码实现参考文献内容概括逻辑回归模型 (Logistic Regression, LR) 是一...原创 2020-04-12 22:52:22 · 1886 阅读 · 2 评论