![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 89
律动的波纹
律动的波纹
展开
-
【钟灵毓秀AI史】对比学习
对比学习是一种由有监督的思路去解决无监督的问题的一种方法。主流的思路是将一个样本进行变换,变换后的样本为正样本,样本集中其他样本及其他样本的变换定义为负样本。然后让正样本尽可能相似,与负样本尽可能远。梳理下发展史,不同算法的有点等待梳理下。对这个图进行了解,就能对整个对比学习的发展核心节点和方向有一个初步的概念。......原创 2022-07-10 09:01:06 · 888 阅读 · 0 评论 -
【Transformer系列】你需要的是Attention吗,MetaFormer介绍
Transformer提出时,作者认为效果好最重要的是注意力机制。然后MetaFormer证明Transformer的成功源于它的广义架构。原创 2022-06-29 19:51:24 · 658 阅读 · 0 评论 -
【优化算法】3. 学习率优化算法
文章目录概论基础牛顿法稀疏特征的学习率AdaGradAdadeltaRMSProp算法AdamYogi概论学习率(learning rate)决定目标函数能否收敛到最小值,和何时收敛到最小值。如果直接设定一个学习率η,是一个很棘手的问题。学习率η设定太小,算法就会进展缓慢,设定太大,就会震荡或者发散。针对这样的问题,就产生了学习率自适应算法。基础牛顿法函数f:Rd→Rf: \mathbb{R}^d \rightarrow \mathbb{R}f:Rd→R的泰勒展开式,事实上我们可以把它写成f(x原创 2022-04-24 19:22:59 · 1835 阅读 · 0 评论 -
【风控系列】5.风控规则谁来主导,产品还是运营?
文章目录概论规则引擎特征计算处置系统规则配置专家系统概论规则引擎是风控的总控。一个成熟的风控系统,规则引擎几乎要承担所有的决策。规则引擎的目标用户是产品和运营,那产品和运营的边界在哪里,我认为规则80%以上由运营来制定,产品要做的是给运营足够的授权和降低规则引擎的使用难度。规则引擎、策略配置、特征计算、专家系统、处置系统等问题的边界怎么定义才能使得系统更为高效,这里阐述下我的理解。规则引擎规则引擎是将输入的特征集合和规则集合进行计算,从而触发一个或者多个业务操作。从这里看规则引擎包括三个部分:输原创 2022-04-02 14:30:56 · 701 阅读 · 0 评论 -
【风控系列】4. 行之有效的风控业务目标
文章目录1. 概论2. 核心指标2.1 客诉量2.2 审核效率2.3 通报量3. 细粒度指标4. 垂直指标4.1 竞品效果对比4.2 效果验证4.3 特殊场景成长型指标5. 总结1. 概论 目标的重要性这里就不说了,目标考核不管是KPI还是OKR,目标都是需要量化的。设定目标可以概括为明确场景,确定核心指标,并以细粒度的指标拟合长期核心的指标。这个过程就需要我们构建一个指标体系。 指标可以分成成长型的和非成长型的。成长型如DAU、CTR,是会伴随着公司成长而成长的,且正相关,成长型很容易得到大家原创 2022-04-01 19:24:02 · 560 阅读 · 0 评论 -
【风控系列】3. 高效的风控业务流程
文章目录概论业务流程风控产品参考概论风控工作的核心是产品,或者说每个公司的核心都是产品。产品的研发也是有方法论的,产品研发体系(IPD)。一个体系是靠流程运转起来的,流程需要各个角色在工作中不断迭代形成的,是一个产品能否有竞争里的底层逻辑。风控中普遍涉及的流程有审核流程、巡检流程、专项治理流程、紧急事件处理流程。业务流程构建一个完整风控的业务流程包括标准、流程、工具、数据四个部分。标准:构建一个流程,首先要制定相关的标准和原则。比如审核流程需要制定风险的类别及定义,并进行相关人员培训,否则每个原创 2022-03-31 17:43:37 · 999 阅读 · 0 评论 -
【风控系列】2. 如何构建一个有效的风控系统
文章目录0. 背景1. 第一代系统1.1 目标1.2 框架1.3 功能说明2. 第二代系统2.1 目标2.2 框架2.3 功能说明3. 第三代系统3.1 目标3.2 框架3.3 功能说明4. 第四代系统4.1 目标4.2 框架4.3 功能说明汇总参考0. 背景目前国内已经很多优秀的风控服务商,如同盾科技、数美科技、网易易盾等。本文根据自己的理解,给出了从头构建一个完整风控系统的一个思路。共分为了4个阶段,每个阶段根据不同的目标,实现不同的功能。下面进行具体的描述。1. 第一代系统第一代系统框架。1原创 2022-03-30 17:21:53 · 2109 阅读 · 0 评论 -
图卷积神经网络GCN
GNN1. 基础知识1.1 Spatial Domain(空间/拓扑域)和Spectral Domain(谱域)1.2 拉普拉斯矩阵1.3 三级目录1. 基础知识1.1 Spatial Domain(空间/拓扑域)和Spectral Domain(谱域)1.2 拉普拉斯矩阵1.3 三级目录原创 2021-02-24 15:21:57 · 179 阅读 · 0 评论 -
一文读懂「Attention is All You Need」
一文读懂「Attention is All You Need」1. 介绍2. 模型架构2.1 Encoder-Decoder 框架2.1.1 Encoder模块2.1.2 Decoder模块2.1.3 Attention模块2.2 Position-wise Feed-Forward 网络2.3 Embeddings and Softmax2.4 Positional Encoding2.5 Full Model3. 模型训练1. 介绍核心Transformer,Transformer抽象结构如图。原创 2021-01-18 18:58:10 · 723 阅读 · 0 评论 -
一文读懂Attention
@[TOC] 一文读懂AttentionAttention本质是什么Attention(注意力)机制模仿了生物观察行为的内部过程,核心逻辑就是从关注全局到关注重点。如人的视觉在处理一张图片时,会通过快速扫描全局图像,获得需要重点关注的目标区域,也就是注意力焦点。然后对注意力焦点投入更多的注意力资源,以获得更多所需要关注的目标的细节信息,并抑制其它无用信息。Encoder-Decoder框架要理解Attention机制,就需要先介绍下Encoder-Decoder框架,因为大多数的注意力模型是依附于该原创 2021-01-12 18:17:49 · 367 阅读 · 0 评论