bbbeoy的专栏

某个字段条件过多，查询条件失效select * from login where dt='20130101' and (ver !='3.1' or ver !='3.2' or ver != '4.0' or ver != '5.2'); select * from login where dt='20130101' and (ver !='3.1' and ver !='3.2...

相比于bp神经网络算法，som相对来说比较容易理解。自组织神经网络，是一种用于聚类的神经网络算法，从名字便可以看出，这是一种无监督式的算法，意味着，它不需要任何训练样本，便可以直接对输入样本根据其特征 分类，将具有相似特征的划分为一类。1 算法结构som算法是由两层网络组成，输入层与输出层（也叫作竞争层），大致示意图如下：2 示例下面我会给出一个例子来讲解som算法的原理。现在我有8个输入样本，每...

协方差矩阵状态协方差矩阵传递状态协方差的更新Matlab 实现Matlab效果测试代码测试效果【原创】Liu_LongPo 转载请注明出处 【CSDN】http://blog.csdn.net/llp1992卡尔曼滤波器是一种利用线性系统状态方程，通过系统输入输出观测数据，对系统状态进行最优估计的算法。而且由于观测包含系统的噪声和干扰的影响，所以最优估计也可看做是滤波过程。卡尔曼滤波器的核心内容就...

一文读懂遗传算法工作原理（附Python实现）机器之心5 个月前近日，Analyticsvidhya 上发表了一篇题为《Introduction to Genetic Algorithm & their application in data science》的文章，作者 Shubham Jain 现身说法，用通俗易懂的语言对遗传算法作了一个全面而扼要的概述，并

http://blog.csdn.net/pipisorry/article/details/51695283这篇文章主要讲：熵, 联合熵(joint entropy),条件熵(conditional entropy),相对熵(relative entropy,KL 距离),互信息(mutual information),交叉熵(cross entropy),困惑度(perplexit

标准输入、标准输出和错误输出。标准输入：一般是键盘。stdin对象为解释器提供输入字符流，一般使用raw_input()和input()函数。例如：让用户输入信息（Python环境为2.x）:1 #!/usr/bin/python2 # -*- coding: utf-8 -*-3 import sys4 name = raw_input("Please inpu

-- 随机获取 10 条数据SQL Server:SELECT TOP 10 * FROM T_USER ORDER BY NEWID()ORACLE:SELECT * FROM (SELECT * FROM T_USER ORDER BY DBMS_RANDOM.RANDOM()) WHERE RONUM MySQL:SELECT * FROM T_USER

In this post, I argue for and demonstrate how to train a model optimized on a treatment’s causal effect. This involves predicting thelifta treatment is expected to have over the control, which is defined as the difference in an outcomeYbetween treatmen...

搬砖https://www.cnblogs.com/LittleHann/p/10587512.html

https://blog.csdn.net/buwei0239/article/details/86656588

https://medium.com/analytics-vidhya/root-mean-square-log-error-rmse-vs-rmlse-935c6cc1802aIntroductionThere has been a lot of evaluation metrics when it comes to Regression problem and Root Mean Square Error or RMSE, in short, has been among the “got.

https://www.biaodianfu.com/bpr.htmlhttps://www.jianshu.com/p/fd3081abf951https://www.jianshu.com/p/eb54c6a5d08bhttps://blog.csdn.net/qq_38861305/article/details/100942019

https://zhuanlan.zhihu.com/p/136199536

Note — I assume the reader has some basic knowledge of neural network and its working.Domain adaptation is a field of computer vision, where our goal is to train a neural network on asource datasetand secure a good accuracy on thetarget datasetwhich ...

During the last decade, the field of Computer vision has made huge progress. This progress is mostly due to the undeniable effectiveness of Convolutional Neural Networks (CNNs). CNNs allow for very precise predictions if trained with high-quality annota...

https://lumingdong.cn/learning-to-rank-in-recommendation-system.html

Understanding why Hotel Bookings are cancelled using Microsoft DoWhy in PythonImage by authorWhy did Medium/Linkedin or any other platform recommend this post to you? More importantly, what piqued your interest and made you click on this post? Was.

Why are you reading this article?Why did you choose to learn about causal inference? Why are you thinking that this is a really weird way to start an article? Who knows. A more interesting question to ask is why can we, as humans, think about and understa.

pandas中一个很便捷的使用方法通过loc、iloc、ix等索引方式，这里记录一下：df.loc[条件,新增列] = 赋初始值如果新增列名为已有列名，则在原来的数据列上改变import pandas as pdimport numpy as npdata = pd.DataFrame(np.random.randint(0,100,40).reshape(10,4),columns=list('abcd'))print(data)data.loc[data.d >= 50,'.

def is_bad_fpd_7_handle(x): if x>7: return 1 elif x>0: return -1 elif x<=0: return 0 else : return np.NaN等价于：x=np.NaNb=1 if x > 7 else -1 if x>0 else 0 if x<=0 else np.NaN...

https://medium.com/dive-into-ml-ai/using-kerass-model-fit-to-train-a-gan-model-a0f02ed6d39eIn this article, I present three different methods for training a Discriminator-generator (GAN) model using keras(v2.4.3)on a tensorflow(v2.2.0)backend. The...

tensorflow由于构建的是静态图，所以导致在tf.Session().run()之前是没有实际值的，因此，在网络搭建的时候，是不能对tensor进行判值操作的，即不能插入if…else…之类的代码。第二，相较于numpy array，Tensorflow中对tensor的操作接口灵活性并没有那么高，使得Tensorflow的灵活性减弱。在笔者使用Tensorflow的一年中积累的编程经验来看，扩展Tensorflow程序的灵活性，有一个重要的手段，就是使用tf.py_func接口。 接口解析代

https://blog.csdn.net/cv_family_z/article/details/78749992https://blog.csdn.net/cdknight_happy/article/details/102618883https://zhuanlan.zhihu.com/p/146082763

https://machinelearningmastery.com/learning-curves-for-diagnosing-machine-learning-model-performance/

前言在关于训练神经网路的诸多技巧Tricks(完全总结版)这篇文章中，我们大概描述了大部分所有可能在训练神经网络中使用的技巧，这对如何提升神经网络的准确度是很有效的。然而在实际中，在方法几乎定型的时候，我们往往需要针对自己的任务和自己设计的神经网络进行debug才能达到不错的效果，这也就是一个不断调试不断改进的一个过程。(炼金何尝不是呢？各种配方温度时间等等的调整)那么到底如何去Debug呢？如何Debug以下的内容部分来自CS231n课程，以及汇总了自己在训练神经网络中遇到的很多

转自：https://zhuanlan.zhihu.com/p/56745640本期问题能否聊一聊深度学习中的调参技巧？我们主要从以下几个方面来讲.1. 深度学习中有哪些参数需要调？2. 深度学习在什么时候需要动用调参技巧？又如何调参？3. 训练网络的一般过程是什么？1. 深度学习有哪些需要们关注的参数呢？大家记住一点：需要用到调参技巧的参数都是超参数！！因此，这个问题还可以换成更专业一点：神经网络中有哪些超参数？主要从两个方面来看：和网络设计相关的参数：神经网络的.

1. 在训练的过程中应用了正则化，但是在对验证集计算损失的时候没有采用正则化。比如在损失函数中加入了L1，L2等正则项，或者dropout。正则化会牺牲训练精度，但是可以通过提高验证集和测试集的精度防止过拟合。如果在验证集中也加入正则项，那么会改善验证集损失小于训练集损失这种情况。2. 在计算训练集的损失时，它是边训练边计算的，不是等训练完一轮（epoch）后再计算总的训练集损失的。实际上，我们的数据是一个batch一个batch的输入到模型中训练的。在一轮训练中，每训练完一个batch就计算一下该ba

转：今天我们来讲讲一个金融风控里的“常识点”，就是那种我们习以为常但若要讲出个所以然来比较困难的点，正如标题所言：WOE前的分箱一定要单调吗？????✍️ 背景交代相信每一个在金融风控领域做过模型的人，应该对分箱满足badrate单调性有一定的认知，特别是在用逻辑回归做A卡的时候，老司机们会经常对我们说变量要满足单调性，当变量单调了，再进行WOE转换，然后作为LR的入参喂给模型，简单训练一下就收工。但作为一个合格的风控建模大师，仅仅知道这些套路还是不够的，我们需要进一步去思考一下当中的原理，或者

21 December 20151. 引言对有监督机器学习问题，通常的训练流程包括这样几步：先建立起模型，然后在训练集上训练模型，如果有超参数，还需要在验证集上应用交叉验证以确定超参数，总之最终会得到一个模型。在这样的流程下，不断优化模型，如果在测试集上取得了较高的准确率、召回率、F-score或者AUC后，那事情就结束了吗，模型的输出结果是符合需要的吗？这并不一定。当给定一个样本，大部分分类器能够输出该样本属于某类的分数，通常这个分数介于0到1之间，我们称之为概率，严格来讲，是后验概率，数学上

https://zhuanlan.zhihu.com/p/92958088

这里是「王喆的机器学习笔记」的第十八篇文章，今天我们关注模型的评估和线上测试。有经验的算法工程师肯定非常清楚，在一个模型的开发周期中，占工作量大头的其实是特征工程和模型评估及上线的过程。在机器学习平台已经非常成熟的现在，模型结构的实现和调整反而仅仅是几行代码的事情。所以如果能够将模型评估和线上AB Test的效率提高，那一定是大大解放算法工程师效率的事情。今天这篇文章我们就介绍一下流媒体巨头Netflix的“独门线上评估秘笈”——Interleaving。周所周知，Netflix是美国的流媒体巨头，

编辑：子墨来源：《深度学习推荐系统》笔记，并进行补充和说明推荐系统覆盖于生活中的各个方面，无论是电商购物，还是内容咨询，都离不开它的身影，作为一名推荐算法从业者，深知做好推荐系统的必要性，那么做好推荐系统的评估就显得至关重要了，其主要体现在： 推荐系统评估所采用的指标直接决定了推荐系统的优化方向是否客观合理 推荐系统评估是机器学习团队与其他团队沟通合作的接口性工作 推荐系统评估指标的选取直接选定了推荐系统是否符合公司的商业目标和发展愿景 做好推荐系统的评估的前提是必须要

https://blog.csdn.net/weixin_42944192/article/details/102863460

https://www.cnblogs.com/massquantity/p/12693314.htmlhttps://zhuanlan.zhihu.com/p/36410780https://blog.csdn.net/hellozhxy/article/details/82688983https://blog.csdn.net/china1000/article/details/51176654

首先我们来看一个典型的互联网大数据平台的架构，如下图所示：在这张架构图中，大数据平台里面向用户的在线业务处理组件用褐色标示出来，这部分是属于互联网在线应用的部分，其他蓝色的部分属于大数据相关组件，使用开源大数据产品或者自己开发相关大数据组件。你可以看到，大数据平台由上到下，可分为三个部分：数据采集、数据处理、数据输出与展示。数据采集将应用程序产生的数据和日志等同步到大数据系统中，由于数据源不同，这里的数据同步系统实际上是多个相关系统的组合。数据库同步通常用 Sqoop，日志同步可以选择

https://zhuanlan.zhihu.com/p/42214716https://zhuanlan.zhihu.com/p/57481330https://zhuanlan.zhihu.com/p/101595226

https://zhuanlan.zhihu.com/p/53326791https://blog.csdn.net/jokerxsy/article/details/107169406

https://zhuanlan.zhihu.com/p/138551027

导语在NLP领域，语义相似度的计算一直是个难题：搜索场景下query和Doc的语义相似度、feeds场景下Doc和Doc的语义相似度、机器翻译场景下A句子和B句子的语义相似度等等。本文通过介绍DSSM、CNN-DSSM、LSTM-DSSM等深度学习模型在计算语义相似度上的应用，希望给读者带来帮助。1. 背景以搜索引擎和搜索广告为例，最重要的也最难解决的问题是语义相似度，这里主要体现在两个方面：召回和排序。在召回时，传统的文本相似性如 BM25，无法有效发现语义类 query-Doc 结.

摘要：本篇主要介绍了项目中用于商业兴趣建模的DSSM双塔模型。作为推荐领域中大火的双塔模型，因为效果不错并且对工业界十分友好，所以被各大厂广泛应用于推荐系统中。通过构建user和item两个独立的子网络，将训练好的两个“塔”中的user embedding 和item embedding各自缓存到内存数据库中。线上预测的时候只需要在内存中计算相似度运算即可。DSSM双塔模型是推荐领域不中不得不会的重要模型。目录01 为什么要学习DSSM双塔模型02 DSSM模型理论知识03 推荐..

https://zhuanlan.zhihu.com/p/105594786?utm_source=wechat_session

https://blog.csdn.net/u013066730/article/details/106252573

https://zhuanlan.zhihu.com/p/58280384https://zhuanlan.zhihu.com/p/38875317

https://zhuanlan.zhihu.com/p/269162581https://blog.csdn.net/pearl8899/article/details/106304536https://zhuanlan.zhihu.com/p/109821378https://zhuanlan.zhihu.com/p/195705761https://www.jianshu.com/p/25446bbf0e49

https://zhuanlan.zhihu.com/p/103552262?utm_source=wechat_sessionhttps://zhuanlan.zhihu.com/p/271912732https://zhuanlan.zhihu.com/p/103092757https://zhuanlan.zhihu.com/p/139417423

https://zhuanlan.zhihu.com/p/82299967https://zhuanlan.zhihu.com/p/94009156https://blog.csdn.net/wwwsctvcom/article/details/98038484

https://zhuanlan.zhihu.com/p/92293407https://blog.csdn.net/qq_18293213/article/details/90439401

https://blog.csdn.net/maqunfi/article/details/99635620https://www.cnblogs.com/wkang/p/9881921.htmlhttps://www.jianshu.com/p/6f1c2643d31b

https://blog.csdn.net/rosefun96/article/details/108456353https://www.cnblogs.com/yinzm/p/11758595.htmlhttps://www.cnblogs.com/Jesee/archive/2004/01/13/11165309.html

https://www.cnblogs.com/wmx24/p/10341332.htmlhttps://zhuanlan.zhihu.com/p/43364598https://zhuanlan.zhihu.com/p/140458768https://zhuanlan.zhihu.com/p/55234968

https://www.cnblogs.com/yinzm/p/11878831.htmlhttps://www.jianshu.com/p/dbaf2d9d8c94

https://blog.csdn.net/qq_18293213/article/details/90262378https://www.jianshu.com/p/be784ab4abc2https://zhuanlan.zhihu.com/p/56651241

https://blog.csdn.net/qq_48314528/article/details/109400730https://blog.csdn.net/stalbo/article/details/79431662https://zhuanlan.zhihu.com/p/160158270

https://www.cnblogs.com/yinzm/p/11827905.htmlhttps://www.jianshu.com/p/e1873e9a97ad

好多人不知道怎么做，转载来的在集群之外搭建一个节点用于提交spark程序到spark集群说明:用于提交程序的节点ip: 192.168.1.188 spark集群Master节点ip:192.168.1.73(spark集群和hadoop集群是在一起的)1.保证该节点和集群的master节点是互通的,在该节点安装和集群同样版本的spark和hadoop程序，不需要启动,只用于提交作业时在driver端用于获取集群信息2.配置文件 core-site.xml 修改ip都改成spark集群Maste

https://blog.csdn.net/qq_39381654/article/details/110396814

https://blog.csdn.net/huixinhan/article/details/104570430

https://blog.csdn.net/ningyanggege/article/details/81133785https://www.cnblogs.com/EE-NovRain/p/3810737.htmlhttps://www.cnblogs.com/massquantity/p/12693314.html

https://zhuanlan.zhihu.com/p/81350196?utm_source=wechat_session

https://zhuanlan.zhihu.com/p/269492239?utm_source=wechat_timeline

https://blog.csdn.net/icylling/article/details/86249462

https://blog.csdn.net/qq_34527082/article/details/100048864

https://zhuanlan.zhihu.com/p/82234448

https://blog.csdn.net/Leon_winter/article/details/105014677

https://zhuanlan.zhihu.com/p/138597214

https://blog.csdn.net/dcrmg/article/details/52771372

光流（opticalflow）是什么呢？名字很专业，感觉很陌生，但本质上，我们是最熟悉不过的了。因为这种视觉现象我们每天都在经历。从本质上说，光流就是你在这个运动着的世界里感觉到的明显的视觉运动（呵呵，相对论，没有绝对的静止，也没有绝对的运动）。例如，当你坐在火车上，然后往窗外看。你可以看到树、地面、建筑等等，他们都在往后退。这个运动就是光流。而且，我们都会发现，他们的运动速度居然不一样？这就给...

https://blog.csdn.net/u011436429/article/details/80279536

在图网络深度学习中（graph deep learning）中，拉普拉斯矩阵是很常用的概念，深入理解其物理含义非常有助于加深对GNN模型的理解。先说结论：图拉普拉斯矩阵，如果把它看作线性变换的话，它起的作用与数学分析中的拉普拉斯算子是一样的。也就是说拉普拉斯矩阵就是图上的拉普拉斯算子，或者说是离散的拉普拉斯算子。如果是欧式空间中的二阶可微实函数，那么就是在欧式空间中求其二阶微...

在强化学习(十八) 基于模拟的搜索与蒙特卡罗树搜索(MCTS)中，我们讨论了MCTS的原理和在棋类中的基本应用。这里我们在前一节MCTS的基础上，讨论下DeepMind的AlphaGo Zero强化学习原理。　　　　本篇主要参考了AlphaGo Zero的论文,AlphaGo Zero综述和AlphaGo Zero Cheat Sheet。1.AlphaGo Zero模型基础　　　　AlphaGo Zero不需要学习人类的棋谱，通过自我对弈完成棋力提高。主要使用了两个模型，第一个就是我们上一..

https://zhuanlan.zhihu.com/p/56637181

https://zhuanlan.zhihu.com/p/33732033https://blog.csdn.net/Super_Json/article/details/83589889

https://danieltakeshi.github.io/2020/06/28/offline-rl/https://bair.berkeley.edu/blog/2019/12/05/bear/

https://danieltakeshi.github.io/2019/02/09/batch-constrained-deep-rl/An interesting paper that I am reading isOff-Policy Deep Reinforcement Learning without Exploration. You can findthe latest version on arXiv, where it clearly appears to be under revi..

论文全称：Off-Policy Deep Reinforcement Learning Without Exploration (Scott Fujimoto, David Meger, Doina Precup)原文传送门https://arxiv.org/pdf/1812.02900​arxiv.org简介本文其实不算是一篇Exploration的文章，但文章题目中的Without Exploration还是吸引到我了。本文解决的问题是Batch Reinforcement L.

最近尝试了一些offline数据的off-policy算法，发现value function的overestimation问题非常严重，在正常学习估计收敛在400左右的价值函数在离线数据下竟然会一直累积到几十万，高的离谱。正好近期offline RL领域就有一篇工作讲这件事，所以值得仔细读一读。论文全称：Stabilizing Off-Policy Q-Learning via Bootstrapping Error Reduction (Aviral Kumar, Justin Fu, Georg

https://zhiqianghe.blog.csdn.net/article/details/104541821https://zhiqianghe.blog.csdn.net/article/details/104541821https://blog.csdn.net/weixin_35732969/article/details/103630534

译自：http://sebastianruder.com/multi-task/1. 前言在机器学习中，我们通常关心优化某一特定指标，不管这个指标是一个标准值，还是企业KPI。为了达到这个目标，我们训练单一模型或多个模型集合来完成指定得任务。然后，我们通过精细调参，来改进模型直至性能不再提升。尽管这样做可以针对一个任务得到一个可接受得性能，但是我们可能忽略了一些信息，这些信息有助于在我们关心的指标上做得更好。具体来说，这些信息就是相关任务的监督数据。通过在相关任务间共享表示信息，我们的模型在原始任务

Paper link:CVPR 2018 Open Access Repository​openaccess.thecvf.comCode link:ranandalon/mtl​github.comAbstract多任务学习中的多元回归和分类让很多深度学习程序受益，但是多任务网络结构的性能受每一个任务损失函数的权重影响很大，常规的做法是手动调节这些权重参数，毫无疑问，这是一个低效和困难的工作，不同任务损失的尺度差异非常大，导致整体损失被某一个任务所主导，最终导致其他任务的损失...

概念相关1. Multi-task learning关于多任务学习的定义并没有统一的标准，这里引用《A survey on multi-task learning》中的定义：与标准的单任务相比，在学习共享表示的同时训练多个任务有两个主要挑战：Loss Function(how to balance tasks)：多任务学习的损失函数，对每个任务的损失进行权重分配，在这个过程中，必须保证所有任务同等重要，而不能让简单任务主导整个训练过程。手动的设置权重是低效而且不是最优的，因此，自动的学习

https://www.cnblogs.com/HolyChen/p/5982531.html

https://baijiahao.baidu.com/s?id=1664700631856186765&wfr=spider&for=pchttps://www.jianshu.com/p/0bfeb09b7d5fhttps://zhuanlan.zhihu.com/p/73083240https://zhuanlan.zhihu.com/p/57836142

https://zhuanlan.zhihu.com/p/50065712https://zhuanlan.zhihu.com/p/35218887https://www.cnblogs.com/initial-h/p/9468974.htmlhttps://blog.csdn.net/weixin_40255337/article/details/83303702

https://spaces.ac.cn/archives/6705

https://zhuanlan.zhihu.com/p/108262170?from_voters_page=true

https://zhuanlan.zhihu.com/p/33999416

https://zhuanlan.zhihu.com/p/73379519

https://blog.csdn.net/jesseyule/article/details/103808718

https://www.cnblogs.com/veagau/p/12164335.htmlhttps://zhuanlan.zhihu.com/p/32101204https://blog.csdn.net/bryant_meng/article/details/80662322

名字的由来Siamese和Chinese有点像。Siam是古时候泰国的称呼，中文译作暹罗。Siamese也就是“暹罗”人或“泰国”人。Siamese在英语中是“孪生”、“连体”的意思，这是为什么呢？十九世纪泰国出生了一对连体婴儿，当时的医学技术无法使两人分离出来，于是两人顽强地生活了一生，1829年被英国商人发现，进入马戏团，在全世界各地表演，1839年他们访问美国北卡罗莱那州后来成为“玲玲马戏团” 的台柱，最后成为美国公民。1843年4月13日跟英国一对姐妹结婚，恩生了10个小孩，昌生了12个，姐

https://wei-tianhao.github.io/blog/2019/09/17/meta-learning.html

https://lilianweng.github.io/lil-log/2019/09/05/evolution-strategies.html文章列表：https://lilianweng.github.io/lil-log/archive.html

Cross-lingual Language Modelhttps://blog.csdn.net/xygl2009/article/details/103156433https://blog.csdn.net/ljp1919/article/details/97016298

https://blog.csdn.net/guotong1988/article/details/87618245

参考：https://www.cnblogs.com/shiyublog/p/11185625.htmlhttps://www.cnblogs.com/shiyublog/p/11236212.html第一部分目录Motivation 概述 符号含义 实现 高效实现 结果对于Transformer模型的positional encoding，最初在Attention is all you need的文章中提出的是进行绝对位置编码，之后Shaw在2018年的文章中提出了..

https://zhuanlan.zhihu.com/p/89522799

https://blog.csdn.net/nature553863/article/details/80568658

https://blog.csdn.net/shao1996/article/details/102619728https://www.jianshu.com/p/f7d6f7a59ba5

https://zhuanlan.zhihu.com/p/94799295

https://www.zhihu.com/question/358913301https://blog.csdn.net/qq_16234613/article/details/79520929https://www.cnblogs.com/hutao722/p/10008581.html