2020年12月_Jie Qiao

12月 11月 10月 07月 06月 04月 03月 02月 01月

原创直观理解Neural Tangent Kernel

直观理解Neural Tangent Kernel本文是文章Some Intuition on the Neural Tangent Kernel的翻译整理.一句话总结：NTK衡量的是，在使用SGD优化参数下，其对应的随机到样本x′\displaystyle x'x′，在参数更新非常一小步η\displaystyle \etaη后，f(x)\displaystyle f( x)f(x)的变化。也就是：k(x,x′)=lim⁡η→0f(x,θ+ηdfθ(x′)dθ)−f(x,θ)ηk(x,x')=

2020-12-27 23:52:48 5034 3

原创随机傅里叶特征(Random Fourier Features)

随机傅里叶特征(Random Fourier Features)如果使用核方法来预测测试集的样本x\displaystyle xx，比如核岭回归kernel ridge regression，我们需要计算：f(x)=∑i=1Ncik(xi,x)f( x) =\sum ^{N}_{i=1} c_{i} k( x_{i} ,x)f(x)=i=1∑Ncik(xi,x)需要O(Nd)\displaystyle O( Nd)O(Nd)其中N是样本量，d是x的维度大小。当样本量特别大的时候，这个复杂度是

2020-12-22 13:54:56 4788

原创 Darmois-Skitovic定理证明

DS定理在ICA上有着很重要的作用：独立成分分析FastICA算法原理本文给出了DS定理的证明。引理1 设f1,...,fN\displaystyle f_{1} ,...,f_{N}f1,...,fN可导，并且f1(a1x+b1y)+f2(a2x+b2y)⋯+fN(aNx+bNy)=A(x)+B(y) ∀x,yf_{1} (a_{1} x+b_{1} y)+f_{2} (a_{2} x+b_{2} y)\cdots +f_{N} (a_{N} x+b_{N} y)=A(

2020-12-02 23:50:34 619

用C++写的数独解题器

优点：模拟人的思维，速度快，可解决最难数独等唯一数独。缺点：对于不唯一的数独只能得出一种答案，解最难数独时速度较慢。

2013-05-15

超级简单好用多人屏幕共享工具，永久免费

像netmeeting一样在WIN7，其他的电脑只要拨培训主机的IP，即可看到培训主机的屏幕，这样就可以在各自的电脑面前，看到培训主讲人的屏幕，一起讨论问题。

2013-02-08

VisualAssistX_10.7.1912破解版

2012-09-30

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

原创 直观理解Neural Tangent Kernel

原创 随机傅里叶特征(Random Fourier Features)