拉普拉斯算子属于卷积方法吗_拉普拉斯算子和拉普拉斯矩阵,图拉普拉斯算子推导...

拉普拉斯矩阵为啥被定义成

?这玩意为什么冠以拉普拉斯之名?为什么和图论有关的算法如此喜欢用拉普拉斯矩阵和它的特征值?

接触到了图论中的Laplacian矩阵,定义为

是Laplacian矩阵,
是顶点的度矩阵,
是图的邻接矩阵。看图1的示例,就能很清楚知道
的计算过程。

08519a8280966297c5a23dc3d087f181.png
图1 Laplacian矩阵的计算方法

要讲拉普拉斯矩阵,就要从拉普拉斯算子讲起,要讲拉普拉斯算子,就要从散度讲起~

不懂的可以看:炫云:通量与散度

炫云:高斯公式

拉普拉斯算子

根据定义,函数

的拉普拉斯算子
又可以写成
,其被定义为函数
梯度散度

那么这又是什么意思呢?

我们知道,在直角坐标系下,一个函数

处的梯度是一个
向量

于是函数

梯度函数

就构成了一个在三维空间下的向量场。

笛卡尔坐标系下的表示法:

维形式

于是乎,我们对这一向量场

求散度
,即得到了
的拉普拉斯算子

为什么要这样做呢?

让我们想像一座山,根据梯度的定义,在山峰周围,所有的梯度向量向此汇聚,所以每个山峰处的拉普拉斯算子为负;而在山谷周围,所有梯度从此发散,所以每个山谷处的拉普拉斯算子为正。所以说,对于一个函数,拉普拉斯算子实际上衡量了在空间中的每一点处,该函数梯度是倾向于增加还是减少

描述物理系统最优美的公式之一拉普拉斯方程,

,大家可以想一想,这一公式表达了物理系统怎么样的特征呢?

图函数

我们知道,互相连接的节点可以构成一张,其中包含所有点构成的集合

, 和所有边构成的集合

对于实数域上的函数

,我们可以理解为一种对于
的映射,将每个可能的
映射到一个对应的
上(
)。

相应地,我们也可以定义一个图函数

,使得图上的每一个节点
,都被映射到一个实数
上。

比如说,假设我们有一个这样的社交网络图谱:

3959076ca5c121d31ee898a2bf08dd4d.png
图一

假设说每一条边的权值对应两个人之间信息的流通程度。现在我们想要分析这个社交网络上的信息传播,我们不仅需要知道信息流通的程度,我们还要知道每个人发动态的活跃程度,于是我们现在给这个图一个函数

,使得:

这里的负数似乎可以理解为,

是谣言终结者,可以阻止信息的传播~

那么我们得到这样一张图:

548006dfa51cfe18d5ce4f74c89c635d.png
图二

图函数的梯度

我们定义了图论的函数,那么应该如何给图论下的函数定义梯度呢?

我们记得,梯度的意义在于,衡量函数在每一个点处,在每个正交方向上的变化,如

的梯度在
方向的分量

在图论中,我们认为一个节点沿着每一条边通向它的相邻节点,而每两条边之间互相并没有什么关系,也就是说我们认为这个节点的每一条边互相都是正交的

并且对于两个节点,我们定义其距离

为其边权值的
倒数(比如上面社交网络的例子,我们可以认为,两个人的信息流通程度越低,两个人的友谊就“越远”)

那么对于一个节点

,我们认为其梯度在一条通向
的边
上的
分量

(其中

的距离),

详细的图资料,请看:炫云:图01---定义和术语

邻接矩阵

关联矩阵

为了计算梯度,我们给出一个这样的矩阵:

每一行代表一个点,每一列代表一条边,使得对于每个点每条边,如果该条边从该点发射出去,且权值为
,则将矩阵中对应的这一元素置为
,如果该条边指向该点,则将对应的元素置为

具体到上面社交网络的例子,我们有相应的矩阵

bb58b2145930903c35eec842a4440b2e.png

我们又有关于图函数

的列向量

09c394d4f1d6013b742cdefca26a3dc3.png

我们试着计算

经过观察我们可以知道,最后计算结果的向量,即是整个图

函数上的梯度
,其中每一行,为该梯度在一条边上的分量。

所以对于图

,我们有
,使得

拉普拉斯算子与拉普拉斯矩阵

我们记得在函数中,拉普拉斯算子的定义为函数梯度的散度,即每一点上其梯度的增加/减少,那么对于图函数,其每一“点”即为每个“节点”,其梯度的散度该怎么定义呢?

我们几乎可以立刻可以想到,图函数每一点上梯度的散度,即是从该节点射出的梯度,减去射入该节点的梯度,那么我们几乎又可以立即想到,根据这样的定义去计算散度,只要把原来的梯度再左乘一个这样的矩阵就可以啦:

每一行代表一个点,每一列代表一条边,使得对于每个点每条边,如果该条边从该点发射出去,则将矩阵中对应的这一元素置为
,如果该条边指向该点,则将对应的元素置为

命名这一矩阵为

也就是说,我们把

的每个元素,正的变成1,负的变成-1,就得到了

那么,整个图

函数上的散度

于是我们得到了图论函数的拉普拉斯算子

,即我们常说的
拉普拉斯矩阵

注意在我们上面的范例中,将任意一条边的方向反转,等价于在

的一列上乘以
,这种情况下最终
不会改变,也就是说拉普拉斯矩阵的值与图中每一条边的方向无关,所以拉普拉斯矩阵一般用来表述 无向图

计算

的值,我们得到矩阵:

注意到这一对称矩阵,对角线即是每个点的,而其余的元素,则是负的邻接矩阵,于是乎我们得到了拉普拉斯矩阵的经典算式:

定义

的度数矩阵(degree matrix)

定义

邻接矩阵(adjacency matrix)

则在图二中,

所以

拉普拉斯矩阵的重要性质

拉普拉斯矩阵之所以如此常用,是因为其一大重要性质: 拉普拉斯矩阵的

个特征值
都是非负值,且有

同时,我们引入关于矩阵

的瑞利熵的概念:

其中

共轭矩阵,对于
为实数矩阵的情况下

而通过拉格朗日乘子法可以得出,瑞利熵的一个非常重要的特点就是: 瑞丽熵的最大值,等于

的最大特征值,瑞利熵的最小值,等于
的最小特征值

再看看图算法中对于拉普拉斯矩阵

的运算中常常出现的
,结合上文所述的拉普拉斯矩阵的重要性质,那么拉普拉斯矩阵在各种图算法中的应用,想必大家也能够理解啦~
炫云:拉普拉斯矩阵归一化​zhuanlan.zhihu.com
eb10c771799b6b346df59c839b68ec2c.png

图拉普拉斯算子推导

主要是以下2种:

  1. 或者

1、图像普拉斯算子

图像是一种离散数据,那么其拉普拉斯算子必然要进行离散化。

从导数定义说起

那么:

结论1:二阶导数近似等于其二阶差分。

结论2:二阶导数等于其在所有自由度上微扰之后获得的增益。一维函数其自由度可以理解为2,分别是+1和-1两个方向。

对于二维的图像来说,其有两个方向(4个自由度)可以变化,即如果对(x,y)处的像素进行扰动,其可以变为四种状态(x+1,y),(x-1,y),(x,y+1),(x,y-1)。当然了,如果将对角线方向也认为是一个自由度的话,会再增加几种状态(x+1,y+1),(x+1,y-1),(x-1,y+1),(x-1,y-1),事实上图像处理上正是这种。再当然了,如果你认为对一个像素进行微扰可能变为任何一个像素,那它的自由度就是整个图片的像素数(不过这还叫微扰吗?)。其实结论差不多,就讨论四种状态。

f0997bfa2ccb201eeb52a2a0c994f12f.png

上式中每一项的系数就是拉普拉斯在二维图像中的卷积核:

d4543c856d3c8681f77d53747c8174ff.png

现在用散度的概念解读一下:

  • 如果
    ,可以近似认为中心点
    的势和其周围点的势是相等的,
    局部范围内不存在势差。所以该点无源
  • ,可以近似认为中心点
    的势低于周围点,
    可以想象成中心点如恒星一样发出能量,补给周围的点,所以该点是正源
  • ,可以近似认为中心点
    的势高于周围点,
    可以想象成中心点如吸引子一样在吸收能量,所以该点是负源

另一个角度,拉普拉斯算子计算了周围点与中心点的梯度差。当

受到扰动之后,其可能变为相邻的
之一,拉普拉斯算子得到的是对该点进行微小扰动后可能获得的总增益 (或者说是总变化)。

2、图普拉斯算子推导

我们现在将这个结论推广到图: 假设具有

个节点的图
,此时以上定义的函数
不再是二维,而是
维向量:
,其中
为函数
在图中节点
处的函数值。类比于
在节点
处的值。对
节点进行扰动,它可能变为任意一个与它相邻的节点
,
表示节点
的一阶邻域节点。

ae8d6f85d8be76733234f968391d27d6.png

我们上面已经知道拉普拉斯算子可以计算一个点到它所有自由度上微小扰动的增益,则通过图来表示就是任意一个节点

变化到节点
所带来的增益,考虑图中边的权值相等(简单说就是1)则有:

而如果边

具有权重
时,则有:

由于当

时表示节点
不相邻,所以上式可以简化为:
继续推导有:

其中

是顶点
的度;

维的行向量,
维的列向量;

表示两个向量的内积。

对于所有的

个节点有:

这里的

就是拉普拉斯矩阵
根据前面所述,拉普拉斯矩阵中的第
行实际上反应了第
个节点在对其他所有节点产生扰动时所产生的增益累积。直观上来讲,图拉普拉斯反映了当我们在节点
上施加一个势,这个势以
哪个方向能够多 顺畅的流向其他节点。谱聚类中的拉普拉斯矩阵可以理解为是对图的一种矩阵表示形式。
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值