卡尔曼滤波数学基础----最小二乘、随机变量、概率、随机过程

最小二乘法

准则：测量值与估计值之差的平方和最小 估计形式

测量结果

估计值

差值

差值平方和

准则：

概率

概率的定义
出现的次数与已做试验次数的比值在试验次数无限增大时的极限值


联合事件
互相独立事件

互斥事件

非互斥事件

条件概率

Bayes定理

独立事件
试验：掷两枚骰子
事件：两枚骰子的值
互斥事件
试验：掷一枚骰子
事件：值为1或2
非互斥事件
试验：掷两枚骰子
事件：两枚值均为1
条件概率
试验：掷三枚骰子
事件：有两个1；第一次为1

随机变量

概率分布函数

概率密度函数



联合概率分布函数

联合概率密度函数

g-blog.csdnimg.cn/1e999d130f6b4ba6b459ca71d325d577.png)

统计特性
期望（一阶矩）


RMS值

方差

各变量独立

协方差

独立

线性相关

特征函数
独立随机变量之和的特征函数等于各单独变量特征函数的乘积

典型分布
均匀分布


正态分布

中心极限定理：各自有任意分布的独立随机变量之和，当累加的变量数目趋于无穷大时，和的分布趋于正态分布

随机过程

定义：随机样本随时间变化的集合

相关函数

自相关

互相关

平稳性

统计特性不随时间变化，且完全由前二阶矩确定
线性系统：输入为平稳过程，输出也为平稳过程
一次概率密度函数与观测时间无关，即矩与时间无关
二次概率密度函数只与观测时间差 有关，即

各态历经性
随机过程所有样本的统计特性可以由一条样本获得

均值各态历经

自相关函数各态历经

各态历经：均值和自相关函数均各态历经


高斯过程
线性系统：输入为高斯过程，输出也为高斯过程

功率谱密度函数


白噪声

马尔可夫过程

clear all
close all

n = 5;
length = 2^n-1;
g1 = ones(1,n); 

for i=1:length 
    code(i)=g1(n);  
    g_updated=[mod(g1(3)+g1(5),2)]; 
    g1=[g_updated g1(1:n-1)];  
end
%cacode=repmat(code,1,2); 
code(find(code==1))=-1;
code(find(code==0))=1;
cacode1 = code; % CA code for SVN 1

g2 = ones(1,n); 
for i=1:length
    code(i)=g2(n);  
    g_updated=[mod(g2(1)+g2(2)+g2(3)+g2(5),2)]; 
    g2=[g_updated g2(1:n-1)];  
end
%cacode=repmat(code,1,2); 
code(find(code==1))=-1;
code(find(code==0))=1;
cacode2 = code; % CA code for SVN 1

for i=1:length
    cacode_temp=circshift(cacode1',i-1)';
    rxx1(i)=sum(cacode1.*cacode_temp)/length;
    
    cacode_temp=circshift(cacode2',i-1)';
    rxx2(i)=sum(cacode2.*cacode_temp)/length;
    rxy(i)=sum