独立正交不相关定义关系

一、“独立”、“不相关”和“正交”的定义

假设X为一个随机过程,则在t1和t2时刻的随机变量的相关定义如下(两个随机过程一样):

(1)定义Rx(t1,t2)=E{X(t1)X(t2)}为相关函数,若R=0,称正交(注意,相关函数为0,不是不相关,而是正交)。正交不仅仅描述确定函数之间的关系,也用以描述随机过程。两个随机过程X(t) Y(t)正交,即E[X(t)Y(t)]=0, 若E[X(t)Y(t)]=E[X(t)]E(Y(t)]说明两者不相关。不相关和相互独立一般不等价,只有当过程为高斯过程时才成立。

(2)定义Kx(t1,t2)=E{[X(t1)-Mx(t1)][X(t2)-Mx(t2)]}为协方差函数,若K=0,即相关系数为0,则称之为不相关;不相关只是说二者没有线形关系,但并不代表没有任何关系。

(3)独立性。就用他们的概率分布函数或密度来表达。联合分布等于他们各自分布的乘积,独立的定义是 F(x,Y)=F(x)F(Y),就称独立。

用数学公式来定义如下:


二、“独立”、“不相关”和“正交”之间的关系


1.由于在两个随机过程相互独立的时候必有 KxY(t1,t2)=0,所以相互独立的随机过程必不相关。但由于这个时候的互相关函数RxY(t1,t2)=E[X(t1)]E[Y(t2)]=MX(t1)MY(t2)不一定为零,故尽管相互独立的随机过程必定不相关,但未必正交。仅当随机过程X(t)在t1或随机过程Y(t)在t2的期望值等于零的时候,相互独立的随机过程才不仅不相关,且正交。

2.假若两个随机过程不相关,则KxY(t1,t2)=0,且RxY(t1,t2)=MX(t1)MY(t2)。可见,两个随机过程不相关并非一定能推得独立和正交的结论。仅当MX(t1)或MY(t2)等于零的时候,这两个不相关的随机过程才会正交;仅当两个随机变量服从正态分布,则不相关的随机过程才会相互独立。

3.设若这两个随机过程正交,则RxY(t1,t2)=0,且有 KxY(t1,t2)= -Mx(t1)]MY(t2)]。可见,两个正交的随机过程可以推得不相关,但是推不到独立的结论。仅当两个随机变量服从正态分布,这两个正交的随机过程才会相互独立。

       可见,由于两个随机过程x(t)与Y(t)相互独立的充要条件就是它们的联合分布等于各自分布的乘积,而两个随机变量X与Y相关指的是在这两随机变量间存在线性关系(也就是式Y=aX+b成立),换句话说,相关性描述的是两个随机变量之间是否存在线性关系,而独立性考察的则是两个随机变量间是否存在某种关系,因此独立的条件要比不相关严格。如果两个随机变量独立,就是说它们之间不存在任何关系,自然也就不会有线性关系了,所以相互独立的随机变量一定不相关。反过来说,如果两个随机过程不相关,仅是说二者之间不存在线性关系,但二者之间不一定不存在非线性关系,所以不相关的随机过程不一定相互独立。例如,随机变量X与X^2之间不存在线性关系,亦即不相关,但显然不独立。不过,如果两个随机变量相关,也就是说它们之间存在线性关系,则二者之间一定不独立了。当然,如果两个随机变量服从正态分布,则不相关与相互独立等价。

三、总结

  独立必不相关,不相关未必独立;相关必不独立,不独立未必相关;

  正交必不相关,不相关未必正交;相关必不正交,不正交未必相关。



       在通信系统中,总是力图按不相关或正交关系来设计在同一信道随机发送的二元或多元信号。对于多数通信信号以及噪声来说,基本上均值都为0,于是在实际应用中,不相关与正交没有本质区别。

  • 12
    点赞
  • 55
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
小波分析及其在数字图像处理中的应用 作 者: 朱希安,曹林 编著 出版时间: 2012 内容简介   《小波分析及其在数字图像处理中的应用》首先在理论上阐明小波分析的特点,以正交小波和双正交小波为重点叙述理论原理、构造方法,多分辨分析的概念以及:Mallat算法;其次,在理论上将小波变换与傅里叶变换和Gabor变换进行了对比,还详细研究了嵌入式零树小波编码、多级树集合分裂编码的原理和特点。除此之外,本书采用实例说明小波变换在图像压缩中的应用、小波变换在数字水印中的应用、Gabor小波在人脸识别中的应用、小波树在人脸识别中的应用、Gabor 小波在纹理图像分割中的应用;同时包括基于混沌和幻方置乱的小波域数字水印、扩频数字水印、基于混沌加密和Arnold变换的隐性数字、基于 Arnold变换的小波域半脆弱数字水印等新的水印算法。《小波分析及其在数字图像处理中的应用》可供在信号处理、图像处理等领域从事科学研究的广大科技工作者参考,也可以作为高年级本科生和研究生有关课程的教材或教学参考书。 目录 第1章 绪论 1.1 背景 1.2 小波分析的国内外研究现状 1.2.1 小波分析的发展简史 1.2.2 小波研究的国内外现状 1.3 主要内容 本章参考文献 第2章 傅里叶变换、Gabor变换和小波变换的对比分析 2.1 傅里叶变换 2.2 Gabor变换 2.2.1 高斯函数的特性 2.2.2 高斯函数的傅里叶变换特性 2.2.3 测不准原理 2.3 小波变换 2.3.1 小波变换的定义 2.3.2 小波的时频窗 2.4 Gabor变换与小波变换的对比 2.5 本章小结 本章参考文献 第3章 小波变换的理论研究 3.1 小波变换的离散化 3.1.1 连续小波变换离散化满足的条件 3.1.2 二进小波的稳定条件 3.1.3 二进小波变换和重构 3.1.4 稳定条件的意义 3.2 小波框架 3.2.1 小波框架的物理意义 3.2.2 紧框架和完备标准正交基的关系 3.3 R基和R小波 3.3.1 R基的定义 3.3.2 R基和框架的关系 3.3.3 小波分析中的R基 3.3.4 R小波 3.4 多尺度分析和双尺度方程 3.4.1 多尺度分析 3.4.2 正交MRA的物理意义 3.4.3 尺度函数(t)的双尺度方程 3.4.4 小波函数(t)的双尺度方程 3.5 正交小波 3.5.1 正交尺度函数和小波所满足的条件 3.5.2 正交滤波器H()和G()所满足的关系 3.5.3 滤波器系数所满足的关系式 3.5.4 Mallat算法 3.5.5 紧支集正交小波的构造 3.6 紧支集双正交小波 3.7 函数的正则性和消失矩 3.8 本章小结 本章参考文献 第4章 小波变换在图像压缩中的应用 4.1 图像压缩方法简介 4.1.1 图像压缩方法分类 4.1.2 统计编码 4.1.3 预测编码 4.1.4 变换编码 4.1.5 混合编码 4.2 空间太阳望远镜在轨图像压缩需求 4.2.1 空间太阳望远镜主要技术指标 4.2.2 SST装载的科学仪器 4.2.3 SST数据处理系统 4.2.4 SST对数据传输分系统的需求 4.2.5 SST图像数据与传输的矛盾 4.2.6 SST图像在轨压缩需求 4.3 SST图像的压缩方案选取 4.3.1 SST图像的压缩编码方法选取 4.3.2 小波基的选取原则 4.3.3 小波基选取影响因素分析 4.4 二维小波的构造 4.4.1 构造方法 4.4.2 图像分解过程 4.5 SST图像压缩过程分析 4.5.1 压缩过程概述 4.5.2 小波变换和逆变换过程 4.5.3 延拓方法的选取 4.6 嵌入式小波零树压缩算法研究 4.6.1 嵌入式小波零树编码的特点 4.6.2 嵌入式小波零树编码概貌 4.6.3 嵌入式小波零树编码原理 4.6.4 比特平面的重要性顺序 4.6.5 零树编码过程举例 4.6.6 嵌入式小波零树压缩算法实现 4.7 基于集合划分的等级树压缩算法研究 4.7.1 基于集合划分的等级树算法的基本思想 4.7.2 集合的划分 4.7.3 SPIHT压缩算法实现 4.8 本章小结 本章参考文献 第5章 图像的压缩质量评价方法和应用实例 5.1 图像压缩质量的评价方法 5.1.1 压缩信噪比 5.1.2 压缩比 5.1.3 主观评价方法 5.2 不同类型小波基压缩效果分析 5.2.1 SST图像压缩结果 5.2.2 SST图像压缩后的质量分析 5.2.3 SST图像压缩后的主观质量评价 5.3 小波分解层次的影响 5.4 采用阈值处理方法的图像压缩实例 5.4.1 不同小波基的能量集中度比较 5.4.2 不同阈值的压缩结果 5.4.3 结果分析 5.4.4 不同变换方法的压缩效果 5.4.5 小波变换分解层次对图像压缩效果的影响及分析 5.5 小波变换在信号消噪和突变点检测中的应用 5.5.1 小波分析用于信号的消噪 5.5.2 小波分析用于突变信号检测的原理 5.5.3 小波分析用于信号突变点检测的实例 5.5.4 小波变换域图像去噪自适应阈值技术研究 5.6 本章小结 本章参考文献 第6章 小波变换在数字水印中的应用 6.1 小波分析在数字水印中的应用概述 6.2 数字水印技术的历史、现状和发展 6.3 数字水印理论 6.3.1 数字水印的基本原理 6.3.2 数字水印的基本框架 6.3.3 数字水印的基本特性 6.3.4 数字水印的分类 6.4 数字水印的典型算法 6.4.1 空间域数字水印 6.4.2 变换域数字水印 6.4.3 数字水印的攻击 6.5 混沌理论与置乱技术概述 6.5.1 混沌的发展 6.5.2 混沌的定义 6.5.3 混沌的特征 6.5.4 典型的混沌模型 6.5.5 混沌在数字水印中的应用 6.5.6 数字图像置乱技术 6.6 基于小波变换的数字水印应用实例 6.6.1 小波变换与人类视觉模型 6.6.2 基于混沌加密与Arnold变换的水印生成算法 6.7 基于混沌和幻方置乱的小波域数字水印 6.7.1 基于幻方思想的混沌置乱矩阵的生成 6.7.2 基于混沌加密和置乱的水印生成算法 6.7.3 数字水印嵌入与提取 6.7.4 实验结果及分析 6.8 基于小波变换的扩频数字水印嵌入算法研究 6.8.1 概述 6.8.2 扩频水印嵌入算法 6.8.3 算法实验结果 6.9 基于混沌加密和Arnold变换的隐性数字水印算法研究 6.9.1 数字图像水印的混沌加密 6.9.2 数字水印的嵌入方法和原理 6.9.3 实验结果与分析 6.10 基于Arnold变换的小波域半脆弱数字水印算法 6.10.1 水印嵌入的方法和原理 6.10.2 实验结果与分析 6.10.3 结果和讨论 6.11 本章小结 本章参考文献 第7章 Gabor小波在人脸 识别中的应用研究 7.1 人脸识别典型方法 7.1.1 子空间方法 7.1.2 基于连接机制的人脸识别方法 7.1.3 隐马尔可夫模型识别方法 7.1.4 基于贝叶斯的人脸识别方法 7.1.5 基于流形的人脸识别 7.2 隐马尔可夫模型 7.2.1 隐马尔可夫模型介绍 7.2.2 隐马尔可夫模型的三个基本问题 7.2.3 隐马尔可夫模型算法实现中的问题 7.3 基于Gabor脸和HMM的人脸识别方法 7.3.1 研究背景 7.3.2 Gabor小波概述 7.3.3 利用Gabor小波进行特征提取 7.3.4 主元分析降维 7.3.5 HMM人脸识别 7.3.6 算法复杂度分析 7.3.7 实验结果及分析 7.3.8 结论 7.4 基于Gabor小波、ICA和HMM的人脸识别方法 7.4.1 独立元分析降维 7.4.2 实验结果及分析 7.4.3 结论 7.5 本章小结 本章参考文献 第8章 小波树在人脸识别中的应用研究 8.1 基于小波树和HMM的人脸识别算法 8.1.1 人脸图像二维离散小波变换 8.1.2 低频小波树 8.1.3 实验结果及分析 8.1.4 利用ICA降维 8.1.5 结论 8.2 基于小波树和Fisher线性鉴别的人脸识别算法 8.2.1 Fisher 线性鉴别 8.2.2 实验结果及分析 8.2.3 结论 8.3 基于小波树和二维主元分析的人脸识别算法 8.3.1 二维主元分析 8.3.2 分类 8.3.3 实验结果及分析 8.3.4 结论 8.4 基于小波树和非参数鉴别分析的人脸识别算法 8.4.1 非参数鉴别分析 8.4.2 实验结果及分析 8.4.3 结论 8.5 本章小结 本章参考文献 第9章 Gabor小波在纹理图像分割中的应用研究 9.1 图像分割概述 9.2 基本原理 9.2.1 特征提取 9.2.2 二维滑动矩形窗傅里叶变换的快速递推算法 9.2.3 能量函数表示形式 9.3 数值实现 9.4 性能分析和实验结果 9.5 本章小结 本章参考文献 展望

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值