概率论基础(二):随机向量与数字特征
对应随机数学(二)随机向量与(三)随机变量的数字特征:联合分布、二维均匀与二维正态,边际分布与条件分布,独立性与函数的分布;期望、方差与矩,协方差、相关系数与协方差阵,常用分布的数字特征,条件数学期望。
本节导读
这一节合讲概率论基础的两部分。「(二)随机向量」三条:
- 随机向量及其分布概念;二维均匀分布和二维正态分布的定义和性质。
- 边际分布与条件分布函数;条件概率和条件密度。
- 随机变量的独立性;随机向量简单函数的分布。
「(三)随机变量的数字特征」五条:
- 随机变量的矩;数学期望、方差和标准差的定义和性质。
- 两个随机变量的协方差和相关系数;随机向量的协方差阵和相关系数阵。
- 常用重要分布中参数的概率意义、期望和方差的求法。
- 二维正态分布中参数的概率意义;二维分布的数字特征的求法。
- 条件数学期望。
学完要做到:会由联合密度求边际密度、条件密度;会判断独立;会求和、最大值、最小值的分布;会算期望、方差、协方差、相关系数,写出协方差阵;会用二维正态的条件期望公式。本节的 μ1,μ2,σ12,σ22,ρ 是二维正态的五个参数,ρ 也泛指相关系数。
随机向量及其分布
n 个定义在同一样本空间上的随机变量组成随机向量。二维时联合分布函数 F(x,y)=P{X≤x,Y≤y};离散型用联合分布律 pij,连续型用联合密度 f(x,y),P{(X,Y)∈D}=∬Df(x,y)dxdy。
二维均匀分布:在面积为 SD 的区域 D 上 f(x,y)=SD1,区域外为 0。落在 D 内某块小区域 G 的概率就是面积之比 SG/SD,这是几何概率的推广。
二维正态分布 N(μ1,μ2;σ12,σ22;ρ) 的主要性质:两个边际分布分别是 N(μ1,σ12)、N(μ2,σ22);X、Y 独立的充要条件是 ρ=0;aX+bY(a,b 不全为 0)仍服从正态分布;给定 X=x 时 Y 的条件分布也是正态分布。反过来,两个边际都是正态,联合分布却不一定是二维正态。
边际分布与条件分布
边际密度由联合密度对另一个变量积分得到:
fX(x)=∫−∞∞f(x,y)dy条件密度 fY∣X(y∣x)=fX(x)f(x,y)(fX(x)>0),它对 y 积分为 1,条件分布函数是它的积分。离散型的条件概率 P{Y=yj∣X=xi}=pi⋅pij,其中 pi⋅ 是第 i 行之和。求边际密度时,积分上下限要按 x 固定后 y 在区域里的范围写,这一步最容易出错。
独立性与随机向量简单函数的分布
X、Y 相互独立 ⇔ F(x,y)=FX(x)FY(y);连续型 ⇔ f(x,y)=fX(x)fY(y) 几乎处处成立。联合密度能拆成「只含 x 的因子」乘「只含 y 的因子」、且取值区域是矩形时,两者独立。
常用的几种函数:
- 和 Z=X+Y,独立时用卷积公式 fZ(z)=∫−∞∞fX(x)fY(z−x)dx;独立正态之和仍是正态,独立泊松之和仍是泊松。
- 最大值 M=max{X,Y}:FM(z)=FX(z)FY(z)(两者独立)。
- 最小值 N=min{X,Y}:FN(z)=1−[1−FX(z)][1−FY(z)](两者独立)。
并联系统的寿命是最大值,串联系统的寿命是最小值。
期望、方差与矩
E(X)=∑xkpk 或 ∫xf(x)dx(绝对收敛时才存在);函数的期望 E[g(X)]=∫g(x)f(x)dx,不必先求 g(X) 的分布。k 阶原点矩 E(Xk),k 阶中心矩 E[(X−EX)k];方差 D(X)=E[(X−EX)2]=E(X2)−[E(X)]2,标准差 D(X)。
性质:E(aX+b)=aE(X)+b;E(X+Y)=E(X)+E(Y) 总成立;X、Y 独立时 E(XY)=E(X)E(Y);D(aX+b)=a2D(X);D(X±Y)=D(X)+D(Y)±2Cov(X,Y)。
协方差、相关系数与协方差阵
Cov(X,Y)=E[(X−EX)(Y−EY)]=E(XY)−E(X)E(Y),相关系数
ρXY=D(X)D(Y)Cov(X,Y)∣ρ∣≤1;∣ρ∣=1 当且仅当 Y 几乎必然是 X 的线性函数。ρ=0 称不相关:独立一定不相关,不相关一般不独立(二维正态时两者等价)。
随机向量 (X1,⋯,Xn) 的协方差阵是以 cij=Cov(Xi,Xj) 为元素的矩阵,对角线是各分量的方差;它是对称、非负定的矩阵。把每个元素除以 ciicjj,得到对角线全为 1 的相关系数阵。
常用分布的参数意义与数字特征
| 分布 | 参数的概率意义 | 期望 | 方差 |
|---|---|---|---|
| B(n,p) | n 次试验,每次成功概率 p | np | np(1−p) |
| P(λ) | 单位时间(区域)内平均发生次数 | λ | λ |
| 几何分布 | 每次成功概率 p | p1 | p21−p |
| U(a,b) | 区间端点 | 2a+b | 12(b−a)2 |
| E(λ) | 失效率;λ1 是平均寿命 | λ1 | λ21 |
| N(μ,σ2) | 均值与方差 | μ | σ2 |
二维正态的五个参数:μ1、μ2 是两个分量的期望,σ12、σ22 是两个分量的方差,ρ 是两者的相关系数。二维分布的数字特征照「函数的期望」做二重积分或二重求和。
条件数学期望
给定 X=x 时 Y 的条件期望 E(Y∣X=x)=∫yfY∣X(y∣x)dy,它是 x 的函数;把 x 换成 X,E(Y∣X) 就是一个随机变量。全期望公式 E[E(Y∣X)]=E(Y) 常用来分两步求期望。二维正态时条件期望是 x 的线性函数:
E(Y∣X=x)=μ2+ρσ1σ2(x−μ1)这条直线就是 Y 对 X 的回归直线,也是用 X 估计 Y 的均方误差最小的估计;第 12 节的维纳滤波就建立在这个思想上。
易错提醒
-
❌ 两个边际分布都是正态分布,联合分布就一定是二维正态分布。
✅ 边际正态推不出联合正态;二维正态的结论(如不相关等价于独立)只能在已知联合正态时用。 -
❌ 对任意两个随机变量都有 E(XY)=E(X)E(Y)。
✅ 一般 E(XY)=E(X)E(Y)+Cov(X,Y),只有不相关(独立是它的特例)时才相等;期望的可加性 E(X+Y)=E(X)+E(Y) 才是无条件成立的。 -
❌ 联合密度的式子能拆成两个因子的乘积,两个变量就一定独立。
✅ 还要看取值区域:区域不是矩形(例如 0<x<y<1)时,即使式子能拆,也不独立。
例题精讲
例题 1(计算:联合密度的数字特征)
(X,Y) 的联合密度在 0<x<1、0<y<1 上为 f(x,y)=x+y,其余为 0。求 fX(x)、E(X)、D(X)、Cov(X,Y) 与 ρXY,并判断是否独立。
解:fX(x)=∫01(x+y)dy=x+21;由对称性 fY(y)=y+21。E(X)=∫01x(x+21)dx=31+41=127;E(X2)=41+61=125,D(X)=125−14449=14411。E(XY)=∬xy(x+y)dxdy=61+61=31,Cov(X,Y)=31−14449=−1441,ρXY=11/144−1/144=−111。
因为 (x+21)(y+21)=x+y,两者不独立。
点评:区域是正方形,但式子 x+y 拆不成乘积,所以不独立;ρ 很小,说明线性关系很弱。
例题 2(计算:带噪观测的条件期望)
信号 X∼N(0,4),噪声 V∼N(0,1),两者独立,观测 Y=X+V。求 ρXY,并求观测到 Y=2.5 时 X 的条件期望。
解:D(Y)=4+1=5,Cov(X,Y)=D(X)=4,ρXY=254≈0.894。(X,Y) 是二维正态,用条件期望公式(X、Y 的角色互换):E(X∣Y=y)=D(Y)Cov(X,Y)y=0.8y,所以 E(X∣Y=2.5)=2。
点评:条件期望把观测值「打了八折」:噪声越大,系数 D(X)+D(V)D(X) 越小,越不相信观测。
本节小结
- 联合分布 → 边际(积掉另一个变量)→ 条件(联合除以边际)。
- 独立:密度可拆且区域为矩形;和用卷积,最大值、最小值用分布函数相乘。
- D(X)=E(X2)−(EX)2;D(X±Y)=DX+DY±2Cov;协方差阵对称非负定。
- 常用分布的期望、方差连同参数意义一起记;二维正态五个参数各有含义。
- 条件期望是 x 的函数;二维正态时 E(Y∣X=x)=μ2+ρσ1σ2(x−μ1)。
学完练一练
按本节考点从本课的课后练习里抽题(每次 10 道以内),做完看解析、错题自动进错题本。
本节内容由 AI 辅助编写,配图由 AI 生成,仅供备考参考;考试要求以《全国各类成人高等学校招生考试大纲(2024 年版)》及浙江省教育考试院当年公布为准。