杭州紫金港培训学校(紫金港专升本)杭州紫金港培训学校(紫金港专升本)
同等学力申硕信息与通信工程学科综合考前辅导第一门 随机数学(必选)第 3 节 / 共 32 节约 30 分钟免费

概率论基础(二):随机向量与数字特征

对应随机数学(二)随机向量与(三)随机变量的数字特征:联合分布、二维均匀与二维正态,边际分布与条件分布,独立性与函数的分布;期望、方差与矩,协方差、相关系数与协方差阵,常用分布的数字特征,条件数学期望。

本节考点:随机向量及其分布边际分布与条件分布随机向量函数的分布数字特征协方差与相关系数条件数学期望

本节导读

这一节合讲概率论基础的两部分。「(二)随机向量」三条:

  1. 随机向量及其分布概念;二维均匀分布和二维正态分布的定义和性质。
  2. 边际分布与条件分布函数;条件概率和条件密度。
  3. 随机变量的独立性;随机向量简单函数的分布。

「(三)随机变量的数字特征」五条:

  1. 随机变量的矩;数学期望、方差和标准差的定义和性质。
  2. 两个随机变量的协方差和相关系数;随机向量的协方差阵和相关系数阵。
  3. 常用重要分布中参数的概率意义、期望和方差的求法。
  4. 二维正态分布中参数的概率意义;二维分布的数字特征的求法。
  5. 条件数学期望。

学完要做到:会由联合密度求边际密度、条件密度;会判断独立;会求和、最大值、最小值的分布;会算期望、方差、协方差、相关系数,写出协方差阵;会用二维正态的条件期望公式。本节的 μ1,μ2,σ12,σ22,ρ\mu_1,\mu_2,\sigma_1^2,\sigma_2^2,\rhoμ1​,μ2​,σ12​,σ22​,ρ 是二维正态的五个参数,ρ\rhoρ 也泛指相关系数。

随机向量及其分布

nnn 个定义在同一样本空间上的随机变量组成随机向量。二维时联合分布函数 F(x,y)=P{X≤x,Y≤y}F(x,y)=P\{X\le x,Y\le y\}F(x,y)=P{X≤x,Y≤y};离散型用联合分布律 pijp_{ij}pij​,连续型用联合密度 f(x,y)f(x,y)f(x,y),P{(X,Y)∈D}=∬Df(x,y) dx dyP\{(X,Y)\in D\}=\iint_Df(x,y)\,dx\,dyP{(X,Y)∈D}=∬D​f(x,y)dxdy。

二维均匀分布:在面积为 SDS_DSD​ 的区域 DDD 上 f(x,y)=1SDf(x,y)=\dfrac{1}{S_D}f(x,y)=SD​1​,区域外为 0。落在 DDD 内某块小区域 GGG 的概率就是面积之比 SG/SDS_G/S_DSG​/SD​,这是几何概率的推广。

二维正态分布 N(μ1,μ2;σ12,σ22;ρ)N(\mu_1,\mu_2;\sigma_1^2,\sigma_2^2;\rho)N(μ1​,μ2​;σ12​,σ22​;ρ) 的主要性质:两个边际分布分别是 N(μ1,σ12)N(\mu_1,\sigma_1^2)N(μ1​,σ12​)、N(μ2,σ22)N(\mu_2,\sigma_2^2)N(μ2​,σ22​);XXX、YYY 独立的充要条件是 ρ=0\rho=0ρ=0;aX+bYaX+bYaX+bY(a,ba,ba,b 不全为 0)仍服从正态分布;给定 X=xX=xX=x 时 YYY 的条件分布也是正态分布。反过来,两个边际都是正态,联合分布却不一定是二维正态。

边际分布与条件分布

边际密度由联合密度对另一个变量积分得到:

fX(x)=∫−∞∞f(x,y) dyf_X(x)=\int_{-\infty}^{\infty}f(x,y)\,dyfX​(x)=∫−∞∞​f(x,y)dy

条件密度 fY∣X(y∣x)=f(x,y)fX(x)f_{Y\mid X}(y\mid x)=\dfrac{f(x,y)}{f_X(x)}fY∣X​(y∣x)=fX​(x)f(x,y)​(fX(x)>0f_X(x)\gt 0fX​(x)>0),它对 yyy 积分为 1,条件分布函数是它的积分。离散型的条件概率 P{Y=yj∣X=xi}=pijpi⋅P\{Y=y_j\mid X=x_i\}=\dfrac{p_{ij}}{p_{i\cdot}}P{Y=yj​∣X=xi​}=pi⋅​pij​​,其中 pi⋅p_{i\cdot}pi⋅​ 是第 iii 行之和。求边际密度时,积分上下限要按 xxx 固定后 yyy 在区域里的范围写,这一步最容易出错。

独立性与随机向量简单函数的分布

XXX、YYY 相互独立 ⇔ F(x,y)=FX(x)FY(y)F(x,y)=F_X(x)F_Y(y)F(x,y)=FX​(x)FY​(y);连续型 ⇔ f(x,y)=fX(x)fY(y)f(x,y)=f_X(x)f_Y(y)f(x,y)=fX​(x)fY​(y) 几乎处处成立。联合密度能拆成「只含 xxx 的因子」乘「只含 yyy 的因子」、且取值区域是矩形时,两者独立。

常用的几种函数:

  • 和 Z=X+YZ=X+YZ=X+Y,独立时用卷积公式 fZ(z)=∫−∞∞fX(x)fY(z−x) dxf_Z(z)=\int_{-\infty}^{\infty}f_X(x)f_Y(z-x)\,dxfZ​(z)=∫−∞∞​fX​(x)fY​(z−x)dx;独立正态之和仍是正态,独立泊松之和仍是泊松。
  • 最大值 M=max⁡{X,Y}M=\max\{X,Y\}M=max{X,Y}:FM(z)=FX(z)FY(z)F_M(z)=F_X(z)F_Y(z)FM​(z)=FX​(z)FY​(z)(两者独立)。
  • 最小值 N=min⁡{X,Y}N=\min\{X,Y\}N=min{X,Y}:FN(z)=1−[1−FX(z)][1−FY(z)]F_N(z)=1-[1-F_X(z)][1-F_Y(z)]FN​(z)=1−[1−FX​(z)][1−FY​(z)](两者独立)。

并联系统的寿命是最大值,串联系统的寿命是最小值。

期望、方差与矩

E(X)=∑xkpkE(X)=\sum x_kp_kE(X)=∑xk​pk​ 或 ∫xf(x) dx\int xf(x)\,dx∫xf(x)dx(绝对收敛时才存在);函数的期望 E[g(X)]=∫g(x)f(x) dxE[g(X)]=\int g(x)f(x)\,dxE[g(X)]=∫g(x)f(x)dx,不必先求 g(X)g(X)g(X) 的分布。kkk 阶原点矩 E(Xk)E(X^k)E(Xk),kkk 阶中心矩 E[(X−EX)k]E[(X-EX)^k]E[(X−EX)k];方差 D(X)=E[(X−EX)2]=E(X2)−[E(X)]2D(X)=E[(X-EX)^2]=E(X^2)-[E(X)]^2D(X)=E[(X−EX)2]=E(X2)−[E(X)]2,标准差 D(X)\sqrt{D(X)}D(X)​。

性质:E(aX+b)=aE(X)+bE(aX+b)=aE(X)+bE(aX+b)=aE(X)+b;E(X+Y)=E(X)+E(Y)E(X+Y)=E(X)+E(Y)E(X+Y)=E(X)+E(Y) 总成立;XXX、YYY 独立时 E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)E(XY)=E(X)E(Y);D(aX+b)=a2D(X)D(aX+b)=a^2D(X)D(aX+b)=a2D(X);D(X±Y)=D(X)+D(Y)±2 Cov(X,Y)D(X\pm Y)=D(X)+D(Y)\pm 2\,\mathrm{Cov}(X,Y)D(X±Y)=D(X)+D(Y)±2Cov(X,Y)。

协方差、相关系数与协方差阵

Cov(X,Y)=E[(X−EX)(Y−EY)]=E(XY)−E(X)E(Y)\mathrm{Cov}(X,Y)=E[(X-EX)(Y-EY)]=E(XY)-E(X)E(Y)Cov(X,Y)=E[(X−EX)(Y−EY)]=E(XY)−E(X)E(Y),相关系数

ρXY=Cov(X,Y)D(X)D(Y)\rho_{XY}=\frac{\mathrm{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}ρXY​=D(X)​D(Y)​Cov(X,Y)​

∣ρ∣≤1\lvert\rho\rvert\le 1∣ρ∣≤1;∣ρ∣=1\lvert\rho\rvert=1∣ρ∣=1 当且仅当 YYY 几乎必然是 XXX 的线性函数。ρ=0\rho=0ρ=0 称不相关:独立一定不相关,不相关一般不独立(二维正态时两者等价)。

随机向量 (X1,⋯ ,Xn)(X_1,\cdots,X_n)(X1​,⋯,Xn​) 的协方差阵是以 cij=Cov(Xi,Xj)c_{ij}=\mathrm{Cov}(X_i,X_j)cij​=Cov(Xi​,Xj​) 为元素的矩阵,对角线是各分量的方差;它是对称、非负定的矩阵。把每个元素除以 ciicjj\sqrt{c_{ii}c_{jj}}cii​cjj​​,得到对角线全为 1 的相关系数阵。

常用分布的参数意义与数字特征

分布参数的概率意义期望方差
B(n,p)B(n,p)B(n,p)nnn 次试验,每次成功概率 pppnpnpnpnp(1−p)np(1-p)np(1−p)
P(λ)P(\lambda)P(λ)单位时间(区域)内平均发生次数λ\lambdaλλ\lambdaλ
几何分布每次成功概率 ppp1p\dfrac1pp1​1−pp2\dfrac{1-p}{p^2}p21−p​
U(a,b)U(a,b)U(a,b)区间端点a+b2\dfrac{a+b}{2}2a+b​(b−a)212\dfrac{(b-a)^2}{12}12(b−a)2​
E(λ)E(\lambda)E(λ)失效率;1λ\dfrac1\lambdaλ1​ 是平均寿命1λ\dfrac1\lambdaλ1​1λ2\dfrac{1}{\lambda^2}λ21​
N(μ,σ2)N(\mu,\sigma^2)N(μ,σ2)均值与方差μ\muμσ2\sigma^2σ2

二维正态的五个参数:μ1\mu_1μ1​、μ2\mu_2μ2​ 是两个分量的期望,σ12\sigma_1^2σ12​、σ22\sigma_2^2σ22​ 是两个分量的方差,ρ\rhoρ 是两者的相关系数。二维分布的数字特征照「函数的期望」做二重积分或二重求和。

条件数学期望

给定 X=xX=xX=x 时 YYY 的条件期望 E(Y∣X=x)=∫yfY∣X(y∣x) dyE(Y\mid X=x)=\int yf_{Y\mid X}(y\mid x)\,dyE(Y∣X=x)=∫yfY∣X​(y∣x)dy,它是 xxx 的函数;把 xxx 换成 XXX,E(Y∣X)E(Y\mid X)E(Y∣X) 就是一个随机变量。全期望公式 E[E(Y∣X)]=E(Y)E[E(Y\mid X)]=E(Y)E[E(Y∣X)]=E(Y) 常用来分两步求期望。二维正态时条件期望是 xxx 的线性函数:

E(Y∣X=x)=μ2+ρσ2σ1(x−μ1)E(Y\mid X=x)=\mu_2+\rho\frac{\sigma_2}{\sigma_1}(x-\mu_1)E(Y∣X=x)=μ2​+ρσ1​σ2​​(x−μ1​)

这条直线就是 YYY 对 XXX 的回归直线,也是用 XXX 估计 YYY 的均方误差最小的估计;第 12 节的维纳滤波就建立在这个思想上。

易错提醒

  • ❌ 两个边际分布都是正态分布,联合分布就一定是二维正态分布。
    ✅ 边际正态推不出联合正态;二维正态的结论(如不相关等价于独立)只能在已知联合正态时用。

  • ❌ 对任意两个随机变量都有 E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)。
    ✅ 一般 E(XY)=E(X)E(Y)+Cov(X,Y)E(XY)=E(X)E(Y)+\mathrm{Cov}(X,Y)E(XY)=E(X)E(Y)+Cov(X,Y),只有不相关(独立是它的特例)时才相等;期望的可加性 E(X+Y)=E(X)+E(Y)E(X+Y)=E(X)+E(Y)E(X+Y)=E(X)+E(Y) 才是无条件成立的。

  • ❌ 联合密度的式子能拆成两个因子的乘积,两个变量就一定独立。
    ✅ 还要看取值区域:区域不是矩形(例如 0<x<y<10\lt x\lt y\lt 10<x<y<1)时,即使式子能拆,也不独立。

例题精讲

例题 1(计算:联合密度的数字特征)

(X,Y)(X,Y)(X,Y) 的联合密度在 0<x<10\lt x\lt 10<x<1、0<y<10\lt y\lt 10<y<1 上为 f(x,y)=x+yf(x,y)=x+yf(x,y)=x+y,其余为 0。求 fX(x)f_X(x)fX​(x)、E(X)E(X)E(X)、D(X)D(X)D(X)、Cov(X,Y)\mathrm{Cov}(X,Y)Cov(X,Y) 与 ρXY\rho_{XY}ρXY​,并判断是否独立。

解:fX(x)=∫01(x+y) dy=x+12f_X(x)=\int_0^1(x+y)\,dy=x+\dfrac12fX​(x)=∫01​(x+y)dy=x+21​;由对称性 fY(y)=y+12f_Y(y)=y+\dfrac12fY​(y)=y+21​。E(X)=∫01x(x+12)dx=13+14=712E(X)=\int_0^1x\Big(x+\dfrac12\Big)dx=\dfrac13+\dfrac14=\dfrac{7}{12}E(X)=∫01​x(x+21​)dx=31​+41​=127​;E(X2)=14+16=512E(X^2)=\dfrac14+\dfrac16=\dfrac{5}{12}E(X2)=41​+61​=125​,D(X)=512−49144=11144D(X)=\dfrac{5}{12}-\dfrac{49}{144}=\dfrac{11}{144}D(X)=125​−14449​=14411​。E(XY)=∬xy(x+y) dx dy=16+16=13E(XY)=\iint xy(x+y)\,dx\,dy=\dfrac16+\dfrac16=\dfrac13E(XY)=∬xy(x+y)dxdy=61​+61​=31​,Cov(X,Y)=13−49144=−1144\mathrm{Cov}(X,Y)=\dfrac13-\dfrac{49}{144}=-\dfrac{1}{144}Cov(X,Y)=31​−14449​=−1441​,ρXY=−1/14411/144=−111\rho_{XY}=\dfrac{-1/144}{11/144}=-\dfrac{1}{11}ρXY​=11/144−1/144​=−111​。

因为 (x+12)(y+12)≠x+y(x+\frac12)(y+\frac12)\neq x+y(x+21​)(y+21​)=x+y,两者不独立。

点评:区域是正方形,但式子 x+yx+yx+y 拆不成乘积,所以不独立;ρ\rhoρ 很小,说明线性关系很弱。

例题 2(计算:带噪观测的条件期望)

信号 X∼N(0,4)X\sim N(0,4)X∼N(0,4),噪声 V∼N(0,1)V\sim N(0,1)V∼N(0,1),两者独立,观测 Y=X+VY=X+VY=X+V。求 ρXY\rho_{XY}ρXY​,并求观测到 Y=2.5Y=2.5Y=2.5 时 XXX 的条件期望。

解:D(Y)=4+1=5D(Y)=4+1=5D(Y)=4+1=5,Cov(X,Y)=D(X)=4\mathrm{Cov}(X,Y)=D(X)=4Cov(X,Y)=D(X)=4,ρXY=425≈0.894\rho_{XY}=\dfrac{4}{2\sqrt5}\approx 0.894ρXY​=25​4​≈0.894。(X,Y)(X,Y)(X,Y) 是二维正态,用条件期望公式(XXX、YYY 的角色互换):E(X∣Y=y)=Cov(X,Y)D(Y) y=0.8yE(X\mid Y=y)=\dfrac{\mathrm{Cov}(X,Y)}{D(Y)}\,y=0.8yE(X∣Y=y)=D(Y)Cov(X,Y)​y=0.8y,所以 E(X∣Y=2.5)=2E(X\mid Y=2.5)=2E(X∣Y=2.5)=2。

点评:条件期望把观测值「打了八折」:噪声越大,系数 D(X)D(X)+D(V)\dfrac{D(X)}{D(X)+D(V)}D(X)+D(V)D(X)​ 越小,越不相信观测。

本节小结

  • 联合分布 → 边际(积掉另一个变量)→ 条件(联合除以边际)。
  • 独立:密度可拆且区域为矩形;和用卷积,最大值、最小值用分布函数相乘。
  • D(X)=E(X2)−(EX)2D(X)=E(X^2)-(EX)^2D(X)=E(X2)−(EX)2;D(X±Y)=DX+DY±2CovD(X\pm Y)=DX+DY\pm 2\mathrm{Cov}D(X±Y)=DX+DY±2Cov;协方差阵对称非负定。
  • 常用分布的期望、方差连同参数意义一起记;二维正态五个参数各有含义。
  • 条件期望是 xxx 的函数;二维正态时 E(Y∣X=x)=μ2+ρσ2σ1(x−μ1)E(Y\mid X=x)=\mu_2+\rho\frac{\sigma_2}{\sigma_1}(x-\mu_1)E(Y∣X=x)=μ2​+ρσ1​σ2​​(x−μ1​)。

学完练一练

按本节考点从本课的课后练习里抽题(每次 10 道以内),做完看解析、错题自动进错题本。

本节内容由 AI 辅助编写,配图由 AI 生成,仅供备考参考;考试要求以《全国各类成人高等学校招生考试大纲(2024 年版)》及浙江省教育考试院当年公布为准。

我要提问免费报名咨询