方差分析与一元线性回归

本节导读

这一节对应大纲心理统计学第四章「各种研究设计的方差分析」和第五章「一元线性回归」，是心理统计学的最后一节。方差分析用来同时比较三个或更多平均数，核心是平方和的分解；回归分析用一个变量预测另一个变量，核心是回归方程和确定系数。

单项选择题可能让你算方差分析的自由度、F 值，判断某种设计的名称和优点，用回归方程作预测，或由相关系数求确定系数；名词解释可能考「交互作用」「确定系数」「随机化区组设计」；简答可能考方差分析的基本条件或步骤。

研究设计的一般问题

方差分析的效应模型有三种：固定模型，自变量的各水平是研究者有意选定的，结论只推广到这几个水平；随机模型，各水平是从更多水平中随机抽取的，结论可以推广到全部水平；混合模型，有的因素固定、有的因素随机。

方差分析的基本条件是：各总体服从正态分布；各处理组的总体方差相等（方差齐性）；各观测值相互独立。数据不满足条件时可以先作数据变换：

变换	适用的数据
对数变换	标准差与平均数大致成比例的数据，如反应时
平方根变换	方差与平均数大致成比例的计数数据，如单位时间内某种行为出现的次数
反正弦变换	比率或百分数数据，如正确率

完全随机设计的方差分析

完全随机设计是把被试随机分配到各个处理组，每个被试只接受一种处理。方差分析的基本思想是把总变异分解为组间变异和组内变异：组间变异包含处理效应和误差，组内变异只反映个体差异和误差。

$$SS_T=SS_B+SS_W$$SST​=SSB​+SSW​

变异来源	平方和	自由度	均方
组间	$SS_B=\sum n_j(\bar{X}_j-\bar{X}_t)^2$SSB​=∑nj​(Xˉj​−Xˉt​)2	$k-1$k−1	$MS_B=SS_B/(k-1)$MSB​=SSB​/(k−1)
组内	$SS_W=\sum\sum(X_{ij}-\bar{X}_j)^2$SSW​=∑∑(Xij​−Xˉj​)2	$N-k$N−k	$MS_W=SS_W/(N-k)$MSW​=SSW​/(N−k)
总变异	$SS_T=\sum\sum(X_{ij}-\bar{X}_t)^2$SST​=∑∑(Xij​−Xˉt​)2	$N-1$N−1

$k$k 是组数，$N$N 是总人数，$\bar{X}_j$Xˉj​ 是第 $j$j 组的平均数，$\bar{X}_t$Xˉt​ 是总平均数。检验统计量为：

$$F=\frac{MS_B}{MS_W}$$F=MSW​MSB​​

按自由度 $(k-1,\ N-k)$(k−1, N−k) 找出临界值，F 大于临界值就拒绝「各组总体平均数相等」的虚无假设。F 显著只说明各组平均数之间存在显著差异，不能说明是哪几组之间。

非参数方差分析与事后检验

数据是顺序数据或不满足正态、方差齐性条件时，可以用非参数方差分析：克—瓦氏单向等级方差分析用于完全随机设计的多个独立样本；弗里德曼双向等级方差分析用于随机化区组设计的多个相关样本。

F 检验显著以后，要用事后检验（多重比较）找出哪些平均数之间差异显著。做法是先计算平均数的标准误（常用 $\sqrt{MS_W/n}$MSW​/n​），再用 q 检验等方法对各对平均数逐一比较、确定显著性。不能简单地把各组两两作 t 检验，因为比较的次数一多，犯 α 错误的总概率会明显增大。

随机化区组设计

区组是由条件相同或相近的被试组成的组，可以是一个被试（接受全部处理）、条件相近的几个被试，或一个现成的团体。随机化完全区组设计要求区组内的被试同质、区组之间异质，在每个区组内把被试随机分配接受各种处理。

它的方差分析把总变异分解为处理、区组和误差三部分：

$$SS_T=SS_{\text{处理}}+SS_{\text{区组}}+SS_{\text{误差}}$$SST​=SS处理​+SS区组​+SS误差​

区组之间的差异被单独分离出来，误差项变小，检验更灵敏。设计有单因素完全区组设计和二因素完全区组设计；处理数太多、一个区组容纳不下全部处理时，用随机化不完全区组设计，每个区组只接受部分处理。

析因设计

析因设计有两个或两个以上的自变量（因素），各因素的每个水平都与其他因素的每个水平相结合，形成全部的处理组合。例如 A 因素 3 个水平、B 因素 2 个水平，共有 6 种处理组合。它的特点是能同时考察各因素的主效应和因素之间的交互作用，效率高。类型有完全随机的析因设计、随机区组的析因设计和混合设计。

两因素完全随机析因设计的平方和分解为 $SS_T=SS_A+SS_B+SS_{AB}+SS_W$SST​=SSA​+SSB​+SSAB​+SSW​。设 A 有 $a$a 个水平、B 有 $b$b 个水平、每个处理组合有 $n$n 个被试：

变异来源	自由度
A 因素	$a-1$a−1
B 因素	$b-1$b−1
A×B 交互作用	$(a-1)(b-1)$(a−1)(b−1)
组内（误差）	$ab(n-1)$ab(n−1)
总变异	$abn-1$abn−1

交互作用显著，说明一个因素的效应随另一个因素的水平不同而不同，这时要作简单效应分析，不宜孤立地解释主效应。

嵌套、裂区与拉丁方设计

设计	适用的研究问题	统计分析的特点
嵌套设计	一个因素的各水平只出现在另一个因素的某一水平之下，如几个班级分别只接受某一种教学方法	无法分析两因素的交互作用
裂区设计	一个因素需要较大的实验单位（主区），另一个因素可在主区内再细分的小区里安排	主区因素和裂区因素用不同的误差项检验
拉丁方设计	要同时控制两个无关变量（如被试和时间顺序），使每种处理在每行、每列各出现一次	要求行数、列数、处理数相等，且各因素之间没有交互作用