第 8 章 非 线 性 回 归 模 型8.1 模 型 简 介8. 1. 1 问 题 的 提 出前 面 章 节 中 曾 经 涉 及 自 变 量 和 因 变 量 间 里 曲 线 关 系 的 情 形 , 当 时 采 用 的 是 曲 线 直 线 化 的 策略 , 即 在 曲 线 关 系 比 较 简 单 时 , 可 以 进 行 变 量 变 换 将 曲 线 关 系 转 换 为 直 线 关 系 , 从 而 利 用 Linear过 程 分 析 。 但 是 , 曲 线 直 线 化 的 方 法 有 着 自 身 的 缺 陷 , 下 面 这 些 问 题 它 就 无 法 解 决 : 变 量 变 换 可 以 解 决 一 部 分 曲 线 拟 合 的 问 题 , 但 是 直 线 回 归 采 用 的 是 最 小 二 乘 法 , 它 保 证的 是 变 换 后 的 残 差 平 方 和 最 小 , 如 果 变 换 回 原 始 数 值 , 则 并 不 一 定 是 最 优 方 程 。 当 曲 线 关 系 极 为 复 杂 , 甚 至 不 存 在 显 示 表 达 式 时 , 往 往 是 不 可 能 通 过 变 量 变 换 转 换 为 直线 方 程 的 , 此 时 线 性 回 归 将 爱 莫 能 助 。 曲 线 直 线 化 后 仍 然 是 采 用 最 小 二 乘 法 加 以 拟 合 , 对 于 更 复 杂 的 拟 和 方 式 无 法 实 现 , 如 最小 一 乘 法 、 复 杂 的 加 权 方 法 等 。显 然 , 在 这 些 情 况 下 , 需 要 寻 求 更 强 的 分 析 方 法 。 非 线 性 回 归 就 是 针 对 以 上 更 复 杂 的 问 题 而提 出 的 一 个 通 用 的 模 型 框 架 , 它 采 用 迭 代 方 法 对 用 户 设 置 的 各 种 复 杂 曲 线 模 型 进 行 拟 合 , 同 时 将残 差 的 定 义 从 最 小 二 乘 法 向 外 大 大 扩 展 , 为 用 户 提 供 了 极 为 强 大 的 分 析 能 力 。8. 1. 2 模 型 入 门非 线 性 回 归 模 型 一 般 可 以 表 示 为 如 下 形 式 :Yi 夕 + e i = fCχ , θ) + e i其 中 fCx , θ) 为 期 望 函 数 , 该 模 型 的 结 构 和 线 性 回 归 模 型 非 常 相 似 , 所 不 同 的 是 期 望 函 数fCx , θ) 可 能 为 任 意 形 式 , 在 有 的 情 况 下 甚 至 于 可 以 没 有 显 式 表 达 式 。许 多 较 为 简 单 的 非 线 性 模 型 可 以 通 过 变 量 变 换 转 化 为 线 性 模 型 , 它 们 又 被 称 为 可 变 换 为 线性 的 模 型 。 在 非 线 性 回 归 中 , 可 变 换 为 线 性 的 模 型 有 许 多 优 点 , 诸 如 易 于 求 得 某 些 参 数 的 初 始 值等 。 如 果 采 用 将 它 们 变 换 为 线 性 模 型 , 然 后 进 行 估 计 的 策 略 , 则 就 是 前 面 己 经 学 习 过 的 曲 线 回归 。 然 而 , 必 须 指 出 , 数 据 的 变 换 会 导 致 随 机 误 差 项 分 布 的 变 换 , 认 清 这 点 非 常 重 要 , 因 为 这 将 影响 到 最 小 二 乘 法 所 求 得 的 解 的 含 义 , 以 及 模 型 的 适 用 条 件 。 如 果 假 定 变 换 前 模 型 的 误 差 项 服 从正 态 分 布 , 则 对 于 变 换 后 的 数 据 来 说 , 其 相 应 的 误 差 项 很 可 能 就 不 再 服 从 这 一 { 固 定 , 反 之 亦 然 , 不仅 是 正 态 性 , 包 括 方 差 齐 性 、 独 立 性 可 能 都 会 出 现 这 种 问 题 。 因 此 , 变 换 后 的 线 性 模 型 采 用 最 小• 149 •
二 乘 法 求 得 的 最 佳 参 数 估 计 值 并 不 一 定 是 原 模 型 的 最 佳 估 计 。 显 然 , 在 较 为 复 杂 的 非 线 性 模 型中 , 这 一 影 响 有 可 能 非 常 严 重 。 因 此 , 在 精 度 要 求 较 高 , 或 者 模 型 较 复 杂 的 非 线 性 回 归 问 题 中 , 采用 曲 线 直 线 化 来 估 计 非 线 性 方 程 并 不 是 一 个 好 的 策 略 。那 么 , 非 线 性 模 型 是 如 何 估 计 模 型 参 数 的 呢 ? 事 实 上 它 的 参 数 估 计 的 基 本 思 想 非 常 类 似 于线 性 模 型 , 也 是 先 给 出 一 个 表 示 估 计 误 差 的 函 数 ( 损 失 函 数 ) , 然 后 使 得 该 函 数 取 值 最 小 化 , 并 求得 此 时 的 参 数 估 计 值 。 以 常 用 的 最 小 二 乘 法 为 例 , 它 也 是 设 法 找 到 使 得 各 数 据 点 离 模 型 回 归 线纵 向 距 离 的 平 方 和 达 到 最 小 的 估 计 值 ( 损 失 函 数 为 残 差 绝 对 值 平 方 ) , 但 此 处 的 模 型 回 归 线 就 是相 应 的 曲 线 , 而 不 是 线 性 回 归 中 的 直 线 , 或 者 曲 线 拟 合 中 变 换 后 的 直 线 。由 于 期 望 函 数 并 非 直 线 , 使 得 模 型 无 法 直 接 计 算 出 最 小 二 乘 估 计 的 参 数 值 , 因 此 非 线 性 回 归 模型 一 般 采 用 高 斯 一 牛 顿 法 进 行 参 数 估 计 。 这 一 方 法 是 利 用 对 期 望 函 数 做 泰 勒 级 数 展 开 , 以 达 到 线性 近 似 的 目 的 , 并 反 复 迭 代 求 解 。 其 基 本 思 路 是 : 首 先 为 所 有 未 知 参 数 指 定 一 个 初 始 值 , 然 后 将 原方 程 按 泰 勒 级 数 展 开 , 并 只 取 一 阶 各 项 作 为 线 性 函 数 的 逼 近 , 其 余 项 均 归 入 误 差 中 ; 然 后 采 用 最 小二 乘 法 对 该 模 型 中 的 参 数 进 行 估 计 ; 用 参 数 估 计 值 替 代 初 始 值 , 将 方 程 再 次 展 开 , 进 行 线 性 化 , 从 而又 可 以 求 出 一 批 参 数 估 计 值 ; 如 此 反 复 , 直 至 参 数 估 计 值 收 敛 为 止 。 显 然 , 这 一 方 法 计 算 非 常 复 杂 ,必 须 借 助 于 计 算 机 完 成 , 并 且 在 许 多 时 候 , 初 始 值 的 设 定 对 模 型 能 否 顺 利 求 解 是 有 影 响 的 。非 线 性 回 归 模 型 在 SPSS中 可 以 采 用 由 和 c 由 两 个 过 程 来 拟 和 , 前 者 用 于 一 般 的 非 线 性 模 型 , 后者 可 用 于 带 约 束 条 件 的 非 线 性 模 型 的 拟 合 , 适 用 范 围 更 广 , 算 法 也 不 相 同 。 但 在 对 话 杠 级 别 中 , 它 们 都统 一 由 regress 菜 单 中 的 nor 由8.2 简 单 分 析 实 例这 里 将 仍 然 采 用 第 6 章 中 曲 线 拟 合 的 分 析 实 例 , 在 第 6 章 中 , 通 过 对 数 据 进 行 变 换 , 原 来 通风 时 间 和 毒 物 浓 度 间 的 曲 线 关 系 被 转 换 成 了 直 线 , 从 而 可 以 通 过 直 接 进 行 线 性 回 归 得 到 分 析 结果 。 但 是 , 此 时 是 按 照 变 换 后 的 数 据 关 系 得 到 最 小 二 乘 结 果 的 , 它 是 否 仍 然 是 变 换 前 的 最 优 结果 , 或 者 说 是 变 换 前 误 差 最 小 的 曲 线 模 型 呢 ? 这 里 将 采 用 非 线 性 回 归 的 方 法 对 该 案 例 进 行 分 析 。8.2.1 软 件 操 作 与 界 面 说 明由 于 在 第 6章 中 己 经 对 本 数 据 进 行 了 详 细 的 探 讨 , 这 里 不 再 进 行 预 分 析 , 直 接 进 行 非 线 性 回归 分 析 , 操 作 如 下 :: Analyze 一 今 Regression 一 今 Nonlinear Regression!Dependent 杠 : y:Model Expr'ess lOn 丰 匡 : a X exp Cb x time)|P 盯 ame 阳 1:Name 杠 : A: Starting Value 杠 :1: IADDIName 杠 : B: Starting Value 杠 : 1: 区 国|Continuel囚• 150 •
- Page 1 and 2:
•【 苗 C~ , 饵 " .7. Il ,~
- Page 5 and 6:
序---Ì......口知 识 经 济
- Page 8 and 9:
日 录第 一 部 分一 般 线
- Page 10 and 11:
6.3.2 分 析 实 例 .............
- Page 12 and 13:
思 考 与 练 习 ..............
- Page 14 and 15:
19.3.3 比 例 风 险 性 的 图
- Page 16 and 17:
Yij μ i + E: iJ其 中 Yij 代 表
- Page 18 and 19:
3. 元 素 CElement)元 素 指 用
- Page 20 and 21:
值 。 因 此 在 多 因 素 方
- Page 22 and 23:
表 1. 4 是 对 前 面 所 假
- Page 24 and 25:
义 不 难 理 解 , 具 体 输
- Page 26 and 27:
中 的 Weight Estimation 过 程
- Page 28 and 29:
表 1. 13 Tests of Between-Subjects
- Page 30 and 31:
在 设 定 好 一 张 轮 廓 图
- Page 32 and 33:
表 1. 17 Lack of Fit TestsDependen
- Page 34 and 35:
表 1. 18 中 给 出 的 是 各
- Page 36 and 37:
一 下 。因 篇 幅 所 限 ,
- Page 38 and 39:
此 。 而 在 随 机 效 应 方
- Page 40 and 41:
第 2 章 常 用 实 验 设 计
- Page 42 and 43:
受 试 对 象 按 性 质 ( 如
- Page 44 and 45:
Patient 选 入 Random Factor 框 ,
- Page 46 and 47:
表 2.5Tests of Between-Subjects Ef
- Page 48 and 49:
此 为 2 x3 析 因 设 计 , 一
- Page 50 and 51:
表 2.11正 交 设 计 及 其 结
- Page 52 and 53:
表 2.14均 匀 设 计 安 排 及
- Page 54 and 55:
2.3.2 重 复 测 量 设 计重
- Page 56 and 57:
理 的 小 白 鼠 其 进 食 量
- Page 58 and 59:
期 70末考试成 60结90 -l 曰
- Page 60 and 61:
表 2.23 是 两 组 的 修 正
- Page 62 and 63:
第 3 章 多 元 方 差 分 析
- Page 64 and 65:
文 、 数 学 、 英 语 的 考
- Page 66 and 67:
迹 。 值 越 大 , 该 效 应
- Page 68 and 69:
3. 1. 4 对 引 例 的 进 一 步
- Page 70 and 71:
大 , 即 计 算 F 值 时 的 分
- Page 72 and 73:
促 销 手 段 前 两 个 月 的
- Page 74 and 75:
区 、 实 行 不 同 促 销 手
- Page 76 and 77:
表 3.16 即 为 一 元 方 差
- Page 78 and 79:
第 4 章 混 合 线 性 模 型
- Page 80 and 81:
图 4. 1 第 一 所 学 校 的
- Page 82 and 83:
表 4.1 是 方 差 分 析 的 检
- Page 84 and 85:
l i i可 号 事 3气 》 矿标
- Page 86 and 87:
表 4.11 同 样 是 对 随 机
- Page 88 and 89:
由 上 面 的 分 析 结 果 可
- Page 90 and 91:
进 行 动 态 监 测 , 走 时
- Page 92 and 93:
在 预 定 义 对 话 杠 中 未
- Page 94 and 95:
表 4.25 中 给 出 了 4 次 重
- Page 96 and 97:
表 4.31任 意 两 次 的 相 关
- Page 98 and 99:
设 定 非 常 丰 富 , 这 里
- Page 100 and 101:
参 考 文 献221 Liang KY , Zeger
- Page 102 and 103:
第 5 章 多 重 线 性 回 归
- Page 104 and 105:
此 处 之 所 以 从 散 点 图
- Page 106 and 107:
将 自 变 量 引 起 的 变 异
- Page 108 and 109:
町 ,…, 与 ) 与 反 应 变 量
- Page 110 and 111: 5.3 同 归 预 测 与 残 差 分
- Page 112 and 113: 图 5.5三 维 空 间 中 的 可
- Page 114 and 115: 图 5.6几 种 常 见 的 残 差
- Page 116 and 117: 差 间 相 互 独 立 。 例 5.
- Page 118 and 119: 根 据 公 式 55 total = 55R + 55
- Page 120 and 121: SPSS 输 出 结 果 如 下 :表 5
- Page 122 and 123: 表 5. 12 Excluded Variables eColli
- Page 124 and 125: 读 者 可 自 行 练 习 在 例
- Page 126 and 127: 共 线 性 越 强 , 提 取 主
- Page 128 and 129: 参 考 文 献1 John Neter, Michae
- Page 130 and 131: 2.52.01.51.01!ð主 0.5附口 口
- Page 132 and 133: 因 变 量 模 型 ; 自 变 量
- Page 134 and 135: 自 身 预 测 值 或 者 其 他
- Page 136 and 137: 系 数 必 然 会 小 于 普 通
- Page 138 and 139: Source variable. . n POWER value =
- Page 140 and 141: 映 的 实 际 上 是 除 了 生
- Page 142 and 143: 际 上 是 假 设 这 4 档 间
- Page 144 and 145: 还 对 两 种 分 类 变 量 类
- Page 146 and 147: 结 果 输 出 的 最 后 就 是
- Page 148 and 149: 第 7章 路 径 分 析 入 门在
- Page 150 and 151: 表 7. 2 Coefficients aUnstandardiz
- Page 152 and 153: 个 , 因 变 量 为 LW , 最 下
- Page 154 and 155: 型 中 各 变 量 的 具 体 联
- Page 156 and 157: 根 据 该 测 量 值 , 可 以
- Page 158 and 159: 表 7. 10 Model SummaryModel R R Sq
- Page 162 and 163: 相 应 的 主 对 话 杠 如 图
- Page 164 and 165: 的 相 关 系 数 可 用 来 辅
- Page 166 and 167: 从 图 8. 3 中 可 以 看 到 ,
- Page 168 and 169: 图 8.5一 乘 法 与 二 乘 法
- Page 170 and 171: Source DF Sum of Squares Mean Squar
- Page 172 and 173: 接 下 来 方 杠 中 的 文 本
- Page 174 and 175: 第 9 章 二 分 类 Logistic 回
- Page 176 and 177: 0.5 为 对 称 点 , 分 布 在 o
- Page 178 and 179: 81) 1 (42/69) = 1. 217 , 并 不
- Page 180 and 181: Waldx2 , 是 对 总 体 回 归
- Page 182 and 183: exp ( - 5. 642 - 1. 356 X sex - O.
- Page 184 and 185: 有 意 义 , 有 些 无 意 义
- Page 186 and 187: 表 9.15Variables in the EquationB
- Page 188 and 189: 验 , 就 可 以 得 知 它 们
- Page 190 and 191: 法 的 分 析 结 果 。表 9.18
- Page 192 and 193: 究 者 找 到 一 系 列 的 指
- Page 194 and 195: : Graphs• ROC Curve:Test Variable
- Page 196 and 197: 就 一 定 很 好 。 例 如 使
- Page 198 and 199: 的 知 识 都 可 以 被 系 统
- Page 200 and 201: 第三部分多 元 统 计 分 析
- Page 202 and 203: 特 别 需 要 注 意 的 是 ,
- Page 204 and 205: 计 量 不 一 定 能 真 实 地
- Page 206 and 207: 图 10.2 Output 子 对 话 框图
- Page 208 and 209: (1) Test of Parallel Lines 检 验
- Page 210 and 211:
O. 458 • Csex = 1) 00.4)表 10. 1
- Page 212 and 213:
变 量 叫 ,… , X m 对 目 标
- Page 214 and 215:
表 10. 15 Model Fitting Informatio
- Page 216 and 217:
10.4.2 实 例 一 与 Logistic 模
- Page 218 and 219:
关 ) 的 不 同 取 值 水 平
- Page 220 and 221:
!Analyze• Regression• Probit:Re
- Page 222 and 223:
第 11 章 主 成 分 分 析 与
- Page 224 and 225:
的 信 息 , 其 他 的 可 以
- Page 226 and 227:
表 1 1. 1 为 8 个 原 始 变
- Page 228 and 229:
各 个 因 子 间 互 不 相 关
- Page 230 and 231:
由 Bartlett 检 验 可 以 看
- Page 233 and 234:
于 斜 交 旋 转 则 显 示 旋
- Page 235 and 236:
F2 =0. 011ZX1 +0. 387ZX2 +0. 129ZX3
- Page 237 and 238:
部 的 经 济 结 构 , 找 到
- Page 239 and 240:
化 , 对 初 始 因 子 载 荷
- Page 241 and 242:
得 到 综 合 因 子 得 分 sco
- Page 243 and 244:
AUi从ì (U 11IU 21川AU l2 从U 22
- Page 245 and 246:
图 12.1不 同 的 分 类 方 法
- Page 247 and 248:
目 前 , 非 层 次 聚 类 法
- Page 249 and 250:
从 表 12. 1 中 可 以 看 出 5
- Page 251 and 252:
一 次 出 现 是 在 第 1 步 ,
- Page 253 and 254:
藏 等 13 省 市 ;第 5 类 : 包
- Page 255 and 256:
第 4 类 : 消 费 水 平 相 对
- Page 257 and 258:
更 新 类 别 中 心 点 。(5)
- Page 259 and 260:
3. 结 果 解 释分 析 结 果
- Page 261 and 262:
在 K - Means 生 成 的 结 果
- Page 263 and 264:
0.017 3 。现 希 望 通 过 聚
- Page 265 and 266:
这 就 意 味 着 在 原 来 12
- Page 267 and 268:
散 变 量 和 连 续 变 量 。
- Page 269 and 270:
思 考 与 练 习1. 对 于 例 1
- Page 271 and 272:
x2图 13.1典 型 判 别 分 析
- Page 273 and 274:
就 说 明 判 别 的 效 果 较
- Page 275 and 276:
Analyze• Classify • Discriminan
- Page 277 and 278:
表 13.4 给 出 的 是 判 别
- Page 279 and 280:
Canonical OiscriminantFunction 2UO-
- Page 281 and 282:
别 函 数 进 行 新 样 品 的
- Page 283 and 284:
er) 、 贝 叶 斯 学 派 。 它
- Page 285 and 286:
刚 毛 王 军 尾 花 y = - 80. 2
- Page 287 and 288:
第 14章 典 型 相 关 分 析
- Page 289 and 290:
(Rl~lR12R2;lR21 -Â;) (Slâ ω) =0(
- Page 291 and 292:
Correlations Between Set - 1 and Se
- Page 293 and 294:
由 这 两 对 典 型 变 量 的
- Page 295 and 296:
0.5640.733立 定 { 本 前 屈图
- Page 297 and 298:
变 量 所 求 出 的 典 型 相
- Page 299 and 300:
第 15章 对 应 分 析15.1 模
- Page 301 and 302:
数 据 由 Fisher 在 1940 年 首
- Page 303 and 304:
功 能 作 进 一 步 解 释 。
- Page 305 and 306:
的 是 各 类 别 的 信 息 在
- Page 307 and 308:
的 Dimensions In Solution 杠 中
- Page 309 and 310:
换 , 交 叉 表 就 被 转 换
- Page 311 and 312:
!Analyze• Data Reduction→ Corre
- Page 313 and 314:
15.4 多 重 对 应 分 析15.4.1
- Page 315 and 316:
表 15.10 Iteration History 表 15.
- Page 317 and 318:
以 确 认 图 形 中 所 观 察
- Page 319 and 320:
图 15.14哑 变 量 设 置 格
- Page 321 and 322:
果 上 的 联 系 。(2) 使 用
- Page 323 and 324:
是 用 某 个 r 维 欧 氏 空
- Page 325 and 326:
图 16.3MDS 过 程 的 子 对 话
- Page 327 and 328:
图 16.4 12 城 市 三 维 空 间
- Page 329 and 330:
16. 1. 3 距 离 的 计 算 方
- Page 331 and 332:
别 间 的 问 阳 就 会 比 较
- Page 333 and 334:
Warning # 14654> The total number o
- Page 335 and 336:
在 INDSCAL 模 型 中 , 仍 然
- Page 337 and 338:
接 下 来 方 杠 中 的 结 果
- Page 339 and 340:
(2) 如 果 有 可 能 , 为 每
- Page 341 and 342:
在 后 面 结 合 案 例 给 予
- Page 343 and 344:
Reduced rank: 和 广 义 欧 氏
- Page 345 and 346:
N口。吕A。 中 国 科 大 0.6
- Page 347 and 348:
5 张 文 月 三 主 编 . SPSS 11
- Page 349 and 350:
第 17 章 对 数 线 性 模 型
- Page 351 and 352:
Model Selection 过 程 拟 合 的
- Page 353 and 354:
这 样 做 不 会 影 响 统 计
- Page 355 and 356:
作 用 , 即 不 同 胃 溃 荡
- Page 357 and 358:
17.3 因 果 关 系 明 确 时
- Page 359 and 360:
表 17.14 和 表 17.15 两 个 表
- Page 361 and 362:
表 17.18抽 查 人 员 的 工
- Page 363 and 364:
以 下 方 杠 中 的 文 本 是
- Page 365 and 366:
If Deleted Simple Effect is DF L. R
- Page 367 and 368:
17.5 对 数 线 性 模 型 与
- Page 369 and 370:
本 例 的 主 要 分 析 结 果
- Page 371 and 372:
第 18章 信 度 分 析在 各
- Page 373 and 374:
低 于 0.7 , 则 应 该 弃 之
- Page 375 and 376:
低 , 提 示 这 两 道 题 的
- Page 377 and 378:
表 18.5 ANOVA with Friedman's Test
- Page 379 and 380:
在 表 格 的 最 上 面 , SPSS
- Page 381 and 382:
同 ) , 因 此 计 算 公 式 有
- Page 383 and 384:
续 表类 型 假 设 测 量 的
- Page 385 and 386:
18.4.3 SPSS 中 相 应 的 分 析
- Page 387 and 388:
第 19章 生 存 分 析19. 1 生
- Page 389 and 390:
下 来 , 而 不 是 等 数 据
- Page 391 and 392:
风 险 函 数 非 负 生 存 函
- Page 393 and 394:
= 川 c1 - d/n)ti
- Page 395 and 396:
除 以 上 用 到 的 杠 组 外
- Page 397 and 398:
分 布 曲 线 、 风 险 函 数
- Page 399 and 400:
(1) Pooled over strata: 系 统 默
- Page 401 and 402:
This subfile contains:20 observatio
- Page 403 and 404:
19.3 Cox 同 归 模 型前 面 介
- Page 405 and 406:
杠 的 含 义 与 操 作 和 前
- Page 407 and 408:
模 型 拟 合 时 完 全 相 同
- Page 409 and 410:
间 的 抗 体 水 平 、 不 同
- Page 411 and 412:
会 对 研 究 结 果 造 成 影
- Page 413 and 414:
情 况 :图 19.14真 分 层 时
- Page 415 and 416:
鳞 癌 型 肺 癌 或 夫 访 )
- Page 417 and 418:
集 中 其 他 无 缺 失 变 量
- Page 419 and 420:
20.2.2 对 缺 失 模 式 的 分
- Page 421 and 422:
记 录 的 输 出 。 如 果 指
- Page 423 and 424:
失 值 的 变 量 , 然 后 为
- Page 425 and 426:
20.3.2 使 用 回 归 算 法 进
- Page 427 and 428:
示 。 因 20.6 Ca) 为 回 归
- Page 429 and 430:
图 20.8EM 算 法 的 散 点 图
- Page 431 and 432:
SPSS 产 品 简 介SPSS 系 列