【 苗C~，饵" .7. Il ，~ - 世界大学城

第 13章 判 别 分 析判 别 分 析 最 初 是 由 费 希 尔 (R. A. Fisher) 于 1936 年 在 生 物 学 上 植 物 分 类 中 提 出 来 的 , 那 时候 的 费 希 尔 判 别 分 析 只 是 一 种 分 类 方 法 而 没 有 数 学 上 的 理 论 依 据 。 大 约 在 20 世 纪 50 年 代 出 现了 贝 叶 斯 判 别 , 它 证 明 了 费 希 尔 判 别 的 合 理 性 , 所 以 国 际 上 一 般 都 把 这 两 种 判 别 分 析 合 称 为Fisher 判 别 分 析 , 简 写 为 LDF/DF (Linear Discriminant Analysis) 。 判 别 分 析 的 因 变 量 是 走 类 或 者走 序 变 量 , 以 此 把 样 本 划 分 为 不 同 的 组 类 , 而 自 变 量 可 以 是 任 何 尺 度 的 变 量 , 只 是 定 性 变 量 需 要以 虚 拟 变 量 的 方 式 进 入 模 型 。 其 目 的 在 于 建 立 一 种 线 性 组 合 使 得 用 最 优 化 的 模 型 来 概 括 分 类 之间 的 差 异 。 其 用 途 是 可 以 根 据 己 去 口 的 样 本 的 分 类 情 况 来 判 断 未 知 待 判 的 样 本 的 归 属 问 题 。 例如 , 信 用 风 险 的 判 别 、 市 场 细 分 中 的 客 户 分 类 、 地 质 层 的 判 断 、 模 式 识 别 的 问 题 等 , 是 应 用 相 当 广泛 的 多 元 统 计 技 术 。13. 1 模 型 简 介判 别 分 析 的 模 型 按 照 判 别 的 不 同 准 则 可 以 分 为 典 型 判 别 分 析 、 贝 叶 斯 判 别 分 析 、 非 参 数 判 别分 析 等 不 同 模 型 , 其 实 由 于 判 别 分 析 的 内 容 相 当 丰 富 , 其 方 法 体 系 几 乎 可 以 覆 盖 多 元 统 计 的 所 有内 容 , 本 章 将 以 较 常 用 的 典 型 判 别 分 析 为 主 , 对 判 别 分 析 的 方 法 原 理 , 实 现 方 式 等 加 以 介 绍 , 以 帮助 读 者 更 好 的 理 解 使 用 该 方 法 。13. 1. 1 典 型 判 别 分 析 的 基 本 原 理在 判 别 技 术 的 发 展 史 上 典 型 判 别 分 析 最 先 出 现 , 其 原 理 是 Fisher借 鉴 自 己 创 造 的 方 差 分 析的 思 想 , 试 图 找 到 一 个 由 原 始 自 变 量 组 成 的 线 性 函 数 使 得 组 间 差 异 和 组 内 差 异 的 比 值 最 大 化 。这 一 点 如 图 13.1 所 示 , 设 希 望 通 过 对 X1 、 刀 两 个 自 变 量 的 取 值 将 总 体 1 、 2 分 开 , 单 看 总 体 1 、 2在 两 个 自 变 量 轴 上 都 是 有 部 分 重 合 的 。 但 是 在 将 变 量 X1 、 X2 重 新 组 合 , 得 到 线 性 判 别 函 数 1 、 2后 , 可 以 发 现 使 用 线 性 判 别 函 数 2 可 以 把 总 体 L2 之 间 的 差 异 拉 得 很 开 。 因 此 , 可 以 只 使 用 线 性判 别 函 数 2 代 替 原 有 的 两 个 自 变 量 进 行 判 别 , 并 得 到 更 好 的 结 果 , 这 就 是 典 型 判 别 分 析 的 基 本型 、 想如 果 用 公 式 来 对 上 述 思 想 进 行 表 述 , 则 设 ng 为 样 本 大 小 的 权 重 , 组 间 差 异 B 为 :B= 主 叭 一 元 ) 气 -Y; 组 内 差 异 之 和 S 为 : S = 主 rg(Ins-:111xgo 而 判 别 函 数 的b'Bb表 达 式 为 u = b' X vx l' Fisher 判 别 分 析 就 是 计 算 出 b 值 , 使 得 max 。 这 样 实 际 就 是 计 算 原b"O b' Sb• 261 •