【 苗C~，饵" .7. Il ，~ - 世界大学城

er) 、 贝 叶 斯 学 派 。 它 们 有 不 同 的 统 计 哲 学 , 而 且 在 近 代 信 念 学 派 和 贝 叶 斯 学 派 常 常 不 和 , 学 术 上的 争 论 不 断 。 但 是 , 在 判 别 分 析 上 这 两 个 学 派 却 恰 恰 是 " 不 谋 而 合 " 的 , 结 果 可 以 很 好 地 互 相 转换 , 而 且 贝 叶 斯 判 别 要 比 典 型 判 别 更 好 用 ( 或 者 说 是 更 接 近 用 己 知 推 断 未 知 的 想 法 )。13.3. 1 方 法 原 理贝 叶 斯 学 派 的 基 本 思 想 就 是 利 用 己 去 口 的 先 验 ( 先 于 本 次 研 究 ) 概 率 去 推 证 将 要 发 生 的 后 验( 试 验 结 果 ) 概 率 , 其 公 式 可 以 在 任 何 一 本 数 理 统 计 的 书 上 找 到 , 在 此 就 不 再 详 述 了 。 贝 叶 斯 判别 分 析 就 是 利 用 贝 叶 斯 概 率 法 则 进 行 判 别 , 其 理 论 基 础 比 Fisher的 典 型 判 别 分 析 更 加 具 有 统 计理 论 支 持 。 假 设 qi (X) 为 g 个 总 体 的 分 布 密 度 ( 无 法 知 道 具 体 的 形 式 的 ) 为 假 设 的 先 验 概 率 , 而对 应 的 概 率 密 度 函 数 为 :+兀 (χ) = (2τ)-M|Vz|-l 飞 xp J 1 2 (X - X) , V - 1 i(X - X) 1,,- ,-, " ,,- ,- , r其 中 V 是 第 i 个 总 体 的 协 方 差 矩 阵 , k 是 变 量 个 数 。根 据 贝 叶 斯 概 率 公 式 可 以 得 出 , 把 类 t 的 样 本 判 别 为 类 i 的 事 后 概 率 是 :、 q 1: (X ) .• ~P \X ε[ Iχεtj=g , z=1 , 42 ,…, g: 二 q 1: (X)这 时 令 : Yi (X) = ln [q 1: (X 门 , 于 是 事 后 概 率 变 为 :exp [Yi (χ) ]p (X ε i Iχεt)=g , i=1 , 2 ,…, g: 二 叫 [Yi (X) ]ln I Y I + kln C2'1T) +α -X) 'y-1 cx -X)其 中 有 : Yi (X) = ln (q) - ,.., 而 这 里 的 (X-JDFVZ l(X-D2可 以 用 广 义 距 离 平 方 公 式 来 修 正 变 异 和 先 验 概 率 对 距 离 的 影 响 , 其 广 义 距 离 平 方 公 式 为 : D 2 (X)= d7 (X) + v (i) + w (i)。 其 中 当 组 内 变 异 相 等 时 采 用 合 并 协 方 差 矩 阵 , 这 时 v (i) = 0 , D7 (X) 就是 x 的 一 个 线 性 函 数 , 所 以 Yi (X) 也 是 x 的 一 个 线 性 函 数 : Yi (X) = bX + b O 否 则 采 用 组 内 协 方 差 矩阵 v (i) = ln ( I V iI )。 当 使 用 组 内 协 方 差 矩 阵 的 时 候 计 算 的 是 二 次 型 判 别 函 数 (Quadratic DiscriminantFunctions) 。对 于 广 义 距 离 平 方 公 式 在 各 总 体 的 先 验 概 率 相 等 时 w (i) = 0 , 否 则 先 验 概 率 不 相 等 时 w( i)= -21n(q) 。其 实 贝 叶 斯 判 别 分 析 就 是 计 算 每 个 样 本 的 后 验 概 率 以 及 判 错 率 , 用 最 大 后 验 概 率 来 划 分 样本 的 分 类 4 并 且 使 得 期 望 损 失 达 到 最 小 , 而 当 把 最 小 判 错 率 作 为 损 失 值 的 定 义 时 , 期 望 损 失 最 小原 则 就 变 成 了 期 望 判 错 率 最 小 原 则 , 进 一 步 讲 要 是 还 要 考 虑 取 得 不 同 自 变 量 的 数 值 是 具 有 代 价的 ( 及 收 集 样 本 的 费 用 ) , 如 何 使 得 特 征 变 量 的 代 价 最 优 , 此 时 就 是 序 贯 判 别 分 析 了 。总 结 一 下 典 型 判 别 分 析 和 贝 叶 斯 判 别 分 析 的 差 异 : 前 者 并 不 考 虑 样 本 的 具 体 分 布 , 只 求 组 间差 异 和 组 内 差 异 的 比 值 最 大 化 。 而 后 者 是 从 样 本 的 多 元 分 布 出 发 , 充 分 利 用 多 元 正 态 分 布 的 概4 请 读 者 注 意 , 这 是 在 样 本 的 先 验 概 率 都 是 相 等 的 条 件 下 得 到 的 用 最 大 后 验 概 率 预 测 样 本 的 说 法 。• 274 •