y - JMP

质量统计应用方法 —— 回归分析 

JMP 中国区 

Copyright © 2008, SAS Institute Inc. All rights reserved.

内容摘要 

• 公司简介及 JMP 入门 ( 略 ) 

• 回归分析的基本概念 

• 回归模型的建立 

• 回归模型的诊断 

• 回归模型的用途 

• 回归分析的综合应用案例 

• 交流与问答 


如何鉴定流程能力的优劣 ? 

Target 

LSL 

USL 


质量管理的发展 

传统控制 

阶段 

(QC, 

quality 

control) 

统计质量 

控制阶段 

(SQC, 

statistical 

quality 

control) 

全面质量 

管理阶段 

(TQM, 

total 

quality 

management) 

六西格玛 

质量管理 

阶段 

( Six Sigma 

Management) 

1900 1930 1950 1990 


JMP 是什么 ? 

• SAS 公司的软件事业部 

• 名字源于 John’s Macintosh Program 

• 功能强大、使用简单的专业统计质 

量分析软件 

• JMP 软件 , 众多世界知名学府和企业、超过 

200,000 名用户的选择 


Copyright © 2008, SAS Institute Inc. All rights reserved. 

2008 全球绩效 

-30 余年持续增长 ,08 年营业收入达到 22.6 亿美金


全球最优秀的行业领袖信赖 JMP

JMP —— 

让数据分析更轻松 

1. 功能强大的数据分析能力 

2. 卓越的可视化效果 

3. 简单易懂的操作方式 


统计分析能力 

基本统计 

回归分析 

方差分析 

列联表 

模型拟合 

描述性统计 

线性回归 

一般方差分析 

卡方分析 

分段拟合 

单样本、双样本 t 检验 

多项式回归 

Welch 方差分析 

对应分析 

样条拟合 

配对 t 检验 

相关和协方差 

多元回归 

逐步和最佳子集回归 

协方差分析 

广义线性模型 

Cochran Mantel 

Haenszel 检验 

随机效应模型 

混合模型 

单样本方差、等方差检 

验 

正态分布的拟合与检验 

其他主要分布的拟合与 

检验 

Logistic 回归 

偏最小二乘法 

非线性回归 

响应面回归 

正交回归 

多元方差分析 

非平衡方差分析 

嵌套方差分析 

平均值分析 

环图多重比较 

统一尺度估计 

对数方差 

反向预测 

Box Cox 转换 

参数功效 

置信区间和预测区间 

定制检验 

时间序列分析 

多元分析 

仿真 

非参数分析 

样本数量和功效 

自相关、偏自相关、交主成分分析 

叉相关 

因子分析 

ARIMA 分析 

密度椭圆 

季节性 ARIMA 分析 

聚类分析 

平滑模型 

判别分析 

Winter 法 

项目分析 

谱密度分析 

对应分析 

预测 

联合分析 

注 : 蓝色为其他统计软件所不具备的功能 


随机数据生成器 

随机噪声 

多元随机变量 

随机抽样 

与建模密切整合 

Wilcoxon 检验 

中位数检验 

Van Der Waerden 检验 

Kruskal-Wallis 检验 

统计量 Spearman Rho 

统计量 Kendall Tau 

统计量 Hoeffding D 

单样本、双样本和多样本 

的均值 

单样本的方差 

单样本、双样本的比例 

泊松分布

统计分析能力 

统计过程控制 

测量系统分析 

试验设计 

生存 / 可靠性分析 

运行图 

变异源分析 

完全因子设计 

分布拟合 

变量控制图 

量具的重复性和再现性 

筛选设计 

WeiBayes 分析 

属性控制图 

量具的偏倚和线性 

响应面设计 

竞争原因估计 

特殊原因检验 

嵌套型量具分析 

混料设计 

参数生存模型 

操作特性曲线 

交叉嵌套混合的量具分析 

田口设计 

非线性参数生存模型 

时间加权控制图 

属性一致性分析 

扩充设计 

比例危险模型 

多变量控制图 

Kappa 

空间填充设计 

加速失效模型 

Levey Jennings 控制图 

判别比率 

非线性设计 

可修复系统的再现分析 

实时控制图 

可区分类别数 

定制设计 

过程能力分析 

数据挖掘 : 决策树 , 神经网络 

注 : 蓝色为其他统计软件所不具备的功能 


专业图形 

JMP 中的可视化方式 

动画演示 

• JMP 提供最专业的统计分析图形 : 种类、效果、可读性 

数据与图形的交互 

• 拒绝枯燥 , 生动演绎统计学原理 

项目管理 


• 真正实现动态链接 , 瞬间揭示事实真相 

• 融项目管理和数据分析为一体 , 提高工作效率

JMP 中的图形种类 

饼图、折线图、条形图 ; 

直方图、箱型图 ; 

散点图、3D 散点图、散点图矩阵 ; 

运行图、时间序列图 

分位数图、茎叶图、CDF 图 ; 

Pareto 图、鱼骨图 ; 

贝叶斯图 ; 

立方图 ; 

等高线图、曲面图、三元图 ; 

刻画器、定制刻画器 ; 

平行图、方格图、树图 ; 

拼花图 ; 

OC 曲线 ; 

泡泡图 ; 

…… 

•Seeing is believing! 


JMP 使用界面 

根据用户要求 

层层递进 


展开行菜单 

JMP 数据表 

隐藏 / 撤消隐藏 

控制面板 

展开列菜单 

控制面板 


列 = 变量 

行 = 记录 

表 = 数据库 

数据网格

菜单架构 

协助管理 

数据处理 

分析数据 

可视化数据 


回归分析与假设检验 

Response 

Continuous 

Categorical 

Predictor 

Continuous 

t test / 

ANOVA 

Simple 

Linear 

Regression 


• 什么是回归 ? 

回归 

• 根据变量间客观存在的相关关系 , 建立起合适的数学模 

型 , 分析和讨论其性质和应用的统计方法 

• 回归有什么用 ? 

• 量化变量 ( 尤其是连续变量 ) 之间的客观规律 

• 排除众多噪声因素的干扰 , 找到影响流程变异 / 质量性能的 

关键因素 

• 根据少量的样本数据了解庞大的总体情况 

• 根据历史数据预测和监控流程今后长期的表现 

• 加速学习进程 , 高度提炼专业知识和经验 

• 深入、透彻地理解流程 , 为批量化生产经营的标准化工作 

奠定基础 

• 科学客观地总结和归纳出产品设计、工艺改进的综合解决 

方案 

• 根据客户要求、技术标准灵活地调整现有的工艺 / 服务流程 


回归的应用领域 

市场营销 

产品研发 

质量管理 

回归 

工艺改进 

服务优化 

企业管理 


Y 

常见的回归形式 

Simple linear (1 X) Multiple (2 or more Xs) 

1 2 3 

Y 

X 

Polynomial (1 X) 

Y 

X 2 

X 1 

X 

Polynomial (2 or more Xs) 

Indicator variables 

(for discrete Xs) 

X a 

Logistic (for discrete Ys) 

4 5 6 

1 

Y 

Y 

x 

x 

x 

x x x 

x 

x 

x x 

x 

x 

x 

x 

x 

X b 

X c 

% yes 

X 2 

X 1 


X i 

0 

X

回归分析的一般过程 

• 明确研究的对象和范围 

• 变量的基础分析 

• 收集并了解数据 

• 选择回归模型 ( 假设 ) 

• 观察散点图 

• 作描述性统计 

• 线性或曲面 ? 

• 一元或多元 ? 

• 数据转换 ? 

• 离散型 X, 离散型 Y? 

• 模型求解 

• 计算参数 

未通过 

• 模型检验 

• 判定系数 

• 显著性 

• 残差 

通过 

• 实际应用 

• 控制输出值 

• 通过输入值预测 


散点图与相关系数的概念 

Y (output) 

STRONG 

Negative 

weak 

STRONG 

Positive 

-1 0 

1 

Correlation Coefficient 

X (input) 

r 

= 

∑ 

∑ 

( 

x 

( 

x 

i 

− 

i 

− 

x 

) 

x 

)( 

2 

⋅ 

y 

∑ 

i 

− 

y 

) 

( 

y 

i 

− 

y 

) 

2 


散点图与相关系数的组合 

Y 

Y 

Y 

Strong Positive Correlation 

r = .95 

X 

Moderate Positive Correlation 

r = .70 

X 

No Correlation 

r = .006 

X 

Y 

Y 

Y 

Strong 

Negative Correlation 

r = -.90 

X 

Moderate 

Negative Correlation 

r = -.73 

X 

Other Pattern - 

No Linear Correlation 

r = -.29 

X 


一元线性回归模型 

Y 

e 

y = a + b x + e 

2 

i 

e 

3 

i 

i 

Residual 

e 

1 

y$ 

= a + bx 

i 

X 

i 


理论公式 

Sample 

Regression Equation 

y i = a + bx i + e i 

Sample Slope 

b 

= 

n 

∑ 

i= 

1 

( x 

n 

i 

∑ 

i= 

1 

− x )( 

( x 

i 

− 

y 

i 

x ) 

− 

2 

y) 

= 

S 

S 

xy 

2 

x 

Sample Intercept 

a 

= 

y 

− 

bx ˆ 


回归诊断 

1. 变差度量 

判定系数 (R 2 ) 

均方根误差 (RMSE) 

2. 显著性检验 

3. 残差分析 

4. 散点图分析 

y 

$ 

= a + b x 

i 

i 


判定系数 R 2 0 ≤ R 2 ≤ 1 

R 2 Explained Variation 

= = 

Total Variation 

n 

n 

∑ 

( ) 

2 

yˆ 

∑ 

i 

− y 

i 

= 

1 

i 

= 

1 

= = 

1 

− 

n 

n 

∑ 

( − 

) 

2 

y 

i 

y 

i 

= 

1 

i 

= 

1 

SSR 

SST 

( y 

− 

y 

ˆ 

) 

i 

∑ ( y 

ˆ 

− 

) 

i 

y 

2 

2 


判决系数的图示 

Y 

Unexplained Sum of 

Squares (y i - y^ 

i ) 2 

Total Sum of 

Squares (y i -y) 2 

总平方和 

x i 

y i 

残差平方和 

$y 

i = a + b x 

Explained Sum of 

Squares (y^ 

i -y) 2 

回归平方和 

⎯y 

X 

i 


均方根误差 

1. 实际观察值与回归估计值离差平方和的均方根 

2. 反映实际观察值在回归直线周围的分散状况 

3. 从另一个角度说明了回归直线的拟合程度 

4. 计算公式为 

S 

e 

= 

n 

∑ 

i= 

1 

( y 

i 

− 

n − 2 

yˆ 

i 

) 

2 

S 

e 

= 

n 

n 

n 

2 

yi 

− a ⋅ yi 

− b ⋅ 

i= 1 i= 1 i= 

1 

∑ ∑ ∑ 

n 

− 

2 

x 

i 

⋅ 

y 

i 


回归系数的显著性检验 

1. 假设 

H 0 : β 1 = 0 (No Linear Relationship) 

H 1 : β 1 ≠ 0 (Linear Relationship) 

2. 检验统计量 

b − β 

S 

t = 1 ~ t( 

n − 2) 

where S = e 

n−2 

S 

b 

b 

∑ ( x − x ) 

2 

i 

3. 统计决策 : 

If t ≥ t α , refuse H 0. 

If t < t α , accept H 0. 


回归方程的显著性检验 

1. 假设 

H 0 : No Linear Relationship 

H 1 : Linear Relationship 

2. 检验统计量 

F 

= 

SSR 

1 

SSE 

n 

− 

2 

= 

∑ 

i 

= 

1 

n 

∑ 

i 

n 

( y 

ˆ 

− 

y 

) 

2 

i 

1 

= 1 

~ 

F 

(1 , 

n 

2 

n 

− 

2 

( y 

− 

y 

ˆ 

) 

i 

2 

− 

2) 

3. 统计决策 : 

If F ≥ F α , refuse H 0. 

If F < F α , accept H 0. 


残差分析 

Assumption 

Check Tool 

1. Residuals not related 

to Predicted Y 

Scatterplot of Residuals vs 

Predicted Y (Fits) 

2. Residual distribution 

stable over time 

Run Chart of Residuals 

3. Residuals normally 

distributed 

Normal Plot & Histogram of 

Residuals 

4. Residuals not related 

to X 

Scatterplot of Residuals vs. 

Each X 



散点图分析

回归的应用 

1. 根据自变量 x 的取值估计或预测因变量 y 的取值 

2. 估计或预测的类型 

• 点估计 

− y 的平均值的点估计 

− 

y 的个别值的点估计 

• 区间估计 

− y 的平均值的置信区间估计 

− 

y 的个别值的预测区间估计 

3. 平均值的点估计和个别值的的点估计是一样的 , 但在区间估计中 

则不同 

4. 点估计不能给出估计的精度 , 点估计值与实际值之间是有误差 

的 , 因此有必要进行区间估计 


x 


区间估计的图示 

单值置信上限 

单值置信上限 

均值置信上限 




单值置信下限 

单值置信下限 

y 

⎯x 

x 0

案例学习 

1. 影响健身效果的原因分析 

2. 钢铁强度的提升 

3. 婴幼儿发育趋势的调查 

4. 食品包装重量的控制 

5. 密封过程有效性的改善 


Thank You 

JMP 中国区 

上海市浦东南路 256 号华夏银行大厦 8 楼 801 室 

Tel: 86 21 61633088 

Mail: jmpchina@sas.com 

Web: www.jmp.com/china

y - JMP

Create successful ePaper yourself

Delete template?

Save as template?