Modèle logistique et scoring - Université Rennes 2

More documents

Recommendations

Info

20 Analyse discriminante logistique 2.1.2 Facteurs Un Facteur Nous allons maintenant nous placer dans le cas où la variable explicative X est de type facteur. X peut par exemple désigner le sexe, la couleur des yeux... On note g1,...,gm les m niveaux de X. Bien entendu, le problème ici consiste à estimer les probabilités de succès pour chaque niveau. Le modèle logistique est décrit par La variable Y |X = x suit une loi de Bernoulli de paramètre P(Y = 1|X = x) et logit (P(Y = 1|X = gk)) = ln P(Y = 1|X = gk) P(Y = 0|X = gk) = µk, k = 1,...,m. Ce premier modèle nécessite l’estimation de m paramètres µk. On lui préfère en général l’écriture suivante suivante qui ouvre la voie à d’importantes généralisations : logit (P(Y = 1|X = gk)) = ln P(Y = 1|X = gk) P(Y = 0|X = gk) = α0 + αk i = k,...,m. On remarquera que ce nouveau modèle nécessite l’estimation de m + 1 paramètres alors que simplement m paramètres sont identifiables de manière unique. Par conséquent, cette nouvelle décomposition nécessite, pour être unique, une contrainte sur les αi. Une solution souvent utilisée consiste à prendre un des paramètres égal à 0. C’est la stratégie adoptée par R qui par convention prend le coefficient correspondant au premier facteur. Exemple Considérons le cas d’une variable explicative à trois niveaux g1,g2,g3. Les observations sont récoltées dans les tableaux suivants (équivalents) observation X Y 1 g1 1 2 g2 1 3 g3 1 4 g1 1 5 g2 0 6 g1 0 X #{Y = 1} #{Y = 0} g1 2 1 g2 1 1 g3 1 0 Lorsque les données sont présentées comme dans le second tableau, on parle de présentation sous forme binomiale. On effectue une régression logistique sur R, les sorties sont les suivantes : > model model Call: glm(formula = Y ~ ., family = binomial, data = X) Coefficients: (Intercept) xg2 xg3 0.6931 -0.6931 17.8729 Degrees of Freedom: 5 Total (i.e. Null); 3 Residual Null Deviance: 7.638 Residual Deviance: 6.592 AIC: 12.59 Pierre-André Cornillon Laurent Rouvière Régression logistique et scoring
2.1 le modèle logistique 21 Le modèle s’écrit donc : ⎧ ⎨ 0.6931 si j = 1 logit P(Y = 1|X = gj) = 0 ⎩ 0.6931 + 17.8729 = 18.566 si j = 2 si j = 3. ou encore Plusieurs facteurs ⎧ ⎪⎨ P(Y = 1|X = gj) = ⎪⎩ exp(0.6931) 1+exp(0.6391) = 2/3 si j = 1 1/2 si j = 2 = 1.0000 si j = 3. exp(18.566) 1+exp(18.566) On suppose ici que l’on a p facteurs X1,...,Xp à m1,...,mp niveaux. On notera gjk le k ème niveau du j ème facteur. Dans ce cas là pour une réalisation x = (g1k1,...,gpkp) de la variable X, on écrira comme modèle : logit (P(Y = 1|X = x)) = α0 + α1k1 + ... + αpkp. On remarquera qu’a priori un tel modèle nécessite l’estimation de p j=1 mj + 1 paramètres. Exemple Considérons le cas de deux facteurs F et H possédant respectivement m1 = 2 et m2 = 3 facteurs. On dispose de 16 individus, les sorties R pour un modèle logistique sont données par : model1 Call: glm(formula = Y ~ ., family = binomial, data = X) Coefficients: (Intercept) Fg2 Fg3 Hh2 -0.7529 1.3225 2.1600 -0.4011 Degrees of Freedom: 15 Total (i.e. Null); 12 Residual Null Deviance: 22.18 Residual Deviance: 19.48 AIC: 27.48 On peut alors résumer le modèle par le tableau suivant : g1 g2 g3 h1 α0 α0 + Fg2 α0 + Fg3 h2 α0 + Hh2 α0 + Fg2 + Hh2 α0 + Fg3 + Hh2 Les probabilités prédites par ce modèle pour les nouveaux individus x1 = (g1,h1), x2 = (g2,h1), x3 = (g3,h2) sont P(Y = 1|X = x1) = exp(−0.7529) 1 + exp(−0.7529) P(Y = 1|X = x2) = P(Y = 1|X = x3) = exp(−0.7529 + 1.3225) 1 + exp(−0.7529 + 1.3225) = 0.3202 exp(−0.7529 + 2.1600 − 0.4011) 1 + exp(−0.7529 + 2.1600 − 0.4011) = 0.6387 = 0.7322. Régression logistique et scoring Pierre-André Cornillon Laurent Rouvière
Page 1: Année Universitaire 2007-2008 UFR
Page 4 and 5: 4 Table des matières Pierre-André
Page 6 and 7: 6 Introduction Il est bien entendu
Page 8 and 9: 8 Introduction pour la seconde esp
Page 10 and 11: 10 Introduction Cela donne, en remp
Page 12 and 13: 12 Introduction Définition 1.1 Soi
Page 14 and 15: 14 Introduction y −4 −2 0 2 4
Page 16 and 17: 16 Introduction Ce type de modélis
Page 18 and 19: 18 Introduction −3 −2 −1 0 1
Page 22 and 23: 22 Analyse discriminante logistique
Page 33 and 34: Chapitre 3 Sélection et validation
Page 35 and 36: 3.1 Sélection ou choix de modèle
Page 43 and 44: 3.2 Validation du modèle 43 - H1 l
Page 45 and 46: 3.2 Validation du modèle 45 où hi
Page 47 and 48: 3.2 Validation du modèle 47 et la
Page 49: 3.2 Validation du modèle 49 est d

Modèle logistique et scoring - Université Rennes 2

Create successful ePaper yourself

Delete template?

Save as template?