Sesión 8: Campos de Markov - inaoe

Modelos Gráficos ProbabilistasL. Enrique SucarINAOESesión 8:Campos de Markov“…la verdadera lógica de este mundo es el cálculo deprobabilidades, que toma en cuanta la magnitud de lasprobabilidades, las cuales deben estar en la mente de todohombre razonable”James C. Maxwell, 1850

Modelo de Ising• Surgen del problema de modelar materialesferromagnéticos en lo que se conoce comoel Modelo Ising.• Se tiene una serie de dipolos en una líneaque pueden estar orientados hacia “arriba”(+) o hacia “abajo” (-).• El estado de cada dipolo se ve influenciadopor los dipolos cercanos - probabilidad paracada estado depende de los estado de lospuntos vecinos.© L.E. Sucar: PGM - CAM 4

Modelo de Isingq1 q2 q3 q4Posibles configuraciones:+ + + ++ + + -+ + - +....© L.E. Sucar: PGM - CAM 5

Modelo de Ising• Un campo de Markov asigna probabilidad acada configuración en el espacio de posiblesconfiguraciones.• Se considera que la probabilidad del estado deuna variable es independiente de los demásdados sus 2 vecinos (para una cadena), esdecir que tiene la propiedad Markoviana( S q | S = q , S = q ) = P( S = q | S = q S q )P =n= i 1 j 2 k .... n i n ! 1 j, n + 1k© L.E. Sucar: PGM - CAM 6

Configuración más probable• Dadas las probabilidades locales, el problemacentral en es encontrar la probabilidad de cada unalas posibles configuraciones, y en particular cual esla configuración más probable.– + + + +– + + + -– + + - +– …– - - + +– …– - - - -© L.E. Sucar: PGM - CAM 7

Probabilidades• Podemos distinguir dos factores quedeterminan la probabilidad de unaconfiguración:• la P a priori de cada estado,• la P conjunta con sus vecinos.• En el modelo de Ising, estos corresponden ala influencia de un campo magnético externo,y a las interacciones entre los dipolos vecinos.© L.E. Sucar: PGM - CAM 8

Campos en 2-D• Esto lo podemos extender de una dimensióna dos dimensiones. En este caso tenemosuna malla de puntos, donde el estado decada punto depende del estado de susvecinos (4, 8, etc).© L.E. Sucar: PGM - CAM 9

Ejemploq1q2q3q4q3q2 q5q6q7q3 q8q9© L.E. Sucar: PGM - CAM 10

Representación• Un campo aleatorio es una colección devariables aleatorias indexadas por sitios.• Se considera un conjunto de variablesaleatorias F = {F 1 ,….., F M }, asociadas a cadasitio del sistema de sitios S. Cada variabletoma un valor f i de un un conjunto deposibles valores L. Entonces F es un campoaleatorio.• Un campo aleatorio de Markov (CAM) es uncampo aleatorio con la propiedad de“localidad”.© L.E. Sucar: PGM - CAM 11

PropiedadesUn CAM debe satisfacer las siguientes propiedades:• P• P( f )( f | f ) = P( f | vec( f)i>0s!i!positivoiiDonde vec( f i ) son los vecinos de f i© L.E. Sucar: PGM - CAM 12

VecindadUn sistema de vecindad para S se define como:V{ V S}= |" !i i• Cumple con las siguientes dos propiedades:1. Un sitio no es vecino de si mismo.2. La relación de vecindad es mutua.• Se pueden tener diferentes “vecindades” (primerorden, segundo orden, etc.).© L.E. Sucar: PGM - CAM 13

VecindadPara una malla regular, la vecindad de orden i conradio r se define como:V{ vr}( ( )( i) " S | dist i v ii= , !Donde dist(x,y) es la distancia euclidiana entre x y y.En un sistema de vecindad de primer orden,cada sitio (interior) tiene 4 vecinos; en uno desegundo orden, 8 vecinos: en uno de tercerorden, 12 vecinos, etc.© L.E. Sucar: PGM - CAM 14

Ejemplo – 1er ordenq1q2q3q4q3q2 q5q6q7q3 q8q9© L.E. Sucar: PGM - CAM 15

Ejemplo – 2do ordenq1q2q3q4q3q2 q5q6q7q3 q8q9© L.E. Sucar: PGM - CAM 16

Conjuntos CompletosEl conjunto de sitios junto con las vecindades nosdefinen un grafo no-dirigido: G=(S, V).Un conjunto completo (C) se define como unsubconjunto de sitios de forma que están todosconectado contra todosUn conjunto completo puede ser un solo sitio, C 1 , unpar de sitios vecinos, C 2 , una tripleta de vecinos, C 3 , yasí sucesivamente. De forma que la colección de Cpara un grafo esta dada por:C= C C C! ! !1 2 3...© L.E. Sucar: PGM - CAM 17

Redes de Markov• Podemos considerar los CAM como un casoespecial de un modelo más general – que son lasRedes de Markov• Las redes de Markov (RM) son modelos gráficosprobabilísticos no-dirigidos, que representa lasdependencias e independencias de un conjunto devariables• Un subconjunto A de variables es independientede otro subconjunto C dado un tercer subconjuntoB, si los nodos en B separan en el grafo A de B© L.E. Sucar: PGM - CAM 18

Redes de Markov• Ejemplo:ABCq1q2q3q4q3q2 q5© L.E. Sucar: PGM - CAM 19

Redes de MarkovParametrización:• Podemos en general representar la probabilidadconjunta de una RM como el producto de lasprobabilidades locales (potenciales) de conjuntoscompletos con un factor de normalización:P(X 1 , X 2 , …, X n ) = 1/z P(C 1 ) P(C 2 ) … P(C m )• Es suficiente considerar sólo los cliques, perotambién se pueden considerar otro conjuntos (estose hace porque es conveniente en la práctica)© L.E. Sucar: PGM - CAM 20

• Parámetros:Redes de MarkovP(C3)q1q2q3P(C1)q4q3q2 q5P(C2)© L.E. Sucar: PGM - CAM 21

Configuración más probableUna aplicación típica de CAMs es para obtener laconfiguración más probable dadas ciertasrestricciones representadas por las probabilidadeslocales (potenciales)Podemos expresar la probabilidad conjunta, comoel producto de las probabilidades de lasvecindades:P f = k ! PF / G( )c c© L.E. Sucar: PGM - CAM 22

Configuración más probableDichas probabilidades de las vecindades(potenciales) se pueden ver como “restricciones”que van a favorecer o desfavorecer ciertasconfiguraciones.De esta forma, la configuración más probable sepuede ver como aquella que tiene una mayorcompatibilidad con las probabilidades locales.© L.E. Sucar: PGM - CAM 23

Configuración más probablePodemos expresar los potenciales en forma deexponenciales (de esta forma pueden ser cualquiernúmero real):Pot(x c ) = exp{-U c (x c )}Así que el producto se vuelve una suma:Up(f) = Σ U c (x c )Por lo que la probabilidad conjunta se puede expresar como:P1Z[ ]( ) ( ) f = exp U ( f )F / G!p© L.E. Sucar: PGM - CAM 24

Campo de GibbsLo anterior también se puede obtener mediante unaanalogía entre los CAM y los Campo Aleatorio deGíbbs (CAG).Una distribución de Gibbs tiene la siguiente forma (Zes una constante de normalización):PZ( ) ( ) f = 1 exp&'U( f )Donde := (z$%exp&'U$%( f )f ) FT© L.E. Sucar: PGM - CAM 25#!"T#!"

Campo de GibbsU(f) se conoce como la función de energía y seobtiene como la suma de los potenciales de todoslos C:U ( f ) = Σc Vc ( f )La configuración más probable corresponde a la deenergía mínima.La función de energía se puede expresar entérminos de los C de cada tamaño:U( f ) ( ) ( ) ( ) .....= !c1 V1fi+ !c2V2fi, fj+ !c3V3fi,fj, fk+© L.E. Sucar: PGM - CAM 26

Campo de GibbsSe puede demostrar que un CAM y elcorrespondiente CAG son equivalentes.Esto permite que se pueda expresar laprobabilidad conjunta especificando lospotenciales de los C. En la práctica seseleccionan los potenciales de acuerdo alcomportamiento deseado – con los potencialesse codifica el conocimiento a priori del problema.© L.E. Sucar: PGM - CAM 27

Configuración más probable• Entonces, para especificar un CAM serequiere:– Definir el esquema de vecindad– Especificar las probabilidades(potenciales) para cada uno de losconjuntos completos de nodosPara el caso de vecindad de primer orden:U( f ) = ! V ( f ) + " V ( f )p c c!OO© L.E. Sucar: PGM - CAM 28

Configuración más probable• V c corresponde a P F o la información deldominio dada por los vecinos y V Ocorresponde a P G/F o la información de lasobservaciones; λ es una constante que da elpeso relativo entre ambas.• Bajo este enfoque, la solución a un problemaparticular corresponde en encontrar laconfiguración del CAM de mayorprobabilidad o de “energía” (U P ) mínima. Lafunción que se logre depende de la forma delas funciones para V C y V 0 .© L.E. Sucar: PGM - CAM 29

Ejemplo• Por ejemplo, podemos querer “suavizar”una imagen; es decir, minimizar la“distancia” de cada pixel a sus vecinos,pero también mantenerlo cercano a suvalor en la imagen (observación):0( f ) = ( f ! u)V cV !2( f ) = ( f g) 2© L.E. Sucar: PGM - CAM 30

Ejemploq1q2q3Fimagen “suavizada”q4q3q2 q5q6q7q3 q8q9Gimagen “original”© L.E. Sucar: PGM - CAM 31

Analogía Física© L.E. Sucar: PGM - CAM 32

Analogía Física- más peso a las observaciones -© L.E. Sucar: PGM - CAM 33

Analogía Física- más peso a los vecinos -© L.E. Sucar: PGM - CAM 34

Algoritmos• El obtener la configuración de mayorprobabilidad (mínima energía) en formadirecta (exhaustiva) prácticamenteimposible (excepto para problemas muypequeños), por lo que se plantea como unproblema de búsqueda. Se busca laconfiguración de mayor probabilidad, sintener que calcular directamente lasprobabilidades de cada configuración.© L.E. Sucar: PGM - CAM 35

AlgoritmosEl problema incluye 3 aspectos:1. Representación: CAM con un esquema devecindad y los potenciales asociados2. Función objetivo: Función de energía aminimizar.3. Algoritmo de optimización: simulaciónestocástica (Metropolis)© L.E. Sucar: PGM - CAM 36

Algoritmo básico• Inicializar con un valor aleatorio cadavariable.• Repetir para cada variable en el campo:- Calcular el valor de energía (potencial) decada variable en base a la funcióndeseada y los valores de los vecinos.- Si el valor de energía es menor al anteriorcambiar de valor.- Si no, con cierta probabilidad también cambiar devalor.• Hasta que se cumplan N iteraciones o yano haya cambios (convergencia)• Obtener configuración “óptima”© L.E. Sucar: PGM - CAM 37

VariantesCálculo del óptimo:• MAP: se toma el valor para cada variable alfinal de las iteraciones.• MPM: se toma el valor de mayor frecuenciade acuerdo a su ocurrencia durante lasimulación.© L.E. Sucar: PGM - CAM 38

VariantesForma de optimización:• Metrópolis: con probabilidad fija se puedepasar a estados de mayor energía.• Recocido simulado: se va disminuyendo laprobabilidad de pasar a estados de mayorenergía (temperatura).• ICM: tomar siempre el estado de menorenergía.© L.E. Sucar: PGM - CAM 39

Probabilidades de transición• Probabilidad de transición a estado demayor energía:P=e"! V/ T• Donde δV es la diferencia de energía yT es la temperatura© L.E. Sucar: PGM - CAM 40

Ejemplo• Dada la siguienteimagen:• Consideramos:– Configuración inicialde ceros– Vecindad de primerorden– Potenciales desuavizamiento con λ=40 0 0 00 1 1 10 1 0 10 1 1 1© L.E. Sucar: PGM - CAM 41

Ejemplo1era iteración:• 1er sitio:• …• …V1 (0) = 0V1(1) = 2 + 4 (1) = 60 0 0 00 0 0 00 0 0 00 0 0 0© L.E. Sucar: PGM - CAM 42

Ejemplo• …• …• 11vo sitio:• …V11(0) = 2V11(1) = 60 0 0 00 1 1 10 1 0 00 0 0 0© L.E. Sucar: PGM - CAM 43

Ejemplo2da iteración• …• 11ovo sitio:• …V11(0) = 4V11(1) = 40 0 0 00 1 1 10 1 1 10 1 1 1© L.E. Sucar: PGM - CAM 44

Aplicaciones• Procesamiento de imágenes– Eliminación de ruido– Filtrado de una imagen– Segmentación de texturas– Visión estereoscópica– Recuperación de forma (3-D)– Reconocimiento de objetos– Etiquetado de imágenes© L.E. Sucar: PGM - CAM 45

Ejemplo – eliminación de ruido© L.E. Sucar: PGM - CAM 46

Ejemplo – eliminación de ruido© L.E. Sucar: PGM - CAM 47

Ejemplo – eliminación de ruido© L.E. Sucar: PGM - CAM 48

Otro ejemplo: anotación de imágenesGrass 0.6Tree 0.2rock 0.1building 0.1People 0.4Tree 0.3Mountain 0.2Jet 0.1Considerarrelacionesespacialesentre regionesChurch 0.3Grass 0.3Sky 0.2Elephant 0.2Tree 0.5Grass 0.3Sky 0.1Jet 0.1Grass, Tree, Sky,ElephantUsar CAMs paraobtener mejor“configuración”R 1R 2R 3R 4c 1grass people tree churchc 2grass tree tree churchc.. …. …. …. ……c igrass tree tree elephantc.. …. …. …. ……c jtree people tree churchc 256building Jet jet© L.E. Sucar: PGM - CAMelephant49

Campos de Markov• Combinar probabilidad previa (clasificador) con la probabilidadde la etiqueta dados sus vecinos (relaciones espaciales)Grass 0.6Tree 0.2rock 0.1building 0.1People 0.4Tree 0.3Mountain 0.2Jet 0.1Church 0.3Grass 0.3Sky 0.2Elephant 0.2Tree 0.5Grass 0.3Sky 0.1Jet 0.1Churcha 1a 2a 4a 3GrassTreeJet© L.E. Sucar: PGM - CAM 50

Función de energía• Considera el potencial inicial de acuerdo a lascaracterísticas de la región (V O ) y lospotenciales dados por sus vecinos para 3 tiposde relaciones espaciales:– Topológicas (V T )– Horizontales (V H )– Verticales (V V )© L.E. Sucar: PGM - CAM 51

Potenciales• Los potenciales son inversamenteproporcionales a las probabilidades de cadarelación:© L.E. Sucar: PGM - CAM 52

Resultados© L.E. Sucar: PGM - CAM 53

Referencias• Li, “Markov Random Fields Models in ComputerVision”, Springer-Verlag• Chellapa, Jain, “Markov Random Fields: Theoryand Models”, Academic Press.• C. Hernández, L.E. Sucar, “"Markov RandomFields and Spatial Information to ImproveAutomatic Image Annotation", Advances inImage and Video Technology, Lecture Notes inComputer Science 4872, Springer-Verlag , pp.879--892, 2007.• [Koller & Friedman]: Capítulo 4© L.E. Sucar: PGM - CAM 54

Actividades• Hacer ejercicio de Campos de Markov© L.E. Sucar: PGM - CAM 55