Evaluación de Reglas de Asociación en Text Mining Utilizando ...

UNIVERSIDAD DE CONCEPCIÓN
FACULTAD DE INGENIERÍA
PROGRAMA DE MAGÍSTER EN CIENCIAS DE LA COMPUTACIÓN
Evaluación de Reglas de Asociación en Text Mining
Utilizando Métricas Semánticas y Estructurales
Profesor Guía: John Atkinson Abutridy
Dpto. de Informática y Ciencias de la Computación
Facultad de Ingeniería
Universidad de Concepción
Tesis para ser presentada a la Dirección de Postgrado de la Universidad
de Concepción
CLAUDIO ALBERTO PÉREZ CÁRCAMO
CONCEPCIÓN-CHILE
2010

Agradecimientos
A mi madre, otra vez gracias a ti el día de hoy estoy finalizando otra etapa de mi
carrera profesional. Gracias por tu apoyo incondicional y el amor que me entregas día a día.
Cada día te quiero más.
A mi abuelita, tío Manuel, familiares y Ernestito, por la confianza, apoyo y amor que recibo
de parte de ustedes, muchas gracias. Los quiero demasiado.
Al profesor John, por guiarme de excelente manera en el desarrollo de esta tesis, por
tu dedicación, motivación y amistad, muchas gracias.
A mis amigos, por poder contar con su confianza y amistad incondicional.
Este proyecto ha sido realizado en el contexto del proyecto FONDECYT No. 1070714,
An Interactive Natural-Language Dialogue Model for Intelligent Filtering Based on Patterns
Discovered from Text Documents, dirigido por el profesor Dr. John Atkinson.
2

Resumen
Tareas tradicionales en minería de textos descubren patrones desconocidos considerados
interesantes desde un punto de vista estadístico usando métricas estándar. Esta evaluación
estadística no toma en cuenta modelos mentales, usuarios o conocimiento del dominio.
Mientras existen algunos enfoques para evaluar patrones (reglas de asociación) en text mining
éstos fallan en determinar con exactitud cuales de los patrones descubiertos resultan ser
interesantes/novedosos. En esta tesis, se propone y discute un nuevo enfoque que combina
semántica basada en corpus (LSA) y modelo de conocimiento basado en Lattices. Los
Experimentos realizados utilizando nuestro enfoque en comparación con otros modelos de
evaluación del estado del arte muestran lo promisorio de nuestro método para evaluar los
patrones descubiertos como interesantes o sin interés hacia expertos humanos.
3

Summary
Traditional tasks for text mining discover unseen patterns which are supposed to be
interesting from a statistical point of view by using standard metrics. This evaluation's
statistical nature does not take into account mental models, users or even domain knowledge.
While there is a few approaches to assess patterns (i.e., association rules) in texts mining these
fail to accurately determine whether the discovered patterns are interesting/novel. In this
paper, a new approach which combines corpus based semantics (i.e., LSA) and lattices based
knowledge models is proposed and discussed. Experiments using our approach and
comparisons with state-of-the-art evaluation metrics show the promise of the method with
regard to discovered patterns as interesting or uninteresting to human experts.
4

Índice
1. INTRODUCCIÓN ............................................................................................................................................8
1.1 HIPÓTESIS DE TRABAJO .......................................................................................................................10
1.2 OBJETIVOS............................................................................................................................................10
1.3 ORGANIZACIÓN DE LA TESIS ...............................................................................................................10
2. FUNDAMENTOS TEÓRICOS.....................................................................................................................11
2.1 TEXT MINING ......................................................................................................................................11
2.2 ANÁLISIS SEMÁNTICO LATENTE.........................................................................................................25
3. TRABAJOS RELACIONADOS ...................................................................................................................31
4. MODELO MULTIESTRATEGIA DE EVALUACIÓN DE REGLAS DE ASOCIACIÓN....................45
4.1 PREPROCESAMIENTO...........................................................................................................................47
4.2 GENERACIÓN DEL MODELO DE CONOCIMIENTO................................................................................49
4.3 GENERACIÓN Y EVALUACIÓN DE REGLAS DE ASOCIACIÓN..............................................................52
5. EXPERIMENTOS Y RESULTADOS..........................................................................................................56
5.1 EXPERIMENTOS DE AJUSTE.................................................................................................................56
5.2 EXPERIMENTOS FINALES.....................................................................................................................58
6. CONCLUSIONES ..........................................................................................................................................61
7. REFERENCIAS..............................................................................................................................................62
8. DOCUMENTACIÓN ANEXA..........................................................................................................................65
8.1 LISTA STOPWORDS .............................................................................................................................65
5

Índice de Figuras
Figura 1: Descubrimiento de Conocimientos desde Textos..............................................................................11
Figura 2: Proceso de Clasificación: etapa de aprendizaje...............................................................................16
Figura 3: Proceso de Clasificación: etapa de Clasificación............................................................................17
Figura 4: Transacciones en una base de datos D..............................................................................................21
Figura 5: Lattice de itemsets de la base de datos D..........................................................................................21
Figura 6: Lattice de itemsets cerrados para D. .................................................................................................23
Figura 7: Una matriz de palabras por contextos...............................................................................................27
Figura 8: SVD completo de la matriz en la figura 8..........................................................................................28
Figura 9: Reconstrucción de {X} basada en las columnas y filas sombreadas del SVD de la Figura 9.....29
Figura 10: Intercorrelaciones entre vectores de la figura 8 y de la figura 9. ...............................................30
Figura 11: Mejores casos de variación de D(A) y D(B). ................................................................................33
Figura 12: Lattice Conceptual............................................................................................................................37
Figura 13: Lattice Conceptual............................................................................................................................38
Figura 14: Reglas de asociación informativas generadas a partir de la tabla 2............................................39
Figura 15: Ejemplo de un Modelo de Conocimiento.........................................................................................40
Figura 16: Enfoque multi-estrategia de evaluación de patrones. ....................................................................46
Figura 17: Algoritmo Creación Lattice Conceptual Semántico (LCS). ...........................................................46
Figura 18: Lattice Conceptual Semántico con Umbral LSA=1.0....................................................................50
Figura 19: Lattice Conceptual Semántico con Umbral LSA=0.9....................................................................50
Figura 20: Lattice Conceptual Semántico con Umbral LSA=0.8....................................................................51
Figura 21: Lattice Conceptual Semántico con Umbral LSA=0.7....................................................................51
Figura 22: Lattice Conceptual Semántico con Umbral LSA=0.6, 0.5, 0.4, 0.3, 0.2, 0.1, 0.0........................52
Figura 23: Ejemplo Estructura Conceptual sin LSA.........................................................................................54
Figura 24: Estructura Conceptual con LSA......................................................................................................55
Figura 25: Profundidad evaluación en reglas descubiertas.............................................................................57
Figura 26: Reglas de Asociación descubiertas..................................................................................................58
6

Índice de Tablas
Tabla 1: Información de Dirección y Peso de las relaciones usadas en WordNet..........................................32
Tabla 2: Ejemplo de Features Descubiertos.....................................................................................................36
Tabla 3: Contexto Formal ..................................................................................................................................36
Tabla 4: Conceptos del Lattice Conceptual.....................................................................................................37
Tabla 5: Conjuntos cerrados del ejemplo de la tabla 3. ..................................................................................39
Tabla 6: Reglas de asociación descubiertas ejemplo tabla 2. .........................................................................40
Tabla 7: Algunas etiquetas utilizadas por el Etiquetador POS. .......................................................................48
Tabla 8: Similitud existente entre palabras del corpus de textos ....................................................................50
Tabla 9: Matriz Conformidad Semántica del Modelo de Conocimiento..........................................................53
Tabla 10: Ranking Lattice Conceptual Semántico para valores incrementales Umbral LSA........................56
Tabla 11: Ranking Lattice Conceptual Semántico diversos valores Umbral LSA ..........................................57
Tabla 12: Ranking de Reglas de Asociación según los diversos métodos........................................................59
Tabla 13: Correlación Evaluación Expertos versus Evaluación Métodos ......................................................60
7

1. Introducción
Text Mining o Minería de Textos corresponde a una técnica que descubre patrones
interesantes y nuevos conocimientos dentro de colecciones de textos escritos en lenguaje
natural. Los nuevos conocimientos descubiertos por Text Mining no existen explícitamente en
ningún texto específico de la colección evaluada, pero tienen relación con el contenido de
varios de ellos.
La forma más natural de almacenar conocimiento es en texto, por lo que se cree que
Text Mining tiene un potencial comercial mayor que Data Mining. Un estudio indica que el
80% de la información de una compañía se encuentra en documentos textuales: informes, emails,
reclamos, etc. [37]. Desde que Swanson y Smalhaiser [35, 36] descubrieron hipótesis de
causa efecto desconocidas en la literatura médica a partir de un corpus de textos de
biomedicina, Text Mining ha despertado el interés de distintos sectores: Académico,
Científico, Empresarial, etc., debido a la gran cantidad de documentos textuales y los
beneficios que se pueden obtener de éstos [34].
Text Mining, también conocido como “Text Data Mining” es diferente a Data Mining,
éste último corresponde a la extracción de información o patrones interesantes (no trivial,
implícita, previamente desconocidos y potencialmente útil) en grandes bases de datos [27]
[17]. En cambio, Text Mining consiste en descubrir patrones inadvertidos en bases de datos
textuales escritos en lenguaje natural, por lo tanto la diferencia de ambas técnicas radica en
que en Data Mining la información de entrada está estructurada y en Text Mining no está
estructurada.
En Minería de Textos los patrones descubiertos son inútiles a menos que contribuyan
con conocimientos valuables a los expertos que toman decisiones estratégicas. Para confrontar
el problema de la relevancia de los patrones descubiertos nos dirigimos a Descubrimiento de
Conocimientos Desde Textos (Knowledge Discovery from Texts o KDT), que es una compleja
actividad que involucra descubrimiento no previamente visto (por medio de Text Mining) y la
evaluación de este conocimiento potencialmente valioso [18].
En la actualidad existen varias técnicas para realizar tareas de Text Mining. Las más
populares incluyen estructuras conceptuales, reglas de asociación, árboles de decisión y
métodos de inducción de reglas [27] [17]. Todas éstas provienen de “Data Mining” (DM) o
Descubrimiento de Conocimiento en Bases de Datos (Knowledge Discovery in Databases o
KDDs). Sin embargo, debido a que éstas fueron diseñadas con el propósito de ser aplicadas en
bases de datos estructuradas no pueden aplicarse directamente en tareas de Minería de Textos.
Sin embargo, un problema en gran parte de estas técnicas inspiradas de Data Mining
consiste en que no siempre se descubren patrones que sean interesantes, es decir, que sean de
utilidad a los expertos humanos que toman las decisiones estratégicas.
8

Los principales enfoques que buscan dar solución a este problema se dividen en dos
grupos: los independientes del dominio [6, 7, 20] y los que utilizan fuentes de conocimientos
externas [4].
En esta tesis se aborda el problema de evaluar que tan novedoso e interesante es el
conocimiento descubierto por técnicas de Minería de Textos basadas en reglas de asociación.
Para abordar este problema se desarrollará un nuevo modelo de evaluación que considere
conocimiento semántico que está implícita en las reglas de asociación por medio de técnicas
basadas en Análisis Semántico Latente [22] combinadas con Estructuras Conceptuales [6, 7,
20], de modo de producir patrones más relevantes e interesantes al usuario. Las ventajas del
nuevo enfoque propuesto se manifiestan en que el modelo de evaluación es independiente del
dominio, y pueden ser aplicadas a cualquier enfoque que utilice reglas de asociación en la
generación de patrones.
La contribución de esta tesis es un nuevo modelo que combina técnicas de análisis
semántico basado en corpus y métodos de análisis de conceptos para evaluar automáticamente
el grado de interés de patrones generados por sistema de minería de textos. Los experimentos
indican que nuestro modelo obtiene mejores resultados en la evaluación del grado de interés
de las reglas descubiertas frente a un enfoque tradicional y al modelo que sólo utiliza
estructuras conceptuales presentado por Toussaint et al. [6, 7, 20].
Dado que las aplicaciones computacionales que se basan en técnicas de Text Mining
por lo general no son tareas que tengan respuestas automáticas en tiempo real frente a los
patrones encontrados, si no más bien, necesitan de expertos humanos que analicen el
conocimiento descubierto para tomar decisiones. Debido a lo anterior, para los expertos es
importante que las tareas de Text Mining generen reglas de asociación interesantes que le
aporten nuevos conocimientos. En el análisis de los expertos, lo anterior se puede manifestar
de la siguiente forma:
Obtener menos patrones en forma de reglas de asociación que analizar por parte de
los expertos.
Reducir las chances de omitir un patrón interesante por parte del experto al tener
demasiadas reglas.
Analizar una cantidad reducida de patrones descubiertos por parte del experto, lo
cual permite un análisis más profundo del contenido y utilidad de dichos patrones.
9

1.1 Hipótesis de Trabajo
Un método que utilice análisis semántico combinado con métodos de análisis
conceptual puede ser más efectivo que los métodos tradicionales para evaluar la calidad de los
patrones generados en tareas de minado de texto.
1.2 Objetivos
Objetivo principal
Desarrollar un modelo de evaluación automática de reglas de asociación generadas en
una tarea de Text Mining utilizando métricas semánticas y estructurales.
Objetivos secundarios
1) Investigar enfoques recientes de “evaluación de patrones” en Text Mining.
2) Desarrollar un modelo de evaluación que utilice Análisis Semántico Latente con
Estructuras Conceptuales (Lattices) para evaluar la calidad de las reglas de
asociación generadas en un proceso de Text Mining.
3) Evaluar el modelo comparando sus resultados con otros enfoques de evaluación
de patrones.
1.3 Organización de la Tesis
La organización de la tesis es la siguiente:
En el capítulo 2 se introducen conceptos fundamentales de minería de textos y
evaluación de patrones. En el capítulo 3 se discuten diversos enfoques para la evaluación
automática de patrones. El capítulo 4 presenta un nuevo modelo multi-estrategia junto con sus
componentes para la evaluación automática de reglas de asociaciones generadas a partir de un
sistema simple de minado de textos. En el capítulo 5, se describen los diferentes experimentos
y resultados obtenidos con nuestro enfoque. Finalmente, el capítulo 6 destaca las principales
conclusiones y trabajo futuro de esta tesis.
10

2. Fundamentos Teóricos
2.1 Text Mining
Text Mining, también conocido como “Text Data Mining” puede ser visto como la
tarea de descubrir patrones desconocidos en bases de datos textuales escritos en lenguaje
natural [17].
Las tareas de Text Mining en su proceso de minado buscan descubrir conocimiento que
no sea conocido por los expertos humanos, es decir, la información o patrones descubiertos
deben ser de utilidad en la toma de decisiones. Sin embargo, para lograr esto los métodos de
Minería de Textos deben tratar con textos escritos en lenguaje natural que de por sí son muy
ambiguos y poseen información de manera implícita.
Minería de Textos es parte del proceso de Descubrimiento de Conocimiento desde
Textos que es interactivo, iterativo e incremental, tal como se muestra en la figura 1. Aquí se
distinguen 3 etapas principales: preparación de la información en los textos, aplicación de
métodos provenientes de Data Mining en Bases de Datos Textuales e interpretación del
conocimiento descubierto [7].
Figura 1: Descubrimiento de Conocimientos desde Textos.
11

Las etapas del proceso de Descubrimiento de Conocimientos desde Textos son los
siguientes:
Preparación de los Textos
Esta corresponde a la primera etapa del proceso de Minería de Textos, la cual tiene
como objetivo dar una estructura a los documentos que se encuentran escritos en lenguaje
natural para así poder aplicar técnicas provenientes de Data Mining.
En esta etapa se distinguen tres procesos principales: Selección, Preprocesamiento y
Representación.
a) Selección
Esta etapa del proceso de Minería de Textos comienza con la selección de los textos
escritos en lenguaje natural de los cuales se espera descubrir nuevos conocimientos. Al
conjunto de textos seleccionados se les denomina Corpus de Textos.
b) Preprocesamiento
En el Corpus de Textos se aplican herramientas de Procesamiento Lenguaje Natural
(Natural Language Processing o NLP) que permiten mejorar la calidad del proceso de Text
Mining. Entre estas herramientas de NLP destacan métodos de análisis morfológico y métodos
de reconocimiento de frases.
Word Stemming o Lematización es un método de análisis morfológico que se utiliza
para obtener o identificar el tronco o raíz de una palabra. Por ejemplo, la palabra “autos”
corresponde al plural de la palabra “auto”, y a su vez, “autito” es un diminutivo de la palabra
“auto”, ambas variantes morfológicas de la palabra “auto” tienen interpretaciones semánticas
similares y se pueden considerar como equivalentes en el uso de herramientas de Minería de
Textos. Para efectos de cómputo, los algoritmos de stemming evitan que palabras con
variantes morfológicas se consideren como palabras diferentes.
Entre los algoritmos más populares de Stemming destacan los de Porter [32], Lovins
[24], y Paice/Hust [28]. En todos ellos, el procedimiento para determinar la raíz de una
palabra es similar, y consiste en aplicar reglas de transformación de manera iterativa
comenzando por el final de la palabra hasta llegar al principio de ella, removiendo en cada
iteración un sufijo a la vez. La diferencia de estos algoritmos radica en la forma de aplicar las
reglas de transformación, específicamente si son sensibles o no al contexto. Los algoritmos
sensibles al contexto utilizan información del contexto para definir restricciones que
prevengan remover falsos sufijos que, en ciertas ocasiones, producen errores en el proceso de
Stemming. Entre estos se encuentran los algoritmos de Porter, Lovins. En cambio, los
algoritmos libres del contexto no se valen de información del contexto al aplicar sus reglas de
eliminación de sufijos 1 .
1 http://www.comp.lancs.ac.uk/computing/research/stemming/index.htm.
12

Dentro de los métodos de reconocimiento de frases existen herramientas capaces de
etiquetar cada palabra presente en un texto de acuerdo al rol que juegan en una oración, es
decir, si la palabra corresponde a un nombre, verbo, sustantivo, artículo, adjetivo, adverbio,
etc. Estas características se denominan Partes del Habla y las herramientas que permiten
predecir estas etiquetas o categorías se denominan Etiquetadores POS (Part-Of-Speech) [15].
Por ejemplo el siguiente texto “La manzana es pequeña” quedaría etiquetada de la siguiente
manera:
“La/artículo manzana/nombre es/verbo pequeña/adjetivo”.
El proceso de etiquetaje se puede realizar por medio de dos métodos:
1) Etiquetaje Basado en Reglas: en este método se utiliza información contextual del texto
para asignar una etiqueta específica a una palabra desconocida. Por ejemplo, en el idioma
español si una palabra desconocida X es precedida por un determinante y seguida de un
sustantivo, entonces X se etiqueta como adjetivo.
Varios de los etiquetadores automáticos (taggers) que existen en la actualidad utilizan
información morfológica para ayudar al proceso de etiquetación. Sin embargo, la utilidad que
entrega esta información adicional depende del idioma en el que se utilice. Por ejemplo, en el
idioma Inglés, una regla podría etiquetar como verbo a una palabra desconocida si termina en
“ing” y es precedida por un verbo, en cambio en Alemán, una regla podría identificar como
nombre a aquellas palabras desconocidas que comiencen con letra capital.
2) Etiquetaje Estocástico: Cualquier enfoque de etiquetaje predictivo que incluya en su
proceso cálculos de frecuencia o probabilidades podría denominarse estocástico.
Los métodos estocásticos más simples de etiquetado marcan una palabra basándose
solamente en la probabilidad de que ocurra con una etiqueta en particular. Es decir, el
etiquetador encuentra la palabra más frecuente en el conjunto de entrenamiento y se la asigna
a la instancia de la palabra. El problema con este enfoque consiste en que podría producir
secuencias erróneas de etiquetajes, con lo cual disminuye la correctitud del método.
Otro enfoque que es ampliamente utilizado corresponde a los Modelos de Lenguaje
“n-gram”, en el cual se calcula la probabilidad de que ocurra una secuencia dada de etiquetas.
En este enfoque la mejor etiqueta para una palabra dada está determinada por la probabilidad
de que ocurra con las “n” etiquetas anteriores. Entre los algoritmos para implementar este
enfoque destaca Viterbi [15].
Aunque los etiquetadores POS del tipo estocástico tienen altos niveles de rendimiento
(sobre 95%) son muy sensibles al vocabulario y sintaxis utilizadas en el texto. Como
consecuencia, si los textos de entrenamiento difieren mucho con los de descubrimiento, el
nivel de rendimiento puede decaer [7].
13

c) Representación de los Textos
Una vez que se han aplicados las herramientas de NLP, se escoge la representación de
los textos, la cual podría ser por medio de palabras, keyterms, features, conceptos, etc. Esta
representación debe ser fácil de manejar en las tareas de Minería de Textos y debe ser lo más
informativa posible, es decir, debe capturar los aspectos o características del espacio del
problema. Enfoques de Minería de Textos que escogen representaciones informativas son más
fáciles de entender en la etapa de interpretación que aquellos que ocupan representaciones no
informativas.
El enfoque más sencillo de representación de textos se denomina Bolsa de Palabras
(Bag of Words), en el cual, la bolsa esta compuesta por las palabras que se encuentran en los
documentos. En este enfoque se ignora el orden de las palabras. En [5] se presenta un
enfoque, que a diferencia del Bag of Words, considera cierta semántica para seleccionar los
features que representan al corpus de textos, específicamente se utilizan features que
representan conceptos médicos.
En la mayoría de los enfoques de Minería de Textos es común eliminar del corpus de
textos palabras que no aportan conocimiento alguno, es decir, palabras de función o que
ocurren muy frecuentemente, tales como: “el”, “la”, “ellos”, “nosotros”, “de”, etc. Estas
palabras eliminadas reciben el nombre de “Stopwords” y por medio de su eliminación se
reduce el tamaño de la representación del texto, mejorando así la efectividad de las distintas
técnicas de Minería de Textos.
Una vez que se ha preprocesado el corpus de textos, los textos poseen una
representación más estructurada que en su forma original. Esta estructuración de los textos
permite aplicar métodos provenientes desde Data Mining. Entre los métodos más populares
destacan: clustering, clasificación y predicción, reglas de asociación, y minado de tipos de
datos complejos [17]. Estos métodos se pueden aplicar en tareas de Text Mining para
descubrir conocimiento en los textos.
Entre las principales tareas de Minería de Textos, destacan: descubrimiento de
estructuras en los textos utilizando clustering y clasificación; descubrimiento de patrones
donde se utiliza el método de reglas de asociación. En las siguientes secciones se presentan
estos métodos ampliamente utilizados en enfoques de Text Mining.
14

Clustering
Este método divide un conjunto de datos en subconjuntos con características similares.
La esencia del clustering es que los objetos dentro de un cluster o subconjunto sean lo más
similares posibles entre sí, y muy disimilares con los elementos de otros clusters. Para medir
la similaridad entre objetos dentro de un cluster se suelen utilizar diferentes formas de
distancia, tales como: Euclidiana, Euclidiana Cuadrática, Minkowsky, Chebychev,
Mahalanobis, Manhatan, Correlación de Pearson, y Correlación de Spearman, [1, 9, 17]. En
Clustering de documentos, los documentos generalmente son representados como vectores con
una dimensión igual a la cantidad de palabras (términos) que aparecen en el corpus de textos.
Cada componente del vector refleja la ocurrencia de la correspondiente palabra en el
documento. Una medida de similaridad ampliamente utilizada en esta representación
corresponde a la medida de coseno, que mide el ángulo que forman dos vectores. Otras
medidas incluyen los coeficientes de Dice y Jaccard [40].
Para medir la similaridad entre clústeres se utilizan métricas que miden la distancia del
encadenamiento (linkage) de los clústeres, entre éstas destacan: encadenamiento promedio,
encadenamiento individual, encadenamiento completo 2 . Por otro lado, la calidad de un
método de clustering es alta cuando la similaridad dentro de un cluster es alta y la
disimilaridad entre clusters también es alta.
Entre los beneficios que se obtienen al utilizar técnicas de clustering, destaca una
simplificación en la interpretación de la gran cantidad de datos existente en las bases de datos
o corpus de textos. Sin embargo, dado que el método divide los datos en clusters
necesariamente se pierden detalles de la información debido a la agrupación de elementos con
características similares.
Existe una gran variedad de algoritmos de clustering, por lo que resulta difícil
clasificarlos debido a que generalmente se sobreponen en las distintas clasificaciones
propuestas [17]. Generalmente, los enfoques de clustering se clasifican en: algoritmos de
particionamiento, jerárquicos, basados en densidad, basados en mallas, y basados en modelos
[17]. En minería de textos, destacan los enfoques de clustering jerárquico y de
particionamiento.
2 http://www.improvedoutcomes.com/docs/WebSiteDocs/Clustering/Clustering_Overview.htm.
15

Clasificación y Predicción
Clasificación y predicción representan dos formas de análisis de datos. La primera se
utiliza para extraer modelos que describen relaciones entre los datos, y la segunda para
predecir la tendencia futura de éstos. Por ejemplo, un modelo de clasificación se podría
utilizar en un banco para categorizar los créditos en justos o excelentes, en cambio, un modelo
de predicción podría predecir los gastos de potenciales clientes en equipamientos
computacionales dados sus ingresos y ocupación. El método de clasificación y predicción, a
diferencia del Clustering, es un método de aprendizaje supervisado, ya que los datos de
entrenamiento deben estar acompañados por rótulos que indican la clase de las observaciones,
además los datos nuevos se clasifican basados en el set de entrenamiento.
Este método se compone de dos etapas: primero, se realiza la construcción del modelo
de clasificación, el cual describe un conjunto de clases predeterminadas (ver figura 2). Este
modelo se genera por medio de reglas de clasificación, árboles de decisión, etc. En el segundo
paso (ver figura 3) se utiliza el modelo de clasificación para clasificar objetos desconocidos o
futuros. En esta etapa para estimar la precisión del modelo se compara el rótulo desconocido
de las muestras de prueba con el resultado clasificado por el modelo. La tasa de precisión del
modelo es la proporción de las muestras de prueba que fueron correctamente clasificadas por
el modelo. Aquí, el set de prueba es independiente del set de entrenamiento para evitar
problemas de over-fitting, es decir, evitar errores en la clasificación por causas del set de
entrenamiento [17].
Figura 2: Proceso de Clasificación: etapa de aprendizaje.
16

Reglas de Asociación
Figura 3: Proceso de Clasificación: etapa de Clasificación.
La generación de reglas de asociación permite encontrar relaciones de asociación o
correlación entre un conjunto extenso de datos. En tareas de Data Mining estos datos se
encuentran almacenados generalmente en bases de datos, en cambio en Text Mining se
encuentran escritos en lenguaje natural en bases de datos textuales. Originalmente, las reglas
de asociación nacen de una necesidad de muchas industrias de encontrar relaciones entre los
registros o transacciones almacenados en sus bases de datos [17].
Un ejemplo clásico de aplicación del método de reglas de asociación corresponde al
análisis de compras en un supermercado o “Market Basket”. En éste, se analizan los hábitos de
los clientes encontrando relaciones entre los distintos productos o “ítems” que colocan en la
canasta de compras. Si luego de realizar el proceso de minado de reglas de asociación en todas
las ventas del supermercado, se encontrara la siguiente relación: “los clientes que compran
leche también compran pan”. Esta relación puede ayudar a los vendedores a diseñar alguna
estrategia de marketing que aumente sus ventas, por ejemplo, ubicar físicamente cerca los
productos “leche” y “pan”, de forma tal que el cliente vea ambos productos.
El minado de reglas de asociación fue propuesto por Agrawal, Imielinski y Swami [2].
Esta técnica fue desarrollada específicamente para tareas de Data Mining, en la cual se intenta
encontrar patrones en forma de “reglas” del tipo IF-THEN en un conjunto de ítems frecuentes.
Específicamente, dado un conjunto de transacciones, una regla de asociación es una expresión
X Y o IF X THEN Y, donde X e Y son conjuntos de ítems (itemsets) [33]. Por ejemplo, en
el contexto de informes de venta en un supermercado, una regla del tipo
“Cerveza Pañales” podría interpretarse como “las personas que compraron cervezas
también compraron pañales”.
Las reglas de asociación del tipo Y
X tienen ciertos criterios “tradicionales” de
medición que son utilizados para evaluar y así reducir la cantidad de reglas descubiertas y para
establecer ciertos niveles de relevancia [26].
17

1. Support: corresponde a la proporción de transacciones que contienen tanto a X
como a Y, y se puede considerar como la probabilidad conjunta de X e Y, o sea
P( X Y)
. Una regla con support S se interpreta como una regla que se cumple en
S% de las transacciones
2. Confidence: corresponde a la probabilidad que Y aparezca en una transacción dado
que X ya ocurrió, y se puede considerar como la probabilidad condicional de Y
dado X, o sea P(Y|X). Una regla con confidence C se interpreta como: si X ocurrió,
entonces también estará Y en un C% de los casos.
Esta técnica no se puede aplicar en forma directa en tareas de Minería de Textos.
Algunas modificaciones a éste método consideran las siguientes: dado un conjunto de m textos
T = {t1, t2,..., tm} y un conjunto de n términos claves K = {k1, k2,..., kn} asociados a los textos,
una regla de asociación se define como X Y , donde X e Y son conjuntos de términos claves
[29]. De acuerdo a estas consideraciones, las medidas de evaluación quedan definidas de la
siguiente manera:
1. Support: corresponde al número de documentos que contienen ambos términos
claves X e Y, y se puede considerar como la probabilidad conjunta de X e Y, o sea
P( X Y)
.
2. Confidence: corresponde a la probabilidad que el término Y aparezca en el texto
dado que X ya apareció. También se puede considerar como la probabilidad
condicional de Y dado X, o sea P (Y|X).
En el proceso de extracción de reglas de asociación se definen experimentalmente los
umbrales mínimos de support (minsupport) y confidence (minconfidence) que permiten el
filtrado de reglas de asociación. Con estos umbrales definidos, el proceso se lleva a cabo
mediante dos pasos:
1. Búsqueda de todos los itemsets frecuentes: un itemset frecuente corresponde a
itemset que ocurre al menos tan frecuentemente como el mínimo support
(minsupport) establecido.
2. Generación de reglas de asociación a partir de los itemsets frecuentes: las reglas
generadas deben satisfacer los umbrales mínimos de support (minsupport) y
confidence (minconfidence).
El costo computacional del descubrimiento de reglas de asociación depende de los
itemsets frecuentes que se encuentren. Este costo es exponencial, ya que el número de
posibles itemsets frecuentes crece de manera exponencial con respecto al tamaño del conjunto
de ítems de la base de datos, es decir, si el número de ítems es m, existen 2 m posibles itemsets
frecuentes.
18

Las reglas de asociación se clasifican en base a cuatro criterios:
1) Tipo de valor manejado en la regla: las asociaciones pueden clasificarse en Boolean o
Cuantitativas. Una asociación del tipo Boolean muestra relaciones entre objetos discretos, es
decir, a través de la presencia o ausencia de datos en una regla. La siguiente regla corresponde
a un ejemplo de este tipo:
Computador Software
En cambio, una asociación cuantitativa corresponde a una asociación
multidimensional que involucra atributos numéricos que son discretizados dinámicamente,
como también podría incluir atributos categóricos. Un ejemplo de estas reglas es la siguiente:
Edad (X, “30…39”), Ingresos (X, “500.000…1.000.000”) Compra (X, “Notebook”)
2) Dimensiones de los datos en la regla: las asociaciones se pueden clasificar en reglas de
“una dimensión” o “multidimensionales”. Asociaciones de una sola dimensión son aquellas
en que está involucrado un sólo predicado o dimensión, como es el caso de la siguiente regla
donde la única dimensión es la acción de comprar un producto:
Comprar (X, “computador”) Comprar (X, “Software”)
Asociaciones Multidimensionales son aquellas en que existe más de una dimensión,
como es el caso de la siguiente regla:
Edad (X, “30…39”), Ingresos (X, “500.000…1.000.000”) Comprar(X, “Notebook”)
3) Niveles de abstracción involucrados en el conjunto de reglas: las asociaciones se pueden
clasificar en reglas de “un nivel” o “multi-nivel” de acuerdo a la abstracción en el
conocimiento extraído. Por ejemplo, en las siguientes asociaciones:
Edad (X, “30…39”) Compra (X, “Notebook”)
Edad (X, “30…39”) Compra (X, “Computador”)
Notebook corresponde a un nivel más bajo o sub-categorización de Computador. Es
decir, Computador es la generalización de Notebook, palms, calculadoras electrónicas, etc.,
en este caso se habla de reglas multi-nivel. Cuando no se puede establecer alguna relación,
como generalización, jerarquía, etc., se habla de reglas con un nivel de abstracción.
4) Extensiones para realizar el minado de asociaciones: el minado de reglas puede extenderse
hacia el análisis de correlaciones, donde la ausencia o presencia de ítems correlacionados es
identificada. Esta extensión puede realizarse en dos formas: ya sea encontrando Patrones
Maximales Frecuentes (Maxpattern) o Itemsets Cerrados Frecuentes. Un Maxpattern es un
patrón frecuente p, tal que cualquier otro patrón que contenga p no es frecuente. En cambio,
un Itemsets c es un Itemset Cerrado Frecuente si c es cerrado y no existe ningún conjunto c’
que contenga a c, tal que toda transacción que contiene a c también contiene c’. Ambos
enfoques son utilizados para reducir sustancialmente el número de itemsets frecuentes a partir
19

de los cuales se generan reglas de asociación en procesos tanto de Data Mining como de Text
Mining.
Existe una gran cantidad de técnicas para generar reglas de asociación, entre los cuales
destacan los algoritmos Apriori [11] y Aclose o Close Algorithm [29,30].
Algoritmo Apriori
El algoritmo Apriori [11] permite realizar minería en itemsets frecuentes de reglas de
asociación del tipo Boolean. Un itemset es un conjunto de ítems y un itemset frecuente se
entiende como un itemset que supera un umbral mínimo de support (minsupport). El nombre
“Apriori” proviene del hecho que el algoritmo utiliza cierto conocimiento previo de las
propiedades de los itemsets frecuentes. Apriori utiliza un enfoque iterativo conocido como
Búsqueda por niveles (level-wise search), en el cual los itemsets de k elementos (k-itemsets)
son usados para explorar (k+1)–itemsets. Como primer paso, el algoritmo genera el conjunto
frecuente de un elemento, (1–itemset), denominado L1, posteriormente a partir de L1 se
genera L2 y, así, sucesivamente hasta que no se pueden generar más k-itemsets frecuentes. La
estructura general del algoritmo es la siguiente:
Sea Ck: itemset candidato de tamaño k
Lk: itemset frecuente de tamaño k
L1={ítems frecuentes}
For (k=1;Lk Φ; k++)
Ck+1 = Candidatos generados desde Lk
for cada transacción t en la base de datos do
incrementar la cuenta de todos los candidatos en Ck+1 que están contenidos en t
Lk+1= Candidatos en Ck+1 con mínimo support
End for
return Lk
Para mejorar la eficiencia de la generación de los itemsets frecuentes se utiliza la
propiedad Apriori. Esta reduce el espacio de búsqueda de itemsets frecuentes, estableciendo
que todo subconjunto no vacío de un itemset frecuente también es frecuente. Es decir, un
conjunto X de ítems puede ser frecuente sólo si todos los subconjuntos de ítems son
frecuentes.
Así, la tarea de encontrar todos los itemsets frecuentes se reduce a obtener conjuntos
frecuentes de un elemento, luego de dos elementos, hasta conjuntos de k elementos. Por
ejemplo, la figura 5 representa una base de datos D con cinco items (m=5), desde la cual se
puede generar de 2 m conjuntos de ítems o itemsets. En la figura 5 se muestran todos los ítems
que son generados a partir de la base de datos D. En este lattice los itemsets remarcados son
lo que poseen un support ≥2, es decir, itemsets frecuentes en la base de datos D dado un
minsupport=2.
20

TID Items
1 A C D
2 B C E
3 A B C E
4 B E
5 A B C E
Figura 4: Transacciones en una base de datos D.
Figura 5: Lattice de itemsets de la base de datos D.
A partir de los itemsets frecuentes encontrados se generan las reglas de asociación de la
siguiente manera:
1) Por cada itemset frecuente L, generar todos los subconjuntos no vacíos de L.
2) Por cada subconjunto no vació S de L, se forma la regla “S (L-S)” si se cumple la
siguiente condición: support (L)/support(S) ≥ minconfidence.
21
L4
L3
L2
L1

Algoritmo Aclose
El algoritmo Aclose o Close Algorithm [29,30] se basa en un método de minado de
reglas de asociación denominado “podado del conjunto lattice cerrado”. Un Lattice o retículo
es un conjunto ordenado de ítems (A, ≤) si para cada par de ítems (a, b) A existe un
supremo {a, b} e ínfimo {a, b}. En Aclose se definen los siguientes conceptos:
1) Contexto minería de datos: corresponde a una tupla D=(O, I, R), donde O es un conjunto
finito de Objetos, I un conjunto finito de ítems de una base de datos y R es la relación binaria
R OxI. Cada par (o, i) R representa el hecho que el objeto o O tiene el ítem i I.
Un contexto es una representación de la base de datos, donde los objetos corresponden
a las transacciones, y la relación R establece si una transacción posee o no cierto atributo
(ítem). En tareas de Minería de Textos, los objetos corresponden a documentos, los ítems a
features (palabras, términos, párrafos, oraciones, etc.), y la relación R establece los features
que posee cada documento.
2) Conexión de Galois: corresponde a una estructura conceptual que permite agrupar
transacciones (objetos) de una base de datos que poseen ítems comunes con el fin de generar
conexiones conceptuales en un espacio de generalización y especialización. Dado un contexto
de minería de datos D=(O, I, R). Para O’ O y I’ I una Conexión de Galois se obtiene
aplicando las siguientes funciones:
f (O')
: P( O)
P(
I )
g (I ')
: P( I)
P(
O)
f ( O')
{ i I | o
O',
( o,
i)
R}
g( I'
) { o O
| i
I',
( o,
i)
R}
La función de mapeo f (O')
asocia con O todos los ítems comunes con todos los
objetos oO. Por otro lado g (I ')
asocia con I todos los objetos que contienen todos los ítems
i I. Entonces la aplicación de ( f , g)
en el conjunto O se denomina Conexión de Galois.
3) Itemset Cerrado: Dado un conjunto de ítems en una base de datos, un itemset es cerrado si
es el mayor conjunto de ítems comunes a ciertas transacciones, es decir, no existe otro
conjunto mayor de ítems comunes a esas transacciones. Dado C I. El conjunto C de items es
cerrado si y sólo si g f ( C)
C . Además, el itemset cerrado minimal que contiene un itemset
I’ se obtiene aplicando g f en I’.
4) Lattice Itemset Cerrado: corresponde un diagrama de tipo Lattice en el cual sólo se
encuentran los conjuntos de ítems cerrados. Dado C’ el conjunto de itemsets cerrados
obtenidos de D al usar la Conexión de Galois. Al aplicar en C’ una relación de orden se
obtiene el par Lc= (C’, ≤) que es un lattice completo denominado Lattice Itemset Cerrado.
22

Un Lattice de Itemset Cerrados posee las siguientes propiedades:
1. Todo subconjunto de un conjunto de itemsets frecuentes es frecuente.
2. Todo súper conjunto de itemsets de un conjunto de itemsets no frecuentes es no
frecuente.
3. Todo subconjunto cerrado de itemsets de un conjunto cerrado de itemsets
frecuentes es frecuente.
4. Todo súper conjunto cerrado de itemsets de un conjunto cerrado de itemsets no
frecuentes es no frecuente.
5. El conjunto maximal de itemset frecuentes es igual al conjunto maximal de
itemsets cerrados frecuentes.
6. El valor de support de un itemset frecuente I es igual al support del conjunto
cerrado frecuente más pequeño que contiene a I.
Las propiedades antes mencionadas permiten que el método AClose realice un proceso
de poda en un Lattice de Itemsets Cerrados para encontrar los itemsets frecuentes. Un itemset
cerrado C corresponde a un conjunto maximal de items comunes a un conjunto de objetos O.
Al ser C un conjunto maximal significa que no existe otro conjunto mayor C’ que lo contenga
y sea común al conjunto de objetos O.
Por ejemplo, en la base de datos D de la figura 4, se aprecia que el conjunto de ítems
{B, C, E}, es un itemset cerrado debido a que es el conjunto maximal de items comunes a los
objetos {2, 3, 5}. En otras palabras, no existe otro conjunto de elementos que sea mayor a {B,
C, E} cuyos elementos estén en las transacciones {2, 3, 5}. En cambio, el conjunto {B, C} no
es un itemset cerrado puesto que no corresponde a un grupo maximal de ítems comunes a
algunos objetos o transacciones, como se aprecia todas las transacciones que tienen los ítems
B y C también tienen a E. De igual forma se obtienen los itemsets cerrados {A, C, D}, {A, B,
C, E}, {A, C}, {C} y {B, E}. Más el conjunto raíz {A, B, C, D, E} que contiene todos los
elementos de la base de datos D, y el conjunto { } .
Figura 6: Lattice de itemsets cerrados para D.
23

Como se aprecia en la figura 6, el Lattice de itemsets cerrados es un subconjunto del
lattice de itemsets de la figura 5, razón por lo cual, se dice que es un conjunto de menor orden
respecto lattice completo de itemsets.
La generación de las reglas de asociación con AClose se lleva a cabo por medio de las
siguientes etapas:
1) Encontrar todos los itemsets cerrados frecuentes (todos los itemsets que son cerrados
y tienen un support mayor o igual que el minsupport).
2) Derivar todos los itemsets frecuentes a partir de los itemsets cerrados frecuentes
descubiertos en la etapa 1.
3) Generar todas las reglas de asociación que se pueden derivar a partir de los itemsets
frecuentes que tienen un confidence mayor que el minconfidence.
El número de conjuntos cerrados frecuentes generados con Aclose es muy inferior al
número de conjuntos frecuentes que se generan con Apriori. Por lo tanto, la generación de
conjuntos cerrados frecuentes tiene un costo de cómputo menor que la generación de
conjuntos frecuentes. Al utilizar Lattice de Itemsets Cerrados para encontrar los itemsets
frecuentes se mejora la eficiencia del descubrimiento de reglas de asociación en comparación
con Apriori. Esto se debe al hecho que minimizando el espacio de búsqueda se logra reducir
tanto el número de accesos a la base de datos como la sobrecarga en la cpu al generar los
itemsets frecuentes.
Evaluación e Interpretación de los Patrones Descubiertos
La última etapa de un proceso de minería de textos (ver figura 1) corresponde a
evaluar e interpretar los patrones descubiertos, puesto que los sistemas de Minería de Textos
generalmente no son “accionables”, es decir, a partir de los patrones encontrados no pueden
tomar decisiones de manera automática. Estos requieren de expertos humanos que analicen el
conocimiento descubierto y los evalúen.
En esta etapa final del proceso de Minería de Textos, expertos humanos deben
interpretar el conocimiento descubierto, es decir, darles significado a los patrones que fueron
encontrados y descubrir las razones de su descubrimiento. En el conocimiento descubierto
existen patrones que son más interesantes que otros, razón por la cual, los expertos humanos
deben evaluar cuáles de ellos son los que le aportan conocimiento que le sean de utilidad en la
toma de decisiones. Esto es clave debido al hecho que se pueden generar demasiados patrones
irrelevantes.
En general, se espera que los sistemas de Minería de Textos generen conocimientos
que sean de utilidad a los expertos humanos. Algunos enfoques actuales [3, 4, 6, 7, 8] buscan
mejorar el proceso de evaluación del conocimiento descubierto antes de ser presentado a los
expertos humanos que toman decisiones. En estos enfoques, las reglas de asociación
descubiertas se evalúan con métricas que consideran aspectos más allá de los estadísticos
utilizados en las medidas tradicionales de support y confidence.
24

2.2 Análisis Semántico Latente
El Análisis Semántico Latente (Latent Semantic Analysis o LSA) es una técnica
matemática que se basa en análisis estadístico para extraer y analizar la semántica existente
entre palabras, palabras y párrafos y entre párrafos que existen en un corpus de texto [22].
Específicamente LSA permite inferir relaciones de uso contextual esperado de palabras en
pasajes de discurso que están en forma implícita en los documentos de textos. LSA, a
diferencia de otros métodos, no utiliza ningún diccionario construido humanamente, redes
semánticas, gramáticas, segmentadores sintácticos, o morfologías, sino más bien realiza un
análisis más profundo, a partir del corpus de texto, para entregar significados a las palabras.
LSA, solamente toma como entrada la segmentación en bruto del texto, en palabras definidas
como cadenas de caracteres únicos y separados en pasajes significativos o ejemplos como
frases o párrafos [21] [22]. Las inferencias que puede realizar LSA sólo son posibles una vez
que el método es entrenado con un corpus de entrada.
LSA aprende el significado de palabras determinando en qué contextos éstas aparecen,
lo cual es similar a como los niños no adquieren el significado de las palabras a través de las
definiciones explícitas, sino que observando cómo estas se utilizan en el contexto [21]. Esta
forma de aprender no requiere el apoyo de un experto en el dominio que guíe el conocimiento
adquirido, lo cual lo hace interesante para aplicaciones computacionales de análisis de textos,
como en el caso de text mining.
Existen dos características fundamentales que diferencian a LSA de otros métodos
empíricos de análisis de texto a nivel de palabras claves. Primero, LSA utiliza como entrada
patrones de ocurrencia de muchas palabras sobre un gran número de contextos, como
oraciones o párrafos, lo cual entrega mejores resultados que otros enfoques dónde sólo
consideran la suma de pares contiguos de co-ocurrencias de palabras. Así, LSA no considera la
forma en la cual el orden de las palabras produce el significado de la oración, si no más bien
captura sólo la forma en que se relacionan las palabras. [22].
La segunda característica tiene relación con la dimensión semántica en la cual se
representan las palabras, específicamente, LSA apunta que por medio de una reducción en la
dimensionalidad de los datos se puede producir una mejor aproximación a las relaciones
cognitivas humanas. Esta reducción permite capturar relaciones más profundas de
implicancia mutuas de palabras. [22].
Otro aspecto que diferencia a LSA corresponde a la etapa de pre-procesamiento que
éste utiliza, en la cual se toma en cuenta la distribución total de una palabra en los contextos
en que se emplea, independiente de sus correlaciones con otras palabras. Se ha probado que
esto produce mejoras en los resultados que entrega este método [22].
A pesar de sus ventajas, LSA posee algunos problemas en la práctica, por ejemplo no
toma en consideración el orden de las palabras, ni tampoco las relaciones sintácticas, lógicas,
o morfológicas [22], las cuales son mínimas en comparación a sus beneficios.
25

LSA opera tomando como entrada todos los documentos de un corpus de textos, y el
primer paso consiste en representar este texto de entrada en una matriz con una palabra por
cada fila y un pasaje de texto en cada columna. Cada celda de la matriz contiene la frecuencia
con la cual la palabra aparece en el pasaje de texto. Como segundo paso realiza una
transformación preliminar a cada celda, en la cual su contenido es ponderado por una función
que expresa tanto la importancia de la palabra en el pasaje en particular, como el grado en el
cual la palabra contiene información relevante en el dominio del discurso en general [22].
Posteriormente, LSA aplica un conjunto de operaciones matriciales, utilizando la
técnica de Descomposición de Valores Singulares (Singular Value Descomposition o SVD) a
la matriz creada. Esta técnica corresponde a un tipo de análisis factorial, o más bien, la
generalización matemática de la cual deriva el análisis factorial. En SVD, una matriz
rectangular es descompuesta en el producto de tres matrices. Una de estas matrices
componentes (W) describe las entidades de fila de la matriz original como vectores de valores
factoriales ortogonales derivados. Otra matriz (P) describe las entidades de columna originales
de la misma forma y la tercera es una matriz diagonal (S) que contiene valores de
“escalamiento” de modo que, cuando las tres componentes son multiplicadas, se recupera la
matriz original. Se puede reducir la dimensionalidad de la solución de forma simple
eliminando coeficientes en la matriz diagonal, comúnmente empezando con el menor de ellos
[22].
A continuación, mediante un ejemplo, se muestra lo que se puede lograr al utilizar la
técnica del SVD. En el ejemplo, extraído de [22], se utilizan los títulos de nueve artículos
técnicos, cinco sobre interacción hombre-máquina y cuatro sobre teoría matemática de grafos.
De esta forma, la matriz original tiene nueve columnas y doce filas, cada una correspondiente
a una palabra usada en, a lo menos, dos de los pasajes.
26

En la figura 7 se dan a conocer los títulos de los artículos y la matriz generada,
obtenidas de [22]. Las entradas de las celdas son el número de veces que una palabra aparece
en un título.
Example of text data: Titles of Some Technical Memos
c1: Human machine interface for ABC computer applications
c2: A survey of user opinion of computer system response time
c3: The EPS user interface management system
c4: System and human system engineering testing of EPS
c5: Relation of user perceived response time to error measurement
m1: The generation of random, binary, ordered trees
m2: The intersection graph of paths in trees
m3: Graph minors IV: Widths
m4: Graph minors: A survey
{X}=
c1 c2 c3 c4 c5 m1 m2 m3 m4
human 1 0 0 1 0 0 0 0 0
interface 1 0 1 0 0 0 0 0 0
computer 1 1 0 0 0 0 0 0 0
user 0 1 1 0 1 0 0 0 0
system 0 1 1 2 0 0 0 0 0
response 0 1 0 0 1 0 0 0 0
time 0 1 0 0 1 0 0 0 0
EPS 0 0 1 1 0 0 0 0 0
survey 0 1 0 0 0 0 0 0 1
trees 0 0 0 0 0 1 1 1 0
graph 0 0 0 0 0 0 1 1 1
minors 0 0 0 0 0 0 1 1
r(human.user)=-.38
r(human.minors)=-.29
Figura 7: Una matriz de palabras por contextos.
Luego, en la figura 8 se muestra la descomposición lineal. La multiplicación de estas
matrices reconstruye la matriz original {X}.
27

{X}={W}{S}{P}´
{W}=
0,22 -0,11 0,29 -0,41 -0,11 -0,34 0,52 -0,06 -0,41
0,20 -0,07 0,14 -0,55 0,28 0,50 -0,07 -0,01 -0,11
0,24 0,04 -0,16 -0,59 -0,11 -0,25 -0,30 0,06 0,49
0,40 0,06 -0,34 0,10 0,33 0,38 0,00 0,0 0,01
0,64 -0,17 0,36 0,33 -0,16 -0,21 -0,17 0,03 0,27
0,27 0,11 -0,43 0,07 0,08 -0,17 0,28 -0,02 -0,05
0,27 0,11 -0,43 0,07 0,08 -0,17 0,28 -0,02 -0,05
0,30 -0,14 0,33 0,19 0,11 0,27 0,03 -0,02 -0,17
0,21 0,27 -0,18 -0,03 -0,54 0,08 -0,47 -0,04 -0,58
0,01 0,49 0,23 0,03 0,59 -0,39 -0,29 0,25 -0,23
0,04 0,62 0,22 0,00 -0,07 0,11 0,16 -0,68 0,23
0,03 0,45 0,14 -0,01 -0,30 0,28 0,34 0,68 0,18
{S}=
3,34
2,54
2,35
1,64
1,5
28
1,31
0,85
0,56
0,36
{P}=
0,20 0,61 0,46 0,46 0,28 0,00 0,01 0,02 0,08
-0,06 0,17 -0,13 -0,13 0,11 0,19 0,44 0,62 0,53
0,11 -0,50 0,21 0,21 -0,51 0,10 0,19 0,25 0,08
-0,95 -0,03 0,04 0,04 0,15 0,02 0,02 0,01 -0,03
0,05 -0,21 0,38 0,38 0,33 0,39 0,35 0,15 -0,60
-0,08 -0,26 0,72 0,72 0,03 -0,30 -0,21 0,00 0,36
0,18 -0,43 -0,24 -0,24 0,67 -0,34 -0,15 0,25 0,04
-0,01 0,05 0,01 0,01 -0,06 0,45 -0,76 0,45 -0,07
Figura 8: SVD completo de la matriz en la figura 8
La figura 8 muestra una reconstrucción basada en dos dimensiones que aproxima a la
matriz original {X}. Ésta reconstrucción utiliza elementos vectoriales sólo de las primeras dos
columnas (Color amarillo) de las tres matrices desplegadas en la figura anterior. Esto equivale
a reemplazar todos los valores de la matriz S (excepto los dos mayores) con cero.

{X´}=
c1 c2 c3 c4 c5 m1 m2 m3 m4
human 0,16 0,4 0,38 0,47 0,18 -0,05 -0,12 -0,16 -0,09
interface 0,14 0,37 0,33 0,4 0,16 -0,03 -0,07 0,1 -0,04
computer 0,15 0,51 0,36 0,41 0,24 0,02 0,06 0,09 0,12
user 0,26 0,84 0,61 0,7 0,39 0,03 0,08 0,12 0,19
system 0,45 1,23 1,05 1,27 0,56 -0,07 -0,15 -0,21 -0,05
response 0,16 0,58 0,38 0,42 0,28 0,06 0,13 0,19 0,22
time 0,16 0,58 0,38 0,42 0,28 0,06 0,13 0,19 0,22
EPS 0,22 0,55 0,51 0,63 0,24 -0,07 -0,14 -0,2 -0,11
survey 0,1 0,53 0,23 0,21 0,27 0,14 0,31 0,44 0,42
trees -0,06 0,23 -0,14 -0,27 0,14 0,24 0,55 0,77 0,66
graph -0,06 0,34 -0,15 -0,3 0,2 0,31 0,69 0,98 0,85
minors -0,04 0,25 -0,1 -0,21 0,15 0,22 0,5 0,71 0,62
r(human.user)=-.94
r(human.minors)=-.83
Figura 9: Reconstrucción de {X} basada en las columnas y filas sombreadas del SVD de la Figura 9.
Al comparar las columnas sombreadas y las celdas marcadas de las figuras 7 y 9 se
ilustra cómo LSA induce relaciones de similitud alterando, ya sea positiva o negativamente, las
entradas estimadas para acomodar restricciones mutuas en los datos. Cada uno de los valores
de la nueva representación ha sido computada como una combinación lineal de los valores en
las dos dimensiones utilizadas, las cuales a su vez fueron calculadas como combinaciones
lineales de los valores originales de las celdas. Sin embargo, note que si cambia la entrada de
alguna celda en la matriz original, los valores en la reconstrucción de menor dimensión
pueden estar cambiados en cualquier celda, lo que representa el sentido matemático en el cual
LSA calcula inferencia o inducción.
Para ejemplificar utilizando relaciones palabra-palabra, se pueden comparar las filas
sombreadas para las palabras “human”, “user” y “minors” (en este contexto, “minor” es un
término técnico de la teoría de grafos) en la matriz original y en las reconstrucciones
bidimensionales (figuras 7 y 9). En la original, “human” nunca aparece en el mismo pasaje ya
sea con “user” o “minors”, es decir, no son co-ocurrentes (no están contiguos o asociados).
Las correlaciones (usando el coeficiente de correlación “r” de Spearman) son de -0.38 entre
“human” y “user”, y de -0.29 entre “human” y “minors”. Sin embargo, en la reconstruida
aproximación bidimensional, ambos, debido a sus relaciones indirectas, han sido alterados: la
correlación “human-user” ha llegado a 0.94 y la correlación “human-minors” bajó a -0.83. De
esta forma, debido a que los términos “human” y “user” ocurren en contextos de significado
similar (aunque nunca estén en el mismo pasaje), la solución de dimensionalidad reducida los
representa con mayor similitud, al contrario de lo que ocurre con “human” y “minors” [22].
29

Para examinar el efecto de la reducción dimensional sobre las relaciones entre títulos,
se calcularon las intercorrelaciones (mediante operaciones matriciales) entre cada título y el
resto, primero basándose en los datos de co-ocurrencia y luego en los correspondientes
vectores que representan los títulos en la reconstrucción bidimensional, lo que se muestra en
la figura 10.
c1 c2 c3 c4 c5 m1 m2 m3
c2 -0,19
c3 0,00 0,00
c4 0,00 0,00 0,47
c5 -0,33 0,58 0,00 -0,31
m1 -0,17 -0,30 -0,21 -0,16 -0,17
m2 -0,26 -0,45 -0,32 -0,24 -0,26 0,67
m3 -0,33 -0,58 -0,41 -0,31 -0,33 0,52 0,77
m4 -0,33 -0,19 -0,41 -0,31 -0,33 -0,17 0,26 0,56
0,02
-0,30 0,44
c2 0,91
c3 1,00 0,91
c4 1,00 0,88 1,00
c5 0,85 0,99 0,85 0,81
m1 -0,85 -0,56 -0,85 -0,88 -0,45
m2 -0,85 -0,56 -0,85 -0,88 -0,44 1,00
m3 -0,85 -0,56 -0,85 -0,88 -0,44 1,00 1,00
m4 -0,81 -0,50 -0,81 -0,84 -0,37 1,00 1,00 1,00
0,92
-0,72 1,00
Figura 10: Intercorrelaciones entre vectores de la figura 8 y de la figura 9.
En la reconstrucción bidimensional es mucho más clara la agrupación por tópicos.
Tanto así, que la correlación r promedio entre los títulos de HCI (interacción hombre
computador) subió desde 0.02 a 0.92. Esto no ocurrió porque los títulos HCI fueran en general
similares entre ellos (usando los datos puros, sin reducir dimensiones), sino porque
contrastaban con los títulos de otros tópicos en formas muy parecidas. De modo similar, las
correlaciones entre los títulos de teoría de grafos se re-estimaron en 1.00, y aquellas entre los
dos tipos de tópicos ahora son bastante negativas, con un promedio de r = -0.72 [22].
LSA permite la incorporación de información de nivel semántico léxico al análisis de
textos. Esto podría influir en evaluación del grado de interés de reglas de asociación, puesto
que LSA no sólo se consideran las palabras en sí, sino también el significado subyacente a
éstas, lo cual se puede utilizar al momento de evaluar los patrones descubiertos en tareas de
minería de textos.
30

3. Trabajos Relacionados
Las tareas de Minería de Textos que utilizan reglas, pueden generar una excesiva
cantidad de patrones, muchos de los cuales podrían no ser relevantes a los expertos. En el
contexto de evaluación de reglas, algunos enfoques recientes buscan mejorar los resultados
obtenidos con reglas empleando técnicas que mejoran el proceso de selección de éstas para
obtener reglas más relevantes e interesantes. Por ejemplo, Mooney [4] propone un nuevo
método de estimación del grado de novedad de reglas descubiertas por métodos de Data
Mining usando la base de conocimiento léxico WordNet [13], que contiene miles de palabras
enlazadas semánticamente por relaciones tales como antónimos, hiperónimos, homónimos,
etc. En este modelo el grado de novedad de una regla generada se calcula utilizando la
distancia semántica que existe entre las palabras del antecedente y consecuente de la regla.
Esta distancia se basa en el conocimiento estructural que aporta la jerarquía de conceptos en
WordNet. El principio es que mientras mayor sea la distancia entre los términos de la regla
mayor es el grado de novedad que ésta posee, esto debido que la relación semántica entre
ellos no es muy frecuente o poco común. Por ejemplo, en el contexto de informes de venta en
un supermercado, una regla del tipo “Cerveza Pañales” podría interpretarse como “las
personas que compran cervezas también compran pañales”, éste patrón puede considerase
más novedoso que el entregado por “Cerveza Papas fritas”, debido a que la distancia
semántica que existe en el primer caso en WordNet es mayor que en el segundo. Además, dado
que los conceptos “cerveza” y “papas fritas” corresponden a alimentos que están
semánticamente más cercanos en WordNet se considera que el conocimiento que pueden
aportar no es muy relevante, debido a la corta distancia semántica que los une.
En este enfoque, las reglas son descubiertas desde los textos vía el sistema DiscoTEX
[26]. Este sistema utiliza una combinación de técnicas de Extracción de Información (IE) y
Data Mining. Por medio de IE, los documentos de textos se transforman en documentos más
estructurados para ser posteriormente minados con técnicas de Data Mining tradicionales.
La forma de evaluación del grado de novedad de una regla en DiscoTEX, está dado
por la siguiente estrategia: dada una regla del tipo wi w j , en donde el antecedente ( w i ) y el
consecuente ( w j ) son conceptos, la distancia semántica entre estas dos palabras se define
como:
d(wi,wj)=Dist(P(wi,wj)) + K x Dir((P(wi,wj)),
dónde P(wi,wj) es el peso del camino más corto entre wi y wj, Dist(P(wi,wj)) es la distancia
del camino p de acuerdo al esquema de peso (ver tabla 1), Dir(p) es el número de cambio de
direcciones a lo largo del camino y K es una constante.
Los pesos asignados en los caminos varían dependiendo si los movimientos desde el
antecedente al consecuente son atravesados en WordNet en forma horizontal, hacia arriba o
hacia abajo, ya que estos tienen significados distintos. Una relación que puede aportar un
mayor grado de novedad se le asigna un mayor peso. Los diferentes pesos asignados a cada
dirección se pueden ver en la tabla 1.
31

Relación Dirección Peso
Sinónimo, Atributo, Similar Horizontal 0,5
Antónimo Horizontal 2,5
Hiperónimo (Miembro|Parte| Esencia) Merónimos Arriba 1,5
Hipónimo (Miembro|Parte| Esencia)
Holónimo, Causa, Enlaces
Abajo 1,5
Tabla 1: Información de Dirección y Peso de las relaciones usadas en WordNet.
Esta medida de distancia semántica propuesta es unidireccional, lo cual es
conceptualmente compatible con el hecho que las reglas tienen un antecedente y un
consecuente, en donde wi w j tiene una semántica distinta a w j wi
.
Con el fin de computar la distancia semántica entre el antecedente y el consecuente de
la regla, se utiliza un algoritmo que determina el promedio de las distancias entre los
elementos individuales de una regla de acuerdo a los enlaces existentes en WordNet.
Posteriormente, las evaluaciones automáticas generadas por el algoritmo se comparan con
evaluaciones realizadas por expertos de las mismas reglas. El objetivo de estos experimentos
es verificar si lo obtenido con el algoritmo se correlaciona con los juicios de los humanos tan
bien como estos últimos se relacionan entre sí. El modelo de Mooney [4] muestra que los
resultados de las evaluaciones algoritmo-humano fueron similares a las evaluaciones humanohumano.
El objetivo principal de este enfoque es medir el grado de novedad de reglas obtenidas
desde textos basándose en el conocimiento léxico aportado por WordNet. Sin embargo, la
estrategia de evaluación requiere de una fuente externa de conocimiento y consecuentemente
es altamente dependiente su organización. Otro inconveniente se presenta cuando el
antecedente o el consecuente de la regla contienen términos que no existen en WordNet. Esto
origina que el método evalúe con un alto grado de interés a conceptos no existentes en
WordNet, debido a que la distancia entre ellos no existe, se asume muy grande. No obstante,
para los humanos estos patrones podrían no representar interés alguno.
Un enfoque que no utiliza recursos externos de conocimiento es propuesto por
Toussaint et al. [6, 7, 20]. Aquí, se presentan dos métodos de clasificación de reglas de
asociación, uno basado en medidas numéricas de calidad y el otro basado en el conocimiento
del dominio. El primero incorpora nuevas medidas numéricas que miden características de las
reglas de asociación que no son contempladas por el support o confidence. En el segundo
método, se mide el grado de interés de acuerdo a la ubicación jerárquica del antecedente y el
consecuente de la regla en el modelo del dominio, el cual se representa como un conjunto
finito y parcialmente ordenado de términos que establece una relación de generalización. En
ambos métodos se realiza un ranking de las reglas descubiertas.
Debido a la dificultad de las medidas tradicionales para capturar el grado de interés, en
el primer método se proponen cinco métricas adicionales al “support” y “confidence”. Dada
una regla A B , las medidas se definen en base a información probabilística donde P(A) es
la probabilidad del número de conjuntos de textos que contienen el término A, y P(A B)
es
la probabilidad del número de conjuntos de textos que contienen tanto a A como a B. Aquí se
distinguen tres distribuciones de términos que resultan ser interesentes para efectos de minería
32

de textos y las cuales no pueden distinguirse por medio del “support” y “confidence”. Donde
D(A) y D(B) corresponden al conjunto de textos que contienen los términos A y B,
respectivamente (ver figura 11).
Corpus de Textos
D(A)
D(B)
Corpus de Textos Corpus de Textos
D(B)
(a) (b) (c)
Figura 11: Mejores casos de variación de D(A) y D(B).
En el caso de la figura 11(a) las probabilidades de distribución P(A) y P(B) son
altas, lo cual genera reglas que no entregan nuevo conocimiento, si no más bien
reglas que denotan conceptos genéricos que ya son conocidos.
En el caso de la figura 11(b), la probabilidad P(A) es baja y P(B) es alta. Estos
tipos de reglas pueden ser más interesantes y se pueden interpretar como “los
textos que incluyen términos de A tienden a incluir términos de B”.
En el cado de la figura 11(c), tanto P(A) como P(B) son bajas y sobrepuestas, es
decir, los términos ocurren raramente en los textos y ocurren en conjunto. Esta
distribución es la que puede entregar reglas más interesantes y por ende, es el
conjunto más importante de los tres casos.
Luego, la evaluación de las reglas descubiertas en la tarea de minería de textos se
lleva a cabo considerando los siguientes cinco criterios:
1. Interés: representa el grado de independencia entre los sets de términos A y B, y se define
como interés ( A B)
P(
A B)
/ P(
A)
P(
B)
. Este criterio determina si una regla
pertenece al caso (c) de la figura 11, es decir, los términos raramente aparecen en los
textos y además ocurren en conjunto.
2. Convicción: permite seleccionar entre las reglas A B y B A la que tenga menos
contraejemplos. Es decir convicción ( A B)
( P(
A)
P(
B))
/ P(
A B)
. Esta medida
ubica en las primeras posiciones del ranking a las reglas que corresponden al caso (c) de la
figura 11.
3. Dependencia: define la distancia entre el confidence de la regla y el caso de
independencia, se define como dependencia ( A B)
|
P(
B / A)
P(
A)
| .La dependencia
tiene un comportamiento similar a los casos (a) y (b) de la figura 11.
33
D(A)
D(A)
D(B)

4. Novedad: se define como novedad ( A B)
P(
B A)
P(
A)
P(
B)
, lo que es
equivalente a novedad ( A B)
=dependencia ( A B)
P(
B)
. Luego a valores bajos de
P(B) la regla presentará un grado de novedad menor, lo cual corresponde a los casos (b) y
(c) de la figura 11.
5. Satisfacción: se define como satisfacción ( A B)
P(
B)
P(
B
| A)
/ P(
B)
. Con
este criterio una regla con bajo P(B) tiene un valor alto de satisfacción, con lo cual se logra
distinguir las reglas del caso(a) a las del caso (b) en la figura 11.
Una vez generadas las reglas de asociación, estas se evalúan mediante los criterios
anteriores, es decir se obtienen cinco valores numéricos para cada regla. Posteriormente un
evaluador humano toma el resultado de las evaluaciones y decide cuales de las cinco métricas
tendrán mayor ponderación.
El segundo método propuesto por Toussaint et al. [6, 7, 20] evalúa la conformidad
de las reglas de asociación con un modelo de conocimiento específico. Este organiza los
conceptos mediante una abstracción de la realidad en donde se desarrollan estas tareas. El
modelo de conocimiento del dominio se construye por medio del Análisis Formal de
Conceptos (Formal Concept Analysis o FCA). FCA es una teoría formal utilizada como
método de aprendizaje, por medio la cual, se pueden extraer estructuras conceptuales a partir
de un conjunto de datos. Esta técnica define un “concepto” como una unidad de pensamientos
que consta de dos partes: extensión e intención. La extensión cubre todos los objetos que
pertenecen al concepto, y la intención comprende todos los atributos válidos de los objetos de
un concepto [14, 31, 42].
El modelo propuesto por Toussaint [6, 7, 20] utiliza tres unidades fundamentales:
1) Contexto Formal: una tupla (G, M, I) es llamada Contexto Formal si G y M son conjuntos,
y I G M es una relación binaria entre G y M. Se denomina Objetos a los elementos de G,
Atributos a los elementos de M, e Incidencia del contexto a los elementos de la relación I.
Para A G se define:
A ' { m M | ( g,
m)
I g A}
Y dualmente, para B M ,
B ' { g G(
g,
m)
I m B}
2) Concepto Formal: dado un Contexto Formal (G, M, I), un par (A, B) es un Concepto
Formal si y solo si:
A G,
B M , A'
B,
A B'.
Donde el conjunto A se denomina como la “extensión” y el conjunto B como la
“intención” del concepto (A, B). En otras palabras, A es el conjunto de todos los objetos que
tienen los atributos de B, y B es el conjunto de todos los atributos que son válidos para los
objetos de A.
34

3) Lattice Conceptual: Un Lattice de Conceptos consiste en el conjunto de conceptos
formales de un contexto formal y una relación de orden entre ellos. En el modelo de Toussaint
[6, 7, 20] la relación de orden corresponde a una relación de generalización entre los
conceptos del lattice conceptual.
Las tres unidades antes mencionadas provienen de FCA, y son utilizadas para construir
el modelo de conocimiento en el enfoque propuesto por Toussaint et al. [6, 7, 20]. El modelo
es utilizado para medir el grado de interés de las reglas descubiertas.
El modelo de conocimiento denotado por ( K , )
, representa las relaciones de
generalización/especialización entre los conceptos obtenidos desde el corpus de textos. El
modelo corresponde a un conjunto finito y parcialmente ordenado K de términos. Para
cualquier término A, B K,
A B si cualquier instancia de A es también instancia de B. La
relación define el orden parcial entre los términos que denota implícitamente una relación
de generalización/especialización entre ellos: A es más específico que B, y B es más general
que A. Formalmente ( K , )
es un grafo dirigido, con K nodos como vértices (términos
claves) y la relación define las aristas del grafo [6, 7, 20].
Toussaint et al. [6, 7, 20] proponen una nueva medida para medir el grado de interés
de las reglas descubiertas. Esta medida se denomina “conformidad” y esta directamente
relacionada con el modelo de conocimiento construido a partir del corpus de textos, en
términos simples, esta nueva medida mide la relación de generalización/especialización
existente entre dos términos y es utilizada para medir el grado de interés de las reglas
generadas.
Sean k1, k2 en K, la medida de conformidad de la regla k1→k2 con respecto al modelo
de conocimiento ( K , )
corresponde a la probabilidad de transición de encontrar un camino
desde k1 hacia k2 en el grafo dirigido del modelo de conocimiento ( K , )
. Este camino puede
ser compuesto por varias aristas y depende de la distancia entre k1 y k2 en el modelo ( K , )
.
La probabilidad de transición entre un término ki y kj depende del camino más corto entre ki
y kj, denominada d(ki, kj) en el modelo de conocimiento. Aquí se distinguen dos casos
particulares:
1) La distancia de un ciclo en un término es igual a uno (d(ki , ki)=1), como una forma
de considerar la reflexividad de la especialización de la relación y evitar altas
probabilidades anormales en el caso que no existan aristas salientes desde un
vértice consultado.
2) Cuando no existe un camino desde ki hacia kj, entonces d(ki , kj) = 2N +1, donde N
es la cardinalidad del conjunto de términos K.
Dada una regla k1→k2, Cm(ki , ki) denota la conformidad que existe entre el
antecedente y el consecuente de la regla. Ésta depende de la distancia que existe entre k1 y k2
en el modelo de conocimiento y un factor de normalización denotado por δ(ki). Luego la
probabilidad de transición de una regla simple se calcula como:
35

Cm(ki , ki)=[ d(ki , ki) x δ(ki)] -1
Donde el factor de normalización corresponde a δ(ki)= x
36
1
( k , x)
K
d i
Una vez creado el modelo, el principio de conformidad de las reglas de asociación
consiste en asignar altas ponderaciones a cualquier regla A B que es una “traducción”
directa de la relación A B existente entre los términos A y B en el dominio de conocimiento
( K , )
. Por ejemplo si el concepto “fruta” es más general que “manzana” (manzana
fruta), entonces la regla de asociación “manzana fruta” tiene una alta ponderación de
conformidad debido a que es una copia de una unidad de conocimiento existente en el modelo
de conocimiento. Contrariamente, una regla “pie de limón Chocolate” potencialmente
expresa una relación interesante entre los dos términos ya que no existe ninguna relación de
generalización/especialización entre los dos términos, por lo tanto recibe una conformidad
baja. Por lo tanto el grado de interés es inverso la conformidad.
En la tabla 2 se muestran los features encontrados en un corpus de seis documentos en
un determinado dominio, los cuales serán utilizados a modo de ejemplo para ilustrar la
construcción de un Lattice Conceptual.
documento features
d1 a c d
d2 b c e
d3 a b c e
d4 b e
d5 a b c e
b c e
d6
Tabla 2: Ejemplo de Features Descubiertos.
En los seis documentos se encontraron 19 features. Cada uno de ellos puede ser
cualquiera de los siguientes :{a, b, c, d, e}. Este conjunto corresponde a los atributos del
Contexto Formal, y los seis documentos a los objetos, tal como se muestra en la tabla 3.
Objetos
a b c d e
d1 x x x
d2 x x x
d3 x x x x
d4 x x
d5 x x x x
d6 x x x
Tabla 3: Contexto Formal
Atributos

A partir del contexto formal de la tabla 3 se genera el Lattice Conceptual de la figura
12, la cual consta de 8 conceptos.
C1
{c} {b, e}
C2
C3
{}
{d4}
{a}
{}
{d}
{d1}
C4
C6
{}
{d1, d2, d3, d4, d5, d6}
C8
{a, b, c, d, e}
{ }
Figura 12: Lattice Conceptual
Los conceptos del Lattice Conceptual de la figura 12 poseen atributos y objetos, tal
como se muestra en la tabla 4.
Concepto Atributos Objetos
C1 {} {d1, d2, d3, d4, d5, d6}
C2 {c} { }
C3 {b, e} {d4}
C4 {a} { }
C5 { } {d2, d6}
C6 { d} {d1}
C7 { } {d3, d5}
C8 {a, b, c, d, e} {}
Tabla 4: Conceptos del Lattice Conceptual
Los conceptos C5 y C7 se eliminan del Lattice Conceptual debido a que no poseen
atributos propios, ya que tienen sólo los que son heredados de sus súper conceptos, es decir,
de sus nodos padres. Los conceptos C1 y C8 también son eliminados porque no aportan mayor
conocimiento al modelo.
Las reglas de asociación tanto en el antecedente como en el consecuente poseen sólo
términos, los cuales corresponden a alguno de los atributos presentes en el Lattice Conceptual.
Por lo anterior, para obtener la estructura conceptual del dominio se mantienen sólo los
atributos, y un atributo por nodo. La estructura conceptual del contexto formal de la tabla 4
queda configurada tal como se muestra en la figura 13.
37
C5
C7
{ }
{d2, d6}
{ }
{d3, d5}

a
d
c
Figura 13: Lattice Conceptual
Esta estructura conceptual representa relaciones de generalización/especialización
entre sus elementos. Por ejemplo, el nodo c es más general que el nodo a, es decir a c, lo
que implica que cada instancia de a también es instancia de c. Los elementos que no posean
vértices entre sí no poseen ningún tipo de relación de dependencia entre sí, tal es el caso de los
nodos b con e.
En este enfoque, la generación de los conjuntos cerrados frecuentes se realiza por
medio del algoritmo Aclose [29,30], el cual recibe como entrada los features encontrados en
el corpus de textos. Para generar las reglas se utilizó el algoritmo de generación de reglas de
asociación informativas presentado por Toussaint et al. [6, 7, 20]. Este algoritmo se utiliza
para eliminar redundancia en las reglas de asociación.
Se dice que una regla de asociación R: A B es informativa ssi no existe otra regla
R’: A’ B’ tal que:
support(R) = support(R’)
confidence (R) = confidence(R’)
A A’ y B B’
b
El algoritmo de generación de reglas de asociación informativas se aplica una vez que
se han obtenido los conjuntos cerrados frecuentes. Las reglas generadas son del tipo A B/ A.
Estas se obtienen eliminando del conjunto cerrado frecuente B los términos que se encuentran
en A. La estructura general del algoritmo para generar reglas de asociación informativas es la
siguiente:
Entrada:
K: conjunto de tríos (G: conjunto generador, support, FG: Conjunto cerrado)
resultantes de la ejecución de Aclose.
Salida:
RA: conjunto de reglas de asociación descubiertas.
Por cada Conjunto generador G K hacer
Encontrar conjuntos cerrados candidatos CG = {FG / G FG};
Ordenar el conjunto CG por cardinalidad creciente;
Por cada conjunto cerrado FG CG hacer
si confidence (r: G FG /G ) ≥ minconfidence entonces
agregar regla r a RA
38
e

En este algoritmo los valores del minsupport y minconfidence son obtenidos
experimentalmente.
Para ilustrar la generación de reglas de asociación al aplicar el algoritmo Aclose en el
ejemplo de la tabla 2 con minsupport=2 y minconfidence=0.4 se obtienen los conjuntos
cerrados frecuentes de la tabla 5.
Generador Closure Support
{a} {a, c} 3
{b} {b, e} 5
{c} {c} 5
{e} {b, e} 5
{a, e} {a, c, b, e} 2
{a, b} {c, b, e} 2
{b, c} {c, b, e} 4
{c, e} {a, c, b, e} 4
Tabla 5: Conjuntos cerrados del ejemplo de la tabla 3.
Los conjuntos cerrados de la tabla 5 corresponden a la entrada del algoritmo de
generación de reglas informativas. Por ejemplo, el generador “a” está presente en dos
conjuntos cerrados: {a, c} y {a, b, c, e}. Con el primer conjunto cerrado {a, c} se genera la
regla a→ c, cuyo confidence corresponde a support ({a, c})/support(a) = 3/3 =1.
Como el confidence es mayor a 0.4 la regla de asociación generada no se elimina. Por
otro lado, con el conjunto cerrado {a, b, c, e} se obtiene la regla a→ {a, b, c, e} cuyo
confidence es 2/3 = 0,6. Esta regla tampoco es eliminada porque tiene un confidence mayor al
umbral de minconfidence. En la tabla 6 se muestran todas las reglas generadas a partir de la
tabla 5.
G Clousure Regla Confidence G Clousure Regla Confidence
a {a,c} a → c 3/3 b {b,e} b → e 5/5
{a,b,c,e} a → {b,c,e} 2/3 {b,c,e} b → {c,e} 4/5
{a,b,c,e} b → {a,c,e} 2/5
G Clousure Regla Confidence G Clousure Regla Confidence
c {c} e {b,e} e → b 5/5
{a,c} c → a 3/5 {b,c,e} e → {b,c} 4/5
{b,c,e} c → {b,e} 4/5 {a,b,c,e} e → {a,b,c} 2/5
{a,b,c,e} c → {a,b,e} 2/5
G Clousure Regla Confidence G Clousure Regla Confidence
{a,e} {a,b,c,e} {a,e} → {b,c} 2/2 {a,b} {a,b,c,e} {a,b} → {c,e} 2/2
G Clousure Regla Confidence G Clousure Regla Confidence
{b,c} {b,c,e} {b,c} → e 4/4 {c,e} {b,c,e} {c,e} → b 4/4
{a,b,c,e} {b,c} → {a,e} 2/4 {a,b,c,e} {c,e} → {a,b} 2/4
Figura 14: Reglas de asociación informativas generadas a partir de la tabla 2.
39

Como se observa en la figura 14, se generaron 17 reglas de asociación que se resumen
en la tabla 6.
Identificador Regla de Confidence
regla
asociación
r1 a → c 1
r2 a → {b,c,e} 0,6
r3 b → e 1
r4 b → {c,e} 0,8
r5 b → {a,c,e} 0,4
r 6 c → a 0,6
r 7 c → {b,e} 0,8
r 8 c → {a,b,e} 0,4
r 9 e → b 1
r 10 e → {b,c} 0,8
r 11 e → {a,b,c} 0,4
r 12 {a,e} → {b,c} 1
r 13 {a,b} → {c,e} 1
r 14 {b,c} → {e} 1
r 15 {b,c} → {a,e} 0,5
r 16 {c,e} → b 1
r 17 {c,e} → {a,b} 0,5
Tabla 6: Reglas de asociación descubiertas ejemplo tabla 2.
A modo de ilustración, en la figura 15 se muestra un modelo de conocimiento, donde
cada arista entre dos nodos (términos) representa una relación de
generalización/especialización entre ellos. La conformidad se calcula para dos casos
específicos: entre “a” y “c” donde existe un camino entre los nodos, y entre “c” y “d” donde
no existe un camino.
d
Figura 15: Ejemplo de un Modelo de Conocimiento.
La conformidad entre “a” y “c” se calcula como:
Cm(a,c)=
=
a
d
( a,
c)
e
x{
a,
b,
c,
d , e}
1
d(
a,
x)
40
1
1 1 1 1 1
d
( a,
c)
( , ) ( , ) ( , ) ( , ) ( , )
d a a d a b d a c d a d d a e
b
c
1

=
41
1
1
1 1 1 1
2
3
1 1 3 1 2
= = 0.09
23
y la conformidad entre “c” y “d” se calcula de la siguiente manera:
Cm(c,d) =
=
=
d
( c,
d)
x{
a,
b,
c,
d , e}
1
d(
c,
x)
1
1 1 1 1 1
d
( c,
d)
( , ) ( , ) ( , ) ( , ) ( , )
d c a d c b d c c d c d d c e
1
1 1 1 1 1
1
11
11 11 1 11 11
= = 0.07
15
Como se puede observar, la conformidad entre “a” y “c” es mayor que la conformidad
que existe entre “c” y “d”. Esto significa que los elementos “a” y “c” poseen una relación de
generalización/especialización mayor que la existente entre “c” y “d”. Esto se debe a que
entre “a” y “c” existe un camino en el modelo que une los nodos, en cambio, entre “c” y “d”
no existe un camino que los conecte.
En general, disminuye el valor de conformidad entre dos elementos mientras el
camino que los una sea más largo o no exista un camino que los una. Si el valor de
conformidad tiene una alta ponderación se debe a que es una copia de una unidad de
conocimiento existente en el modelo de conocimiento. Contrariamente, si el valor tiene una
baja ponderación potencialmente expresa una relación interesante entre los dos términos ya
que posiblemente no existe ninguna relación de generalización/especialización entre los dos
términos. Por lo tanto, el grado de interés es inverso a la conformidad es decir, “mientras
menor sea conformidad entre el antecedente y el consecuente de la regla de asociación,
mayor es el grado de interés que aporta la regla de asociación”.
En el cálculo de la conformidad de las reglas de asociación descubiertas se distinguen
cuatro tipos de reglas:
a) Reglas Simples
El calculo de conformidad de este tipo de reglas (k1→k2), se realiza buscando en la
matriz de conformidades en la fila el término k1 y luego en las columnas el término k2.
b) Reglas Complejas tipo 1
Estas reglas poseen un elemento en el antecedente y por lo menos dos en el
consecuente, es decir, son del tipo k1→k2 … km+1, con m ≥ 2. Consideremos la regla
a → b c que es una regla 1-2. Utilizando la Lógica de Predicados esta regla se puede
escribir como a ( b c)
( a
b)
( a
c)
. Esta regla se normaliza en cláusulas
formales y se descompone en conjunciones de reglas simples:
1

a b c ( a b)
( a c)
. Luego, el cálculo de la conformidad se transforma en el
cálculo de conformidades de reglas simples. Así, la conformidad de este tipo de reglas se
define de la siguiente manera:
Cm( a b c)
min ( Cm( a b),
Cm(
a c))
La función min corresponde al mínimo valor entre las dos conformidades calculadas, y
asegura que al menos una regla simple tenga un valor bajo de conformidad. Por consecuencia,
la regla compleja también tiene un valor bajo de conformidad.
c) Reglas Complejas tipo 2
Este tipo de reglas posee por lo menos dos elementos en el antecedente y un solo
elemento en el consecuente, es decir, son del tipo k1 … kn → kn+1, con n ≥ 2. Consideremos
como ejemplo la regla a b→c que es una regla 2-1. Utilizando la Lógica de Predicados esta
regla se puede escribir como ( a b)
c ( a
b)
c ( a
c)
( b
c).
Esta regla se
normaliza en cláusulas formales y se descompone en conjunciones de dos reglas simples:
a b c ( a c)
( b c).
Ahora se transforma en el cálculo de conformidades de reglas
simples. El cálculo de la conformidad de este tipo de reglas se define de la siguiente manera:
Cm( a b c)
max ( Cm( a c),
Cm(
b c))
La función max corresponde al máximo valor entre las dos conformidades calculadas,
y asegura que al menos una regla simple tenga un valor alto de conformidad, por lo tanto la
regla compleja también tiene un valor alto de conformidad.
d) Reglas Complejas tipo 3
Estas reglas poseen por lo menos dos elementos tanto en el antecedente como en el
consecuente, es decir, son del tipo k1 … kn → kn+1 kn+m, con n ≥ 2 y m ≥ 2. Consideremos
como ejemplo la regla a b → c d que corresponde a una regla 2-2. Esta regla se
normaliza en cláusulas formales y se descompone en conjunciones de disyunciones:
( a c)
( b c)
( a d)
( b d)
.
El cálculo de la conformidad de este tipo de reglas
se realiza de la siguiente forma:
Cm( a b c d)
min(maxCm ( a c),
Cm(
b c)
,maxCm
( a d),
Cm(
b d))
Una de las desventajas del enfoque de Toussaint [6, 7, 20] es que requiere de un
experto para supervisar el comportamiento del modelo del dominio, el cual debe agregar
nuevas relaciones en el modelo cuando sea necesario. Cuando un término no existe en el
modelo se debe agregar el término como un nodo en el grafo y consecuentemente la arista que
une este nodo al grafo representa la relación de generalización/especialización que existe
entre el nuevo término y un término existente en el grafo.
42

Al igual que en el enfoque de Mooney [4], la técnica de evaluación de Toussaint [6, 7,
20] posee algunos inconvenientes cuando aparecen términos que no están definidos en el
modelo de conocimiento. La diferencia radica en la forma de evaluación de esta irregularidad.
En el primero, para una relación que no existe en WordNet se asocia un alto grado de interés,
en cambio en el segundo le asocian un bajo grado de interés. Si bien es cierto son formas
distintas de enfrentar el problema, no solucionan el problema de fondo en donde es casi
imposible tener un modelo que cubra completamente el dominio, ni tampoco tener en
WordNet todas las relaciones que pueden aparecer en los corpus de textos.
El enfoque de Mooney [4] puede beneficiarse debido a que no es dependiente del
dominio, es decir, se puede aplicar en corpus de textos de cualquier temática sin un esfuerzo
adicional en construir su fuente de conocimiento, ya que utiliza WordNet. Por otro lado, el
enfoque de Toussaint [6, 7, 20] requiere generar el modelo de conocimiento del dominio antes
de realizar la tarea de minería de textos.
En otro enfoque [3] se propone un modelo de evaluación de múltiples métricas.
Aunque no se generan el mismo tipo de reglas de asociación si no reglas a un nivel semántico
más alto, específicamente reglas de relaciones del tipo causa y efecto. El modelo combina
técnicas de extracción de información con algoritmos genéticos. Específicamente se combinan
fragmentos de información clave extraídas desde documentos de textos y después se utiliza
una estrategia de aprendizaje multi-criterio de optimización para producir la explicación del
conocimiento sin utilizar fuentes de recursos externas. El enfoque investiga el hecho que por
medio de la combinación de algoritmos genéticos con la extracción de información basada en
género se puede descubrir conocimiento de alto nivel en forma de patrones explicativos. El
modelo está dividido en dos fases generales:
1) Preprocesamiento y entrenamiento: Dado un corpus de textos de n documentos, al
aplicar la técnica de extracción de información se generan n reglas que representan
el contenido de los documentos en términos de relaciones de causa y efecto.
Simultáneamente se realiza el entrenamiento a partir del corpus de textos
realizando extracción de información a nivel semántico-léxico, para lo cual se
utiliza una estrategia basada en Análisis Semántico Latente (LSA) estructurado.
Estas dos tareas generan el modelo semántico para guiar posteriormente el
descubrimiento de patrones.
2) Descubrimiento de patrones: Se realiza un procesamiento que genera un conjunto
de hipótesis que corresponden a la población inicial del algoritmo genético. Luego
se descubre conocimiento a través del algoritmo genético con el objetivo de
explicar las hipótesis.
Para el procesamiento de las bases de datos textuales, el modelo propone nuevos
esquemas de extracción y representación de conocimiento inicial de los documentos, lo cual
es independiente del dominio pero es dependiente del género científico y/o técnico (abstracts).
En la fase descubrimiento de conocimiento, la búsqueda/optimización de soluciones se
basa en un algoritmo genético multi-objetivo que está guiado por información semántica de
entrenamiento descrita anteriormente. El modelo asume que no solo esta tratando de descubrir
conocimiento valioso sino que también intenta “explicar” la relación entre conceptos aislados
43

(“target concepts”), en el sentido tradicional de Text Mining. Con el fin de evaluar los
patrones descubiertos, se utiliza una estrategia basada en cálculo de “fitness” a partir de
múltiples objetivos, los que se integran para generar valores de evaluación a través de una
estrategia basada en SPEA (Strengh Pareto Evolutionary Algorithm) [43].
La evaluación de patrones se lleva a cabo utilizando seis métricas de evaluación. Por
un lado, las cuatro primeras consideran información semántica para asegurar que las hipótesis
generadas sean coherentes y plausibles. Por otro lado, buscan medir criterios más subjetivos
de las hipótesis por medio de las métricas de interés, relevancia, simplicidad y novedad.
1) Estructura: mide la información retórica a nivel de discurso que contienen las hipótesis
y busca responder a la pregunta ¿Qué tan buena es la estructura de la hipótesis?.
2) Cohesión: mide la asociación entre una acción de predicativa con algún rol retórico
específico, esta interrogante nace debido a que algunas relaciones de predicados tiene una
probabilidad mayor de estar asociadas con algunos roles retóricos.
3) Coherencia: mide cómo los elementos de la hipótesis actual se relacionan a cada una de
las otras de forma semánticamente coherente.
4) Interés: mide el grado de disimilaridad semántica entre los elementos de una hipótesis.
5) Relevancia: mide el grado de explicación del conocimiento descubierto,
específicamente evalúa la semántica de una hipótesis con respecto a su cercanía a los
conceptos objetivos definidos por el “usuario” para entregar más información de las
relaciones desconocidas entre estos conceptos.
6) Novedad: determina el grado de “plausibilidad” de una hipótesis que ha sido producida
recordando la calidad de la inferencia de esta hipótesis en el momento de su creación.
El modelo de evaluación es aplicado con un corpus de documentos de un cierto
dominio, a partir del cual se genera un conjunto de las mejores hipótesis. Posteriormente se
realiza la evaluación automática de hipótesis que se compara con la evaluación llevada a cabo
por expertos humanos en el dominio específico.
La evaluación experimental del modelo muestra que el rendimiento de éste es
comparable al de los expertos. Así, el modelo es efectivo en términos de descubrir patrones de
“calidad” de forma independiente del dominio y con resultados superiores a otros modelos
que utilizan ontologías o bases de datos léxicas.
A diferencia de los otros trabajos, este enfoque es independiente del dominio y no
requiere de una fuente de conocimiento externa, por lo tanto podría aplicarse en distintos
dominios sin la necesidad de grandes modificaciones. Al no depender de una fuente de
conocimiento siempre va a evaluar el grado de interés de las reglas de acuerdo a sus
características, lo cual no ocurre en los otros dos enfoques debido a que si una palabra de la
regla no se encuentra definida, la evaluación es diferente a las que si aparecen en su fuente de
conocimiento.
44

El problema que se presenta en los enfoques de minería de textos que utilizan la
técnica de reglas de asociación, consiste en que éstas no capturan el conocimiento implícito
que existe en forma de lenguaje natural en el corpus de texto. Esto se debe a que no toman en
consideración ningún otro factor aparte de la cantidad de veces que aparece un término en el
corpus de textos. Una forma de capturar este conocimiento es por medio de técnicas de
Análisis Semántico basadas en corpus.
4. Modelo Multiestrategia de Evaluación de Reglas de
Asociación
Uno de los aspectos claves en evaluación de patrones cuando se utilizan modelos de
conocimientos (Lattices) consiste en el tipo de restricción de relaciones semánticas, lo cual se
debe a la forma en que son creados los conceptos. En el caso de lattices, crear conceptos
depende fuertemente en las propiedades exactas del conjunto inclusión que podría
eventualmente descartar semánticamente términos que no se encuentran en el conjunto a
partir del cual se construye el concepto. Por otro lado, la evaluación de patrones con métrica
de distancia semántica basado en LSA no permite establecer relaciones específicas de
generalización/especialización lo cual hace más complejo el cálculo de métricas basadas en
estructuras como conformidad o novedad. Además, relaciones con nombres específicos entre
términos resulta difícil de determinar con datos provistos por LSA a menos que se consideren
tareas adicionales de extracción de relaciones.
En este trabajo se combina un modelo basado en Lattice con medidas de similaridad
basadas en LSA con el objetivo de realizar un “matching” más aproximado usando métrica de
distancias semánticas al momento de construir el modelo de conocimiento. Con lo anterior, se
logra un mecanismo más efectivo para evaluar patrones en forma de reglas de asociación. Por
lo tanto, la contribución de esta tesis consiste en desarrollar un nuevo enfoque multi-estrategia
para evaluar patrones usando modelo de conocimiento semántico que se construye
automáticamente en dos fases de la siguiente manera:
- Construyendo un espacio semántico multidimensional: el significado contextual de
palabras en un corpus puede ser inferido a partir de la ocurrencia de éstas en los documentos
de textos por medio de LSA. Los vectores multidimensionales obtenidos de esta tarea pueden
ser utilizados para calcular similaridad semántica entre los términos cuando se construye el
modelo.
- Construyendo un modelo de conocimiento basado en Lattices: el descubrimiento de
patrones puede ser realizado midiendo distancias implícitas en la estructura jerárquica de
conceptos en términos de generalización/especialización [6, 7, 20]. A diferencia de otros
enfoques, en la construcción del Lattice se incorpora métricas de similaridad semántica basada
en LSA cuando se crean los conceptos, lo cual puede hacer más efectiva la evaluación de
reglas como también más robusta la creación de conceptos. Por lo anterior, esta estrategia de
dos fases se denomina Lattice Conceptual Semántico (LCS), y permite la creación aproximada
45

conceptos en modelos de conocimientos tipo Lattice. La estructura general del algoritmo
utilizado en este enfoque se muestra en la figura 16.
Sea C un corpus de entrenamiento
Sea S un espacio semantico multidimensional
C’ preprocesamiento (C)
S’ Entrenamiento LSA con C’
Construir Lattice L con features de C’ y S
Figura 16: Enfoque multi-estrategia de evaluación de patrones.
El algoritmo para construir nuestro LCS se basa en la estrategia propuesta por Linding
[23] extendiendo su estructura para incorporar LSA, tal como se muestra en la figura 17.
Crear Lattice L desde features extraídos y un espacio LSA:
Sea L un Lattice (G, M, I)
Donde (G,M) y (G,M,I) son el concepto y el contexto respectivamente
c ( ,
''
')
Insertar (c, L)
for x NEIGHBORS (c, (G, M,I))
lookup (x, L)
Si no se encuentra y SimilaridadLSA (x ,c) > Umbral LSA
Entonces insertar (x, L)
x x {
c}
*
*
fin for
LCS L
*
*
c c {
x}
c next(
c,
L)
Si no se encuentra entonces salir
Figura 17: Algoritmo Creación Lattice Conceptual Semántico (LCS).
En el algoritmo anterior, la función NEIGHBORS calcula los vecinos superiores de un
concepto (G, M), lo cual se puede utilizar recursivamente para calcular todos los conceptos L
de un contexto partiendo del concepto menor ( , ''
')
del lattice. Cada concepto c tiene
asociado dos listas: la lista c* que posee sus vecinos inferiores y otra lista c * que tiene los
vecinos superiores.
Cada concepto puede ser cambiado por dos conceptos diferentes como su vecino
superior, mientras el algoritmo procesa cada uno de los dos conceptos su vecino superior
puede ser detectado. Para este propósito todos los conceptos son almacenados en un árbol de
búsqueda L. En cada paso, el algoritmo encuentra un vecino, y busca utilizando método
lookup en el árbol L si existe instancias del concepto insertadas con anterioridad. Por otro
lado, si la similaridad LSA entre el nuevo concepto y x excede el Umbral LSA el concepto se
inserta en L.
46

El algoritmo inserta conceptos en L y busca al mismo tiempo: next ( c,
L)
preguntando
por el menor concepto que es mayor que c con respecto al orden total . Para asegurar que
todos los conceptos que son insertados también considera los vecinos superiores, el orden total
del árbol debe ser el orden parcial del lattice ≤ de la siguiente manera: c1 < c2 implica que
c1 c2, de esta forma el vecino recientemente insertado es mayor que el concepto actual
respecto al orden y por esto es considerado después por la función next.
4.1 Preprocesamiento
En esta etapa se realizan actividades básicas de preprocesamiento para manejar los
textos escritos en lenguaje natural, las cuales son las siguientes:
a) Eliminación de Stopwords
En esta etapa se eliminan todas las palabras irrelevantes que son conocidas como
Stopwords, entre las cuales destacan: artículos, preposiciones, conjunciones, verbos comunes
etc.
b) Lematización
En esta etapa se identifican la raíz de las palabras presentes en cada feature encontrado.
Por medio de lo cual, las palabras escritas de distintas maneras pero que tienen un mismo
significado (poseen la misma raíz) se consideraban como una misma palabra. Esto ayuda a
mejorar la precisión en el cálculo del support y confidence de las reglas de asociación
generadas.
El lematizador nos entrega que todas estas palabras tienen la misma raíz “abandon” del
verbo “abandonar”. Se puede apreciar que todas las palabras están escritas de diferente
manera pero que tienen el mismo significado. Ahora, supongamos que la lista de palabras
corresponde al total de features encontrados. Entonces si estas 6 palabras no fueran
lematizadas cada una de ellas tiene un support de 1, es decir, aparecen una sola vez en todos
los documentos, en cambio si se aplicará el lematizador se tiene una sola palabra que tiene un
support de 6.
c) Etiquetado Léxico
Dentro de los métodos de reconocimiento de frases existen herramientas capaces de
etiquetar cada palabra presente en un texto de acuerdo al rol que juegan en una oración, es
decir, si la palabra corresponde a un nombre, verbo, sustantivo, artículo, adjetivo, adverbio,
etc. Estas características se denominan Partes del Habla y las herramientas que permiten
predecir estas etiquetas o categorías se denominan Etiquetadores POS (Part-Of-Speech) [15].
47

tags interpretación tag interpretación tag interpretación
Verb, gerund or present
CC Coordinating conjunction NNPS Proper noun, plural VBG participle
CD Cardinal number PDT Predeterminer VBN Verb, past participle
Verb, non-3rd person singular
DT Determiner POS Possessive ending VBP present
Verb, 3rd person singular
EX Existential there PRP Personal pronoun VBZ present
FW Foreign word
Preposition or subordinating
PRP$ Possessive pronoun WDT Wh-determiner
IN conjunction RB Adverb WP Wh-pronoun
JJ Adjective RBR Adverb, comparative WP$ Possessive wh-pronoun
JJR Adjective, comparative RBS Adverb, superlative WRB Wh-adverb
JJS Adjective, superlative RP Particle
LS List item marker SYM Symbol
MD Modal TO to
NN Noun, singular or mass UH Interjection
NNS Noun, plural VB Verb, base form
NNP Proper noun, singular VBD Verb, past tense
Tabla 7: Algunas etiquetas utilizadas por el Etiquetador POS.
Un ejemplo de un texto etiquetado es el siguiente:
The/DT endoplasmic/JJ reticulum/NN (/( ER/NN )/) in/IN Saccharomyces/NNP cerevisiae/NNP
consists/VBZ of/IN a/DT reticulum/NN underlying/VBG the/DT plasma/NN membrane/NN (/(
cortical/JJ ER/NN )/) and/CC ER/NN associated/VBN with/IN the/DT nuclear/JJ envelope/NN (/(
nuclear/JJ ER/NN )/) ./. We/PRP used/VBD a/DT Sec63p-green/JJ fluorescent/JJ protein/NN
fusion/NN protein/NN to/TO study/VB motility/NN events/NNS associated/VBN with/IN inheritance/NN
of/IN cortical/JJ ER/NN and/CC nuclear/JJ ER/NN in/IN living/VBG yeast/NN cells./NNS During/IN
M/NN phase/NN before/IN nuclear/JJ migration/NN ,/, we/PRP observed/VBD thick/JJ ,/,
apparently/RB rigid/JJ tubular/JJ extensions/NNS emanating/VBG from/IN the/DT nuclear/JJ ER/NN
that/WDT elongate/VBP ,/, undergo/VBP sweeping/JJ motions/NNS along/IN the/DT cell/NN
cortex/NN ,/, and/CC shorten./VB Two/CD findings/NNS support/VBP a/DT role/NN for/IN
microtubules/NNS in/IN this/DT process/NN ./.
d) Definición y Búsqueda de Features
En este modelo, la representación de los textos se realiza mediante features que son de
la siguiente manera:
1. Nombre | Sustantivo | Adjetivo
2. Nombre | Sustantivo
En esta etapa se escoge un tipo de feature, y se busca en todo el corpus de textos
combinaciones de tags que correspondan a alguna de las combinaciones del tipo de feature
seleccionado. Estos features encontrados se dice que representan el corpus de textos debido a
que en ellos se aplica la técnica de reglas de asociación para encontrar patrones en los textos.
48

Cada uno de los features busca encontrar combinación de las categorías gramaticales
por las que esta conformado. Por ejemplo, el feature Nombre | Sustantivo | Adjetivo busca
encontrar en los textos combinaciones de estas tres partes del habla. Estas combinaciones
corresponden a las siguientes:
Nombre | Sustantivo | Adjetivo
Nombre | Adjetivo | Sustantivo
Sustantivo | Adjetivo | Nombre
Sustantivo | Nombre | Adjetivo
Adjetivo | Sustantivo | Nombre
Adjetivo | Nombre | Sustantivo
4.2 Generación del Modelo de Conocimiento
Para construir el Modelo Conocimiento Semántico se deben generar los modelos
semántico y del dominio basados en LSA y FCA respectivamente en el siguiente orden:
a) Creación Espacio Semántico con LSA
Utilizando un corpus de texto, LSA produce un conjunto de vectores semánticos
altamente dimensionales que representan conocimientos a nivel léxico semántico por cada
palabra de un documento. Los vectores son obtenidos aplicando un conjunto de operaciones
matriciales utilizando la técnica de Descomposición de Valores Singulares (Singular Value
Descomposition o SVD). La representación de vector entonces se puede utilizar para medir la
cercanía semántica de dos términos t1 y t2 de la siguiente forma:
b) Generación de Estructuras Conceptuales
SimilaridadLSA (t1, t2)=COSENO (t1, t2)
Para generar un Lattice Conceptual a partir de términos extraídos desde un corpus de
textos se utilizó una adaptación al método propuesto por Toussaint [6, 7, 20]. Nuestro enfoque
considera conocimiento léxico semántico provisto por LSA para agregar atributos similares
dentro de un concepto del lattice sin utilizar recursos externos de conocimiento tal como se
presentó en la figura 17. Cabe resaltar que un lattice utiliza un tipo de relación de jerarquía (es
decir, a-subconjunto–de) el cual no puede ser determinado al utilizar sólo métricas de
similaridad semántica. Por lo anterior, al utilizar LSA no es posible determinar el nombre de
una relación o incluso la dirección (distancia LSA entre término t1 y t2 es la misma entre t2 y
t1). Para resolver la problemática antes planteada, los vectores semánticos provistos por LSA
son incorporados para medir similaridad entre términos que se agregan por FCA al Lattice
cuando se construye la Estructura Conceptual. Dado dos términos t1 y t2 para ser
incorporados en el Lattice el término t1 debe estar incluido en un subconjunto de t2 (con t1 no
49

necesariamente un matching exacto con el otro término) y la similaridad LSA entre ambos
excede cierto Umbral LSA. Este lattice que es creado se denomina Lattice Conceptual
Semántico (SCL).
La tabla 8 muestra valores de similitud semántica de los términos presentes en el
mismo corpus de textos de la tabla 3.
a b C d e
a 1 0.2 0.3 0.4 0.5
b 0.2 1 0.6 0.7 0.8
c 0.3 0.6 1 0.9 0.95
d 0.4 0.7 0.9 1 0.96
e 0.5 0.8 0.95 0.96 1
Tabla 8: Similitud existente entre palabras del corpus de textos
Dado el ejemplo del contexto formal de la tabla 3 y considerando las similitudes
semánticas de la tabla 8, se pueden construir más de un Lattice Conceptual Semántico
dependiendo del valor de Umbral similaridad semántica (Umbral LSA).
Al definir experimentalmente el valor Umbral LSA =1.0, que es el máximo valor
posible, el Lattice conceptual Semántico queda con la siguiente estructura de la figura 18.
Figura 18: Lattice Conceptual Semántico con Umbral LSA=1.0.
Como se aprecia en el Lattice Conceptual Semántico de la figura 18, con un Umbral
LSA igual a 1.0 el modelo no tiene relevancia en la evaluación de reglas de asociación, ya que
todos los conceptos quedan en un mismo nivel de jerarquía.
19.
C1
{}
C2 C3 C4 C5 C6
C7
{c}
{b, e} {a,c} {e,c,b } {a, d, c} {a, b, c, e}
Si se reduce el Umbral LSA a 0.9 se obtiene Lattice conceptual Semántico de la figura
C2 C3 C4 C5 C6
C7
C1
{c} {b, e} {a,c} {e,c,b } {a, d, c} {a, b, c, e} {a, b, c, d, e}
Figura 19: Lattice Conceptual Semántico con Umbral LSA=0.9.
{}
50
C8
{a, b, c, d, e}
C8

Como se aprecia en las figura 18 y 19, al disminuir el Umbral LSA la estructura del
Lattice conceptual Semántico cambia. Al disminuir el valor de Umbral LSA se obtiene una
estructura que permite diferenciar semánticamente mejor los términos que en ella se
encuentran.
Nuevamente si se reduce el Umbral LSA a 0.8, cambia la estructura del Lattice
Conceptual Semántico, tal como se aprecia en la figura 20.
{c}
C2
C5
{e, c, b }
C3
C4
C1
{b, e} {a, c} {a, d, c} {a, b, c, e}
Figura 20: Lattice Conceptual Semántico con Umbral LSA=0.8.
Al definir el Umbral LSA a 0.7 el Lattice conceptual Semántico queda como se aprecia
en la figura 21.
{c}
C7
{a, b, c, e}
C2
C5
C3
{b, e}
{e, c, b }
C8
{a, b, c, d, e}
C1
Figura 21: Lattice Conceptual Semántico con Umbral LSA=0.7
{}
51
{}
C6
C4
C6
{a, c}
C7
{a, d, c}
C8
{a, b, c, d, e}

Como se aprecia en la figuras 18, 19, 20 y 21 al variar el Umbral LSA, la estructura del
Lattice Conceptual Semántico cambia. Se puede apreciar que a medida que va disminuyendo
el Umbral LSA la estructura posee más niveles de jerarquía, lo que permitirá evaluar de mejor
forma las reglas de asociación descubiertas. Con valores Umbral LSA entre 0.0 y 0.6 el Lattice
Conceptual Semántico queda con la misma estructura que el presentado en la figura 12.
{d}
Figura 22: Lattice Conceptual Semántico con Umbral LSA=0.6, 0.5, 0.4, 0.3, 0.2, 0.1, 0.0
Como se aprecia en la construcción del Lattice Conceptual Semántico al variar el
Umbral LSA, la estructura de éste varia. Se puede apreciar con medidas cercanas a 1 la
estructura no posee muchos niveles de jerarquía. Por el contrario con valores entre 0.0 y 0.6
(ver figura 22) la Estructura Conceptual Semántica es igual a la construida en el enfoque de
Toussaint [6, 7, 20]. En el ejemplo se aprecia que puede resultar más útil para evaluar el grado
de interés de las reglas el Lattice Conceptual Semántico construido con valores de Umbral
LSA entre 0.7 y 0.8.
4.3 Generación y Evaluación de Reglas de Asociación
C1
{c} {b, e}
{a}
C2
C4
C6
{}
C8
{a, b, c, d, e}
En esta investigación se uso técnicas simples para la generación de reglas de
asociación. La ventaja de ello es su relativa simplicidad para traspasar el conocimiento de las
relaciones de un Lattice a una estructura de patrones basadas en reglas. En esta etapa del
modelo Lattice Conceptual Semántico se realizan dos tareas principales: generación de los
conjuntos cerrados frecuentes y la generación de reglas de asociación. Posteriormente, se
evaluó el grado de interés de cada regla de asociación descubierta. Para esto, se utiliza la
estructura del Lattice Conceptual Semántico. Cada regla se evalúa de acuerdo a la ubicación
jerárquica del antecedente y el consecuente en dicho Lattice, el cual se representa como un
conjunto finito y parcialmente ordenado de términos que establece una relación de
generalización/especialización.
52
C3
C5
C7
{ }
{ }

En Toussaint et al. [6, 7, 20] presentan la métrica “conformidad” que se calcula en
base al Lattice Conceptual. En nuestro modelo, utilizamos la misma métrica pero la
denominamos “conformidad semántica”, puesto que se calcula de acuerdo a un Lattice
Conceptual Semántico.
Al igual que en el enfoque de Toussaint [6, 7, 20] el cálculo de conformidad semántica
de los elementos del dominio es asimétrico, es decir, el valor de conformidad de la regla
k1→k2 es distinto a la conformidad de k2→k1. Esto se debe a que la relación de
generalización/especialización presente en la estructura conceptual del dominio es
unidireccional.
En esta etapa se realiza las siguientes tareas:
a) Cálculo de Conformidad Semántica
Por cada término que se encuentra en el Lattice Conceptual Semántico se calcula la
Conformidad Semántica con todos los demás términos pertenecientes al lattice. La
Conformidad Semántica representa el grado de generalización/especialización que tienen dos
términos en el Lattice Conceptual Semántico. Mientras mayor sea la distancia entre dos
términos en el Lattice, menor es la relación de generalización/especialización que poseen
entre sí. Por el contrario, cuando la distancia entre dos términos es menor, mayor es el grado
de generalización/especialización que existe entre ellos, y por ende, existe una relación más
estrecha de los elementos en el dominio.
Si la conformidad semántica entre el antecedente y el consecuente de una regla de
asociación tiene una alta ponderación se debe a que es una copia de una unidad de
conocimiento existente en el modelo de conocimiento. Contrariamente, una regla que tiene
una baja ponderación potencialmente expresa una relación interesante entre los dos términos
ya que posiblemente no existe ninguna relación de generalización/especialización entre los
dos términos. Por lo tanto el grado de interés es inverso la conformidad semántica.
Al finalizar esta etapa del modelo, se genera una matriz bidimensional que contiene la
conformidad semántica de todos los términos existente en los features descubiertos
anteriormente.
En el ejemplo del modelo de la figura 22, la matriz de conformidad semántica se
aprecia en la tabla 9.
a b c d e ∑
a 0,26 0,26 0,09 0,26 0,13 1
b 0,03 0,37 0,19 0,03 0,37 1
c 0,07 0,07 0,73 0,07 0,07 1
d 0,07 0,07 0,07 0,73 0,07 1
e 0,04 0,04 0,44 0,04 0,44 1
Tabla 9: Matriz Conformidad Semántica del Modelo de Conocimiento.
53

) Cálculo de Conformidad de las Reglas de Asociación
Para calcular la conformidad semántica en las reglas de asociación se distinguen dos
tipos de reglas: simples y complejas. Las primeras son las que tienen un término tanto en el
antecedente como en el consecuente, en cambio las complejas pueden tener varios términos.
El cálculo de la conformidad de las reglas de asociación descubiertas se realiza de igual
forma que en el enfoque propuesto por Toussaint et al. [6, 7, 20].
c) Ranking de valores de evaluación
En la última etapa de nuestro modelo se realiza el ranking de los valores al evaluar las
reglas de asociación descubiertas. Por cada regla descubierta se calcula la conformidad
semántica entre el antecedente y el consecuente de una regla de asociación. Si la métrica tiene
una alta ponderación se debe a que es una copia de una unidad de conocimiento existente en
el modelo de conocimiento. Contrariamente, una regla que tiene una baja ponderación
potencialmente expresa una relación interesante entre los dos términos ya que posiblemente
no existe ninguna relación de generalización entre los dos términos. Por lo tanto el grado de
interés es inverso la conformidad semántica, es decir, “mientras menor sea conformidad
semántica entre el antecedente y el consecuente de la regla de asociación, mayor es el grado
de interés que aporta la regla de asociación”.
La figura 23 muestra una estructura conceptual que fue construida sin considerar LSA
en la creación de los conceptos.
casa
vivienda
C4
C2 C3
C5
jeep
reclamo
Figura 23: Ejemplo Estructura Conceptual sin LSA
Por otro lado, en la figura 24 se muestra como ejemplo una Estructura Conceptual que
fue construida apoyado por la asociación semántica provista por LSA utilizando el mismo
corpus de textos del ejemplo de la figura 23 En esta figura se aprecia que los conceptos se
encuentran agrupados semánticamente.
54
C1
perro

C2
casa
vivienda
C4
C3
cabaña
Figura 24: Estructura Conceptual con LSA
Como se aprecia en la figura 24, casa y cabaña en términos de semántica están más
relacionados entre sí, y son generalizados a través del concepto formal vivienda. Por otro lado,
perro y jeep semánticamente no son cercanos a vivienda, por lo tanto no son subconceptos de
vivienda.
Al evaluar una regla de asociación “vivienda””reclamo” con la estructura
conceptual de la figura 23, la regla se evaluaría con un bajo grado de interés, puesto que en
esta estructura los conceptos “vivienda” y “reclamo” se encuentran relacionados. Por el
contrario, la misma regla “vivienda””reclamo” evaluada con la estructura conceptual
semántica de la figura 24 se considera con alto grado de interés, ya que ambos términos no se
encuentran relacionados entre sí.
55
C5
reclamo
C1
perro

5. Experimentos y Resultados
En este capítulo se evaluó la efectividad de nuestro enfoque de evaluación de patrones
implementando un prototipo simple y realizando en una primera etapa una serie de ajustes y
posterior a ello, experimentos finales. Los resultados finales se compararon con algunos
modelos del estado del arte en evaluación de patrones, y además se correlacionaron con
opiniones de expertos humanos.
Para realizar el testing se utilizó un corpus de 1000 documentos extraídos desde el
Corpus BioText Data 3 , herramientas de Procesamiento de Lenguaje Natural como
etiquetadores Part-of-Speech (POS) y un lematizador son obtenidos desde GENIA [38] [39] y
SNOWBALL 4 respectivamente. Parra crear el Lattice Conceptual Semántico (LCS) se
implementó una extensión en la herramienta Concepts 5 . Además, los vectores basados en LSA
se obtienen usando la librería Infomap NLP Software [19].
5.1 Experimentos de Ajuste
Para propósitos de entrenamiento y preprocesamiento se utilizó un 20% de los
documentos del copus original para ajustar los parámetros de nuestro modelo, que incluyen:
Umbral LSA, Profundidad de Lattice Conceptual, etc. Adicionalmente, valores de métricas
tradicionales como support/confidence (minsupport y minconfidence) son sistemáticamente
ajustadas para los algoritmos ACLOSE y APRIORI, los cuales son utilizados para generar
reglas de asociación relevantes [27].
Manualmente se examinan las reglas de asociación generadas, los patrones más
relevantes son obtenidos con valores de minsupport y minconfidence menores a 1.0 y 0.1
respectivamente. Además, el valor de Umbral LSA se ajustó analizando la calidad del Lattice
Conceptual Semántico creado en términos de conformidad de las reglas descubiertas.
Diferentes valores del Umbral LSA para crear el LCS y las mejores reglas obtenidas se pueden
apreciar en la tabla 10.
Umbral LSA
Regla Asociación
0.0 0.1 0.2 0.3 0.4 0.5
segments. --> transmembrane, Orientation 1 1 1 1 1 1
fur --> Max-Planck-Institut, Zuchtungsforschung 1 1 1 1 2 1
two-hybrid analyses --> cerevisiae, screening 1 1 1 1 2 2
protein --> Arf, GTPase-activating 1 1 1 1 3 2
Tabla 10: Ranking Lattice Conceptual Semántico para valores incrementales Umbral LSA.
3
http://biotext.berkeley.edu/data.html
4
http://snowball.tartarus.org/
5 http://www.st.cs.uni-sb.de/~lindig/src/concepts.html
56

Los experimentos muestran que para valores del Umbral LSA entre 0.0 y 0.3 el LCS
resulta ser irrelevante debido a que sólo contiene un nivel jerárquico, por lo tanto, la
evaluación de reglas posee una conformidad uniforme. El promedio de profundidad del LCS
construido con diferentes valores de Umbral LSA se muestra en la figura 25, en la cual el valor
de 0.4 corresponde al mejor valor para evaluar las reglas con la estructura lattice.
Profundidad
3,5
3
2,5
2
1,5
1
0,5
0
0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0
Umbral LSA
Figura 25: Profundidad evaluación en reglas descubiertas.
En este escenario, la regla más interesante resulta ser
“segments” → “transmembrane, Orientation”, la cual es evaluada en primer lugar. Por otro
lado, la regla “protein” → “Arf, GTPase-activating” es evaluada en la última posición del
ranking debido a que es poco interesante. Para un Umbral LSA igual a 0.5 se generan dos
posiciones diferentes en el ranking, en primer lugar
“segments”→“transmembrane,Orientation” y “fur”→“Max-Planck-Institut,
Zuchtungsforschung”. Por el contrario, las reglas “protein”→“Arf, GTPase-activating” y
“two-hybrid analyses"→“cerevisiae, screening” son evaluadas en la última posición.
Para un conjunto diferente de reglas generadas en la tabla 11 se aprecia que para
valores de Umbral LSA menores a 0.2 claramente afecta al ranking de evaluación del modelo,
por ejemplo, con Umbral LSA igual a 0.2 la regla “crassa”→“Neurospora” es evaluada en
primer lugar, mientras que la regla “virus” → “Vaccinia” y “actin” → “cerevisiae” se
ubican en la última posición del ranking. Por lo anterior, las reglas más relevantes son
obtenidas desde el LCS con Umbral LSA igual a 0.2 en términos de nivel de profundidad y
diferentes posiciones en el ranking.
Umbral LSA
Regla Asociación
0.0 0.1 0.2
profilin --> cerevisiae 3 3 4
actin --> cerevisiae 3 3 5
glucan --> Golgi 4 4 2
homolog --> Drosophila 2 2 3
virus --> Vaccinia 1 3 5
crassa --> Neurospora 4 1 1
genome. --> Arabidopsis 4 1 4
Tabla 11: Ranking Lattice Conceptual Semántico diversos valores Umbral LSA
57

5.2 Experimentos Finales
Para evaluar la efectividad del enfoque propuesto se utilizaron las configuraciones de
los parámetros realizados anteriormente para ajustar el modelo y comparar los resultados
frente a modelos de evaluación de patrones del estado del arte. Para esto, se utilizó el 80% del
corpus original, además, las evaluaciones obtenidas se correlacionan con opiniones de
humanos para investigar la efectividad de la evaluación automática del grado de interés de las
reglas obtenidas.
Las reglas de asociación son generadas a partir de una combinación de 104 features
con etiquetas POS del tipo: nombre propio, nombre y adjetivo, dando un conjunto total de 153
términos diferentes. Finalmente, se obtiene un total de 25 reglas de asociación con
minsupport=1.0 (minssuport=2.0 produce resultados no significativos) y minconfidence=0.1
tal como se muestra en la figura 26. Basado en los experimentos de ajustes, el Umbral LSA se
ajusta a 0.4 (ver figura 25).
Reglas Asociación descubiertas con minsup=1.0
30
25
20
Reglas 15
10
5
0
0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0
Confidence
Figura 26: Reglas de Asociación descubiertas
La evaluación final y comparación se realizó utilizando los siguientes
métodos/métricas de evaluación:
M1: evaluación utilizando métricas tradicionales de support y confidence.
M2: evaluación utilizando métrica de conformidad basada en lattice simple [6, 7, 20].
M3: evaluación usando disimilaridad semántica entre el antecedente y el consecuente de una
regla basada en información provisto por LSA sin el uso de modelo externo de conocimiento
[3].
M4: nuestra evaluación utilizando LCS para medir la conformidad de las reglas generadas.
58

Al mismo tiempo cada regla es evaluada por dos expertos humanos en Biomedicina
(E1 y E2) los cuales miden el grado de interés de las reglas realizando ranking desde 1 (muy
interesante) hasta 5 (sin interés). La evaluación realizada por los 4 métodos y la de los
humanos se puede apreciar en la tabla 12.
Reglas de Asociación
59
Métodos Expertos
M1 M2 M3 M4 EXP1 EXP2
aggregation. --> Huntington, disease-associated 4 3 23 1 1 2
nuclear --> cerevisiae 4 2 21 1 2 3
nuclear --> cerevisiae, pore 1 2 12 1 2 2
protein. --> wild-type 4 2 13 1 2 3
multidrug --> Pdr5p, ABC 4 2 10 1 1 1
archaeal --> jannaschii, aIF6 4 3 7 1 1 1
substrate. --> amino 3 1 24 2 3 3
mammalian --> C, Class 4 2 25 2 3 1
amino --> substrate. 3 2 11 2 5 5
Two-hybrid analyses, system. --> cerevisiae 4 2 4 2 2 5
cerevisiae. --> Saccharomyces 4 2 5 2 2 2
stalk. --> cerevisiae, ribosomal 4 3 6 2 1 1
cells. --> parental, Chemical 4 2 8 2 2 2
motif --> Walker, nucleotide-binding 4 2 9 2 5 5
fungus --> mushroom-producing, Schizophyllum 4 3 12 2 5 1
pore --> cerevisiae, nuclear 4 2 12 2 1 1
genetic data --> DSC1/MBF. 4 2 14 2 5 5
stalk --> cerevisiae, ribosomal 4 2 16 2 4 3
high --> cerevisiae, mobility 4 2 17 2 3 2
system. --> cerevisiae, Two-hybrid analyses 4 2 18 2 4 5
intermediate. --> covalent, Biochemical 4 3 19 2 5 4
jannaschii --> archaeal, aIF6 4 3 20 2 1 4
domain --> LexA, DNA-binding 4 2 22 2 5 5
albican --> Candida, strains 4 3 1 2 3 4
box --> A, ATP-binding 4 2 2 2 5 5
bacterium --> Gram-negative, Escherichia 4 1 3 3 1 1
Tabla 12: Ranking de Reglas de Asociación según los diversos métodos
La tabla 12 muestra que el método M1 evalúa en último lugar la regla “archaeal”
→ “jannaschii, aIF6”, mientras que la misma regla es evaluada como muy interesante por
ambos expertos, esto se puede deber al hecho que el método M1 utiliza sólo métricas basadas
en estadísticas para evaluar las reglas, lo cual puede ser no muy útil para medir el grado de
interés/novedad. Por otro lado, el método M2 genera 3 evaluaciones diferentes, en primer
lugar evalúa a la reglas “bacterium” → “gram-negative, escherichia” y
“substrate”→ “amino”, mientras que los expertos evalúan 7 reglas en primer lugar (sobre 9
reglas diferentes).

El método M3 evalúa en primer lugar la regla “albican” → “candida, straits”, sin
embargo la misma regla es considerada como poco interesante por ambos expertos (rango
entre 3 y 4). Las reglas evaluadas utilizando nuestro método M4 se pueden encontrar en tres
posiciones del ranking, lo cual sugiere algunas coincidencias en algunos lugares. Por lo tanto,
nuestro modelo sitúa las evaluaciones mejores (posiciones altas) a aquellas reglas que podrían
ser más interesantes. Debido a que no existe una absoluta noción del grado de interés, la
evaluación y ranking producidos por los 4 modelos fueron correlaciones con evaluación de
expertos humanos. Para lo anterior, se calculo la correlación de Speraman (r) para todas las
evaluaciones tal como se muestra en la tabla 13.
Métodos
Expertos M1 M2 M3 M4
EXP1 0.01 -0.05 0.13 0.32
EXP2 0.02 -0.04 0.07 0.15
Tabla 13: Correlación Evaluación Expertos versus Evaluación Métodos
En general, se aprecia una buena correlación entre los expertos y nuestro método
comprado con el resto de lo métodos (p < 0.01, t=3.461). Además, el método de evaluación
basado en Lattice mostró casi nula concordancia con la evaluación real. Nuestro enfoque (M4)
muestra una habilidad predictiva para evaluar patrones, aunque un experto fue más exigente
que el otro. Esto se puede deber al hecho que E1 tiene más de 20 años de experiencia, por lo
tanto tiene un mayor conocimiento para evaluar los patrones.
Por otro lado, el método basado en LSA (M3) se correlaciona mejor con la evaluación
de los expertos humanos que el método basado en lattices (M2) pero peor que nuestro método
(M4). La baja correlación del método M2 se puede deber a que éste considera sólo relaciones
estructurales y el método no es capaz de detectar las relaciones semánticas implícitas
existentes en la conexión entre términos.
Los resultados sugieren que nuestro enfoque es efectivo al evaluar el grado de interés
de patrones simples descubiertos en tareas de minería de textos en comparación con otros
métodos y evaluaciones humanas. Además, la combinación de métodos basados en Lattices y
Semántica basada en corpus resulta ser más promisoria en evaluación de patrones
descubiertos al ser comparados con ambos métodos separadamente (LSA y métodos basados
en Lattice).
60

6. Conclusiones
En esta tesis un nuevo modelo que combina métodos basado en Lattices y Semántica
basada en corpus es propuesto para evaluar automáticamente el grado de interés de patrones
descubierto en tareas de minería de textos.
El modelo utiliza LSA con el objetivo de realizar un “matching” aproximado del
conjunto inclusión cuando construye Estructuras Conceptuales en forma de Lattices. Lo
anterior significa que el enfoque propuesto es más robusto para incluir relaciones semánticas
que se encuentran implícitamente en los textos y no necesariamente enlazadas con relaciones
de generalización/especialización. Nuestra estrategia construye un Lattice Conceptual
Semántico (LCS) para medir la conformidad de las reglas de asociación basadas en las
métricas propuesta por Toussaint et al. [6, 7, 20] y por Atkinson et al. [3], sin utilizar fuente
de conocimientos externos.
La evaluación del grado de interés de las reglas utilizando LCS se correlacionó de
mejor forma con evaluación de humanos comparado con otros métodos de evaluación del
estado del arte. Además, el modelo al ser independiente de recursos externos y basado en
semántica basada en corpus se considera como un enfoque independiente del dominio.
El enfoque de minado de textos basado en Lattice Conceptual Semántico mostró
mejores resultados frente al sistema de minería de textos tradicional y el modelo de Toussaint
[6, 7, 20] en términos de la correlación y su poder predictivo. Esto podría deberse a que el
modelo Lattice Conceptual Semántico incorpora un modelo de conocimiento semántico del
dominio que permite evaluar el grado de interés de las reglas extraídas mediante una nueva
métrica de conformidad semántica que considera la relación de generalización/especialización
existente entre el antecedente y el consecuente de las reglas descubiertas y la similaridad
semántica entre ellos.
La contribución de esta tesis se manifiesta en el desarrollo de un nuevo modelo de
evaluación que combina dos técnicas: Análisis Semántico Latente con Estructuras
Conceptuales. El modelo desarrollado obtiene mejores resultados de evaluación frente al
sistema de minería de textos tradicional y el modelo de Toussaint et al. [6, 7, 20]
Como trabajo futuro, resulta interesante complementar el modelo de Lattice
Conceptual Semántico con alguna técnica que permita visualizar los patrones descubiertos y
asociarlos en el contexto del que fueron extraídos. Lo anterior permitiría al humano que tiene
que evaluar y analizar los patrones poder relacionarlos con los contextos en los cuales fueron
descubiertos, logrando así, un análisis con más nivel de detalle.
61

7. Referencias
[1] R. Agrawal. T. Imielinski, A. Swami. Fast algorithms for mining association rules.
Conference on Very Large Databases (VLDB), Santiago, Chile, 2003.
[2] R. Agrawal, T. Imielinski, A. Swami. Mining association rules between sets of items in
large databases. Conference on Management of Data. Washington, 1993.
[3] J. Atkinson, C. Mellish, S. Aitken. Combining information extraction with genetic
algorithms for text mining. IEEE Intelligent Systems and Their Applications, 19(3): pp.
2–30, 2004.
[4] S. Basu. Evaluating the Novelty of Text-Mined Rules Using Lexical Knowledge, Proc. 7th
Int’l Conf. Knowledge Discovery and Data Mining, ACM Press, pp 233–238, 2001.
[5] C. Blake, W. Pratt. Better rules, fewer features: A semantic approach to selecting features
from Text. ICDM, pp. 59-66, 2001.
[6] H. Cherfil, A. Napoli, Y. Toussaint. Classifying Association Rules with respect to Domain
Knowledge for text Mining. pp. 263-274, EGC 2005.
[7] H. Cherfil, A. Napoli, Y. Toussaint. Towards a Text Mining Methodology Using Frequent
Itemsets and Association Rule Extraction. Journées de l’informatique Messine(JIM-2003),
Knowledge Discovery and Discrete Mathematics, metz, pp. 285-294, 2003.
[8] R.Cutting, D. Karger, J. Pedersen, J. Tukey. Scatter/Gather: A Cluster-based Approach to
Browsing Large Document Collections. In Proceedings of the Fifteenth Annual International
ACM SIGIR Conference, pp. 318-329,1992.
[9] B. Davey, H. Priestley. Introduction to Lattices and Order. Cambridge University Press,
1990.
[10] K. Deb. Multi-Objective Optimization using Evolutionary Algorithms. Wiley, 2002.
[11] A. Don, E. Zheleva, M. Gregory, S. Tarkan, L. Auvil, T. Clement, B. Shneiderman, C.
Plaisant. Discovering interesting usage patterns in text collections: Integrating text mining
with visualization. Conference on Information and Knowledge Management. Lisbon, Portugal,
pp. 213-222, 2007.
[12] U. Fayyad, G. Piatetsky-Shapiro, P. Smyth. From Data Mining to Knowledge Discovery
in Databases. AI Magazine, 17: pp. 37-54,1996.
[13] C. Fellbaum. WordNet: An Electronic Lexical Database. MIT Press, Cambridge, MA,
1998.
[14] B.Ganter, R. Wille: Applied Lattice Theory: Formal Concept Analysis. Preprints, 1997.
62

[15] L. Guilder. Automated Part of Speech Tagging: A Brief Overview. Handout, Georgetown
University, 1995.
[16] R. Gutiérrez. Análisis Semántico Latente: ¿Teoría psicológica del significado?. Revista
Signos, 38(59), pp. 303-323 , 2005.
[17] J. Han, M. Kamber. Data Mining: Concepts and Techniques. Morgan Kaufmann, 2001.
[18] M. Hearst. Untangling text data mining. In Proceedings of the 37th Annual Meeting of
the Association for Computational Linguistics (ACL-99), pp. 3-10, College Park, MD, June
1999.
[19] Infomap NLP Software. “An Open-Source Package for Natural Language Processing”.
Infomap Project, Computational Semantics Lab, Stanford University’ Center for the Study of
Language and Information, USA, 2004.
[20] D. Janetzko, H. Cherfi, R. Kennke, A. Napoli, Y. Toussaint. Knowledge-based Selection
of Association Rules for Text Mining. 16th European Conference on Artificial Intelligence -
ECAI'04. (Valencia, Spain), pp. 485-489, IOS Press, 2004.
[21] W. Kintsch. On the notions of theme and topic in psychological process models of text
comprehension. En Louwerse, M. y van Peer, W. (Eds.) Thematics, Interdisciplinary Studies,
pp. 157-170. Amsterdam: Benjamins, 1999.
[22] T. Landauer, P. Foltz, D. Laham. Handbook of Latent Semantic Analysis. Lawrence
Erlbaum Associates, 2007.
[23] C. Linding. Fast concept analysis. Contributions to ICCS 2000, Working with Conceptual
Structures, Germany, 2000.
[24] J. Lovins. Development of a Stemming Algorithm, Mechanical Translation and
Computational Linguistics, 11, pp. 22-31, 1968.
[25] R. Mooney, U. Nahm. Text Mining with Information Extraction, Multilingualism and
Electronic Language Management: Proceedings of the 4th International MIDP Colloquium,
22-23 September 2003, Bloemfontein, South Africa, Daelemans, W., du Plessis, T., Snyman,
C. and Teck, L. (Eds.), pp. 141-160, Van Schaik Pub., South Africa, 2005.
[26] U. Nahm, R. Mooney. A mutually beneficial integration of data mining and information
extraction. In Proceedings of the Seventeenth National Conference on Artificial Intelligence
(AAAI-2000), pp. 627-632, Austin, TX, July 2000.
[27] D. Olson and D. Delen. Advanced Data Mining Techniques. Springer, 2008.
[28] P. Paice. Another Stemmer, SIGIR Forum, 24, pp. 56-61, 1990.
63

[29] N. Pasquier, Y. Bastide, R. Taouil, L. Lakhal. Pruning closed itemset lattices for
association rules. International Journal of Information Systems 24, pp. 25-46, 1999.
[30] N. Pasquier, Y. Bastide, R. Taouil, L. Lakhal. Discovering frequent closed itemsets for
association rules. In Beeri, C., Buneman, P., eds.: Database Theory – ICDT’99 Proceedings,
7 th International Conference, Jerusalem, Israel. Lecture Notes in Computer Science 1540, pp.
398-416, Springer 1999.
[31] U. Priss. Introduction to and Overview of Formal Concept Analysis. Annual Review of
Information Science and Technology, Vol. 40, 2006.
[32] M. Porter. An Algorithm for Suffix Stripping, program. Program: electronic library and
information systems. 40(3): pp. 211-218, 2006.
[33] R. Srikant and R. Agrawal. Mining Generalized Association Rules, Proc. of the 21st Int'l
Conference on Very Large Databases, Zurich, Switzerland, Sep. 1995.
[34] A.Stavrianou, P. Andritsos, N. Nicoloyannis. Overview and Semantic Issues of Text
Mining. ACM SIGMOD, pp: 23 – 34, 2007.
[35] D. Swanson, N. Smalheiser. Assesing a gap in the biomedical literature: magnesium
deficiency and neurologic disease. Neuroscience Research Communications 15 (1), pp. 1-9,
1994.
[36] D. Swanson, N. Smalheiser. An interactive system for finding complemetary literature: a
stimulus to scientific discovery. Artificial Intelligence 91, pp. 183-203, 1997.
[37] A Tan. Text mining: The state of the art and the challanges. Proceedings of the PAKDD
1999 Workshop on Knowledge Discovery from Advanced Databases, pp. 65–70, 1999.
[38] Y. Tateisi, T. Jun'ichi. GENIA Annotation Guidelines for Tokenization and POS tagging.
Technical Report (TR-NLP-UT-2006-4). Tsujii Laboratory, University of Tokyo, 2006.
[39] Y. Tateisi, T. Jun'ichi. Part-of-Speech Annotation of Biology Research Abstracts. In the
Proceedings of 4th International Conference on Language Resource and Evaluation
(LREC2004). IV. Lisbon, Portugal, pp. 1267-1270, May 2004.
[40] R. Wille. Restructuring lattices theory: an approach based on hierarchies of concepts. In I.
Rival, editor, Ordered Sets, pp. 445-470. Reidel, Dordrecht-Boston, 1982.
[41] R. Wille. Concept lattices and conceptual knowledge systems. Computers and
Mathematics with Applications, 23, pp. 493-515, 1992.
[42] K. Wolff. A first Course in Formal Concept Analysis. Proceedings SoftStat'93. Gustav
Fischer Verlag., 1994.
[43] E. Zitzler, L. Thiele. An evolutionary algorithm for multiobjective optimization: The
strength pareto approach, Swiss Fed. Inst. Technol. (ETH), Zurich, Switzerland, 43, 1998.
64

8. Documentación Anexa
8.1 Lista StopWords
a been enough hereupon much please there whatever
about before etc hers must put thereafter when
above beforehand even herself my rather thereby whence
across behind ever him myself re therefore whenever
after being every himself name same therein where
afterwards below everyone his namely see thereupon whereafter
again beside everything how neither seem these whereas
against besides everywhere however never seemed they whereby
all between except hundred nevertheless seeming thick wherein
almost beyond few i next seems thin whereupon
alone bill fifteen ie nine serious third wherever
along both fify if no several this whether
already bottom fill in nobody she those which
also but find inc none should though while
although by fire indeed noone show three whither
always call first interest nor side through who
am can five into not since throughout whoever
among cannot for is nothing sincere thru whole
amongst cant former it now six thus whom
amoungst co formerly its nowhere sixty to whose
amount computer forty itself of so together why
an con found keep off some too will
and could four last often somehow top with
another couldnt from latter on someone toward within
any cry front latterly once something towards without
anyhow de full least one sometime twelve would
anyone describe further less only sometimes twenty yet
anything detail get ltd onto somewhere two you
anyway do give made or still un your
anywhere done go many other such under yours
are down had may others system until yourself
around due has me otherwise take up yourselves
as during hasnt meanwhile our ten upon
at each have might ours than us
back eg he mill ourselves that very
be eight hence mine out the via
became either her more over their was
because eleven here moreover own them we
become else hereafter most part themselves well
becomes elsewhere hereby mostly per then were
becoming empty herein move perhaps thence what
65