Un Modelo de Calidad de Datos para Portales Web - Grupo Alarcos

Un Modelo de Calidad de Datos
para Portales Web
Ciudad Real, 14 de noviembre de 2008
Angélica Caro Gutiérrez
Departamento de Ciencias de la Computación y
Tecnologías de Información
Universidad del Bío-Bío
Chile
Contenido
1. Motivación
2. Métodos de Investigación usados
3. PDQM (Portal Data Quality Model)
4. PoDQA (Portal Data Quality Assessment Tool)
5. Conclusiones
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
2
78
1

¿Qué es Calidad de Datos?
• La calidad de datos (DQ) es definida como: “apropiada para el
uso”, i.e., la capacidad de una colección de datos de reunir los
requisitos de los usuarios (Strong et al,1997).
• Esto implica que los datos deben estar de acuerdo con las
necesidades de quienes los van a usar, incluso si estos son muy
diferentes y con necesidades muy variadas.
• Además, la definición de DQ sugiere que la calidad de datos no
puede ser evaluada independientemente de las personas que
usan los datos (consumidores de datos).
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
¿Cómo sabemos si tenemos DQ?
Las personas normalmente asociamos la calidad de los
datos con exactitud
Sabattini
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Sabatini,
Zabatini
ZAbattini ?
Zavatini, …
3
78
4
78
2

Error de
escritura
que afecta
la Exactitud
Id
1
2
3
4
¿Cómo sabemos si tenemos DQ?
Sin embargo la DQ es más que sólo datos exactos…
Titulo
Casablanca
La sociedad de poetas
muertos
Harry Potter y el
prisionero de Azaban
101 dálmatas
Director
Weir
Curtiz
Alfonso
Cuarón
Nulo
Intercambio
de directores
que afecta la
Exactitud
Año
1942
1989
2004
1961
Número
remakes
1999
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
3
0
0
0
La ausencia
de valor es un
problema de
Completitud
Año último
remake
1940
Nulo
Nulo
Este valor no es
verdadero ya que la
película tiene remakes,
esto es un problema de
Actualidad
¿Cómo sabemos si tenemos DQ?
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Este año no puede
ser menor que el
año de estreno, esto
afecta la
Consistencia
Este año debe ser
nulo porque el
número de remakes
es 0, esto afecta la
Consistencia
5
78
6
78
3

PDQM : Motivación
Hoy en día muchas organizaciones han establecido portales Web
para complementar, sustituir o ampliar sus servicios.
Un portal Web es un sitio que reúne información de múltiples
fuentes del World Wide Web y que organiza este material en
forma simple y amigable para el usuario.
En general, los portales Web proveen a los usuarios con:
Acceso a diferentes fuentes (proveedores).
Información on-line y servicios relacionados con la información.
Un ambiente de trabajo.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Motivación
Los usuarios (consumidores de datos) en portales Web necesitan
asegurarse que los datos que obtienen son los apropiados para el
uso que ellos desean darle.
Las organizaciones propietarias de portales Web necesitan
entregar datos que reúnan los requisitos de los usuarios.
Entonces, la Calidad de los Datos es de gran interés tanto para
los consumidores de datos como para los propietarios de portales.
Propuestas específicas para abordar la DQ en los portales Web
no hay.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
7
78
8
78
4

PDQM : Motivación
Por lo tanto, lo anterior nos motiva a la definición de PDQM.
PDQM un Modelo de Calidad de Datos para
portales Web, centrado en la perspectiva de
los consumidores de datos.
Contenido
1. Motivación
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
2. Métodos de Investigación usados
3. PDQM (Portal Data Quality Model)
4. PoDQA (Portal Data Quality Assessment Tool)
5. Conclusiones
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
9
78
10
78
5

Métodos de Investigación usados
Investigación Acción
Principios de encuestas de investigación (Kitchenham y
Pflegeer, 2001-2003)
Revisión Sistemática (Kitchenham, 2004)
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Métodos de Investigación usados
Investigación Acción, como marco de referencia para el
desarrollo global de la tesis
Modelo de Calidad
de Datos para Portales Web
Propuestas
Consumidores de
Datos de Portales
Web (Beneficiarios)
Resultados
de Aplicación
Comunidad científica, miembros
de los proyectos Calipo, Calipso
y Competisoft, Consumidores
de datos (Grupo Crítico)
Grupo Alarcos
(Investigador)
Resultados
Refinados
Entorno
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Modelo de Calidad
de Datos para
Portales Web
(objeto investigado)
11
78
12
78
6

Métodos de Investigación usados
Investigación Acción
Principios de encuestas de investigación (Kitchenham y
Pflegeer, 2001-2003)
Revisión Sistemática (Kitchenham, 2004)
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Métodos de Investigación usados
Principios de encuestas de investigación
“Una encuesta no es sólo el instrumento para reunir
información, es un sistema completo para coleccionar
información para describir, comparar o explicar
conocimiento, actitudes y conductas ”
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
(Kitchenham y Pflegeer, 2001)
13
78
14
78
7

Métodos de Investigación usados
Principios de encuestas de investigación:
Objetivos Básicos
Tipos de encuestas
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Intentar describir un
fenómeno de interés
Evaluar el impacto de
alguna intervención
Supervisadas
No-supervisadas
Semi-supervisadas
Métodos de Investigación usados
Principios de encuestas de investigación:
Actividades
Básicas
Establecer objetivos medibles,
específicos
Diseñar la encuesta
Seleccionar a los participantes
Preparar el instrumento de
colección de datos
Evaluar el instrumento de
encuesta
Documentar la encuesta
Analizar los datos
Informar los resultados
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
15
78
16
78
8

Métodos de Investigación usados
Investigación Acción
Principios de encuestas de investigación (Kitchenham y
Pflegeer, 2001-2003)
Revisión Sistemática (Kitchenham, 2004)
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Métodos de Investigación usados
Revisión sistemática de la literatura
“Una revisión sistemática es una manera de evaluar e
interpretar toda la investigación disponible, que sea
relevante respecto de una interrogante de
investigación particular, en un área temática o
fenómeno de interés”.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
(Kitchenham,2004)
Adaptación del método propuesto por Kitchenham para su
utilización por parte de un investigador/estudiante de doctorado
y su director de tesis.
17
78
18
78
9

Métodos de Investigación usados
Revisión sistemática de la literatura
Etapa 1
Etapa 2
Etapa 3
Planificación de la Revisión
Identificación de la necesidad de revisión
Definición de un protocolo de búsqueda
Definición de un protocolo de revisión
Evaluación de la planificación
Desarrollo de la Revisión
Búsqueda de estudios primarios
Selección de estudios primarios
Extracción y gestión de los datos
Síntesis de datos
Publicación de los resultados
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Métodos de Investigación usados
Etapa 1: Planificación de la Revisión
Identificación de la necesidad de la revisión
Objetivo
Interrogantes de
Investigación
Resumir la evidencia existente respecto
de cómo se ha abordado la DQ en los
Portales Web o aplicaciones afines
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Revisión sistemática
¿Cuáles son los problemas asociados a
la DQ en los Portales Web?
¿Cuáles son los atributos de calidad
asociados a los datos en los Portales
Web?
¿ Cómo se puede mejorar la DQ en los
Portales Web?
19
78
20
78
10

Métodos de Investigación usados
Etapa 1: Planificación de la Revisión
Identificación de la necesidad de la revisión
Recursos
Disponibles
Actas ICIQ 1996-2005
Revistas electrónicas: ACM, IEEE, etc.
Libros Biblioteca UCLM
Biblioteca digital de literatura científica
(Citeseer)
Tesis y TI desarrolladas en Alarcos
Textos y revistas disponibles en
Alarcos
Internet
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Etapa 1: Planificación de la Revisión :
Definición del Protocolo de Búsqueda
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Revisión sistemática
Métodos de Investigación usados
Términos
Combinaciones
Revisión sistemática
Data, “Data Estrategias Information, Quality” de Búsqueda Web, www, Internet, Quality,
Portal, “Information Registro
Dato,
de
Información, Quality” Resultados
Calidad
Revisar las referencias
“Data CD’s Recursos Quality” de Si Se + Revisar En los (Web/Portal/ deberá algunos resultados los considerar índices /Internet/www)
casos de una donde la búsqueda se posibilidad aparecen pueden
bibliográficas que incluyen. En
“Information Texto actas con función no de Quality”+(Web/Portal/
Una nos de los ingresar la llevan revisión títulos aparición en a sitios de manual forma de cada donde nuevos de: artículo escalada título, el términos y los el
/Internet/www)
electrónico Autores Otros Internet
estos casos, se procederá a buscar
congresos de resumen, documento resumen, términos índice los que necesitamos cuales de términos, deberán búsqueda, está etc. ser
Los resultados
o conceptos
directamente de las búsquedas
que nos
el documento y el
ayuden
origen citado de
a
búsqueda restringido, leídos restringiéndola en busca buscar a de los en los las resultados términos páginas de y
los mismos,
encontrar
usando deben
trabajos de nuestro
los ser antecedentes registrados por que escrito.
personales interés. sus una combinaciones.
búsqueda de los anterior. autores.
aparecen en la referencia.
21
78
22
78
11

Métodos de Investigación usados
Etapa 1: Planificación de la Revisión :
Definición del Protocolo de Revisión
Artículos en
formato
científico,
distribución
del contenido
(Srba, 2004)
Resumen
2,5%
Trabajos Relacionados
2,5%
Cuerpo del Artículo
50%
Referencias
10%
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Etapa 1: Planificación de la Revisión :
Definición del Protocolo de Revisión
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Revisión sistemática
Introducción 10%
Preliminares 20%
Conclusión 5%
Métodos de Investigación usados
Normas de Revisión
Criterios de Inclusión
Revisión sistemática
Es Criterios el momento de Exclusión para conseguir el trabajo completo, ya que
debemos Se Estrategia incluirán asegurarnos
de todos extracción aquellos de su
de
relevancia trabajos datos o para estudios nuestra que revisión. aborden Se el
leerá tema al menos el resumen e introducción y se decidirá si
incluimos
Se de DQ en la Web y que se enmarquen en algunos de los
•Comunidad Estrategia excluirán
o no
de a aquellos que síntesis
el está estudio, orientado de estudios datos
en el base
que artículo a pesar
los [Introducción, criterios
de contener
de Trabajos este
los
siguientes
protocolo.
términos relacionados, de tópicos: Planteamiento/Análisis del problema de DQ
en la Web, En
búsqueda Referencias]
Propuesta la copia
o combinaciones
de un completa marco de trabajo del
de
trabajo,
ellos, no
y Propuestas adjuntar
contienen
para
comentarios
información •Contribuciones Los datos
evaluación y/o sobre
relevante serán [Resumen, sintetizados
mejora el mismo
sobre Introducción,
de la DQ. documento
el tema. de acuerdo Conclusión] a los siguientes
en un lugar visible. Se
•Posibles temas: consecuencias de las contribuciones (Aplicaciones directas,
llevará nuevas un técnicas, control nuevas acerca áreas de los de investigación, estudios primarios etc.).[Introducción] aceptados y
rechazados, •Información - Problemas
registrando detallada de DQ que el
en
motivo necesitemos la Web
de exclusión. para nuestra revisión y
Comprensión - Propuestas de un de experimento, marcos de trabajo los fundamentos de un marco de
trabajo, las características de un modelo, etc. [Preliminares, Cuerpo
- Propuestas para evaluación y/o mejora
del Artículo]
23
78
24
78
12

Métodos de Investigación usados
Revisión sistemática
Etapa 1: Planificación de la Revisión :
Evaluación de la planificación
La planificación definida debe ser evaluada con el fin de
corroborar las estrategias a emplear.
En este caso, por tratarse del
desarrollo de una tesis doctoral, la
planificación debió ser evaluada por el
director de Tesis.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Métodos de Investigación usados
Revisión sistemática de la literatura
Etapa 1
Etapa 2
Etapa 3
Planificación de la Revisión
Identificación de la necesidad de revisión
Definición de un protocolo de búsqueda
Definición de un protocolo de revisión
Evaluación de la planificación
Desarrollo de la Revisión
Búsqueda de estudios primarios
Selección de estudios primarios
Extracción y gestión de los datos
Síntesis de datos
Publicación de los resultados
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
25
78
26
78
13

Métodos de Investigación usados
Revisión sistemática
Etapa 2: Desarrollo de la Revisión :
Desarrollo de la búsqueda, sobre las fuentes de
información definidas y aplicando un protocolo de búsqueda.
Se desarrolla en base al protocolo de revisión, considerando los
criterios de inclusión y exclusión. Se puede registrar
información acerca del proceso que pueda ser útil más
adelante.
Extracción de la información de interés en los estudios, ya sean
extractos de los documentos, ideas, resúmenes, etc. Además
debe registrarse la información necesaria para gestión, como la
relativa a la bibliografía y otra que los investigadores consideren
pertinente.
Aplicación de la estrategia de síntesis definida en el protocolo
de revisión.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Métodos de Investigación usados
Revisión sistemática de la literatura
Etapa 1
Etapa 2
Etapa 3
Planificación de la Revisión
Identificación de la necesidad de revisión
Definición de un protocolo de búsqueda
Definición de un protocolo de revisión
Evaluación de la planificación
Desarrollo de la Revisión
Búsqueda de estudios primarios
Selección de estudios primarios
Extracción y gestión de los datos
Síntesis de datos
Publicación de los resultados
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
27
78
28
78
14

Métodos de Investigación usados
Revisión sistemática
Etapa 3: Publicación de los resultados:
Uso dado a los resultados obtenidos
Artículos de conferencias
Capítulo de la tesis doctoral, estado del arte
Contenido
1. Motivación
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
2. Métodos de Investigación utilizados
3. PDQM (Portal Data Quality Model)
4. PoDQA (Portal Data Quality Assessment Tool)
5. Conclusiones
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
29
78
30
78
15

Primera Parte:
Modelo Teórico
1.- Identificación de
atributos de DQ Web
PDQM (Portal Data Quality Model)
1. Proceso de Desarrollo
2. PDQM (Teórico)
3. PDQM (Operacional)
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Proceso de Desarrollo
3.- Clasificación de
atributos de DQ en la
Matriz
4.- Validación
PDQM’
2.- Definición de una
Matriz de Clasificación
PDQM’
1.- Definición de un criterio para
organizar los atributos de PDQM
2.- Definición de la
estructura de PDQM
3.- Preparación de PDQM
para la evaluación de la DQ
4.- Validación
PDQM
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Segunda parte:
Modelo Operacional
31
78
32
78
16

PDQM (Portal Data Quality Model)
1. Proceso de Desarrollo
2. PDQM (Teórico)
3. PDQM (Operacional)
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Teórico
Componentes básicos de PDQM:
Funcionalidades de
un Portal Web
PDQM
Perspectiva del
Consumidor de Datos
Atributos de DQ
Web
Funcionalidades Expectativas Set de atributos de
básicas de un DQ de los DQ propuestos
portal Web consumidores para de el contexto
(Collins, 2001) datos en Internet de la Web
(Redman, 2001)
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
33
78
34
78
17

PDQM : Modelo Teórico
1.- Identificación de
atributos de DQ Web
3.- Classificación de los
atributos de DQ en la Matriz
4.- Validación
PDQM
Teórico
2.- Definición de una
matriz de clasificación
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Teórico
1. Identificación de atributos de DQ Web.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
: mismo nombre y significado
: sólo el significado es el mismo
35
78
36
78
18

PDQM : Modelo Teórico
1.- Identificación de
atributos de DQ Web
3.- Classificación de los
atributos de DQ en la Matriz
4.- Validación
PDQM
Teórico
2.- Definición de una
matriz de clasificación
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Teórico
2. Definición de una Matriz de Clasificación.
3. Clasificación de los atributos de DQ en la matriz.
They provide the ability to access information
from a wide range of internal
and external information sources
and display the resulting information
at the single point-of-access desktop.
Data consumers need a
description of portal
areas covered, use of
published data, etc.),
Accessibility
Currency
Amount of data
Understandability
Relevancy
Concise Representation
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
37
78
38
78
19

PDQM : Modelo Teórico
3. Clasificación de los atributos de DQ en la matriz.
Como resultado se identificaron 34 atributos de DQ para PDQM.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Teórico
1.- Identificación de
atributos de DQ Web
3.- Classificación de los
atributos de DQ en la Matriz
4.- Validación
PDQM
Teórico
2.- Definición de una
matriz de clasificación
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
39
78
40
78
20

PDQM : Modelo Teórico
4. Validación
¿Hay coincidencia con
los consumidores de
datos?
¿Hemos considerado todos
los atributos importantes
para los usuarios?
¿Los atributos de
PDQM son relevantes
para los usuarios?
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Teórico
4. Validación
Objetivo
Planificación y
Programación
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Encuesta
Obtener la opinión de los consumidores
de datos de un Portal Web respecto a la
importancia para ellos de cada uno de los
atributos de DQ seleccionados para la
versión teórica de PDQM
Población objetivo: los consumidores de
datos de Portales Web.
Muestra utilizada: estudiantes de que
cursaban la asignatura Ingeniería de
Software.
Tamaño de la muestra: 70 sujetos.
41
78
42
78
21

PDQM : Modelo Teórico
4. Validación
Constatar la
disponibilidad de
recursos
Diseño de la
encuesta
Se obtuvieron todos los recursos
necesarios para crear el instrumento de
la encuesta, para tener acceso a un grupo
de sujetos que se ajustaran al perfil
definido, para administrar la encuesta y
para analizar los resultados.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Teórico
4. Validación
Preparación del
instrumento de
la encuesta
Diseño descriptivo, (apropiado cuando se
desea describir algún fenómeno de
interés)
Selección de preguntas de acuerdo con el
propósito y objetivo de la encuesta:
Una pregunta cerrada para consultar la
importancia de cada atributo de DQ (34 preguntas
en total), incluyendo la def. del atributo.
Una pregunta abierta para consultar por
cualquier otro atributo importante no considerado
en PDQM.
Las preguntas fueron creadas usando un
lenguaje convencional y expresando ideas
simples, sin incluir preguntas negativas.
Para reducir el tiempo de la encuesta, se
estandarizó el formato de las respuestas usando
una escala de Likert de cinco puntos: ``1" (No
importante) hasta ``5" (Muy importante).
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
43
78
44
78
22

PDQM : Modelo Teórico
4. Validación
Validar el
instrumento de
la encuesta
Selección de los
participantes
Aplicación del
Cuestionario
Experiencia de estudio piloto.
Validación del instrumento con 10 sujetos,
se modificó la redacción de 2 preguntas-
Método no probabilístico de ``muestreo
por conveniencia“.
La muestra de 70 sujetos.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Teórico
4. Validación
Análisis de los
resultados
Se entregó directamente a los sujetos, en
formato impreso.
Se explicó la naturaleza, objetivo y la
importancia del estudio.
Utilizaron menos de 25 minutos.
La encuesta fue contestada por 54 sujetos,
con una tasa de respuesta del 77% .
Después de una primera revisión se detectó
que uno de los cuestionarios tenía una
pregunta sin responder. Tomando en
cuenta la independencia de cada pregunta,
se decidió no eliminar el cuestionario pero
descartar la respuesta de esa pregunta en
los resultados finales.
Se hizo un análisis estadístico de los datos.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
45
78
46
78
23

PDQM : Modelo Teórico
4. Validación : Encuesta a Consumidores de Datos
Attribute
Attractiveness
Accessibility
Accuracy
Amount of Data
Applicability
Availability
Believability
Completeness
Concise Representation
Consistent Representation
Currency
Customer Support
Documentation
Duplicates
Ease of Operation
Expiration
Flexibility
Mean
4,06
4,52
4,28
3,96
4,00
4,60
4,15
3,85
3,63
3,63
4,54
3,54
3,31
3,00
3,72
3,28
3,26
2
3
2
2
2
3
2
2
2
2
3
1
1
1
2
1
2
Max
Value added
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
5
5
5
5
5
5
5
5
5
5
5
5
5
5
5
5
5
Attribute
Interactivity
Interpretability
Objectivity
Organization
Relevancy
Reliability
Reputation
Response Time
Security
Source's Information
Specialization
Timeliness
Traceability
Understandability
PDQM : Modelo Teórico
Novelty
Validity
4. Validación : Encuesta a Consumidores de Datos
Como resultado PDQM está compuesto por 33 atributos de DQ:
Accesabilidad
Actualidad
Aplicabilidad
Atractivo
Cantidad de Datos
Completitud
Credibilidad
Disponibilidad
Documentación
Duplicidad
Entendibilidad
Min
Especialización
Exactitud
Expiración
Facilidad de operación
Flexibilidad
Fiabilidad
Interactividad
Interpretabilidad
Novedad
Objetividad
Oportunidad
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Mean
3,19
3,87
3,67
3,50
3,94
4,09
4,15
3,46
4,30
4,22
2,56
3,61
4,06
3,63
4,02
3,57
3,98
Organización
Relevancia
Min
Represent. Concisa
Represent. Consistente
Reputación
Seguridad
Soporte de Usuario
Tiempo de Respuesta
Trazabilidad
Validez
Valor agregado
1
2
2
1
2
2
2
2
2
2
1
2
2
1
2
1
1
Max
5
5
5
5
5
5
5
5
5
5
5
5
5
5
5
5
5
47
78
48
78
24

PDQM (Portal Data Quality Model)
1. Proceso de Desarrollo
2. PDQM (Teórico)
3. PDQM (Operacional)
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Operacional
Uso de redes bayesianas (BN), con lo cual es posible:
– Representar las relaciones entre los atributos de DQ de una
manera explícita e intuitiva. Facilitar la comprensión del modelo,
su validación, evolución y explotación.
– Evitar los problemas de incertidumbre de la subjetividad.
– Usar la red obtenida para predecir/estimar la DQ de un portal.
– Aislar factores responsables, en el caso de un bajo nivel de DQ.
Construcción de una BN para un modelo de calidad
(Malak, 2006):
– Construcción de la estructura gráfica
– Definición de las tablas de probabilidades
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
49
78
50
78
25

PDQM : Modelo Operacional
PDQM
Teórico
1.- Definición de un criterio para
organizar los atributos de
PDQM
2.- Definición de una
estructura para PDQM
3.- Preparación de PDQM
para evaluar la DQ
4.- Validación
PDQM
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Operacional
1. Criterio para organizar los atributos de PDQM
Categorías de
DQ (Wang &
Strong, 1996)
Intrínseca
Accesibilidad
Contextual
Representacional
DQ Category
Intrinsic
Operational
Contextual
Representational
Data Quality Attributes
Applicability, Completeness, Flexibility, Novelty,
Reliability, Relevancy, Specialization, Timeliness,
Validity, Value-Added
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Accuracy, Objectivity, Believability, Reputation,
Currency, Duplicates, Expiration, Source’s information,
Traceability
Accessibility, Security, Interactivity, Availability,
Customer support, Ease of operation, Response time
Interpretability, Understandability, Concise
Representation, Consistent Representation, Amount of
Information, Attractiveness, Documentation, Organization
Generación de cuatro fragmentos de BN, (Neil et al. 2000)
51
78
52
78
26

PDQM : Modelo Operacional
PDQM
Teórico
1.- Definición de un criterio para
organizar los atributos de
PDQM
2.- Definición de una
estructura para PDQM
3.- Preparación de PDQM
para evaluar la DQ
4.- Validación
PDQM
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Categorias de DQ
Wang & Strong
Atributos de DQ
clasificados
2. Generación de la estructura global de PDQM
DQ Representacional (Nivel 1)
PDQM : Modelo Operacional
Relaciones de Influencia Directa
Nivel 2
Representación
Concisa
Representación
Consistente
Entendibilidad
Atractivo
Nivel 3
-
-
Interpretabilidad
Cantidad de
datos
Documentación
Organización
Organización
Premisa que soporta la relación
Si los datos son representados en forma compacta, sin
elementos superfluos, entonces estarán mejor representados.
Si los datos se presentan siempre con el mismo formato,
compatible con los datos previos y consistente con otras
fuentes, entonces estarán mejor representados.
Si los datos son presentados en un lenguaje y en unidades
apropiados para la capacidad del usuario, entonces serán
más entendibles.
Si la cantidad de datos entregados por el portal es apropiada
entonces serán más entendibles.
Si los datos poseen metainformación útil serán más
entendibles.
Si los datos están organizados con una combinación
consistente de características visuales serán más entendibles.
Si los datos están organizados con una combinación
consistente de características visuales serán más atractivos.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
53
78
54
78
27

Objetividad
Duplicados
Exactitud
Reputación
Credibilidad
DQ_Intriniseca
Trazabilidad
Actualidad
PDQM : Modelo Operacional
2. Generación de la estructura global de PDQM
Expiración
Tiempo de
respuesta
Interactividad
Facilidad de
operación
Soporte
de usuario
Accesibilidad
Seguridad
Disponibilidad
Confiabilidad
Aplicabilidad
Completitud
Validez
DQ_Operacional DQ_Contextual DQ_Representación
PDQ
Flexibilidad
Valor
Agregado
Novedad
Oportunidad
Relevancia
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Especialización
Representación
Concisa
PDQM : Modelo Operacional
PDQM
Teórico
1.- Definición de un criterio para
organizar los atributos de
PDQM
2.- Definición de una
estructura para PDQM
3.- Preparación de PDQM
para evaluar la DQ
4.- Validación
PDQM
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Categorias de DQ
Wang & Strong
Atributos de DQ
clasificados
Gráfico de la red
Bayesiana
Interpretabilidad
Representación
Consistente
Cantidad de
Datos
Documentación
Entendibilidad
Organización
Atractivo
55
78
56
78
28

Objetividad
Duplicados
Exactitud
Reputación
Credibilidad
DQ_Intriniseca
Trazabilidad
Actualidad
PDQM : Modelo Operacional
3. Preparación de PDQM para evaluar la DQ:
Expiración
Tiempo de
respuesta
Interactividad
Facilidad de
operación
Soporte
de usuario
Accesibilidad
Seguridad
Disponibilidad
Confiabilidad
Aplicabilidad
Completitud
Validez
DQ_Operacional DQ_Contextual DQ_Representación
PDQ
Flexibilidad
Valor
Agregado
Novedad
Oportunidad
Relevancia
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Especialización
Representación
Concisa
PDQM : Modelo Operacional
3. Preparación de PDQM para evaluar la DQ:
Método:
Interpretabilidad
Representación
Consistente
Cantidad de
Datos
Documentación
Entendibilidad
– Selección de uno de los fragmentos de red
– Si fuera necesario, crear nodos artificiales para simplificar el
fragmento, esto es, reducir el número de padres por nodo.
– Definir variables cuantificables por cada nodo de entrada en
el fragmento.
– Definir la tablas de probabilidad de cada nodo. En esta etapa
se tomará en consideración el contexto a evaluar. Esto es,
las probabilidades serán ajustadas de acuerdo al dominio que
se desea evaluar.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Organización
Atractivo
57
78
58
78
29

PDQM : Modelo Operacional
3. Preparación del fragmento DQ_Representacional:
– Creación de nodos artificiales para simplificar la red
Representación
Concisa
Interpretabilidad
Cantidad de Datos
Representación
Consistente
DQ_Representación
Documentación
Entendibilidad
Organización
Atractivo
Representación
Concisa
Representación
Consistente
Subred Original Subred Final
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Documentación
Representación
Cantidad de Datos
Volumen de Datos
Entendibilidad
DQ_Representación
PDQM : Modelo Operacional
3. Preparación de Sub-red DQ_Representacional:
– Definición de variables cuantificables
– Definición de tablas de probabilidades
LCcR
LCsR
Representación
Concisa
Representación
Consistente
LD LAD
Documentación
Representación
Volumen de
Datos
Cantidad de
Datos
Entendibilidad
DQ_Representación
Interpretabilidad
Organización
Atractivo
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
LI
LO
Interpretabilidad
Organización
Atractivo
LCsR = PSSD*0.5 + SDCD*0.5
Medidas derivadas:
PSSD: Páginas con el mismo estilo.
SDCD: Correspondencia entre fuente y destino
1
0
LCsR
Bad
Medium
Good
Fórmula
Criterio de Decisión
Low Medium
High
Low
0.8
0.12
0.08
0.3 0.45 0.6
Medium
0.08
0.8
0.12
High
0.04
0.14
0.82
59
78
60
78
30

PDQM : Modelo Operacional
PDQM
Teórico
1.- Definición de un criterio para
organizar los atributos de
PDQM
2.- Definición de una
estructura para PDQM
3.- Preparación de PDQM
para evaluar la DQ
4.- Validación
PDQM
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Categorias de DQ
Wang & Strong
Atributos de DQ
clasificados
Gráfico de la red
Bayesiana
Red
Bayesiana
PDQM : Modelo Operacional
4. Validación:
Comparar las evaluaciones de DQ de los mismos portales
usando PDQM y valoraciones de consumidores de datos,
hasta verificar la estabilidad de PDQM.
Primer
Experimento
1 portal
Muestreo por
Conveniencia ( 79
sujetos)
1 cuestionario para
todos los sujetos.
Segundo
Experimento
4 portales
Muestreo por
Conveniencia( 54
sujetos)
1 cuestionario para
todos los sujetos
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Tercer
Experimento
17 portales
Muestreo por
Conveniencia( 51
sujetos)
1 cuestionario para
todos los sujetos
61
78
62
78
31

4. Validation: primer experimento
Attribute
Evaluated
Attractiveness
Organization
Amount of Data
Understandability
Interpretability
Documentation
Consistent Representation
Concise Representation
Portal
Organization
Portal
PDQM : Modelo Operacional
Subj
30%
37%
18%
32%
6%
16%
18%
16%
17%
Low/Bad
PDQM
34%
26%
6%
52%
43%
9%
81%
6%
20%
Subj
61%
44%
49%
47%
45%
49%
53%
52%
68%
Medium
PDQM
44%
66%
13%
23%
49%
82%
13%
13%
40%
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM : Modelo Operacional
4. Validation: primer experimento
Attribute
Evaluated
Attractiveness
Amount of Data
Understandability
Interpretability
Documentation
Consistent Representation
Concise Representation
Subj
30%
37%
18%
32%
6%
16%
18%
16%
17%
Low/Bad
PDQM
26%
26%
8%
32%
40%
11%
73%
8%
18%
Subj
61%
44%
49%
47%
45%
49%
53%
52%
68%
Medium
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM
58%
60%
17%
48%
46%
73%
15%
17%
58%
Subj
9%
19%
33%
21%
48%
34%
29%
32%
16%
High/Good
9%
19%
33%
21%
48%
34%
29%
32%
16%
PDQM
22%
8%
81%
25%
7%
9%
6%
81%
40%
High/Good
Subj
PDQM
16%
14%
75%
20%
14%
15%
12%
75%
24%
63
78
64
78
32

PDQM : Modelo Operacional
4. Validación:
Comparar las evaluaciones de DQ de los mismos portales
usando PDQM y valoraciones de consumidores de datos,
hasta verificar la estabilidad de PDQM.
Primer
Experimento
1 portal
Muestreo por
Conveniencia ( 79
sujetos)
1 cuestionario para
todos los sujetos.
Probability tables
adjustment
Segundo
Experimento
4 portales
Muestreo por
Conveniencia( 54
sujetos)
1 cuestionario para
todos los sujetos
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Tercer
Experimento
17 portales
Muestreo por
Conveniencia( 51
sujetos)
1 cuestionario para
todos los sujetos
PDQM : Modelo Operacional
4. Validation: segundo experimento
Portal
Evaluated
www.uam.es
www.ujaen.es
www.us.es
www.ua.es
Subj
12,00%
32,00%
21,15%
10,00%
Low
PDQM
28,13%
27,13%
17,34%
35,63%
Representational DQ Level
Subj
44,00%
46,00%
48,05%
42,00%
Medium
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PDQM
51,27%
51,25%
50,27%
47,24%
Subj
44,00%
22,00%
30,77%
48,00%
Las evaluaciones de PDQM coinciden en un 75% con las
evaluaciones de los sujetos
High
PDQM
20,59%
21,60%
32,35%
17,11%
65
78
66
78
33

PDQM : Modelo Operacional
4. Validación:
Comparar las evaluaciones de DQ de los mismos portales
usando PDQM y valoraciones de consumidores de datos,
hasta verificar la estabilidad de PDQM.
Primer
Experimento
1 portal
Muestreo por
Conveniencia ( 79
sujetos)
1 cuestionario para
todos los sujetos.
Probability tables
adjustment
Segundo
Experimento
4 portales
Muestreo por
Conveniencia( 54
sujetos)
1 cuestionario para
todos los sujetos
Ajuste de
Indicadores
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Tercer
Experimento
17 portales
Muestreo por
Conveniencia( 51
sujetos)
1 cuestionario para
todos los sujetos
PDQM : Modelo Operacional
4. Validación: tercer experimento
Resultados de la correlación de Spearman:
Srep()
Sund()
Satt()
Spearman
Correlation Coefficient
Sig. (2-tailed)
Correlation Coefficient
Sig. (2-tailed)
Correlation Coefficient
Sig. (2-tailed)
Prob_Rep_H
0,414
0,099
0,298
0,245
0,297
0,248
Prob_Und_H
0,015
0,955
0,501
0,04
0,305
0,233
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Prob_Att_H
0,32
0,211
0,514
0,035
0,424
0,09
Understandability es estadísticamente valida con un 95% de confianza
Las tres variables son estadísticamente válidas con un 90% de confianza.
67
78
68
78
34

Contenido
1. Motivación
2. Métodos de Investigación utilizados
3. PDQM (Portal Data Quality Model)
4. PoDQA (Portal Data Quality Assessment Tool)
5. Conclusiones
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
PoDQA: Portal DQ Assessment Tool
Motivación:
1. Automatizar PDQM a través de una aplicación Web
2. Demostrar la aplicabilidad de PDQM en la evaluación de la
DQ en portales Web
3. Dejar PDQM accesible a los consumidores de datos de
portales Web. (http://podqa.webqualityportal.com )
4. Adicionalmente, crear una funcionalidad de uso para
desarrolladores de portales Web
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
69
78
70
78
35

PoDQA: Portal DQ Assessment Tool
Características Generales:
Users
Website application
ASP.NET
INTERFACE
Console application VB
Measurements
Bayesian
Network
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
DataBase
Presentation Application Storage
PoDQA: Portal DQ Assessment Tool
Características Generales:
User
PODQA
Console
URL
Calculus of Measures
User
Valuations
Automatic
Values
between
0 and 1
Fuzzy Logic
Probabilistic
classifier
Probabilities
for
entry nodes
Bayesian Network
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Probabilistic
Calculus
e-mail
DQ
scores
71
78
72
78
36

PoDQA: Portal DQ Assessment Tool
• Futuras Mejoras:
1. Implementar la evaluación de las otras Categorías de DQ
2. Implementar la generación de recomendaciones de mejora
para las otras Categorías de DQ
3. Incluir más dominios de portales Web, incluyendo un dominio
general.
4. Implementar los ranking de DQ para los nuevos dominios de
portales Web
Contenido
1. Motivación
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
2. Métodos de Investigación utilizados
3. PDQM (Portal Data Quality Model)
4. PoDQA (Portal Data Quality Assessment Tool)
5. Conclusiones y comentarios finales
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
73
78
74
78
37

Conclusiones y comentarios finales
PDQM ha sido validado en la comunidad de investigadores
Journals (JCR)
International Journals
Book Chapters
Iberoamerican Journals
International Conferences
Iberoamerican Conferences
National Conferences
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Conclusiones y comentarios finales
PDQM es un modelo que permite evaluar la DQ en portales
Web usando la perspectiva del consumidor de datos.
PDQM se ha creado primero generando un modelo teórico y
a partir de éste un modelo operacional usando un enfoque
probabilístico. Con todo esto pretendemos obtener un
modelo:
Genérico, aplicable en cualquier tipo de PW
Adecuado, orientado al punto de vista del consumidor de
datos
Flexible, aplicable en diferentes situaciones
Completo, que represente todas las relaciones entre los
atributos
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
2
2
3
1
12
2
3
75
78
76
78
38

Conclusiones y comentarios finales
Trabajo futuro:
Completar el resto de los fragmentos del modelo
Nuevas validaciones con un mayor número de portales.
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
Conclusiones y comentarios finales
El método científico, facilita el desarrollo de la
investigación y la generación de nuevo
conocimiento
Es importante tener presente y seguir los métodos
de investigación que se utilizarán para el desarrollo
de la investigación
El rigor científico es muy útil a la hora de publicar los
resultados
Angélica Caro Gutiérrez, 2008 – mcaro@ubiobio.cl
77
78
78
78
39

Un modelo de Calidad de Datos
para Portales Web
Angélica Caro Gutiérrez
Departamento de Ciencias de la Computación y
Tecnologías de Información
Universidad del Bío-Bío
Chile
40