Instituto Tecnológico de

Zacatepec

“Practica de Minería de Datos”

Equipo 7

Integrantes del Equipo:

 Flores Estrada Keevyn Yael

 Morales Martínez Oscar Ramón
 Soto Aguilar Jesús
 Ortiz Sastre Abel

Inteligencia de Negocios
(Business Intelligence)
Zacatepec, Morelos a 18 de Diciembre de 2017.
Introducción.

En esta práctica se vamos a descubrir paso a paso las posibilidades del

Weka utilizando ejemplos muy sencillos y sin realizar validaciones
apropiadas de los modelos extraídos. El objetivo de este boletín es
manejarse con cierta soltura en el Weka.

Se usara la aplicación de Weka y un conjunto de datasets para realizar

un conjunto de ejercicios con el propósito de familiarizarse con el
entorno de trabajo y manejarlo con soltura, para esto se nos proporcionó
un documento en formato PDF en el cual viene explicado el entorno de
trabajo de weka así como las herramientas que nos proporciona y su
forma de uso.

Además en el documento se enlistan los diferentes ejercicios a realizar

y que datasets utilizar en cada caso.
Fundamento Teórico.
El entorno de trabajo del Weka.

Weka es un conjunto de librerias JAVA para la extracción de

conocimientos desde bases de datos. Es un software ha sido
desarrollado bajo licencia GPL lo cual ha impulsado que sea una de
las suites más utilizadas en el área en los últimos años.

La versión 3.4.7 incluye las siguientes características:

• Diversas fuentes de datos (ASCII, JDBC).

• Interfaz visual basado en procesos/flujos de datos (rutas).
• Distintas herramientas de minería de datos: reglas de asociación (a
priori, Tertius, ...), , agrupación/segmentación/conglomerado (Cobweb,
EM y k-medias), clasificación (redes neuronales, reglas y árboles de
decisión, aprendizaje Bayesiona) y regresión (Regresión lineal,
SVM..).
• Manipulación de datos (pick & mix, muestreo, combinación y
separación).
• Combinación de modelos (Bagging, Boosting ...)
• Visualización anterior (datos en múltiples gráficas) y posterior
(árboles, curvas ROC, curvas de coste..).
• Entorno de experimentos, con la posibilidad de realizar pruebas
estadísticas (t-test).
Como se puede ver en la parte inferior de la imagen anterior, Weka define 4 entornes de
trabajo
• Simple CLI: Entorno consola para invocar directamente con java a los paquetes de weka
• Explorer: Entorno visual que ofrece una interfaz gráfica para el uso de los paquetes
• Experimenter: Entorno centrado en la automatización de tareas de manera que se facilite
la realización de experimentos a gran escala.
• KnowledgeFlow: Permite generar proyectos de minería de datos mediante la generación
de flujos de información.

Explorer

En esta parte vamos a centrarnos en el entorno Explorer, ya que permite el acceso a la

mayoría de las funcionalidades integradas en Weka de una manera sencilla.

Como se puede observar existen 6 sub-entornos de ejecución:

• Preprocess: Incluye las herramientas y filtros para cargar y manipular
los datos
• Classification: Acceso a las técnicas de clasificación y regresión
• Cluster: Integra varios métodos de agrupamiento
• Associate: Incluye una pocas técnicas de reglas de asociación
• Select Attributes: Permite aplicar diversas técnicas para la reducción
del número de atributos
• Visualize: En este apartado podemos estudiar el comportamiento de
los datos mediante técnicas de visualización.
Desarrollo.
PRACTICA 1
Como primer paso, se abrió weka en la opción Explorer>open file, con la finalidad de abrir
el archivo weather.arf, un fichero con este formato, no sólo contiene los datos desde donde
vamos a efectuar el aprendizaje, además incluye meta-información sobre los propios datos,
como por ejemplo el nombre y tipo de cada atributo, así como una descripción textual del
origen de los datos, con la finalidad de trabajar con él y poder determinar si se podrá jugar
tenis.

Una vez que seleccionamos el archivo con el que trabajaremos, se cargaran los datos en
pantalla:
Desde esta ventana podemos conocer bastantes detalles del dataset que acabamos de cargar.
Por ejemplo, el sistema nos indica que tenemos 14 registros con 5 atributos. Si seleccionamos
cada uno de los atributos, conoceremos más información del atributo en cuestión:
tipo(nominal o numérico), valores distintos, registros que no tienen información de ese
atributo, el valor máximo y mínimo (sólo en atributos numéricos), y finalmente un
histograma con información sobre la distribución de los ejemplos para ese atributo, reflejando
con el uso de colores la distribución de clases de cada uno de los registros.

Una vez cargado el fichero, ya estamos en disposición de aprender un modelo (en este caso
un árbol de decisión). Para ello, seleccionamos en la pestaña Classify.
Para este primer ejemplo vamos a utilizar el algoritmo clásico de aprendizaje de árboles de
decisión C4.5 (J48 es el nombre que se le da en Weka), Para ello pulsamos Choose,
seleccionamos J48 en Trees.
Por último seleccionamos como opción de evaluación (test options) la opción Use training
set y posteriormente start

Si no ha habido problemas, el sistema nos muestra en la caja “Classifier Output”, nos informa
en primer lugar de algunos parámetros del dataset. A continuación nos muestra de manera
textual el modelo aprendido (en este caso el árbol de decisión).
Por ultimo nos incluye información sobre la evaluación del modelo. En este problema, el
árbol aprendido tiene una precisión máxima (100%) por lo que todas las medidas de error
son 0. Además podemos conocer más detalles de la distribución de los ejemplos por clase en
la matriz de confusión).
Podemos visualizar el árbol de una manera más atractiva si pulsamos el botón derecho sobre
el texto trees.J48 de la caja Result-list.
PRACTICA 2
En este caso se trata de predecir el tipo de fármaco (drug) que se debe administrar a un
paciente afectado de rinitis alérgica según distintos parámetros/variables.
Las variables que se recogen en los historiales clínicos de cada paciente son:
• Age: Edad
• Sex: Sexo
• BP (Blood Pressure): Tensión sanguínea.
• Cholesterol: nivel de colesterol.
• Na: Nivel de sodio en la sangre.
• K: Nivel de potasio en la sangre.
Hay cinco fármacos posibles: DrugA, DrugB, DrugC, DrugX, DrugY. Se han recogido los
datos del medicamento idóneo para muchos pacientes en cuatro hospitales. Se pretende, para
nuevos pacientes, determinar el mejor medicamento a probar.
Para ello, es necesario como primer paso cargar el archivo drug1n.arff.
Seleccionamos el atributo drug, para ver la distribución por clases y determinar que fármaco
son mas comunes.

Se puede concluir que el fármaco más efectivo es el Y. Podría aplicarse en caso de que falle
aplicar el siguiente (X), y si falla el que sigue, y así sucesivamente, sin embargo, weka tiene
un método que permite generar este modelo tan simple, es decir asignar a todos los ejemplos
la clase mayoritaria, recibe el nombre de ZeroR4 en la familia rules.
Si ejecutamos este modelo evaluamos sobre todos los datos de entrenamiento, veremos que
como era de esperar obtenemos un clasificador de precisión 45.5%.
Aunque evaluando con el método J48, se obtendría un precisión del 97%.
Sin embargo, se tiene un caso de error de solo 3.5%, aunque aún es posible reducir el nivel
de error, para ello se analizaran con más detenimiento, los atributos de entrada del problema.
Es posible que se puedan establecer mejores modelos si combinamos algunos atributos.
Podemos analizar pares de atributos utilizando diferentes gráficos.
Para comparar la relación entre atributos en Weka se utiliza el entorno Visualize, donde
podemos realizar gráficas entre pares de atributos y ver si tienen alguna relación con las
clases. De entre todas las combinaciones posibles, destaca la que utiliza los parámetros de
los niveles de sodio y potasio (K y Na)

En este gráfico sí que se ven algunas características muy significativas. Parece haber una
clara separación lineal entre una relación K/Na alta y una relación K/Na baja. Para las
concentraciones K/Na bajas, el fármaco Y es el más efectivo de una manera clara y parece
mostrarse que por encima de un cierto cociente K/Na ese medicamento deja de ser efectivo
y se debe recurrir a los otros cuatro. Podemos utilizar este conocimiento que acabamos de
extraer para mejorar nuestros modelos.
Se añade un filtro en preprocess>choose>filter> Unsupervised>Attribute>Addexpression,
pulsamos sobre la propia ventana del texto, y nos aparecen las opciones posibles. Sólo
tenemos que modificar la opción expression, asignandole el valor “a5/a6” (a5 corresponde a
K y a6 corresponde a NA), y la opción name, donde colocamos el nombre del nuevo atributo
“Na_to_Ka”. Para luego presionar apply.
Se genera de nuevo el árbol decisión J48 y se crea un nuevo modelo mucho más simple y
corto que el anterior, en el que se ve la importancia del atributo que hemos creado Na_to_K.
Además si analizamos su calidad vemos que el nuevo modelo un 100% de precisión, con lo
que el modelo es mucho más fiable que antes.

PRACTICA 3

En el árbol de decisión final se puede observar que no se utilizan todos los atributos para
efectuar una clasificación, esto indica que hay atributos que no son significativos para la
resolución del problema. Existen métodos como los árboles de decisión, a los cuales no les
afecta de manera grave la presencia de atributos no significativos, ya que en el propio
mecanismo de aprendizaje realizan una selección de atributos por su relevancia. Sin
embargo, otros métodos no realizan este proceso, por lo que si realizamos un filtrado de
atributos previo al aprendizaje podremos mejorar de manera relevante su precisión, y al
mismo tiempo simplificamos los modelos.

Un ejemplo de método de aprendizaje que reduce su calidad ante la presencia de atributos

no relevantes, es el método Naive Bayes. Veamos que precisión obtiene este método, para
ello seleccionamos en Classify el método NaiveBayes y lo evaluamos con evaluación
cruzada (10 pliegues). Este método obtiene una precisión de 91%, por lo tanto una
precisión mucha más baja que los árboles de decisión.

Bien, en este caso probablemente los atributos no relevantes están afectando a la calidad del
método. Veamos como podemos efectuar un filtrado de atributos. Para ello vamos a la
sección Select Attributes. Esta sección esta especializada en este proceso, y contiene una
gran cantidad de técnicas diversas para realizar la selección de atributos. Si recordamos la
parte teórica, sabremos que hay dos familias de técnicas: los wrappers, y los métodos de
filtro. Dadas las características del problema en este caso podemos probar con una técnica
wrapper realizando una búsqueda exhaustiva. Para ello, pulsamos Choose de
AttributeEvaluator y seleccionamos el método WrapperSubsetEval. Para configurarlo
pulsamos en la ventana de texto. Vamos a utilizar el propio Naive Bayes para el wrapper,
por lo que seleccionaremos es método en classifier. Por otra parte en SearchMethod,
indicamos que queremos una búsqueda exhaustiva eligiendo ExhaustiveSearch.
PRACTICA 4
Procedemos a abrir el dataset credit-g.arff

Una vez con el archivo abierto nos dirijimos a la pestaña Classify, y en Test Options,
pulsamos More Options. Hablilitamos la opcion Cost-Sensitive Evaluation. Pulsamos Set
para introducir la matriz. Indicamos el número de clases, 2, e introducimos la matriz de
costes.

Empezamos con la clasificación más simple, asignar siempre la clase mayoritaria, (ZeroR).
Lanzamos la evaluación con validación cruzada de 10 pliegues. Y si todo ha ido bien,
veremos que se obtiene una precisión del 70 %, y un coste de de 1500 unidades.

Probemos ahora con otro método, por ejemplo Naive Bayes. Para ello seleccionamos,
NaiveBayes de Bayes.

En esta ocasión obtenemos una precisión de 75.4% y un coste de 850 unidades. Mejoramos
ambas medidas, sin embargo hemos de tener en cuenta que estos métodos están ignorando
la matriz de costes.

Seleccionamos CostSensitiveClassifier dejando ZeroR como clasificador base. Además

hemos de indicarle al método la matriz de coste que ha de utilizar en el aprendizaje. Esto se
hace, fijando CostMatrixSource como Use Explicit Matriz Cost. Y en Cost Matrix
introducimos la misma matriz de coste que hemos utilizado para la evaluación.
MinimizeExpectedCost lo dejamos como falso.
El esquema resultante sería: weka.classifiers.meta.CostSensitiveClassifier -cost-matrix
"[0.0 1.0; 5.0 0.0]" -S 1 -W weka.classifiers.rules.ZeroR

Veamos que sucede si en vez de ZeroR utilzamos NaiveBayes y tomando la misma

configuración de CostSensitiveClassifier. Obtenemos, como es de esperar un resultado
bastante mejor: 69% de precisión y un coste de 530 unidades.

Finalmente, si probamos el otro modo de convertir NaiveBayes en un clasificador sensible

al contexto (es decir cambiamos MinimizeExpectedCost a True), todavía reducimos más el
coste: Precisión 69.5% y coste 517 unidades.
PRACTICA 5
Iniciamos el ejercicio cargando el fichero “credit-g.arff”.

A continuación, acudimos a la pantalla Classify. Vamos a ver que precisión obtiene el

método J48 en su configuración por defecto utilizando validación cruzada con 10 pliegues.
Para este problema, J48 obtiene una precisión de 70.5%, lo cual, aunque a priori no está
mal, es realmente un resultado muy pobre.

Seleccionamos Bagging, pulsamos Choose y en Meta, tendremos el método Bagging.

Vamos a Configurarlo. En este caso las opciones más importantes son numIterations donde
marcamos el número de modelos base que queremos crear, y Classifier, donde
seleccionamos el método base con el cual deseamos crear los modelos base. Fijamos
numIterations=20 y Classifier= J48.
De esta manera tendremos el método configurado de la siguiente manera:
weka.classifiers.meta.Bagging -P 100 -S 1 -I 20 -W weka.classifiers.trees.J48 -- -C 0.25 -M
2

Seleccionamos AdaBoostM1 en Meta. En este método las opciones más importantes son
también numIterations donde marcamos el número de iteraciones máximas (es decir de
modelos base), y Classifier, donde seleccionamos el método base con el cual deseamos
crear los modelos base.

Como en caso anterior, fijamos numIterations=20 y Classifier= J48. De esta manera

tendremos el método configurado de la siguiente manera:

weka.classifiers.meta.AdaBoostM1 -P 100 -S 1 -I 20 -W weka.classifiers.trees.J48 -- -C

0.25 -M 2
Probamos a incrementar el número máximo de iteraciones a 40. Como veremos, mejoramos
un poco la predicción, ya que llegamos a 73.5, eso sí, a base de dedicar más tiempo al
aprendizaje.
PRACTICA 6 Y 7
Empleados.arff
En esta parte del problema weka utiliza un algoritmo para obtener parte de la poblacion.
El algoritmo que usa es Kmedias y se obtienen la suma de medias de errores cuadraticos
como se muestra en la sig. Imagen.
En esta parte podemos ver como se asignan los ejemplos a los clousters dependiendo de los
atributos para dibujar la grafica.
Ahora vamos a trabajar con el archivo titanic.arff donde se muestran los registros reales de
las personas que abordaron el titanic.
En esta parte trabajamos con reglas de asociacion y dependencias

En la siguiente imagen se obtienen las siguientes reglas de acuerdo a la configuracion que

le hicimos.
Y estos son los resultados obtenidos.
Conclusiones Individuales.

Flores Estrada Keevyn Yael

Una vez realizada esta práctica en la cual se sintió un ambiente ya de
inteligencia de negocios por las herramientas que nos proporciona
weka, el paso a paso de esta práctica me deja con un buen sabor de
boca puesto que aprendí las bases para el uso de esta herramienta para
BI con la cual es relativamente fácil y ágil la forma en la que procesa la
información y como la proyecta, haciendo así los procesos más amenos
y efectivos, proporcionándonos además diferentes vistas con diferentes
módulos para operar con ellos, eligiendo los que consideremos mejores
para nuestros fines.

Morales Martínez Oscar Ramón

La inteligencia de negocios hoy en día, conforman una base elemental
para toda empresa, pues es la mejor forma de conocer la dirección en
la que se dirige la empresa. Por tal motivo es de suma importancia
conocer herramientas que permitan el análisis de la información. Weka
es una herramienta muy práctica para realizar dichos procesos en
base a algoritmos y diversos métodos de cálculo integrados. Aunque,
es necesario examinar a detalle lo que se desea, ya que, si bien es
una herramienta muy completa, a veces es necesario ver desde
diferentes perspectivas para saber que módulos ocupar.

Soto Aguilar Jesús

-----------------------------------

Ortiz Sastre Abel

En esta práctica aprendí sobre una herramienta de minería de datos,
en la cuales se pueden estudiar varios algoritmos para obtener una
serie de resultados obtenidos de acuerdo al criterio de una
investigación. Cabe destacar que es importante la manera gráfica que
weka nos proporciona al graficar los resultados. Algo que realmente
me gusto es que usa modelos predictivos y que la plataforma esta
echa en java.
Me agrada que está libre bajo la licencia de GNU.
Otra cosa que me llamo la atención fue la visualización para el análisis
de datos como anteriormente lo comente.
Fuentes de Información.
Curso de Doctorado Extracción Automática de Conocimiento en Bases de Datos e
Ingeniería del Software, Universitat Politècnica de València.