Capitulo de libro -Cap. XXI.pdf

s Jornadas internacionales de investigación científica sColoquio IX: Física y Matemáticas 222 CAPÍTULO 21 Jornadas internacionales de investigación científica Transferencia de información en redes basada en modelado Dr. Pedro García, MSc. Leuber Rosa, MSc. José Chiza, MSc. Pablo Méndez, MSc. Claudio Otero, MSc. Yasmany Fernández, MSc. Alfredo Silva Profesores Investigadores de la Universidad Técnica del Norte. FICA Dra. Rosa Mujica Universidad Central de Venezuela pgarcia@utn.edu.ec RESUMEN En este trabajo se presenta una estrategia para aproximar las densidades de probabilidad condicional, necesarias para la determinación del lujo de información entre elementos de redes complejas. El esquema está basado en la estimación de la relación causa-efecto entre dichos elementos, usando modelos de las series temporales asociadas a la evolución de los componentes del sistema. La estrategia no requiere la discretizacion del espacio de estados, necesario en caso del cálculo directo de las probabilidades usadas en la estimación de la transferencia de información, por lo que presenta un costo computacional menor. Su desempeño es mostrado usando datos producidos por simulaciones numéricas y por sistemas caóticos reales. Los resultados presentados, parecen ser de utilidad en el diseño de estrategias de control, en el caso de sistemas conformados por varias partes. Palabras Clave: TRANSFERENCIA DE INFORMACIÓN, SIXTEMAS COMPLEJOS, MODELOS NO LINEALES ABSTRACT Information Transfer through Networks based on Modelling his paper presents a strategy to estimate the conditional probability densities necessary for determining the cause-efect relationship between components of complex systems. he scheme estimates the information transfer between these components using predictions of the evolution of the subsystems. he method, do not require discretization of the state space necessary in the direct calculation of probabilities in continuous signals. he performance of the strategy is shown using data produced by numerical simulations and experimental data from chaotic systems. he results appear to be useful in the design of control strategies, in the case of systems formed by several parts. Keywords: INFORMATION TRANSFER, COMPLEX SYSTEMS, NONLINEAR MODELS. s 223 224 s Jornadas internacionales de investigación científica UTN Introducción Deiniremos una sistema dinámico complejo como un grafo, donde los nodos son los subsistemas que lo componen y los vértices sus interacciones, con características estructurales ausentes en redes totalmente regulares o totalmente aleatorias en sus acoples. Estos sistemas sirven de modelos para un sinnúmero de fenómenos, cuyas dinámicas resulta de interés caracterizar y eventualmente controlar, tales como: epidemias, incendios forestales, propagación de rumores, mercadeo, redes de transmisión de energía eléctrica o redes de transporte de alimentos, entre otros. Por esa razón, el establecimiento de una relación de causa-efecto entre las partes de un sistema dinámico de este tipo, es un problema de gran interés práctico en áreas que van desde la economía a la medicina. En el caso particular de la Ingeniería, el problema de control de sistemas multicomponentes, ofrece un ejemplo resaltante, donde la determinación de relaciones de causalidad entre los subsistemas, permite determinar los sitios donde resulta más efectiva la aplicación del control (Liu, et. al. 2011). Entre los esquemas dedicados a determinar la relación causal o la direccionalidad del acople entre pares de sistemas, ver por ejemplo: (Bezruchko, 2003), (Zhu et. al. 2004) y (Schultz et. al. 2013), resaltan dos extremos; uno está dado por una aproximación determinista a la solución del problema llamada Causalidad de Granger (Granger, 1969) y el otro es representado por los esquemas basados en teoría de información, representados por la transmisión de información de Schreiber (Schreiber, 2000). En el método de Granger, dadas dos sucesiones de valores de las variables de estado de cada uno de los subsistemas e , medidas simultáneamente y a intervalos de tiempo regulares, organizadas de la siguiente manera , . Modeladas de forma que: , . Donde, {W} y {V} son vectores reales, tetra y bidimensionales respectivamente, que pueden ser estimados partir de los datos, usando la estrategia de mínimos cuadrados. Llamemos ahora , , y a los errores de predicción de los modelos, deinidos como las varianzas de , , e Jornadas internacionales de investigación científica 2016 , respectivamente. De esta manera, llamando deinir un índice de direccionalidad del acople D, como: , es posible Es fácil notar que este índice varía desde 1 en el caso de acople unidireccional de x a y, a -1 en el caso de acople unidireccional de y a x, con todos los valores intermedios en el caso de acople bidireccional. El uso de este esquema en el caso de subsistemas no lineales conduce a conclusiones erradas. Este problema es subsanado en Ancona, et. al. (2004) donde un modelo no lineal es realizado usando funciones de base radial. Por otra parte, en (Schreiber, 2000) se propone un método, para estimar la transmisión de información basada en las observaciones de las series de tiempo asociadas a los elementos del sistema y la teoría de información, especíicamente en la deinición de información de Shannon (Shannon, 1948): Para introducir el concepto, supongamos que se miden los estados instantáneos de dos sistemas dinámicos y deinamos la tasa de entropía como la cantidad de información adicional que se requiere para representar el valor de la siguiente observación de uno de los sistemas: Supongamos que el valor de la observación vación actual de yn: no fue dependiente de la obser- Ahora, la cantidad representa la tasa de entropía para los dos sistemas y repes independiente de . Así, obtenemos resenta la tasa de entropía suponiendo que transferencia de entropía como: , . Donde cia del estado o (1) y son las probabilidades conjunta y condicional de la ocurrende los sistemas. La determinación del lujo de información (1) requiere el cálculo de las probabilidades asociadas a transición entre estados de cada subsistema y esto a su vez requiere el pre procesamiento (reticulado o coarse graining) de las series de tiempo asociadas a ambos sistemas, lo que representa un gran costo computacional. Este costo aumenta considerablemente cuando estas cantidades deben ser calculadas para todos los pares de elementos de un sistema extenso. En este trabajo se propone, una estrategia para estimar las probabilidades condicionales, sin necesidad de recurrir al reticulado, basado en el modelado local de la evolución de los subsistemas. El carácter local del modelado propuesto, minimiza el costo computacional de la estimación de las densidades de probabilidad necesarias. La estimación de estas densidades permite usar la estrategia propuesta por Schreiber para calcular la transferencia de información entre las señales. s 225 226 s Jornadas internacionales de investigación científica UTN Materiales y métodos La transferencia de información de Schreiber puede ser escrita en términos de probabilidades condicionales y marginales como: , . (2) De manera directa, las densidades de probabilidad, condicionales en (2), pueden ser estimadas mediante un reticulado del espacio de estados y un posterior conteo del número de puntos contenidos en cada elemento de retícula. De manera que la probabilidad de ocurrencia del estado sería , donde es el número total de datos medidos. Esta estrategia presenta un costo computacional elevado en el caso en el que la dimensión del espacio de estados no es pequeña. En este trabajo se presenta un esquema para estimar las densidades de probabilidad condicionales, basado en modelos predictivos de las señales. Así, dada una señal multivariada , que por simplicidad supondremos bivariada de componentes y provenientes del sistema dinámico , puede construirse a partir de estas señales un modelo aproximado de , a partir de las señales medidas. Así, dado el estado i-ésimo valor de los datos y un conjunto de los m estados más cercanos , desarrollemos en serie de Taylor, hasta el primer orden de aproximación, alrededor del estado más cercano a ( ), y tratemos de predecir . Aquí, es la matriz Jacobiana de f. De esta manera, en orden cero de aproximación la evolución del estado i-ésimo está dado por , esto es, el vector que resulta de la evolución del vecino más cercano a . Con esto en mente es posible establecer una relación entre las densidades de probabilidad condicionales y los errores de predicción asociados al modelo. Así, dado el y su evolución es posible relacionar los valores máximo y el mínimo de la probabilidad condicional , con el mínimo error y el máximo error que se comete al modelar en orden cero de aproximación, si suponemos alguna distribución de los errores antes mencionados alrededor de la observación . En el caso en que suponemos una distribución Gaussiana: (3) Donde , y representa la desviación normal de los errores de predicción. Una vez aproximadas estas densidades de probabilidad condicionales, es posible estimar la transferencia de información propuesta por Schreiber. Resultados Con el in de mostrar el desempeño de la estrategia, dividiremos el reporte de nuestros resultados en dos casos: resultados usando datos provenientes de simulaciones numéricas y resultados usando datos reales. (a) En el caso de datos simulados generados por una red de dos mapas Logísticos acoplados, , en régimen caótico, 2016 Jornadas internacionales de investigación científica . (4) Aquí, f es un mapa discreto unidimensional que presenta caos para valores de los parámetros entre 3.58 y 4.0. En este caso comenzaremos veriicando nuestra hipótesis, esto es que los errores de predicción se distribuyen de forma normal. La Figura 2 muestra el histograma promedio para todas las vecindades con m = 50 y N = 1000 y una función densidad de probabilidad Gaussiana con . Esto da una estimación de la distribución de los errores de predicción en el caso de una aproximación de orden cero. Figura 2. Histograma promedio para todas las vecindades con m =50 y N=1000 y una función densidad de probabilidad Gaussiana con . La siguiente igura muestra la densidad de probabilidad condicional para el caso del mapa Logístico. En este caso, es posible mostrar la densidad de probabilidad condicional debido a que es una función de R2 en R: Figura 3. Densidad de probabilidad condicional 500 datos del mapa Logístico con r=4. dada en (3), estimada para La Figura 4 muestra la transferencia de información entre los mapas acoplados (4), en función de los parámetros, en el caso que ε varía entre 0 y 1 y µ = 1- ε. Figura 4. Transmisión de información en el caso de dos mapas Logísticos acoplados como función del parámetro de acople. Aquí la curva azul representa la transferencia de y la curva naranja representa la transferencia de información . información s 227 228 s Jornadas internacionales de investigación científica UTN En este caso puede observarse como la estrategia propuesta permite discriminar fácilmente la direccionalidad del acople en el caso en que la diferencia entre los parámetros de acople es grande. Cuando esta diferencia es pequeña, los sistemas tienden a sincronizar y no es posible establecer la relación causal entre los subsistemas. Esta sincronización es mostrada en la igura embebida. En el caso de datos reales provenientes del circuito de un Chua (Matsumoto, 1984), mostrado en la Figura 1(a). (a) (b) Figura 5. (a) Circuito de Chua. El diodo de Chua y el inductor son implementados usando ampliicadores operacionales. (b) La igura muestra el voltaje en el condensador C1 como función del voltaje en C2. (b) La igura muestra el voltaje en el condensador como función del voltaje en . Los datos de la igura fueron obtenidos de la implementación del circuito en el sistema Educational Laboratory and Virtual Instrumentation Suite de National Instruments, NI ELVIS por sus siglas en inglés, con una tasa de muestreo de s y son mostrados gráicamente en la Figura 1(b). Los valores para las trasferencias de información obtenidas fueron y . Discusión Como puede observarse en los resultados presentados en la Figura 3, el esquema es capaz de discriminar la direccionalidad del acople en el caso de señales simuladas. Especíicamente en el caso en el que la direccionalidad del acople es modulada con la relación entre los parámetros de acople y la diferencia entre las intensidades de acople son tales que los sistemas no sincronizan. Los resultados obtenidos usando datos reales, sugieren que el esquema también es útil en el caso de señales con ruido. En este caso a pesar de que conocemos la ecuación diferencial cuya solución representa la evolución del sistema, no es posible conocer analíticamente la solución y por lo tanto tampoco la relación entre los subsistemas. Sin embargo, dado que el sistema de ecuaciones diferenciales que modela el circuito está dado por: Jornadas internacionales de investigación científica 2016 Donde , esta dado por: Las ecuaciones anteriores sugieren que hay más inluencia de tensión en el capacitor 2, , sobre la corriente en el inductor, , que viceversa. Es importante señalar que esquemas de este tipo relacionan las estrategias probabilísticas con las determinísticas lo que permite explorar la posibilidad de exportar, desde una perspectiva a la otra, las estrategias más eicientes. Conclusiones Se presenta un esquema que permite establecer relaciones de causa efecto entre subsistemas de un sistema dinámico, basado en el modelado de dichos sistemas. El esquema a pesar de estar basado en una estrategia estadística desarrollada por Schreiber en (Schreiber, 2000), estima las densidades de probabilidad condicional necesarias, usando modelos determinísticos construidos a partir de los datos. Discrimina bien en el caso de datos simulados o reales donde hay ruido y presenta un costo computacional bajo, al no requerir un coarse grainning del espacio de estados para calcular probabilidades. Finalmente, creemos que estrategias de este tipo pueden ser de utilidad en el diseño de estrategias de control de sistemas extendidos espacialmente, donde estos esquemas pueden estimar los subsistemas donde son más efectivas las perturbaciones, necesarias para el control. s REFERENCIAS BIBLIOGRÁFICAS Liu, Y.-Y.; Slotine, J.-J.; and Barabasi, A.-L. (2011). “Controllability of complex networks”, en Nature 473 (7346) 167-173 Bezruchko, B; Ponomarenko, V.; Rosenblum, M. G. and Pikovsky, A. (2003). “Characterizing direction of coupling from experimental observations”, en CHAOS 13 (1) 179-184 Zhu, Y.; Hsieh, Y-H.; Dhingra, R-R.; Dick, TE.; Jacono, F-J.; Galán, R-F. (2004). “Quantifying interactions between real oscillators with information theory and phase models: Application to cardiorespiratory coupling”, en Phys. Rev. E. 70 056221-1--056221-6 Schultz, S.; Adochier, F-C.; Edu, I-R.; Schroeder, R.; Costin, H.; Bar, K-J. and Voss, A. (2013). “Cardiovascular and cardiorespiratory coupling analyses: a review”, en Phil. Trans R Soc A 371 20120191 Granger, C. (1969). “Investigating causal relations by econometric models and crossespectral methods”, en Econometrica 37 424-428 Ancona, N.; Marinazzo, D. and Stramaglia, S. (2004). “Radial Basis function approach to nonlinear Granger causality of time series”, en Phys. Rev. E. 70 056221-1--056221-4 Schreiber, T. (2000). “Measuring Information Transfer”, en Phys. Rev. Lett. 85 461-464 Shannon, C. (1948). “A mathematical theory of communication”, en he Bell System Technical Journal 27 379423 Farmer, J-D. and Sidorowich, J-J. (1987). “Predicting chaotic time series”, en Phys. Rev. Lett. 58 845-848 Matsumoto, T. (1984). “A chaotic atractor from Chua circuit”, en IEEE Trans. Circuits Syst. 31 1055-1058 Recibido para revisión: 30 junio 2016 Aceptado para publicación: 10 julio 2016 s 229