R के साथ टाइम सीरीज़ विश्लेषण: ट्यूटोरियल

टाइम सीरीज़ वह माप या मीट्रिक है जिसे नियमित समयांतराल पर मापा जाता है। टाइम सीरीज़ विश्लेषण के उदाहरण हैं: वित्तीय डेटा, शेयर कीमतें, मौसम संबंधी डेटा, यूटिलिटी स्टडीज़, और बहुत कुछ।

टाइम सीरीज़ मॉडलिंग में निम्न शामिल हो सकते हैं:

• देखे गए डेटा को उत्पन्न करने वाली अंतर्निहित शक्तियों और संरचनाओं को समझना।
• मॉडल फिट करना शुरू करना, और पूर्वानुमान, मॉनिटरिंग, या यहाँ तक कि फीडबैक और फीडफॉरवर्ड कंट्रोल करना।

इस ट्यूटोरियल में आपको स्थिर (stationary) और अस्थिर (non-stationary) टाइम सीरीज़ मॉडलों का अवलोकन दिया जाएगा। आप सीखेंगे कि ACF और PACF की गणना करके किसी टाइम सीरीज़ की पहचान कैसे करें। इन फंक्शनों के ग्राफ़ से किसी टाइम सीरीज़ की स्टेशनैरिटी का आकलन करना संभव होता है। हम अंतर (differencing) लेकर किसी अस्थिर श्रृंखला को स्थिर बना सकते हैं। किसी श्रृंखला की प्रकृति जानने पर, उस मॉडल से भविष्य के मानों का अनुमान लगाना आसान हो जाता है जिसका वह पालन करती है। R के TSA पैकेज में उपलब्ध वास्तविक डेटा का एक उदाहरण भी इस ट्यूटोरियल का हिस्सा होगा।

स्थिर प्रक्रियाएँ

मान लें $X$ समय से इंडेक्स किया गया एक रैंडम वैरिएबल है (आम तौर पर $t$ द्वारा सूचित), तो प्रेक्षण $\left\{x_t,\,t\in \textbf{N}\right\}$ को टाइम सीरीज़ कहा जाता है। $\textbf{N}$ पूर्णांकों का समुच्चय है जिसे यहाँ समय इंडेक्स समुच्चय माना गया है। $N$ एक टाइमस्टैम्प भी हो सकता है। स्टेशनैरिटी टाइम सीरीज़ मॉडलों में एक महत्वपूर्ण धारणा है; यह इस बात का संकेत है कि श्रृंखला समय के बावजूद समान तरीके से व्यवहार करती है, यानी इसकी सांख्यिकीय विशेषताएँ समय के साथ नहीं बदलतीं। स्टेशनैरिटी दो रूपों में होती है: स्ट्रॉन्ग और वीक।

परिभाषा 1

यदि किसी स्थिर प्रक्रिया $\left\{x_t,\,t\in \textbf{N}\right\}$ के सांख्यिकीय वितरण समय पैमाने में शिफ्ट के बाद भी अपरिवर्तित रहें, तो उसे सख्ती से या स्ट्रॉन्गली स्टेशनरी कहा जाता है। क्योंकि किसी स्टोकेस्टिक प्रक्रिया के वितरण उसके सीमित-आयामी वितरण फलनों द्वारा परिभाषित होते हैं, हम सख्त स्टेशनैरिटी की वैकल्पिक परिभाषा दे सकते हैं। यदि हर $n$ के लिए, समय के हर चयन $t_1, t_2, \ldots, t_n\in \textbf{N}$ और हर लैग $k$ के लिए, जिससे $t_{i+k}\in\textbf{N}$ हो, तो $n$-आयामी रैंडम वेक्टर $(X_{t_1+k}, X_{t_2+k}, \ldots, X_{t_n+k})$ का वितरण वेक्टर $(X_{t_1}, X_{t_2}, \ldots, X_{t_n})$ के समान हो, तो प्रक्रिया सख्ती से स्टेशनरी है। अर्थात $h$ और $x_i$ के लिए

\begin{align*} P(X_{t_1}\leq x_1, X_{t_2}\leq x_2, \ldots, X_{t_k}\leq x_k) &= F(x_{t_1}, x_{t_2}, \ldots, x_{t_k})\\ &= F(x_{h+t_1}, x_{h+t_2}, \ldots, x_{h+t_k})\\ &= P(X_{h+t-1}\leq x_1, X_{h+t_2}\leq x_2, \ldots, X_{h+t_k}\leq x_k) \end{align*}

किसी भी समय शिफ्ट $h$ और अवलोकन $x_j$ के लिए। यदि $\left\{X-t,\,t\in\textbf{N}\right\}$ सख्ती से स्टेशनरी है, तो $X_t$ का मार्जिनल वितरण $t$ से स्वतंत्र होगा। साथ ही, $(X_{t_1}, X_{t_2})$ के द्वि-आयामी वितरण $t_1$ और $t_2$ के निरपेक्ष स्थान से स्वतंत्र होंगे; केवल दूरी $t_1-t_2$ मायने रखती है। इसके परिणामस्वरूप, माध्य फलन $E(X)$ स्थिर है, और सह-प्रसरण $Cov(X_t,X_{t-k})$ केवल $k$ का फलन है, न कि $k$ और $t$ के निरपेक्ष स्थान का। उच्च क्रम के आक्षणों पर, जैसे तृतीय क्रम आक्षण, $E[X_uX_tX_v]$ अपरिवर्तित रहता है यदि $s, t, u$ में समान समय शिफ्ट जोड़ दें।

परिभाषा 2

एक एकवेरिएट टाइम सीरीज़ $X_t$ स्टेशनरी है यदि उसका माध्य, प्रसरण और सह-प्रसरण समय से स्वतंत्र हों। अतः, यदि $X_t$ एक टाइम सीरीज़ (या स्टोकेस्टिक प्रक्रिया, जिसका अर्थ है समय में क्रमबद्ध रैंडम वैरिएबल्स) है जो $t=1,2,3,\ldots, n$ और $t=0, -1, -2, -3, \ldots$ के लिए परिभाषित है, तो $X_t$ गणितीय रूप से वीक स्टेशनरी है यदि

\begin{align} (i) & E[X_t] = \mu\\ (ii) & E\left[(X-\mu)^2\right] = Var(X_t) = \gamma(0) = \sigma^2\\ (iii) & E\left[(X_t-\mu)(X_{t-k}-\mu)\right] = Cov(X_t, X_{t-k}) = \gamma(k) \end{align}

पहली दो शर्तें ($(i)$ और $(ii)$) क्रमशः प्रक्रिया का माध्य और प्रसरण स्थिर होने की अपेक्षा करती हैं, जबकि $(iii)$ यह अपेक्षा करती है कि किसी भी दो मानों के बीच सह-प्रसरण (औपचारिक रूप से सह-प्रसरण फलन) केवल इनके बीच के समयांतर $k$ पर निर्भर करे, न कि समय $t$ पर।

यदि किसी प्रक्रिया का वितरण Gaussian हो और उसके द्वितीय आक्षण सीमित हों, तो वीक स्टेशनैरिटी और स्ट्रॉन्ग स्टेशनैरिटी समतुल्य हैं। सख्त स्टेशनैरिटी केवल तभी वीक स्टेशनैरिटी का निहितार्थ देती है जब आवश्यक आक्षण मौजूद हों। स्ट्रॉन्ग स्टेशनैरिटी वितरणात्मक मान्यताओं की भी अपेक्षा करती है। सामान्यतः स्ट्रॉन्ग रूप को अत्यधिक कड़ा माना जाता है, इसलिए प्रायः वीक स्टेशनैरिटी पर ही ध्यान दिया जाता है, जिसे कभी-कभी कोवेरियंस स्टेशनैरिटी, वाइड-सेंस स्टेशनैरिटी या सेकंड-ऑर्डर स्टेशनैरिटी भी कहा जाता है।

स्टेशनैरिटी और रैंडम टाइम सीरीज़ (स्टोकेस्टिक प्रक्रिया)

ऐसी टाइम सीरीज़ जिसमें प्रेक्षण किसी स्थिर माध्य के आसपास उतार-चढ़ाव करते हैं, प्रसरण निरंतर होता है और प्रेक्षण स्टोकेस्टिक रूप से स्वतंत्र होते हैं, उसे random time series कहते हैं। ऐसी टाइम सीरीज़ किसी प्रकार का पैटर्न प्रदर्शित नहीं करती:

• प्रेक्षण ऊपर या नीचे की ओर प्रवृत्त नहीं होते
• प्रसरण समय के साथ न बढ़ता है न घटता
• कुछ अवधियों में प्रेक्षण अन्य अवधियों की तुलना में बड़े होने की प्रवृत्ति नहीं रखते

एक स्थिर रैंडम मॉडल का उदाहरण इस प्रकार लिखा जा सकता है

$$X_t = \mu+\varepsilon_t$$ जहाँ $\mu$ एक स्थिर माध्य है, ताकि $E[X_t] = \mu$ हो, और $\varepsilon_t$ वह शोर पद है जिसका माध्य शून्य, प्रसरण स्थिर, और एक-दूसरे से स्वतंत्र माना जाता है (इसे white noise भी कहते हैं)।

रैंडम टाइम सीरीज़ का सिमुलेशन

# purely random process with mean 0 and standard deviation 1.5
eps <- rnorm(100, mean = 0, sd = 1)
mu <- 2 # the constant mean
# The process
X_t <- mu + eps

# plotting the time series
ts.plot(X_t, main = "Example of (random) stationary time series", ylab = expression(X[t]))

सिमुलेटेड प्रक्रिया स्थिर माध्य $\mu = 2$ के आसपास उतार-चढ़ाव करती है।

ऑटो-कोवेरियंस फ़ंक्शन

किसी स्थिर स्टोकेस्टिक प्रक्रिया का सैद्धांतिक ऑटो-कोवेरियंस फ़ंक्शन (ACF) टाइम सीरीज़ की विशेषताओं का आकलन करने का एक महत्वपूर्ण उपकरण है। मान लें $X_t$ एक स्थिर स्टोकेस्टिक प्रक्रिया है जिसका माध्य $\mu$ और प्रसरण $\sigma^2$ है। लैग $k$ पर ACF, $\gamma(k)$, है $$\gamma(k) = \frac{\gamma(k)}{\gamma(0)} = \frac{\gamma(k)}{\sigma^2}$$

ACF फ़ंक्शन ऑटो-कोवेरियंस का सामान्यीकृत माप है और इसकी कई विशेषताएँ होती हैं।

ACF के गुण

1. $\rho(0) = 1$
2. ACF लैग का सम फलन है। अर्थात $\rho(k) = \rho(-k)$
3. $|\rho(-k)| \leq 1$

उपर्युक्त प्रक्रिया का ACF निम्न चित्र द्वारा दर्शाया गया है।

# Auto-covariance function of the simulated stationary random time series
acf(X_t, main = "Auto-covariance function of X")

टिप्पणी 1. अद्वितीयता का अभाव ACF की एक विशेषता है। भले ही किसी दिए गए रैंडम प्रोसेस का कोवेरियंस ढाँचा अद्वितीय हो, इसका उल्टा सामान्यतः सत्य नहीं होता: एक ही ACF के साथ एक से अधिक स्टोकेस्टिक प्रक्रियाएँ मिल सकती हैं। यह विनिर्देशन समस्याएँ पैदा करता है, जैसा कि [@jenkinsd] में दर्शाया गया है।

टिप्पणी 2: किसी स्थिर प्रक्रिया के ऑटोकॉरिलेशन फ़ंक्शन से एक विशेष प्रकार का मैट्रिक्स प्राप्त होता है जिसे टोइप्लिट्ज़ (Toeplitz) मैट्रिक्स कहते हैं। यह क्रम $m = t-k$ (लैग, जिसमें लैग $m-1$ तक के ऑटोकॉरिलेशन शामिल हैं) का वैरियंस-कोवेरियंस मैट्रिक्स होता है; यह विकर्ण, सममित, और धन-निश्चित होता है।

\begin{equation} \begin{pmatrix} 1 & \rho(1) & \rho(2) & \cdots & \rho(m-1)\\ \rho(1) & 1 & \rho(1) & \cdots & \rho(m-2)\\ \cdots &\cdots &\cdots &\cdots &\cdots\\ \rho(m-1) & \rho(m-2) & \cdots & \rho(1) & 1 \end{pmatrix} \end{equation}

शुद्ध रैंडम प्रक्रिया या व्हाइट नॉइज़

एक डिस्क्रीट प्रक्रिया $\left\{Z_t\right\}$ को शुद्ध रैंडम प्रक्रिया कहते हैं यदि रैंडम वैरिएबल्स $Z_t$ परस्पर स्वतंत्र और समान-वितरित (i.i.d.) अनुक्रम बनाते हैं। परिभाषा से तात्पर्य है कि प्रक्रिया का माध्य और प्रसरण स्थिर होता है।

$$\gamma(k) = cov(Z_t, Z_{t+k}) = 0,\quad\forall k\in -3,-2,-1,0,1,2,3, \ldots$$ चूँकि माध्य और ऑटोकोवेरियंस फ़ंक्शन (acvf) समय पर निर्भर नहीं करते, इसलिए प्रक्रिया सेकंड-ऑर्डर स्टेशनरी है।

रैंडम वॉक प्रक्रिया

किसी प्रक्रिया $\left\{X_t\right\}$ को रैंडम वॉक प्रक्रिया कहते हैं यदि $X_t = X_{t-1}+Z_t$, जहाँ $Z_t$ माध्य $\mu$ और प्रसरण $\sigma^2_Z$ वाला शुद्ध रैंडम प्रोसेस हो। प्रक्रिया सामान्यतः $t = 0$ से शुरू होती है और हमारे पास $X_1 = Z_0$ होता है, जिसका अर्थ $X_0 = 0$ है। हमें मिलता है

\begin{align*} X_1 &= X_0 + Z_1, \quad\text{पर } t = 1\\ X_2 &= X_1 + Z_2 = X_0 + Z_1+ Z_2, \quad\text{पर } t = 2\\ X_3 &= X_2 + Z_3 = X_0 + Z_1+ Z_2 + Z_3, \quad\text{पर } t = 3\\ &\cdots\\ X_t &= X_0 + \sum_{i = 1}^tZ_i \end{align*}

इस प्रक्रिया का प्रथम आक्षण (अपेक्षित मान) होगा $$E[X_t] = X_0 +\sum_{i = 1}^tE[Z_i] = X_0 + t\mu_z = t\mu_z$$ और प्रसरण $$Var(X_t) = t\sigma^2_Z$$ ध्यान दें कि माध्य और प्रसरण समय के साथ बदलते हैं, इसलिए प्रक्रिया \textbf{अस्थिर} है। ऐसे टाइम सीरीज़ के उदाहरण जो रैंडम वॉक जैसा व्यवहार करती हैं, उनमें शेयर कीमतें शामिल हैं।

रैंडम वॉक प्रक्रिया का सिमुलेशन

# seed X_0 = 0
X <- 0

# purely random process with mean 0 and standard deviation 1.5
Z <- rnorm(100, mean = 0.5, sd = 1.5)

# the process
for (i in 2:length(Z)){
  X[i] <- X[i-1] + Z[i]
}

# process plotting
ts.plot(X, main = "Random walk process")

डिफरेंसिंग

टाइम सीरीज़ डेटा को स्टेशनरी बनाने की सबसे सामान्य विधि डिफरेंसिंग है। यह एक विशेष प्रकार का फ़िल्टरिंग है, जो ट्रेंड हटाने में विशेष रूप से महत्वपूर्ण है। मौसमी डेटा के लिए, प्रथम-क्रम डिफरेंसिंग सामान्यतः माध्य में स्टेशनैरिटी प्राप्त करने के लिए पर्याप्त होती है। मान लें $X_t = \left\{X_1, X_2,\ldots, X_n\right\}$ एक अस्थिर टाइम सीरीज़ है। स्थिर श्रृंखला इस प्रकार प्राप्त होती है

$$\Delta X_{t+1} = X_{t+1}-X_t\quad\text{या }\,\Delta X_{t} =X_t-X_{t-1}$$ जिसे सरलतः प्रथम-क्रम डिफरेंस कहा जाता है। यदि द्वितीय-क्रम डिफरेंस आवश्यक हो, तो आप ऑपरेटर $\Delta^2$ का उपयोग कर सकते हैं, जो प्रथम-क्रम डिफरेंस का डिफरेंस है

$$\Delta^2X_{t+2} = \Delta X_{t+2} - \Delta X_{t+1}$$

# differencing and plotting of the random walk process
ts.plot(diff(X))

आप जानते हैं कि प्राप्त प्रथम-क्रम डिफरेंस स्थिर माध्य 0 के आसपास उतार-चढ़ाव करता है। ऐसा इसलिए है क्योंकि गणितीय रूप से

$$\Delta X_{t+1} = X_{t+1}-X_t = Z_t$$ जो स्टेशनरी है क्योंकि यह स्थिर माध्य और स्थिर प्रसरण वाला शुद्ध रैंडम प्रोसेस है।

क्रम $q$ का मूविंग एवरेज: MA($q$)

मान लें $\left\{Z_t\right\}$ शून्य माध्य और प्रसरण $\sigma^2_Z$ वाला शुद्ध रैंडम प्रोसेस है। प्रक्रिया को क्रम #q# का मूविंग एवरेज कहा जाता है यदि

$$X_t = \beta_0Z_t-\beta_1Z_{t-1}-\cdots-\beta_q Z_{t-q}$$ जहाँ $\beta_i,\, i = 1,2,\ldots,q$ नियतांक हैं। रैंडम वैरिएबल्स $Z_t, \,t\in\textbf{N}$ सामान्यतः ऐसे स्केल किए जाते हैं कि $\beta_0=1$ हो।

प्रथम-क्रम MA का सिमुलेशन

# purely random process with mean 0 and standard deviation 1.5 (arbitrary choice)
Z <- rnorm(100, mean = 0, sd = 1.5)

# process simulation
X <- c()
for (i in 2:length(Z)) {
  X[i] <- Z[i] - 0.45*Z[i-1]
}

# process plotting
ts.plot(X, main = "Moving Average or order 1 process")

MA(1) प्रक्रिया के लिए, 3 शर्तें निम्नानुसार सत्यापित की जा सकती हैं:

\begin{align} E[X_t] &= 0\\ Var(X_t) &= E[X_t^2] - 0 = E\left[Z_t^2-2\beta Z_tZ_{t-1}+\beta^2Z_{t-1}^2\right]= \sigma^2_Z+\beta^2\sigma^2_Z\\ \gamma(k) &= cov(X_t, X_{t+k}) = E[X_tX_{t+k}] - E[X_t]E[X_{t+k}] = E[X_tX_{t+k}]\\ &= E\left[(Z_t-\beta Z_{t-1})(Z_{t+k}-\beta Z_{t-1+k})\right]\\ &= E\left[Z_tZ_{t+k} - \beta Z_tZ_{t-1+k} -\beta Z_{t-1}Z_{t+k} + \beta^2 Z_{t-1}Z_{t-1+k}\right]\\ \end{align}

$k = 0$ के लिए,\, $\gamma(0) = Var(X_t) = \sigma^2_Z(1+\beta^2)$

$k = 1$ के लिए,\, $\gamma(1) = E\left[Z_tZ_{t+1} - \beta Z_t^2 -\beta Z_{t-1}Z_{t+1} + \beta^2 Z_{t-1}Z_{t}\right] = -\beta\sigma^2_Z$

और $k>1$ के लिए,\, $\gamma(k) = 0.$

अतः, MA(1) प्रक्रिया में जब विस्थापन एक अवधि से अधिक हो तो कोवेरियंस शून्य होता है। यानी इसमें केवल एक अवधि तक की स्मृति होती है।

अतः MA(1) का ACF है

$$\rho(k) = \frac{\gamma(k)}{\gamma(0)} = \begin{cases}1, &\text{k }=0\\\frac{-\beta}{1+\beta^2}, & \text{k }\pm 1\end{cases}$$

प्रश्न: MA(2) के लिए वही कार्य दोहराएँ।

यह स्पष्ट है कि सैंपल ऑटोकॉरिलेशन फ़ंक्शन मूविंग एवरेज प्रक्रिया के क्रम को निर्दिष्ट करने में उपयोगी क्यों है: MA(q) प्रक्रिया के लिए ऑटोकॉरिलेशन फ़ंक्शन (k) के q गैर-शून्य मान होते हैं (जो शून्य से काफी भिन्न हों) और $k > q$ के लिए शून्य होता है। स्टेशनैरिटी के लिए $\left\{\beta_i\right\}$ पर कोई बंधन आवश्यक नहीं हैं। हालाँकि, invertibility सुनिश्चित करने के लिए $\left\{\beta_i\right\}$ को सीमित करना पड़ता है।

क्रम $p$ का ऑटो-रेग्रेशन: AR($p$)

मान लें $\left\{Z_t\right\}$ शून्य माध्य और प्रसरण $\sigma_Z^2$ वाला शुद्ध रैंडम प्रोसेस है। प्रक्रिया $\left\{X_t\right\}$ को क्रम $p$ की ऑटोरेग्रेसीव प्रक्रिया कहा जाएगा यदि $$X_t = \alpha_1X_{t-1}+\alpha_2X_{t-2}+\cdots+\alpha_pX_{t-p}+Z_t$$ क्रम $p$ की ऑटोरेग्रेसीव प्रक्रिया में, वर्तमान प्रेक्षण $X_t$ (उदाहरण के लिए आज का रिटर्न) पिछले $p$ अवधियों तक के प्रेक्षणों के भारित औसत और एक स्वतंत्र रैंडम वैरिएबल से बनता है; इसलिए यह पिछले $X_t$ के मानों पर निर्भर है और अतः ऑटोरेग्रेसीव कहलाता है। ऐसे प्रकार की प्रक्रियाएँ [@greenwood1920inquiry] द्वारा प्रस्तुत की गई थीं। ऊपर का AR($p$) एक स्थिर माध्य के साथ इस प्रकार लिखा जा सकता है

$$X_t = \delta+\alpha_1X_{t-1}+\alpha_2X_{t-2}+\cdots+\alpha_pX_{t-p}+Z_t$$ जहाँ $\mu$ एक नियतांक पद है जो टाइम सीरीज़ के माध्य से संबंधित है, और $\alpha_1, \alpha_2,\ldots, \alpha_p$ धनात्मक या ऋणात्मक हो सकते हैं। AR($p$) स्टेशनरी है यदि $E[X_t] = E[X_{t-1}] = \cdots = E[X_p] = \mu$। अतः,

\begin{align*} E[X_t] = \mu &= \delta + \alpha_1\mu+\alpha_2\mu+\cdots+\alpha_p\mu+ 0\\ \Rightarrow \mu &= \frac{\delta}{1-\alpha_1-\alpha_2-\cdots-\alpha_p} \end{align*} अंतिम सूत्र को स्थिर नियतांक बने रहने के लिए, हम शर्त मानते हैं $\alpha_1+\alpha_2+\cdots+\alpha_p<1$।

  </1>

प्रथम-क्रम AR प्रक्रिया: AR(1)

जब $p=1$ हो, तो $$X_t = \alpha X_{t-1}+Z_t$$ प्रथम-क्रम ऑटोरेग्रेसीव AR(1) है, जिसे मार्कोव प्रक्रिया भी कहा जाता है। बैकशिफ्ट ऑपरेटर $BX_t = X_{t-1}$ का उपयोग करके, आप AR(1) को अनंत MA प्रक्रिया के रूप में व्यक्त कर सकते हैं। हमारे पास $$(1 - \alpha B)X_t = Z_t$$ अतः, \begin{align*} X_t &= \frac{Z_t}{1-\alpha B}\\ &= (1+\alpha B +\alpha^2B^2+ \cdots)Z_t\\ &=Z_t+\alpha Z_{t-1}+\alpha^2Z_{t-2}+\cdots\\ &=Z_t+\beta_1 Z_{t-1}+\beta_2 Z_{t-2}+\cdots\\ \end{align*}

तब $E[X_t] = 0$ और $Var(X_t) = \sigma^2_Z(1+\alpha^2+\alpha^4+\cdots)$। श्रेणी $|\alpha|<1$ की शर्त पर अभिसारित होती है।

प्रश्न: दिए गए AR(1) प्रोसेस $X_t = \alpha_1X_1+Z_t$ के लिए, जहाँ यह शून्य माध्य और प्रसरण $\sigma^2_Z$ वाला शुद्ध रैंडम प्रोसेस है और $\alpha$ आवश्यक शर्तों के साथ एक नियतांक है, $X_t$ का प्रसरण और ऑटो-कोवेरियंस फ़ंक्शन व्युत्पन्न करें।

AR(1) का सिमुलेशन

# constant alpha
alpha = 0.5

# purely random process with mean 0 and standard deviation 1.5
Z <- rnorm(100, mean = 0, sd = 1.5)

# seed
X <- rnorm(1)

# the process
for (i in 2:length(Z)) {
  X[i] <- 0.7*X[i-1]+Z[i]
}

# process plotting
ts.plot(X)

प्रश्न: AR(2) मॉडल की स्थिरता शर्तों को पैरामीटर मानों के संदर्भ में व्यक्त करें। अर्थात, निम्न शर्तें प्रदर्शित करें:

आप सीमित क्रम, मान लें p, के AR प्रोसेस को अनंत क्रम के MA प्रोसेस के रूप में भी व्यक्त कर सकते हैं। यह क्रमिक प्रतिस्थापन द्वारा या बैकवर्ड शिफ्ट ऑपरेटर का उपयोग कर किया जा सकता है।

ऑटोरेग्रेसीव मूविंग एवरेज प्रक्रिया: ARMA($p,q$)

मॉडल बनाते समय, AR और MA दोनों पदों को मिश्रित करना आवश्यक हो सकता है। इससे मिश्रित ऑटोरेग्रेसीव – मूविंग एवरेज (ARMA) प्रक्रिया बनती है। कोई ARMA प्रक्रिया जिसमें $p$ ऑटोरेग्रेसीव पद और $q$ मूविंग एवरेज पद हों, को क्रम $(p, q)$ का कहा जाता है और यह इस प्रकार दी जाती है

$$X_t = \alpha_1X_{t-1}+\alpha_2X_{t-2}+\cdots+\alpha_pX_{t-p}+Z_t-\beta_1Z_{t-1}-\beta_2Z_{t-2}-\cdots-\beta_qZ_{t-q}$$ बैकशिफ्ट ऑपरेटर B का उपयोग करते हुए, समीकरण लिखा जा सकता है

$$\alpha_p(B)X_t = \beta_q(B)Z_t$$ जहाँ $\alpha_p(B)$ और $\beta_q(B)$ क्रमशः क्रम $p$ और $q$ के बहुपद हैं, ऐसे कि

\begin{align*} \alpha_p(B) &= \left(1-\alpha_1 B-\cdots-\alpha_p B^p\right)\\ \beta_q(B) &= \left(1-\beta_1 B-\cdots-\beta_p B^p\right) \end{align*}

प्रक्रिया के invertible होने के लिए, $\beta_q(B)$ की जड़ें यूनिट सर्कल के बाहर होनी चाहिए। स्टेशनरी होने के लिए, हमें $\alpha_p(B)=0$ की जड़ों का यूनिट सर्कल के बाहर होना आवश्यक है। यह भी माना जाता है कि $\alpha_p(B)=0$ और $\beta_q(B) = 0$ की कोई साझा जड़ें नहीं हैं।

ARMA(1,1) प्रक्रिया

यह प्रक्रिया क्रम $(1,1)$ की है और समीकरण द्वारा दी गई है $$X_t = \alpha_1X_{t-1}+Z_t-\beta_1Z_{t-1}$$

स्टेशनैरिटी और इनवर्टिबिलिटी के लिए $|\alpha_1|<1$ और $|\beta_1|<1$ की शर्तें आवश्यक हैं। जब $\alpha < 0$ हो, तो ARMA(1,1) MA(1) में सिमट जाता है, और जब $\beta_1<0$ हो, तो हमारे पास AR(1) होगा। बैकशिफ्ट ऑपरेटर का उपयोग करते हुए ARMA(1,1) प्रक्रिया को शुद्ध ऑटोरेग्रेसीव निरूपण में बदला जा सकता है:

$$(1-\alpha_1B)X_t = (1-\beta_1B)Z_t$$

हमारे पास

\begin{align*} \frac{1-\alpha_1B}{1-\beta_1B}X_t &= Z_t\\ \pi(B)X_t &= Z_t \end{align*}

जहाँ

\begin{align*} \pi(B) = 1-\pi_1B-\pi_2B^2-\ldots &= \frac{1-\alpha_1B}{1-\beta_1B}\\ (1-\beta_1B)(1-\pi_1B-\pi_2B^2-\ldots) &= 1-\alpha_1B\\ 1-\left[(\pi_1+\beta_1)B - (\pi_2+\beta_2)B^2 - (\pi_3+\beta_3)B^3\right] & = 1-\alpha_1B \end{align*}

समीकरण के दोनों ओर B के गुणांकों की पहचान करके, हमें अज्ञात पद मिलते हैं: $$\pi_j = \beta_1^{j-1}(\alpha_1-\beta_1),\,\text{जहाँ }\, j\geq1$$

ARMA (1, 1) का ऑटोकॉरिलेशन फ़ंक्शन

$X_t$ का अपेक्षित मान $E[X_t] = \alpha_1E[X_{t-1}]$ है और स्टेशनैरिटी मानकर, $E[X_t] = E[X_{t-1}] = \mu = 0$ होगा। यह ऑटो-कोवेरियंस फ़ंक्शन की गणना में उपयोगी है, जो इस प्रकार प्राप्त होता है:

1. $X_tX_{t-k} = \alpha_1X_{t-k}X_{t-1}+X_{t-k}Z_t-\beta_1X_{t-k}Z_{t-1}$
2. दोनों पक्षों का अपेक्षित मान लेने पर: \begin{align*} E\left[X_tX_{t-k}\right] &= E\left[\alpha_1X_{t-k}X_{t-1}\right]+E\left[X_{t-k}Z_t\right]-\beta_1E\left[X_{t-k}Z_{t-1}\right]\\ \gamma(k)&=\alpha_1\gamma(k-1)+E\left[X_{t-k}Z_t\right]-\beta_1E\left[X_{t-k}Z_{t-1}\right] \end{align*}

$k = 0$ के लिए,

\begin{align*} \gamma(1)&=\alpha_1\gamma(0)+E\left[X_{t-1}Z_t\right]-\beta_1E\left[X_{t-1}Z_{t-1}\right]\\ &=\alpha_1\left(\alpha_1\gamma(1)+ \sigma^2_Z - \beta_1(\alpha_1-\beta_1)\sigma^2_Z\right)-\beta_1\sigma^2_Z\\ &= \alpha^2\gamma(1)+(\alpha_1-\beta_1)(1-\alpha_1\beta_1)\sigma^2_Z\\ \Rightarrow \gamma(1)&=\frac{(\alpha_1-\beta_1)(1-\alpha_1\beta_1)\sigma^2_Z}{1-\alpha^2}\\ \Rightarrow \gamma(0)&=\alpha_1\frac{(\alpha_1-\beta_1)(1-\alpha_1\beta_1)\sigma^2_Z}{1-\alpha^2}+ \sigma^2_Z - \beta_1(\alpha_1-\beta_1)\sigma^2_Z\\ &=\frac{\left(1+\beta_1^2-2\alpha_1\beta_1\right)\sigma_Z^2}{1-\alpha^2} \end{align*}

$k \geq 2$ के लिए,

\begin{align*} \gamma(2)&=\alpha_1\gamma(k-1) \end{align*}

अतः, ARMA(1,1) का ACF:

$$\rho(k) = \begin{cases} 1, &\text{जब }\,k=0\\ \frac{(\alpha_1-\beta_1)(1-\alpha_1\beta_1)}{1+\beta_1^2-2\alpha_1\beta_1},&\text{जब }\,k=1\\ \alpha_1\rho(k-1), &\text{जब }\,k\geq2\\ \end{cases} $$ ARMA(1,1) का ACF AR(1) और MA(1) दोनों की विशेषताओं को मिलाता है। $\rho(1)$ में MA(1) और AR(1) दोनों के पैरामीटर मौजूद हैं। $\rho(1)$ के बाद, ARIMA(1,1) मॉडल का ACF AR(1) के ACF जैसा पैटर्न अपनाता है।

प्रश्न: ARMA(1,1) प्रक्रिया का आंशिक ऑटोकॉरिलेशन फ़ंक्शन (PACF) खोजें।

टिप्पणी: टाइम सीरीज़ प्रक्रियाओं की विशेषताएँ उनके ACF और PACF के संदर्भ में दी जाती हैं। टाइम सीरीज़ विश्लेषण में सबसे महत्वपूर्ण चरण है: उपलब्ध डेटा के आधार पर मॉडल की पहचान और निर्माण करना, जहाँ ACF और PACF अज्ञात होते हैं।

ARMA(1,1) प्रक्रिया का सिमुलेशन

# purely random process with mean 0 and standard deviation 1.5
Z <- rnorm(100, mean = 0, sd = 1.5)

# Process
X <- rnorm(1)

for (i in 2:length(Z)) {
  X[i] <- 0.35*X[i-1] + Z[i] + 0.4*Z[i-1]
}

# process plotting
ts.plot(X, main = "ARMA(1,1) process")

# ACF et PACF
par(mfrow = c(1,2))
acf(X); pacf(X)

ARIMA($p,d,q$) प्रक्रिया

ऑटोरेग्रेसीव इंटीग्रेटेड मूविंग एवरेज मॉडल वे टाइम सीरीज़ हैं जो निम्न समीकरण द्वारा परिभाषित होते हैं:

SARIMA(p,d,q)(P,D,Q) प्रक्रिया

पूर्वानुमान

इस अनुभाग में, आप वास्तविक टाइम सीरीज़ का उपयोग करके उससे इष्टतम मॉडल फिट करेंगे। इसके लिए आप forecast पैकेज का उपयोग करेंगे। फ़ंक्शन auto.arima डेटा से इष्टतम मॉडल फिट और चयन करता है, और forecast फ़ंक्शन h अवधियों आगे तक का पूर्वानुमान देता है।

# R packages to be used
library(forecast)
library(TSA)

उदाहरण 1:

# Data from TSA package
data("co2")
data("boardings")

# fitting
fit <- auto.arima(co2)

# Time series plot
plot(fc <- forecast(fit, h = 15))

उदाहरण 2:

data("boardings")

# fitting
fit2 <- auto.arima(boardings[,"log.price"])

# forecasting
plot(fc2 <- forecast(fit2, h = 15))

संदर्भ

Greenwood, Major, और G Udny Yule. 1920. “An Inquiry into the Nature of Frequency Distributions Representative of Multiple Happenings with Particular Reference to the Occurrence of Multiple Attacks of Disease or of Repeated Accidents.” Journal of the Royal Statistical Society 83 (2). JSTOR: 255–79.

Jenkins, GM. n.d. “D. G. Watts (1968) Spectral Analysis and Its Applications.” San Francisco.

निष्कर्ष

इस ट्यूटोरियल में, आपने R में टाइम सीरीज़ के कई पहलुओं को कवर किया। आपने सीखा कि स्टेशनरी प्रक्रिया क्या होती है, रैंडम वैरिएबल्स का सिमुलेशन, रैंडम टाइम सीरीज़ का सिमुलेशन, रैंडम वॉक प्रक्रिया, और बहुत कुछ। साथ ही, आपने क्रम p का ऑटो-रेग्रेशन: AR(p), SARIMA(p,d,q)(P, D, Q) प्रक्रिया, और पूर्वानुमान भी कवर किया।

यदि आप R में टाइम सीरीज़ के बारे में और सीखना चाहते हैं, तो ये DataCamp के कोर्स देखें: