Model AR

Model autoregresyjny (rzędu $M$) opisuje procesy dyskretne, w których wartość sygnału w danej chwili jest sumą liniowej kombinacji $M$ wartości poprzednich i nieskorelowanego szumu $\epsilon$

$$s[n] = \sum_{i=1}^M a_i s[n-i] + \epsilon_n$$ (2.35)

W każdej realizacji tego samego procesu (dla tych samych współczynników $a_i$ i wartości początkowych sygnału), $\epsilon_t$ są niezależnymi liczbami losowymi, więc o wartości $s(t)$ w konkretnej chwili $t$ możemy mówić tylko językiem prawdopodobieństwa.

Rysunek: Przykładowe realizacje procesu AR 3-go rzędu ($M=3$) o tych samych współczynnikach i wartościach początkowych

Mimo tego, na podstawie współczynników AR możemy określić wiele ogólnych własności sygnału, np. wartość oczekiwaną $\bar{s}$ (w praktyce estymowaną przez wartość średnią) i wariancję (jej estymatorem jest kwadratów odchyleń wartości sygnału od wartości oczekiwanej), a nawet widmo mocy. Można również rozważać szersze klasy modeli tego typu, jak np. model MA (ruchomej średniej -- moving average), gdzie uśredniamy $\epsilon_t$ zamiast $s(t)$, czy proces mieszany ARMA [4,10].

Najprostszym przykładem jest proces liniowy Markowa, czyli proces AR pierwszego rzędu (dla $a=1$ będzie to błądzenie przypadkowe):

$$s[n] = a s[n-1] + \epsilon_n$$ (2.36)

Czyli

$$s[n] = \epsilon_n + a (\epsilon_{n-1}+a_{n-2}+\ldots) = \ldots = \epsilon_n + a\epsilon_{n-1} + a^2\epsilon_{n-2} +\ldots$$

Jeśli wartość oczekiwana $\epsilon_i$ wynosi 0 ( $E(\epsilon_i)=0$) a wariancja $\sigma^2(\epsilon_i)=\sigma_\epsilon^2$, to wariancja w punkcie $n$

$$\sigma^2_{s[n]} = E\left( (\epsilon_n + a\epsilon_{n-1} + a^2\epsilon_{n-2}+\ldots+a^{n-1}\epsilon_1)^2\right) =$$

$$= \sigma_\epsilon^2 \left(1+a^2+a^4+\ldots+a^{2n-2} \right) =... ...ne 1\\ n \sigma_\epsilon^2 & \vert a\vert=1 \end{array}\right.$$

Autokowariancja $E(s[n] s[n+\tau])$

$$E\left( (\epsilon_n + a\epsilon_{n-1} + a^2\epsilon_{n-2}+\ldots+... ...psilon_{n+\tau} + a\epsilon_{n+\tau-1} +\ldots+a^{n+\tau-1}\epsilon_1)\right) =$$

$$= \sigma_\epsilon^2 \left(a^\tau+a^{\tau+2}+\ldots+a^{\tau+2(... ...ne 1\\ n \sigma_\epsilon^2 & \vert a\vert=1 \end{array}\right.$$

Dla $\vert a\vert\ne 1$ przy $n\rightarrow\infty$

$$\sigma^2_{x[n]} \stackrel{n\rightarrow\infty}{\longrightarrow} \f... ...el{n\rightarrow\infty}{\longrightarrow} \frac{\sigma^2_\epsilon a^\tau}{1-a^2}$$

Autokowariancja

$$\rho(\tau) = \frac{ \sigma_{x[n], x[n+\tau]} }{ \sigma^2_{x[n]} } \stackrel{n\rightarrow\infty}{\longrightarrow} a^{\vert\tau\vert}$$

Proces jest asymptotycznie stacjonarny do rzędu 2, czyli wariancja i średnia nie zależą od czasu.

Na podstawie znajomości samego współczynnika $a$ modelu AR(1) policzyliśmy np. funkcję autokorelacji modelu, co daje już znajomość widma procesu (z tw. Wienera-Chinczyna, str. ). Podobnie w procesach wyższych rzędów (równanie 2.35) znajomość współczynników $\{a_i\}_{i=1..M}$ daje nam dokładną wiedzę o własnościach generowanych przez nie procesów, bez znajomości sygnału $s[n]$, którego wartości mogą różnić się w kolejnych realizacjach ze względu na element stochastyczny -- szum $\epsilon$.

W praktyce analizy sygnału postępujemy odwrotnie -- do konkretnej realizacji dopasowujemy model AR. Głównym problemem jest wybór rzędu modelu, estymacja współczynników $a_i$ najlepiej pasujących do danego sygnału posiada stabilne rozwiązania.

Jeśli dozwolimy, aby sygnał zależał również bezpośrednio od poprzednich wartości szumu $\epsilon$, dostajemy pełną postać procesu ARMA(L,M) (auto-regressive moving average):

$$\sum_{i=1}^L b_i\epsilon_{n-i} = \sum_{j=1}^M a_j s[n-j]$$ (2.37)