Szereg czasowy to zbiór danych zbieranych w odstępach czasu. Są one analizowane w celu określenia długoterminowego trendu, aby prognozować przyszłość lub przeprowadzić inną formę analizy. Taki zbiór danych jest zależny od czasu a więc założenie regresji liniowej o obserwacjach niezależnych się tu nie sprawdzi, niektóre szeregi wykazują sezonowość czyli specyficzne zachowanie danych w konkretnym przedziale czasowym (np: zwiększona sprzedaż choinek przed Bożym Narodzeniem).
Metody uczenia maszynowego mogą być stosowane do klasyfikacji i prognozowania problemów z szeregami czasowymi. Zanim przejdziemy do metod uczenia maszynowego, przyjrzyjmy się podstawowym metodom prognozowania szeregów czasowych, które skupiają się na relacjach liniowych a żeby skorzystać z tych metod należy odpowiednio przygotować dane.
Zwykle większość metod analizy zakłada, że dane szeregów czasowych zawierają element systematyczny (zazwyczaj zawierający kilka komponentów) i losowy szum (błąd), co komplikuje wykrywanie regularnych komponentów. Dlatego większość metod, obejmuje różne metody filtracji hałasu lub muszą zostać wykonane pewne kroki podczas wstępnego przetwarzania danych.
Większość regularnych komponentów należy do dwóch głównych klas – trend lub składnik sezonowy. Trend jest ogólną systematyczną liniową lub nieliniową składnik, który z czasem może ulec zmianie. Składnik sezonowy powtarza się co jakiś czas. Oba te typy regularnych komponentów są zwykle prezentowane w czasie serii jednocześnie. Na przykład sprzedaż może wzrastać z roku na rok, ale jest komponent sezonowy, który odzwierciedla znaczny wzrost sprzedaży w grudniu oraz spadek w sierpniu. Oprócz trendu i sezonowości jest jeszcze szum i komponent cykliczny, który różni się od sezonowości głównie długofalowym efektem również czasowo nie jest łatwo przewidywalny – często też jest częścią trendu.
Każdy z tych komponentów może mieć różne znaczenie w modelu zależnie od szergu czasowego, wyróżniamy dwa główne modele: addytywny i multiplikatywny.
- Addytywny ma wzór: Z(t) = T(t) + C(t) + S(t) + R(t)
- Multiplikatywny: Z(t) = T(t) x C(t) x S(t) x R(t)
Główna różnica między tymi modelami polega na tempie wzrostu.
W tym poście zajmiemy się pewnymi elementami szeregu czasowego :stacjonarnością, trendem i sezonowością, a w następnym będziemy modelować i prognozować dane.
Na początek importujemy biblioteki oraz dane (sprzedaż miesięczna apteki). Nasze dane są podstawowe i zawierają tylko daty i wartość sprzedaży:
import pandas as pd
import numpy as np
import matplotlib.pylab as plt
%matplotlib inline
from matplotlib.pylab import rcParams
rcParams['figure.figsize'] = 20, 6
data = pd.read_csv(r'C:\Users\\Documents\drugstore.csv'); data.head()
data.dtypes
Musimy zmienić kolumnę ‚date’ na typ danych daty:
data['date'] = pd.to_datetime(data['date']); data.head()
Sprawdźmy czy typ daty się zmienił:
data.dtypes
data = data.set_index('date'); data.head(3)
Szeregi czasowe mogą być stacjonarne, jeżeli jego właściwości statystyczne, takie jak średnia, wariancja pozostają stałe w czasie. Większość modeli działa przy założeniu, że szereg jest nieruchomy (stacjonarny). Intuicyjnie możemy zasugerować, że jeśli dany zbiór ma szczególne zachowanie w czasie, istnieje bardzo duże prawdopodobieństwo, że nastąpi to samo w przyszłości. Również teorie związane ze stacjonarnymi seriami są bardziej dojrzałe i łatwiejsze do wdrożenia w porównaniu do niestacjonarnych serii.
Klasyczne metody analizy i prognozowania szeregów czasowych dotyczą przekształcania niestacjonarnych danych szeregów czasowych poprzez identyfikację i usuwanie trendów oraz usuwanie efektów stacjonarnych.
Procesowanie danych przed modelowaniem:
- czy dane są stacjonarne? niektóre modele nie wymagają danych stacjonarnych dlatego dalsze procesowanie będzie zależało od modelu, który będzie użyty
Aby osiągnąć stacjonarność: - usunięcie hałasu – Dane szeregów czasowych prawie zawsze zawierają losowy składnik szumu. Celem metod odszumiania jest filtrowanie i usuwanie niepożądanego hałasu za pomocą wygładzania (smoothing), np: średnia krocząca (każda wartość w serii jest zastępowana przez proste lub ważone średnie z sąsiednich wartości), Filtr mediany – podobny do średniej kroczącej, ale wartości są zastępowane medianą, lokalny filtr regresji – wartości są zastępowane wygładzoną krzywą z wartościami dopasowane metodą najmniejszych kwadratów
- oszacowanie trendu i sezonowości oraz usunięcie tych komponentów, można to osiągnąć przez różnicowanie i/lub dekompozycję
- usunięcie anomalii
Istnieje wiele metod sprawdzania, czy szeregi czasowe są stacjonarne czy niestacjonarne:
- Wizualnie: możesz przejrzeć wykresy szeregów czasowych danych i wizualnie sprawdzić, czy są jakieś oczywiste trendy lub sezonowość
- Statystyki podsumowania: Możesz podzielić serie czasowe na dwie (lub więcej) partycje i porównać średnią i wariancję każdej grupy. Jeżeli różnią się, a różnica jest statystycznie znacząca, szereg czasowy prawdopodobnie nie jest stacjonarny.
- Testy statystyczne: Przy pomocy testów statystycznych, możemy sprawdzić, czy oczekiwania dotyczące stacjonarności zostały spełnione lub zostały naruszone.
Najłatwiej i najszybciej możemy sprawdzić trend i sezonowość na wykresie:
plt.plot(data)
Z wykresu wynika, że istnieje trend rosnący z pewnymi sezonowymi wariacjami. Nie zawsze jest to takie oczywiste i samo wizualne sprawdzenie może nie być wystarczające. Spróbujmy innych metod na sprawdzenie stacjonarności, takie jak: średnia krocząca (sprawdzić czy zmienia się w czasie) lub test Dickeya-Fullera (test statystyczny sprawdzający stacjonarność).
Na początek użyjemy test Dickeya – Fullera z czystym zestawem danych bez żadnej transformacji:
Postawmy hipotezę zerową H0: zbiór danych jest niestacjonarny (czyli dane są zależne od czasu)
HA: zbiór danych jest stacjonarny (nie ma trendu ani sezonowości)
from statsmodels.tsa.stattools import adfuller
X = data.value
result = adfuller(X)
print('ADF Statistic: %f' % result[0])
print('wartość - p: %f' % result[1])
print('Wartości krytyczne:')
for key, value in result[4].items():
print('\t%s: %.3f' % (key, value))
Wartość p > 0.05, akceptujemy hipotezę zerową, czyli dane są niestacjonarne.
Spróbujemy przybliżyć zestaw danych do stacjonarności. Trend i sezonowość to dwie główne przyczyny niestacjonarności, a więc postaramy się oszacować trend i sezonowość w serii i usuniemy je. Niektóre metody mogą dobrze działać w jednym przypadku, a inne nie. Najpierw zmniejszymy trend przez transformację. W naszym przypadku wyraźnie widać, że istnieje znaczący pozytywny trend (rosnący w czasie), a więc zastosujemy transformację, która penalizuje wyższe wartości bardziej niż mniejsze wartości. Mogą to być takie funkcje jak: log, pierwiastek kwadratowy, pierwiastek sześcienny itd.
Przekształcimy zbiór danych, aby rozkład wartości był bardziej liniowy i lepiej spełniał oczekiwania testu statystycznego:
data_log = np.log(data)
plt.plot(data_log)
Sprawdźmy jeszcze raz stacjonarność tym razem zmienionego zestawu danych:
X = data_log.value
result = adfuller(X)
print('ADF Statistic: %f' % result[0])
print('wartość - p: %f' % result[1])
print('Wartości krytyczne:')
for key, value in result[4].items():
print('\t%s: %.3f' % (key, value))
Wartość p > 0.05 więc w dalszym ciągu dane są niestacjonarne, ale jesteśmy bliżej celu.
Kilka metod transformacji danych:
Agregacja – biorąc średnią za okres, taki jak średnie miesięczne / tygodniowe
Wygładzanie – pobieranie średnich kroczących
Dopasowanie wielomianowe – dopasowanie modelu regresji
Zastosujemy średnią kroczącą dla wygładzenia danych:
moving_avg = data_log.rolling(window=12).mean()
plt.plot(data_log)
plt.plot(moving_avg, color='r')
Czerwona linia pokazuje średnią kroczącą. Przyjeliśmy okno = 12 ze względu na nasze dane miesięczne – przyjmujemy średnią z ostatnich 12 wartości, średnia krocząca nie jest zdefiniowana dla pierwszych 11 wartości, możemy je usunąć:
data_log_moving_avg_diff = data_log - moving_avg
data_log_moving_avg_diff.dropna(inplace=True)
Sprawdźmy stacjonarność danych (średnia krocząca):
X = data_log_moving_avg_diff.value
result = adfuller(X)
print('ADF Statistic: %f' % result[0])
print('wartość - p: %f' % result[1])
print('Wartości krytyczne:')
for key, value in result[4].items():
print('\t%s: %.3f' % (key, value))
P < 0.05 a więc dane są stacjonarne
Wartość testu jest mniejsza niż wartość krytyczna 5%, więc możemy powiedzieć z 95% pewnością że dane są stacjonarne.
W niektórych przypadkach zamiast zwykłej średniej kroczącej lepiej użyć średnią kroczącą ważoną, gdzie ostatnie dane mają nadane większą wagę niż początkowe. Z funkcją ewm().mean() możemy uzyskać naszą średnią ważoną. Parametry tej funkcji będą się zmieniały w zależności od priorytetów.
exp_avg = data_log.ewm(halflife=12).mean()
plt.plot(data_log)
plt.plot(exp_avg, color='red')
Sprawdźmy jak stacjonarność wygląda teraz:
X = exp_avg.value
result = adfuller(X)
print('ADF Statistic: %f' % result[0])
print('wartość - p: %f' % result[1])
print('Wartości krytyczne:')
for key, value in result[4].items():
print('\t%s: %.3f' % (key, value))
Dla naszego zestawu danych podstawowa średnia krocząca dała lepsze rezultaty od średniej ważonej.
Jeśli się już uporamy z oszacowaniem trendu należałoby go usunąć dzięki czemu łatwiej będzie nam zbadanie sezonowości. Aby usunąć trend, można odjąć trend, który obliczono powyżej z oryginalnego zestawu.
Innym sposobem na usunięcie tego trendu jest „różnicowanie”, w którym przyglądamy się różnicy między kolejnymi punktami danych (nazywanym „różnicowaniem pierwszego rzędu” – analiza różnicy między jednym punktem danych a jednym przed nim).
data_log_diff = data_log - data_log.shift()
plt.plot(data_log_diff)
Dzięki takiej metodzie różnicowania pozbyliśmy się głównego trendu.
Innym podejściem jest dekompozycja gdzie zarówno trend, jak i sezonowość są modelowane osobno, a pozostała część serii jest zwracana. Celem dekompozycji szeregu czasowego jest oszacowanie i ekstrakcja deterministycznych części szeregu trendu oraz sezonowości w nadziei, że pozostałe dane, czyli teoretycznie zmienna losowa okaże się stacjonarnym procesem losowym.
from statsmodels.tsa.seasonal import seasonal_decompose
decomposition = seasonal_decompose(data_log)
trend = decomposition.trend
seasonal = decomposition.seasonal
residual = decomposition.resid
plt.subplot(411)
plt.plot(data_log, label='Dane')
plt.legend(loc='best')
plt.subplot(412)
plt.plot(trend, label='Trend')
plt.legend(loc='best')
plt.subplot(413)
plt.plot(seasonal,label='Sezonowość')
plt.legend(loc='best')
plt.subplot(414)
plt.plot(residual, label='Residuals')
plt.legend(loc='best')
plt.tight_layout()
Trend i sezonowość są oddzielane od danych i możemy modelować reszty. Sprawdźmy ich stacjonarność:
data_log_decompose = residual
data_log_decompose.dropna(inplace=True)
X = data_log_decompose.value
result = adfuller(X)
print('ADF Statistic: %f' % result[0])
print('wartość - p: %f' % result[1])
print('Wartości krytyczne:')
for key, value in result[4].items():
print('\t%s: %.3f' % (key, value))
Wartość testu jest sporo mniejsza od 1% a więc ten zestaw jest prawie idealnie stacjonarny.
