2
本文作者: 恒亮 | 2017-04-01 16:50 |
雷鋒網(wǎng)按:本文源自美國機(jī)器學(xué)習(xí)專家 Jason Brownlee 的博客,雷鋒網(wǎng)編譯。
時間序列預(yù)測,究竟需要多少歷史數(shù)據(jù)?
顯然,這個問題并沒有一個固定的答案,而是會根據(jù)特定的問題而改變。
在本教程中,我們將基于 Python 語言,對模型輸入大小不同的歷史數(shù)據(jù),對時間序列預(yù)測問題展開討論,探究歷史數(shù)據(jù)對 ARIMA 預(yù)測模型的性能影響。(雷鋒網(wǎng)注:ARIMA 全程是 Autoregressive Integrated Moving Average Model,即自回歸積分滑動平均模型)
具體來說,在本教程中,我們將:
● 加載標(biāo)準(zhǔn)數(shù)據(jù)集并輸入 ARIMA 模型;
● 對歷史數(shù)據(jù)年份進(jìn)行敏感性分析;
● 分析敏感性分析的結(jié)果。
通過本例提供的模板,大家將可以根據(jù)各自特定的時間序列預(yù)測場景,展開類似的針對歷史數(shù)據(jù)大小的敏感性分析。
本例中我們使用來自澳大利亞氣象局的一份數(shù)據(jù),該數(shù)據(jù)描述了墨爾本市 10 年(1981 - 1990年)內(nèi)的每日最低氣溫,單位為攝氏度,觀測值共 3650 次。
這里我們將下載好的數(shù)據(jù)集保存在 daily-minimum-temperature.csv 文件中。
這里需要注意的是,下載文件中有一些多余的“?”字符,可以通過文本編輯器打開并刪除,否則模型無法處理。此外,文件中的腳注信息也需要刪除。
以下代碼展示了如何加載數(shù)據(jù)庫,并生成 Pandas 庫中的 Series 對象。
# line plot of time series
from pandas import Series
from matplotlib import pyplot
# load dataset
series = Series.from_csv('daily-minimum-temperatures.csv', header=0)
# display first few rows
print(series.head(20))
# line plot of dataset
series.plot()
pyplot.show()
運行代碼后打印得到的前 20 行數(shù)據(jù)如下所示:
根據(jù)載入數(shù)據(jù),可以得到如下圖所示的溫度變化曲線,從圖頭中可以看到明顯的季節(jié)性變化。
在本節(jié)中,我們將基于以上數(shù)據(jù)搭建一個 ARIMA 預(yù)測模型。
這里我們不會調(diào)整模型參數(shù)。而且,為了對數(shù)據(jù)平穩(wěn)化并適配 ARIMA 模型,必須先刪除數(shù)據(jù)中包含的明顯的季節(jié)性變化趨勢。
以下代碼中,我們通過減去前一年數(shù)據(jù)的辦法來獲得數(shù)據(jù)的季節(jié)性差異。需要說明的是,這種方法是很粗糙的,因為它并沒有考慮閏年的因素。而且,這也意味著第一年的數(shù)據(jù)將無法用于建模,因為第一年并沒有更早的數(shù)據(jù)。
# seasonal difference
differenced = series.diff(365)
# trim off the first year of empty data
differenced = series[365:]
接下來,我們將數(shù)據(jù)導(dǎo)入 ARIMA(7,0,0) 模型,并打印輸出匯總信息。
# fit model
model = ARIMA(differenced, order=(7,0,0))
model_fit = model.fit(trend='nc', disp=0)
print(model_fit.summary())
打印輸出的匯總信息如下:
這一節(jié)我們將討論歷史數(shù)據(jù)大小對模型預(yù)測性能的影響。
上文提到,我們原本有 10 年的原始數(shù)據(jù),但是由于季節(jié)性差異處理,因此只有 9 年的實際數(shù)據(jù)可用。為了進(jìn)行歷史數(shù)據(jù)大小的敏感性分析,這里我們將最后一年的數(shù)據(jù)作為測試樣本,依次選擇1年、2年一直到8年的剩余數(shù)據(jù)為訓(xùn)練樣本,步進(jìn)地進(jìn)行測試,并逐日記錄測試情況。根據(jù)記錄數(shù)據(jù),我們還計算了均方根誤差(RMSE)來明確反應(yīng)模型的性能表現(xiàn)。
下面這行代碼將經(jīng)過季節(jié)性調(diào)整的數(shù)據(jù)分為訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)。
train, test = differenced[differenced.index < '1990'], differenced['1990']
需要注意的是,這里根據(jù)自己的問題預(yù)測規(guī)模,選擇合適的間隔很重要。本例中我們未來對歷史數(shù)據(jù)量進(jìn)行敏感性分析進(jìn)行了步進(jìn)操作。另外,鑒于數(shù)據(jù)的季節(jié)性,本例中一年是數(shù)據(jù)集的最好的時間間隔。但感興趣的朋友根據(jù)問題域的變化也可以選擇其他間隔,例如閱讀或者多年時間間隔。
以下是具體代碼:
# split
train, test = differenced[differenced.index < '1990'], differenced['1990']
years = ['1989', '1988', '1987', '1986', '1985', '1984', '1983', '1982']
for year in years:
# select data from 'year' cumulative to 1989
dataset = train[train.index >= year]
定好了數(shù)據(jù)之后,下一步是評估 ARIMA 模型。
具體的步進(jìn)評估方法是:首先選取一個時間段的數(shù)據(jù),并根據(jù)選定數(shù)據(jù)建模,訓(xùn)練,然后對下一段數(shù)據(jù)進(jìn)行預(yù)測,預(yù)測后記錄數(shù)據(jù)并計算正確率。接著,將真實的觀察數(shù)據(jù)加入建模數(shù)據(jù),建立新的模型并展開訓(xùn)練,對再下一段數(shù)據(jù)進(jìn)行預(yù)測,并記錄結(jié)果。依次進(jìn)行,知道數(shù)據(jù)用完。
最終,預(yù)測結(jié)果將被集合在一起,與真實觀察數(shù)據(jù)中的最后一年比較,計算出錯誤情況。在這種情況下,RMSE 將被用作預(yù)測得分,并將與觀察結(jié)果的數(shù)量級等同。
具體代碼如下:
# walk forward over time steps in test
values = dataset.values
history = [values[i] for i in range(len(values))]
predictions = list()
test_values = test.values
for t in range(len(test_values)):
# fit model
model = ARIMA(history, order=(7,0,0))
model_fit = model.fit(trend='nc', disp=0)
# make prediction
yhat = model_fit.forecast()[0]
predictions.append(yhat)
history.append(test_values[t])
rmse = sqrt(mean_squared_error(test_values, predictions))
print('%s-%s (%d values) RMSE: %.3f' % (years[0], year, len(values), rmse))
運行代碼后的打印輸出結(jié)果如下。需要注意的是,因為代碼在每個歷史訓(xùn)練數(shù)據(jù)間隔都創(chuàng)建了 356 個 ARIMA 模型,因此可能需要一些時間。
1989-1989 (365 values) RMSE: 2.336
1989-1988 (730 values) RMSE: 2.333
1989-1987 (1095 values) RMSE: 2.326
1989-1986 (1460 values) RMSE: 2.321
1989-1985 (1825 values) RMSE: 2.320
1989-1984 (2190 values) RMSE: 2.320
1989-1983 (2555 values) RMSE: 2.318
1989-1982 (2920 values) RMSE: 2.316
從結(jié)果可以看到,隨著可用歷史數(shù)據(jù)的增多,模型的誤差總體呈下降趨勢。
但同時也應(yīng)該看到,在 4-5 年的時間段,不斷增長歷史數(shù)據(jù)的效果收益率實際上是遞減的。也就是說,在歷史數(shù)據(jù)不足或模型訓(xùn)練時間無法滿足要求時,也可以根據(jù)實際需求,利用相對較少的歷史數(shù)據(jù),得到一個性價比最高的結(jié)果。
以下代碼是根據(jù)測試數(shù)據(jù)繪制曲線圖的過程。
from matplotlib import pyplot
x = [365, 730, 1095, 1460, 1825, 2190, 2555, 2920]
y = [2.336, 2.333, 2.326, 2.321, 2.320, 2.320, 2.318, 2.316]
pyplot.plot(x, y)
pyplot.show()
運行后得到的曲線如圖所示。
從曲線圖可以更清晰地看到總體上歷史數(shù)據(jù)越多,預(yù)測結(jié)果就更精確這一變化趨勢。因為歷史數(shù)據(jù)越多,就意味著系數(shù)的優(yōu)化越精確,符合數(shù)據(jù)變化的內(nèi)在規(guī)律的可能性就越高。
但同時也可以從上圖中看到另一個現(xiàn)象:大多數(shù)時候人們覺得歷史數(shù)據(jù)越多,模型的表現(xiàn)就越好。但實際上,連續(xù)兩年或三年的數(shù)據(jù)之間并沒有什么根本性的差別,因此靈活選擇時間跨度也至關(guān)重要。
我們通過本次教程為大家演示了如何設(shè)計、執(zhí)行和分析基于時間序列預(yù)測的歷史數(shù)據(jù)敏感性分析?,F(xiàn)針對樣例中的一些局限和可能的擴(kuò)展項目整理如下:
1. 模型參數(shù)未調(diào)試。本例中我們使用的 ARIMA 模型并未針對問題域進(jìn)行過任何的參數(shù)調(diào)節(jié)。在理想狀態(tài)下,一個針對歷史數(shù)據(jù)量的敏感性分析應(yīng)該基于一個經(jīng)過參數(shù)調(diào)節(jié)的 ARIMA 模型。
2. 統(tǒng)計學(xué)意義。上文中提到的,針對不同的歷史數(shù)據(jù),模型的不同預(yù)測表現(xiàn)是否具有統(tǒng)計學(xué)意義,目前尚不清楚。但 Pairwise 統(tǒng)計學(xué)顯著性檢驗可用于評估 RMSE 的差異是否有意義。
3. 其他模型。本例中我們使用了 ARIMA 模型來進(jìn)行歷史數(shù)據(jù)的系數(shù)擬合。感興趣的朋友可以換用其他模型進(jìn)行類似的研究,各個模型對歷史數(shù)據(jù)的敏感性和處理方式也各不相同。
4. 其他時間間隔。本例中我們以一年為時間間隔,但實際上也可以選擇其他間隔。例如幾個星期、幾個月或者幾年,要根據(jù)不同的問題域靈活選擇。另外,如上文所述,還要考慮相鄰時間段之間數(shù)據(jù)的相似性,這也是一個很重要的影響因素。
來源:machinelearningmastery,雷鋒網(wǎng)編譯
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。