ARIMA模型

在統計學與計量經濟學所使用的時間序列分析中，自回歸單整移動平均模型（ARIMA）和季節性ARIMA模型（SARIMA）分別是自回歸移動平均模型（ARMA）向非平穩序列和周期性變化情形的推廣。所有這些模型都是為了更好地理解時間序列並預測未來值而擬合的。這種推廣的目的是使模型儘可能貼合數據。具體而言，ARMA模型假設序列具有平穩性，即其期望值不隨時間變化。若序列存在趨勢（但方差/自協方差保持恆定），可通過「差分」操作消除趨勢，^[1] 得到平穩序列。這種操作實現了對ARMA模型的推廣，對應著ARIMA中的「單整」（integrated）部分。類似地，周期性變化可通過「季節性差分」操作消除。^[2]

組成部分

與ARMA模型類似，ARIMA中的「自回歸」（AR）部分表示感興趣的演進變量對其前期值進行回歸；「移動平均」（MA）部分表示回歸誤差是同時期及過去不同時期誤差項的線性組合^[3]；而「單整」（I）部分表示數據值已被替換為當前值與前一值的差值（即通過差分操作消除趨勢）。

根據Wold分解定理（英語：Wold's decomposition theorem）^[4]^[5]^[6]，ARMA模型足以描述規則（亦稱純非確定性^[6]）的廣義平穩時間序列。這促使我們在應用ARMA模型前，需先通過差分等操作將非平穩序列轉化為平穩形式。^[7]

若時間序列包含可預測子過程（亦稱純正弦或復值指數過程^[5]），則該可預測成分在ARIMA框架下被視為具有非零均值但周期性（即季節性）的成分，可通過季節性差分操作予以消除。

數學形式

非季節性ARIMA模型通常記作 ARIMA(p, d, q)，其中參數 p, d, q 為非負整數：p 表示自回歸部分的階數（時間滯後項的數量），d 表示單整的階數（即數據經過差分操作的次數，即當前值與過去值相減的次數），q 表示移動平均部分的階數。季節性ARIMA模型通常記作 ARIMA(p, d, q)(P, D, Q)_m，其中大寫字母 P, D, Q 分別對應季節性部分的自回歸、單整（差分）、移動平均項，m 表示每個季節包含的周期數。^[8]^[2] 當三個參數中有兩個為0時，模型名稱可根據非零參數簡化，省略縮寫中的「AR」、「I」或「MA」。例如， ${\text{ARIMA}}(1,0,0)$ 可簡稱為 $AR(1)$ ， ${\text{ARIMA}}(0,1,0)$ 稱為 $I(1)$ ， ${\text{ARIMA}}(0,0,1)$ 稱為 $MA(1)$ 。

給定時間序列數據 X_t，其中 t 為整數索引且 X_t 為實數，則 ${\text{ARMA}}(p',q)$ 模型可表示為：

X_{t}-\alpha _{1}X_{t-1}-\dots -\alpha _{p'}X_{t-p'}=\varepsilon _{t}+\theta _{1}\varepsilon _{t-1}+\cdots +\theta _{q}\varepsilon _{t-q},

或等價形式：

\left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,

其中 $L$ 為滯後算子， $\alpha _{i}$ 為模型自回歸部分的參數， $\theta _{i}$ 為移動平均部分的參數， $\varepsilon _{t}$ 為誤差項。通常假設誤差項 $\varepsilon _{t}$ 為獨立同分布的隨機變量，服從均值為0的常態分布。

若多項式 $\textstyle \left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)$ 存在一個重數為 d 的單位根（即因子 $(1-L)$ 出現d次），則可將其重寫為：

\left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)=\left(1-\sum _{i=1}^{p'-d}\varphi _{i}L^{i}\right)\left(1-L\right)^{d}.

此時，ARIMA(p, d, q) 過程通過 p = p'−d 體現此多項式分解特性，其數學形式為：

\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)(1-L)^{d}X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,

該過程本質上是自回歸多項式包含 d 個單位根的 ARMA(p+d, q) 過程。（這也是為何當 d > 0 時，嚴格符合ARIMA模型的過程不具有廣義平穩性的原因。）

進一步推廣後，模型形式為：

\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)(1-L)^{d}X_{t}=\delta +\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}.\,

此時定義了一個具有漂移項 ${\frac {\delta }{1-\sum \varphi _{i}}}$ 的 ARIMA(p, d, q) 過程。

參見

參考文獻

^ For further information on Stationarity and Differencing see https://www.otexts.org/fpp/8/1
^ ^2.0 ^2.1 Hyndman, Rob J; Athanasopoulos, George. 8.9 Seasonal ARIMA models. Forecasting: principles and practice. oTexts. [19 May 2015].
^ Box, George E. P. Time Series Analysis: Forecasting and Control. WILEY. 2015. ISBN 978-1-118-67502-1.
^ Hamilton, James. Time Series Analysis. Princeton University Press. 1994. ISBN 9780691042893.
^ ^5.0 ^5.1 Papoulis, Athanasios. Probability, Random Variables, and Stochastic processes. Tata McGraw-Hill Education. 2002.
^ ^6.0 ^6.1 Triacca, Umberto. The Wold Decomposition Theorem (PDF). 19 Feb 2021. （原始內容存檔 (PDF)於2016-03-27）.
^ Wang, Shixiong; Li, Chongshou; Lim, Andrew. Why Are the ARIMA and SARIMA not Sufficient. 2019-12-18. arXiv:1904.07632  [stat.AP].
^ Notation for ARIMA Models. Time Series Forecasting System. SAS Institute. [19 May 2015].

延伸閱讀

Asteriou, Dimitros; Hall, Stephen G. ARIMA Models and the Box–Jenkins Methodology. Applied Econometrics Second. Palgrave MacMillan. 2011: 265–286. ISBN 978-0-230-27182-1.
Mills, Terence C. Time Series Techniques for Economists. Cambridge University Press. 1990. ISBN 978-0-521-34339-8.
Percival, Donald B.; Walden, Andrew T. Spectral Analysis for Physical Applications. Cambridge University Press. 1993. ISBN 978-0-521-35532-2.
Shumway R.H. and Stoffer, D.S. (2017). Time Series Analysis and Its Applications: With R Examples. Springer. DOI: 10.1007/978-3-319-52452-8
ARIMA Models in R. Become an expert in fitting ARIMA (autoregressive integrated moving average) models to time series data using R.

外部連結

Lecture notes on ARIMA models by Robert Nau at Duke University

[1] For further information on Stationarity and Differencing see https://www.otexts.org/fpp/8/1

[:1-2] 2.0 ^2.1 Hyndman, Rob J; Athanasopoulos, George. 8.9 Seasonal ARIMA models. Forecasting: principles and practice. oTexts. [19 May 2015].

[3] Box, George E. P. Time Series Analysis: Forecasting and Control. WILEY. 2015. ISBN 978-1-118-67502-1.

[4] Hamilton, James. Time Series Analysis. Princeton University Press. 1994. ISBN 9780691042893.

[:5-5] 5.0 ^5.1 Papoulis, Athanasios. Probability, Random Variables, and Stochastic processes. Tata McGraw-Hill Education. 2002.

[:4-6] 6.0 ^6.1 Triacca, Umberto. The Wold Decomposition Theorem (PDF). 19 Feb 2021. （原始內容存檔 (PDF)於2016-03-27）.

[:2-7] Wang, Shixiong; Li, Chongshou; Lim, Andrew. Why Are the ARIMA and SARIMA not Sufficient. 2019-12-18. arXiv:1904.07632  [stat.AP].

[8] Notation for ARIMA Models. Time Series Forecasting System. SAS Institute. [19 May 2015].

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

閱論編概率論：隨機過程
離散時間（英語：Discrete-time stochastic process）	伯努利過程分支過程中餐館過程高爾頓-沃特森過程（英語：Galton–Watson process）獨立同分布馬爾可夫鏈莫蘭過程（英語：Moran process）隨機漫步循環擦除隨機漫步（英語：Loop-erased）自避行走
連續時間	貝塞爾過程出生-死亡過程維納過程/布朗運動布朗橋 Excursion（英語：Brownian excursion）分數布朗運動（英語：Fractional Brownian motion）幾何布朗運動 Meander（英語：Brownian meander）柯西過程（英語：Cauchy process） Contact process（英語：Contact process (mathematics)） Cox process（英語：科克斯过程） Diffusion process（英語：Diffusion process） Empirical process（英語：Empirical process）費勒過程（英語：Feller process）弗萊明-維奧過程（英語：Fleming–Viot process）伽馬過程（英語：Gamma process）亨特過程（英語：Hunt process） Interacting particle system（英語：Interacting particle system）s 伊藤積分伊藤過程跳躍擴散（英語：Jump diffusion）跳躍過程萊維過程 Local time（英語：Local time (mathematics)）馬爾可夫加過程（英語：Markov additive process）麥基恩-弗拉索夫過程（英語：McKean–Vlasov process）奧恩斯坦-烏倫貝克過程泊松過程複合泊松過程（英語：Compound Poisson process）非齊次泊松過程泊松點過程施拉姆-勒夫納演進半鞅 Sigma-martingale（英語：Sigma-martingale） Stable process（英語：Stable process） Superprocess（英語：Superprocess） Telegraph process（英語：Telegraph process） Variance gamma process（英語：Variance gamma process）維納過程 Wiener sausage（英語：Wiener sausage）
離散時間與連續時間	分支過程高斯過程隱馬爾可夫模型（HMM）馬可夫過程鞅鞅差序列（英語：Martingale difference sequence）局部鞅（英語：Local martingale） Sub- Super-（英語：Super-） Random dynamical system（英語：Random dynamical system） Regenerative process（英語：Regenerative process） Renewal process（英語：Renewal process）白雜訊
場及其它	狄利克雷過程（英語：Dirichlet process）高斯隨機場（英語：Gaussian random field）吉布斯測度（英語：Gibbs measure）霍普菲爾德神經網絡易辛模型馬爾可夫網絡滲流理論皮特曼-約爾過程（英語：Pitman–Yor process）點過程 Cox（英語：Point process#Cox point process）泊松過程玻茨模型隨機場隨機圖
時間序列模型	ARCH模型 ARIMA模型自我迴歸模型 ARMA模型廣義ARCH模型移動平均模型
金融模型	布萊克-德爾曼-托伊模型（英語：Black–Derman–Toy model）布萊克-卡拉辛斯基模型（英語：Black–Karasinski model）布萊克-舒爾斯模型陳模型 Constant elasticity of variance (CEV)（英語：Constant elasticity of variance model）科克斯-英格索爾-羅斯模型 (CIR)（英語：Cox–Ingersoll–Ross model） Garman–Kohlhagen（英語：Garman–Kohlhagen model） HJM框架赫斯頓模型（英語：Heston model） Ho–Lee（英語：Ho–Lee model）赫爾-懷特模型 LIBOR市場模型（英語：LIBOR market model） SABR volatility（英語：SABR volatility model）瓦西塞克模型（英語：Vasicek model）
精算學	Bühlmann（英語：Bühlmann model） Cramér–Lundberg（英語：Cramér–Lundberg model） Risk process（英語：Risk process） Sparre–Anderson（英語：Sparre–Anderson model）
等候理論	Bulk（英語：Bulk queue） Fluid（英語：Fluid queue） Generalized queueing network（英語：G-network） M/G/1（英語：M/G/1 queue） M/M/1 M/M/c（英語：M/M/c queue）
性質	右連左極函數 Continuous（英語：Continuous stochastic process） Continuous paths（英語：Sample-continuous process）遍歷性 Exchangeable（英語：Exchangeable random variables） Feller-continuous（英語：Feller-continuous process） Gauss–Markov（英語：Gauss–Markov process）馬爾可夫性質 Mixing（英語：Mixing (mathematics)） Piecewise deterministic（英語：Piecewise deterministic Markov process）可預測過程循序可測過程 Self-similar（英語：Self-similar process）平穩過程 Time-reversible（英語：Time reversibility）
極限定理	中心極限定理 Donsker's theorem（英語：Donsker's theorem） Doob's martingale convergence theorems（英語：Doob's martingale convergence theorems）遍歷理論 Fisher–Tippett–Gnedenko theorem（英語：Fisher–Tippett–Gnedenko theorem） Large deviation principle（英語：Large deviation principle）大數法則重對數律 Maximal ergodic theorem（英語：Maximal ergodic theorem） Sanov's theorem（英語：Sanov's theorem）
不等式	Burkholder–Davis–Gundy（英語：Burkholder–Davis–Gundy inequalities） Doob's martingale（英語：Doob's martingale inequality） Kunita–Watanabe（英語：Kunita–Watanabe inequality）
工具	Cameron–Martin formula（英語：Cameron–Martin formula）隨機變量的收斂 Doléans-Dade exponential（英語：Doléans-Dade exponential） Doob decomposition theorem（英語：Doob decomposition theorem） Doob–Meyer decomposition theorem（英語：Doob–Meyer decomposition theorem） Doob's optional stopping theorem（英語：Doob's optional stopping theorem） Dynkin's formula（英語：Dynkin's formula）費曼-卡茨公式右連左極函數 Girsanov theorem（英語：Girsanov theorem） Infinitesimal generator（英語：Infinitesimal generator (stochastic processes)）伊藤積分伊藤引理 Kolmogorov continuity theorem（英語：Kolmogorov continuity theorem） Kolmogorov extension theorem（英語：Kolmogorov extension theorem） Lévy–Prokhorov metric（英語：Lévy–Prokhorov metric） Malliavin calculus（英語：Malliavin calculus） Martingale representation theorem（英語：Martingale representation theorem） Optional stopping theorem（英語：Optional stopping theorem） Prohorov theorem（英語：Prohorov theorem）二次變差 Reflection principle（英語：Reflection principle (Wiener process)） Skorokhod integral（英語：Skorokhod integral） Skorokhod's representation theorem（英語：Skorokhod's representation theorem）右連左極函數 Snell envelope（英語：Snell envelope）隨機微分方程 Tanaka（英語：Tanaka equation）停時隨機積分 Uniform integrability（英語：Uniform integrability） Usual hypotheses（英語：Usual hypotheses）維納空間 Classical（英語：Classical Wiener space） Abstract 漂移項
相關領域	精算學計量經濟學遍歷理論極值理論（EVT） Large deviations theory（英語：Large deviations theory）數理金融學數理統計學概率論等候理論 Renewal theory（英語：Renewal theory） Ruin theory（英語：Ruin theory）統計學隨機分析時間序列分析機器學習
分類