On the ergodicity of economic processes represented by time series

Full Text

Введение

Случайные процессы играют фундаментальную роль в экономике. Например, в значительной мере случайным образом эволюционируют котировки ценных бумаг или объемы продаж товаров. В данной статье случайным процессом (СП) называется зависящая от времени случайная величина $X\left(t\right)$. Другое его название – случайная функция [1].

Будем считать, что эволюция процесса происходит с момента начала наблюдения за ним и продолжается неограниченно долго. Если при некотором $t\in (\mathrm{0,}\infty )$ измерить случайную величину $X\left(t\right)$, то она примет значение $x\left(t\right)$. Так возникает вполне определенная функция времени $x\left(t\right)$, которая называется реализацией случайного процесса $X\left(t\right)$.

Некоторые случайные процессы проявляют себя лишь в дискретные моменты времени, так что переменная $t$ принимает значения $t_i=i\Delta t$, где $i=\mathrm{0,1,}\dots ,n,\dots$ и $\Delta t$ – шаг дискретизации.

Важнейшей характеристикой случайного процесса является функция $m_X\left(t\right)=E\left(X\right(t\left)\right)$, выражающая среднее значение случайной величины $X\left(t\right)$ при каждом фиксированном $t$.

Линейная взаимосвязь величин $X\left(t\right)$ и $X\left(t^{\text{'}}\right)$ характеризуется автоковариационной функцией (АКФ)

$K_X(t,t^{\text{'}})=E\left[\left(X\right(t)-m_X(t\left)\right)\cdot \left(X\right(t^{\text{'}})-m_X(t^{\text{'}}\left)\right)\right]$(1)

Заметим, что для каждого t дисперсия имеет вид

${\sigma }^2\left(X\right(t\left)\right)=K_X(t,t),$

а коэффициент корреляции между случайными величинами $X\left(t\right)$ и $X\left(t^{\text{'}}\right)$ выражается автокорреляционной функцией

$R_X(t,t^{\text{'}})=\frac{K_X(t,t^{\text{'}})}{\sqrt{K_X(t,t)}\cdot \sqrt{K_X(t^{\text{'}},t^{\text{'}})}}.$

Стационарный случайный процесс $X\left(t\right)$ характеризуется тем, что все его вероятностные характеристики не меняются при любом сдвиге момента начала наблюдения по оси t вправо.

Если все эти характеристики можно определить по одной произвольной реализации $x\left(t\right)$, то такой процесс называется  эргодическим. Свойство эргодичности влечет за собой стационарность [1]. Строго проверить эргодичность или хотя бы стационарность весьма сложно, но на практике часто бывает достаточно более слабых свойств, называемых стационарностью и эргодичностью в широком смысле. Мы будем называть их слабой стационарностью и слабой эргодичностью. Эти свойства относятся лишь к среднему значению и АКФ случайного процесса.

Со случайными процессами тесно связаны временные ряды, являющиеся дискретизациями функций $x\left(t\right)$ и реализующие либо непрерывные либо дискретныех СП.

В качестве временного ряда рассматривается последовательность $x\left(t_i\right)$ с постоянным шагом $t_i=i\cdot \Delta t,(i=\mathrm{0,1,2,}\dots )$.

Важную роль в исследованиях случайных процессов в экономике играет корреляционный анализ, который основан на вычислении автокоррелограмм и взаимных коррелограмм. В настоящей статье показано, что эти процессы должны быть стационарными и эргодическими в слабом смысле. Условие стационарности встречается в контексте корреляционного анализа, но не всегда осознается, как необходимое.

Например, известный эффект ложной корреляции возникает вследствие того, что временные ряды имеют линейные тренды [2]. Достаточно их удалить, переходя к отклонениям от трендов.

Вместо этого зачастую предлагается выполнить глубокий, содержательный анализ наличия взаимосвязи факторов или выявить третий фактор, через который взаимодействуют два коррелирующих фактора [3].

Между тем, ограничиваясь слабо стационарными случайными процессами мы исключаем эффект ложной корреляции.

Условие слабой эргодичности в общем не считается необходимым для корреляционного анализа временных рядов. В работе [4] указано следующее препятствие для корреляционного анализа: « Следует отметить, что вычисление линейных мер корреляции непосредственно между исходными данными финансовых временных рядов малоэффективно, поскольку формально, с точки зрения корреляционной теории случайных процессов, приращения финансовых временных рядов являются белыми шумами».

Слабая стационарность здесь подразумевается, однако нет упоминания об эргодичности. Как видно из рис. 1, приращения котировок акций компании «Инарктика» белыми шумами не являются. Поэтому при условиях слабой стационарности и слабой эргодичности, которые находят подтверждение в данной статье, к этому временному ряду применимы методы корреляционного анализа. Отсюда следует, например, что акции компании «Инарктика» можно использовать при проектировании эффективного по Марковицу портфеля.

 

Рис. 1: Котировки акций компании «Инарктика».

Fig.1: «Inarktika» company stock quotes. 

 

Таким образом, проверка случайного процесса на слабую эргодичность является практически важной задачей. Без этой проверки использование корреляционного анализа временных рядов не имеет под собой надежных оснований и может приводить к ложным умозаключениям. Но, как мы видели, вопросу об эргодичности уделяется мало внимания.

Отчасти это связано с отсутствием эффективных критериев эргодичности или хотя бы слабой эргодичности в (типичной для экономики) ситуации, когда исследователь вынужден анализировать случайный процесс по одному единственному временному ряду.

Например, во введении к работе [5] сказано следующее. « The concept of ergodicity is fundamental in the analysis of economic time series and of dynamic models calibrated by time series data. It is, therefore, surprising that no general testing procedure has been proposed to examine this important hypothesis. The objective of this paper is to fill this gap for the case of Markov processes.»

Авторам работы [6] удалось найти лишь две сравнительно новых публикации [5] и [7], в которых обсуждается вопрос о практической проверке эргодичности.

В работе [7], однако, рассматривается весьма частная задача эргодического расчета вероятности значений временного ряда с конечным алфавитом.

В статье [6] предлагается метод проверки эргодичности временного ряда по его среднему значению (свойство  1э). При этом авторы используют автокорреляционную функцию, предполагая ее эргодичность и отмечая объективную сложность проверки данного свойства.

Термины «стационарность» и «эргодичность» временного ряда часто используются, как синонимы.

В статье [8] на стр. 384 и 385 предлагается вычислять АКФ и среднее значение СП по одной его реализации $x\left(t\right)$, при этом какая-либо эргодичность не предполагается. Требуется лишь, чтобы СП был стационарным.

В работе[9] термин «эргодичность» встречается один раз – в сноске на стр. 209, где его значение не поясняется, дана лишь ссылка на работу [10]. Данная книга объясняет определенное смешение понятий эргодичность и стационарность.

Из текста работы [10] на стр. 559, 562 вытекает, что стационарный СП является слабо эргодическим, если коэффициент корреляции между любыми случайными величинами $X\left(t\right)$ и $X(t+\tau )$ равен нулю при всех достаточно больших временных сдвигах $\tau$.

Это условие выглядит весьма естественно для случайных процессов в экономике, однако в работе [10] стационарность предполагается в сильном смысле, что без обширной статистики реализаций данного СП проверить невозможно.

Таким образом, слабая эргодичность все же нуждается в проверке, даже если слабая стационарность установлена. Проверка последнего – отдельная задача, которая предшествует проверке слабой эргодичности.

По-видимому, единственный метод ее решения, не апеллирующий к субъективным суждениям, связан с такими статистическими критериями, как ADF и KPSS [11, 12].

Подобно многим статистическим критериям, они достаточно надежно опровергают нулевую гипотезу о слабой стационарности при отрицательном исходе теста, но при положительном исходе, по существу, лишь оставляют у исследователя надежду. Кроме того, тесты типа ADF и KPSS проверяют на стационарность достаточно простые, линейные модели временного ряда, адекватность которых может быть различной.

Целью публикуемой статьи является практическая разработка методов проверки слабой стационарности и слабой эргодичности.

Слабая стационарность

Свойство слабой стационарности: значение $m_X\left(t\right)$ не зависит от t, а функция (1) зависит только от интервала времени $t^{\text{'}}-t$, так что $K_X(t,t^{\text{'}})=k_X(t-t^{\text{'}})$ для некоторой функции $k_X\left(\tau \right)$, где $k_X\left(\tau \right)=k_X(-\tau )$.

Если эти условия выполнены, то имеет место равенство ${\sigma }^2\left(X\right(t\left)\right)=k_X\left(0\right)$ и дисперсия ${\sigma }^2$ не зависит от времени t.

Отсюда следует, что

$R_X(t,t^{\text{'}})=\frac{k_X(t-t^{\text{'}})}{{\sigma }^2}={\rho }_X(t-t^{\text{'}}).$

Функции $k_X\left(\tau \right)$ и ${\rho }_X\left(\tau \right)$ также называются автоковариационной и автокорреляционной.

Для непрерывного, слабо стационарного процесса слабая эргодичность означает, что справедливы свойства  1э и  2э. Свойство  1э также называют эргодичностью по математическому ожиданию или просто «эргодичностью», а свойство  2э –– эргодичностью по автокорреляционной функции [1, 2].

1э: Константу $m_X=m_X\left(t\right)$ можно вычислить, как среднее по времени значение $\overline{x}$ любой реализации $x\left(t\right)$ процесса  $X\left(t\right)$

$m_X=\overline{x}=\underset{T\to +\infty }{\lim }\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}x\left(t\right)dt$(2)

Здесь подразумевается сходимость по вероятности. Последнее означает, что, при вычислении среднего по ансамблю приближенной формулой $m_X\approx \frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}x\left(t\right)dt$, если время T достаточно велико, то с как угодно близкой к $1$ вероятностью погрешность будет пренебрежимо малой.

2э: Автоковариационную функцию $k_X\left(\tau \right)$ можно вычислить по любой реализации $x\left(t\right)$ процесса $X\left(t\right)$

$k_X\left(\tau \right)=\underset{T\to +\infty }{\lim }\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}\left(x\left(t\right)-m_X\right)\cdot \left(x(t+\tau )-m_X\right)dt$(3)

В случае дискретного слабо стационарного, слабо эргодического процесса формулы (2) и (3) следует заменить на формулы

${\mathrm{m}}_{\mathrm{X}}=\overline{\mathrm{x}}=\underset{\mathrm{n}\to +\infty }{\lim }\frac{{\displaystyle \sum _{\mathrm{i}=0}^{\mathrm{n}}\mathrm{x}\left({\mathrm{t}}_{\mathrm{i}}\right)}}{\mathrm{n}+1}$ (4)

и

$k_X\left(j\Delta t\right)=\underset{n\to +\infty }{\lim }\frac{1}{n+1}\cdot \sum _{i=0}^n\left(x\left(t_i\right)-m_X\right)\cdot \left(x\left(t_{i+j}\right)-m_X\right)j=\mathrm{0,1,2,}\dots$ (5)

Временные ряды, возникающие на практике имеют конечное число членов, которое мы обозначим $N+1$. Член $x\left(t_i\right)$ будем называть i – м уровнем ряда и обозначать $x_i$.

Если случайный процесс представлен временным рядом, отвечающим периоду времени $[0;T]$, то вместо (2) и (4) следует использовать приближенную формулу

$m_X\approx \frac{{\displaystyle \sum _{i=0}^n{x}_i}}{n+1},$ (6)

где $T=N\cdot \Delta t$.

При этом вместо (3) и (5) можно использовать приближенную формулу

$k_X\left(j\Delta t\right)\approx c_j=\frac{{\displaystyle \sum _{i=0}^{N-j}\left(x_i-m_X\right)\cdot \left(x_{i+j}-m_X\right)}}{N+1-j},$ (7)

 где $j=\mathrm{0,1,}\dots ,L$.

Вместо знаменателя $N+1-j$ в (7) также используется $N+1$.

Приближенные равенства в (6) и (7) предполагают, что $\Delta t\ll T$ и $L\ll N$. Условие $L\ll N$ обычно упрощают до $L\ll N/4$.

Последовательность чисел $c_j$ называется автоковариацией временного ряда $x_i$. Если слабо стационарные случайные процессы $X\left(t\right)$ и $Y\left(t\right)$ являются стационарно связанными, то их взаимную корреляционную функцию $k_{XY}\left(\tau \right)$ можно приближенно вычислить по формуле [1]

$k_{XY}\left(j\Delta t\right)\approx C_j=\frac{{\displaystyle \sum _{i=0}^{N-j}\left(x_i-m_X\right)\cdot \left(y_{i+j}-m_Y\right)}}{N+1-j}.$ (8)

Последовательность $C_j$ называется взаимной ковариацией временных рядов $x_i$ и $y_i$.

На рис. 1 в качестве примера временного ряда показаны ежедневные котировки акций компании «Инарктика» в течение 90 дней с 21.12.2022 по 20.03.2023 (Номера дня $j=\mathrm{1,2,}\dots \mathrm{,90}$, $t_{j-1}=j-1$, $\Delta t=1$) [13]. 

Если для некоторых констант $a,b,c,d$ временные ряды $x_i,y_i(i=\mathrm{0,1,2,}\dots ,N)$ имеют приблизительно линейные тренды $x_i\approx ai+b$ и $y_i\approx ci+d$, то

$y_i\approx \frac{c}{a}\cdot x_i+\left(d-\frac{bc}{a}\right)$

между этими временными рядами имеет место приблизительно линейная зависимость, которая отразится в близком к $\pm 1$ значении коэффициента корреляции $r(x,y)$.

Между тем, случайные компоненты этих временных рядов могут оказаться независимыми между собой, так что коэффициент их корреляции будет близким к нулю.

Поэтому вывод о коррелированности случайных процессов $X\left(t\right)$ и $Y\left(t\right)$ не имеет под собой оснований несмотря на то, что $\left|r\right(x,y\left)\right|\approx 1$.

Для демонстрации этого нужно сгенерировать два временных ряда, коэффициент корреляции между которыми близок к нулю, и добавить к ним линейные тренды коэффициент корреляции которых станет близок к единице.

Глубокий анализ эффекта ложной корреляции, который может иметь не связанные с линейными трендами причины приводится в работе [14]. Однако, на практике ложная корреляция не всегда распознается и порой принимается за настоящую. Перед подсчетом коэффициентов корреляции или коррелограмм для временных рядов необходимо, во всяком случае, удалить из них линейные тренды.

Слабо стационарные СП не имеют линейных трендов, но важность условия слабой стационарности этим не исчерпывается.

В самом деле, в формулах (7) и (8) подразумевается, что средние значения $m_X$ и $m_Y$ являются константами, определенными согласно формуле (6).

Из правых частей формул (7) и (8) также видно, что они зависят только от числа j, которое определяет временной сдвиг второго аргумента ковариационных функций $K_X(\cdot ,\cdot )$ и $K_{XY}(\cdot ,\cdot )$ относительно первого.

Таким образом, основополагающие инструменты анализа временных рядов – среднее значение, стандартное отклонение, автоковариации/автокорреляции и взаимные ковариации/корреляции имеют смысл только применительно к слабо стационарным случайным процессам.

Для СП, представленного временным рядом $x_i(i=\mathrm{0,1,}\dots ,N)$, условие слабой стационарности можно проверить следующим образом.

1с : Вычислим среднее значение уровней ряда $\overline{x}$. Рассматривая множество чисел $\left\{x_i\right\}$, как генеральную совокупность, оценим объем n выборки из этой совокупности, который c надежностью $P⩾0.95$ обеспечивает границу $\epsilon$ относительной погрешности среднего значения выборки ${\overline{x}}_s$ по отношению к $\overline{x}$ (предполагается, что $\overline{x}$ не близко к нулю).

Погрешность $\frac{|\overline{x}-{\overline{x}}_s|}{\left|\overline{x}\right|}$ можно оценить числом

$\epsilon =t_{\frac{P+1}{2}}\cdot \frac{\sigma }{\left|\overline{x}\right|\sqrt{n}}$ (9)

где $t_{\frac{P+1}{2}}$ обозначает $\frac{P+1}{2}$ – квантиль распределения Стьюдента с $n-1$ степенями свободы [3].

Для корректного использования формулы (9) следует удалить из временного ряда $x_i$ тренд, если он существенен. Таким образом, для случайной выборки объема $n$ вероятность события $\left\{\frac{|\overline{x}-{\overline{x}}_s|}{\left|\overline{x}\right|}⩽\epsilon \right\}$ не меньше $P$. При этом число n должно быть существенно меньшим, чем $N+1$, иначе (приблизительная) стационарность величины ${\overline{x}}_s$ будет тривиальным следствием ее близости к $\overline{x}$. Например, пусть $n⩽\frac{N+1}{2}$.

Для того, чтобы проверить стационарность среднего значения $m_X\left(t\right)$, при каждом $m=\mathrm{0,1,}\dots ,N-n+1$ вычислим ${\overline{x}}_s\left(m\right)=\sum _{j=m}^{m+n-1}\frac{x_j}{n}$ и найдем

$\delta =\underset{0⩽m⩽N-n+1}{\max }\frac{|\overline{x}-{\overline{x}}_s(m\left)\right|}{\left|\overline{x}\right|}$(10)

Если $\delta ⩽\epsilon$, то относительные отклонения средних значений ${\overline{x}}_s\left(m\right)$ функции $x\left(t\right)$ при $m\Delta t⩽t⩽(m+n-1)\Delta t$ от ее среднего значения $\overline{x}$ не превышают статистической погрешности оценки ${\overline{x}}_s\approx \overline{x}$, полученной из случайной выборки n уровней ряда.

Таким образом, неравенства $\delta ⩽\epsilon$ подтверждают (хотя и не доказывают) гипотезу о том, что $m_X\left(t\right)$ не зависит от t.

Если $\delta >\epsilon$, но $\delta -\epsilon \ll \delta$, то эту гипотезу также можно признать подтвержденной.

Неравенство $\delta \gg \epsilon$ следует считать свидетельством того, что $m_X\left(t\right)$ существенно зависит от t. Вследствие субъективности условия $\delta \gg \epsilon$ некоторые соотношения между $\delta$ и $\epsilon$, например $\delta =2\epsilon$, попадают в «серую зону», из которой трудно извлечь определенное суждение.

2с : Для того, чтобы проверить стационарность АКФ $K_X(t_1,t_2)$, вычислим автоковариацию $c_j^m$ для временного ряда $x_m,x_{m+1},\dots ,x_{m+n-1}$ при каждом $m=\mathrm{0,1,}\dots ,N-n+1$

$c_j^m=\frac{1}{n-j}\cdot \sum _{i=m}^{m+n-1-j}\left(x_i-{\overline{x}}_s\left(m\right)\right)\cdot \left(x_{i+j}-{\overline{x}}_s\left(m\right)\right),$

где $j=\mathrm{0,1,}\dots ,L⩽\frac{n}{4}$.

Предположим, что СП является слабо стационарным. Тогда величина $c_j^m$ вычисляется по формуле

$c_j^m\approx K_X\left(m\Delta t,(m+j)\Delta t\right).$

Кроме того, если погрешностями этих приближений пренебречь, то при каждом j величины $c_j^m$ не зависят от m.

Вычислим автокоррелограмму ${\rho }_j^m=\frac{c_j^m}{c_0^m}$, которая тоже не зависит от m.

Числа ${\rho }_j^m$ – это выборочные коэффициенты корреляции, которые при заданной надежности $P$ и фиксированном числе $j\in \{\mathrm{1,}\dots ,L\}$ определяют доверительные интервалы $[z_j^m-d_j^m;z_j^m+d_j^m]$ для коэффициентов корреляции

${\rho }_j=\frac{K_X(m\Delta t,(m+j\left)\Delta t\right)}{K_X(m\Delta t,m\Delta t)}.$

Здесь

$\left\{\begin{array}{l}{z}_j^m-d_j^m=\mathrm{th}\left({\mathrm{th}}^{-1}\left({\rho }_j^m\right)+\frac{{\rho }_j^m}{2(n-1)}-\frac{u_{\frac{P+1}{2}}}{\sqrt{n-3}}\right),\\ \\ z_j^m+d_j^m=\mathrm{th}\left({\mathrm{th}}^{-1}\left({\rho }_j^m\right)+\frac{{\rho }_j^m}{2(n-1)}+\frac{u_{\frac{P+1}{2}}}{\sqrt{n-3}}\right).\end{array}\right.$ (11)

Здесь $\mathrm{th}\left(x\right)$ – гиперболический тангенс, $u_{\frac{P+1}{2}}$ – квантиль стандартного нормального распределения, отвечающая вероятности $\frac{P+1}{2}$ [15].

Для любого значения j каждый из интервалов (11) содержит в себе точку ${\rho }_j$, не зависящую от m. Обозначим $s_j=\underset{0⩽m⩽N-n+1}{\max }2d_j^m$. Поскольку точка ${\rho }_j$ находится в каждом из промежутков (11), то правый конец любого промежутка (11) не превышает ${\rho }_j+s_j$. Следовательно, $\underset{0⩽m⩽N-n+1}{\max }(z_j^m+d_j^m)⩽{\rho }_j+s_j$.

Аналогично, левый конец любого промежутка (11) не меньше, чем ${\rho }_j-s_j$. Следовательно, $\underset{0⩽m⩽N-n+1}{\min }(z_j^m-d_j^m)⩾{\rho }_j-s_j$.

Отсюда можно сделать следующий вывод. Гипотеза о стационарности функции $K_X(t_1,t_2)$ подтверждается, если выполнено условие

$\underset{0⩽m⩽N-n+1}{\max }(z_j^m+d_j^m)-\underset{0\le m⩽N-n+1}{\min }(z_j^m-d_j^m)⩽2\cdot \underset{0⩽m\le N-n+1}{\max }2d_j^m$(12)

Если для хотя бы одного значения j неравенство (12) ложно, то АКФ $K_X(t_1,t_2)$ нельзя считать стационарной.

Если (12) верно, но левая часть (12) близка к правой, то мы попадаем в «серую зону», для которой трудно извлечь определенное суждение.

Заметим, что результаты применения алгоритмов, описанных в пунктах  1с и  2с, не зависят от выбора реализации $x\left(t\right)$ слабо стационарного процесса, так как отношение $\frac{\delta }{\epsilon }$ и автоковариация $c_j^m$ при этом не меняются.

Рассмотрим модельный пример слабо стационарного процесса. Даны случайная величина $Z$, равномерно распределенная на отрезке $[0;2\pi ]$ и случайный процесс $X_Z\left(t\right)=A\sin (\omega t+Z)+B$, где $A\ne 0$, $B$ и $\omega >0$ –– любые константы. Обозначим $f\left(x\right)$ плотность распределения случайной величины $Z$, тогда:

$f\left(x\right)=\left\{\begin{array}{l}\frac{1}{2\pi }, x\in \left[\mathrm{0,2}\pi \right]\\ \\ 0, x\cancel{\in }\left[\mathrm{0,2}\pi \right]\end{array}\right.$

$E\left(X_Z\left(t\right)\right)=\underset{-\infty }{\overset{+\infty }{\int }}\left(A\sin (\omega t+z)+B\right)f\left(z\right)dz=B$ (13)

$K_{X_Z}(t_1,t_2)=\underset{-\infty }{\overset{+\infty }{\int }}A\sin (\omega t_1+z)A\sin (\omega t_2+z)f\left(z\right)dz=\frac{A^2}{2}\cdot \cos \left(\omega (t_2-t_1)\right)$ (14)

Из соотношений (13) и (14) видно, что данный процесс слабо стационарен и $k_{X_Z}\left(\tau \right)=A^2/2\cdot \cos \left(\omega \tau \right)$.

Пусть $A=1$, $B=2$ и $\omega =0.4$. Зафиксируем реализацию $x\left(t\right)$ данного процесса, которой отвечает значение $z=0$. Тогда $x\left(t\right)=\sin \left(0.4t\right)+2$. Рассмотрим временной ряд $x_i$, являющийся дискретизацией функции $x\left(t\right)$, где $i=\mathrm{0,1,}\dots \mathrm{,89}$ и $\Delta t=1$. Среднее значение уровней ряда $\overline{x}=2.036$, стандартное отклонение $\sigma =0.7$. В данном случае $N+1=90$, поэтому положим $n=45$. Пусть $P=0.95$. Оценим относительную погрешность $\frac{|\overline{x}-{\overline{x}}_s|}{\left|\overline{x}\right|}$ согласно (9) и получим:

$\epsilon =t_{0.975}\cdot \frac{\sigma }{2.036\sqrt{45}}=0.1$

 где $t_{0.975}$ — квантиль распределения Стьюдента с 44 степенями свободы. Согласно (10)  $\delta =0.04$. Поскольку $0.04<\epsilon$, то стационарность среднего $m_X\left(t\right)$ убедительно подтверждается по методу  1с.

При $N=89$ и $n=45$ при каждом $j=\mathrm{1,2,}\dots \mathrm{,11}$ вычислим левые и правые части неравенств (12). Значение 23,5% при $j=3$ является статистическим выбросом, который обусловлен погрешностью вычисления в (10) значения функции ${\mathrm{th}}^{-1}(\cdot )$ в точке ${\rho }_j^m$ близкой к $\pm 1$ (граница области определения ${\mathrm{th}}^{-1}(\cdot )$).

Из таблицы 1 видно, что стационарность АКФ $K_{X_Z}(t_1,t_2)$ убедительно подтверждается по методу  2с.

 

Таблица  1: Проверка стационарности АКФ гармонического процесса ${\mathit{X}}_{\mathbf{Z}}\mathbf{\left(}\mathit{t}\mathbf{\right)}$.

Table 1. Checking the stationarity of the ACF of ${\mathit{X}}_{\mathbf{Z}}\mathbf{\left(}\mathit{t}\mathbf{\right)}$ harmonic process.

j	Левая часть (12)	Правая часть (12)	Разница в %
1	0.445	0.43	3.5
2	0.516	0.497	3.8
3	0.021	0.017	23.5
4	0.364	0.352	3.4
5	0.571	0.548	4.2
6	0.066	0.058	13.8
7	0.278	0.269	3.3
8	0.606	0.578	4.8
9	0.133	0.119	11.8
10	0.189	0.185	2.2
11	0.618	0.587	5.3

 

Теперь рассмотрим примеры, в которых методы  1с и  2с дают отрицательные результаты. Добавим к случайному процессу $X_Z\left(t\right)$ тренд $t/5$.

Оценка $\epsilon$ относительной погрешности $|\overline{x}-{\overline{x}}_s|/\left|\overline{x}\right|$ не изменится, т.к. перед ее вычислением по формуле (9) мы должны будем удалить (добавленный) тренд. Итак, принимаем $\epsilon =0.1$ и $P=0.95$.

Максимальная относительная погрешность $\delta$ (10) равна $0.41$. Поскольку $0.41\gg \epsilon$, нестационарность среднего $m_X\left(t\right)$ подтверждается по методу  1c.

Теперь сделаем частоту $\omega$ в случайном процессе $X_Z\left(t\right)$ зависящей от времени, так что $\omega =2+\sin \left(t\right)$. Вычисляя АКФ аналогично (14), получим для $K_{X_Z}(t_1,t_2)$ выражение

$\frac{A^2}{4\pi }\cdot \underset{0}{\overset{2\pi }{\int }}\left(\cos \right({\omega }_2{t}_2-{\omega }_1{t}_1)-\cos ({\omega }_2{t}_2+{\omega }_1{t}_1+2z\left)\right)dz=\frac{A^2}{2}\cdot \cos ({\omega }_2{t}_2-{\omega }_1{t}_1)$

Очевидно, что автоковариационная функция $K_{X_Z}(t_1,t_2)$ не является стационарной. Рассмотрим реализацию $x\left(t\right)=\sin \left((2+\sin (t\left)\right)\cdot t\right)+2$. При $N=89$ и $n=45$ вычислим при каждом $j=\mathrm{1,2,}\dots \mathrm{,11}$ левые и правые части неравенств (12).

Как видно из таблицы 2, неравенство (12) нарушается при $j=11$ (левая часть в $2.17$ раза больше правой).

 

Таблица  2: Проверка стационарности АКФ процесса ${\mathit{X}}_{\mathbf{Z}}\mathbf{\left(}\mathit{t}\mathbf{\right)}$ с переменной частотой.

Table 2. Checking the stationarity of the ACF of ${\mathit{X}}_{\mathbf{Z}}\mathbf{\left(}\mathit{t}\mathbf{\right)}$ process with a variable frequency.

j	Левая часть (12)	Правая часть (12)	Разница в %
1	0.98	0.587	67
2	0.898	0.587	53
3	0,93	0.587	58.4
4	0.761	0.587	29.6
5	0.77	0.587	31.2
6	0.953	0.587	62.4
7	0.891	0.587	51.8
8	1.04	0.587	77.2
9	0.781	0.587	33
10	0.829	0.566	46.5
11	1.274	0.587	117

 

Значения $j=\mathrm{1,6,8}$ попадают «в серую зону», но свидетельствуют скорее о нестационарности АКФ, чем о ее стационарности. Таким образом, нестационарность автоковариационной функции $K_{X_Z}(t_1,t_2)$ подтверждается по методу  2с.

Значения $0.587$ в таблице 2 получаются, как длины промежутков (11), вычисленные при близости к нулю выборочных коэффициентов корреляции ${\rho }_j^m$, пренебрегая слагаемыми $\frac{{\rho }_j^m}{2(n-1)}=\frac{{\rho }_j^m}{88}$. Результат соответствует слабой автокорреляции процесса:

$2\cdot {\mathrm{d}}_{\mathrm{j}}^{\mathrm{m}}\approx 2\cdot \mathrm{th}\left(\frac{{\mathrm{u}}_{\frac{\mathrm{P}+1}{2}}}{\sqrt{\mathrm{n}-3}}\right)=2\cdot \mathrm{th}\left(\frac{{\mathrm{u}}_{0.975}}{\sqrt{42}}\right)=2\cdot \mathrm{th}\left(\frac{1.96}{\sqrt{42}}\right)\approx 0.587$

Применим описанный выше метод проверки случайного процесса на слабую стационарность к временному ряду котировок акций компании «Инарктика» (Рис. 1).

Для того, чтобы сделать пример более выразительным, повысим вариативность ряда, отсчитывая котировки акций от уровня минимальной доходности в 597 руб. Последняя при этом будет равна нулю. Среднее значение уровней ряда $\overline{x}=13.67$, стандартное отклонение $\sigma =6.8$.

В данном случае примем $N+1=90$, $n=45$, $P=0.95$. Оценивая погрешность $\frac{|\overline{x}-{\overline{x}}_s|}{\left|\overline{x}\right|}$ по формулам (9), (10) находим $\epsilon =t_{0.975}\cdot \frac{\sigma }{\overline{x}\sqrt{45}}=0.15$, $t_{0.975}\approx 2$, $\delta =0.128$. Поскольку $0.128<\epsilon$, то стационарность среднего $m_X\left(t\right)$ подтверждена по методу  1с.

Вычислим при каждом $j=\mathrm{1,2,}\dots \mathrm{,11}$ левые и правые части неравенств (12). Из таблицы 3 видно, что левые части всех неравенств (12) незначительно превосходят правые.

 

Table  3: Проверка стационарности АКФ для котировок акций «Инарктики».

Table 3. Checking the stationarity of the ACF for «Inarktika» stock quotes.

j	Левая часть (12)	Правая часть (12)	Разница в %
1	0.467	0.365	27.9
2	0.715	0.522	37
3	0.768	0.57	34.7
4	0.776	0.586	32.4
5	0.813	0.587	38.5
6	0.832	0.587	41.7
7	0.733	0.567	29.3
8	0.674	0.529	27.4
9	0.684	0.513	33.3
10	0.707	0.489	44.6
11	0.641	0.462	38.7

 

Это означает, что стационарность АКФ $K_X(t_1,t_2)$ подтверждена по методу  2с. Исходя из вышесказанного можно утверждать, что временной ряд котировок акций компании «Инарктика» соответствует слабо стационарному СП.

Слабая эргодичность

В соответствии с формулой (6), которая является аппроксимацией для формул (2) и (4), среднее значение $m_X$ слабо стационарного процесса $X\left(t\right)$ вычисляется по одной единственной его реализации $x\left(t\right)$, представленной временным рядом $x_i$.

По формуле (7), которая является аппроксимацией для формул (3) и (5), автоковариационная функция $k_X\left(\tau \right)$ также вычисляется по единственной реализации $x\left(t\right)$. Аналогичное утверждение справедливо для формулы (8).

Таким образом, формулы (6) – (8) проявляют слабую эргодичность случайных процессов.

Если процесс является слабо стационарным, то для проверки его слабой эргодичности следует проверить выполнение условия эргодичности по математическому ожиданию  1э и условия эргодичности по ковариационной/корреляционной функции  2э [3].

Прежде, чем проверять процесс $X\left(t\right)$ на слабую эргодичность, необходимо проверить его на слабую стационарность. Если последняя имеет место, то необходимое и достаточное условие для свойства  1э выглядит следующим образом [16]

$\underset{T\to +\infty }{\lim }\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}\left(1-\frac{\tau }{T}\right)k_X\left(\tau \right)=0$(15)

Здесь подразумевается сходимость по вероятности.

Проверим, что рассмотренный выше процесс $X_Z\left(t\right)$ является слабо эргодическим. Из соотношения (14) следует

$k_{X_Z}\left(\tau \right)=\frac{A^2}{2}\cdot \cos \left(\omega \tau \right)$

Подстановка выражение для $k_{X_Z}\left(\tau \right)$ в соотношение (15) непосредственно подтверждает условие  1э.

Свойство  2э проверяем непосредственно.

Для любой реализации $x\left(t\right)$ данного процесса, которой отвечает некоторое значение $z\in [0;2\pi ]$, имеем $x\left(t\right)=A\sin (\omega t+z)+B$ и $m_X=B$. Тогда

$\begin{array}{c}\underset{T\to +\infty }{\lim }\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}\left(x\right(t)-B)\left(x\right(t+\tau )-B)dt=\underset{T\to +\infty }{\lim }\frac{A^2}{T}\cdot \underset{0}{\overset{T}{\int }}\sin (\omega t+z)\sin \left(\omega \right(t+\tau )+z)dt=\\ \\ =\underset{T\to +\infty }{\lim }\frac{A^2}{2T}\cdot \underset{0}{\overset{T}{\int }}\left(\cos \left(\omega \tau \right)-\cos \left(\omega \right(2t+\tau )+2z)\right)dt=\frac{A^2}{2}\cdot \cos \left(\omega \tau \right).\end{array}$

Из формулы (14) следует, что полученное выражение совпадает с АКФ $k_{X_Z}\left(\tau \right)$ и случайный процесс $X_Z\left(t\right)$ является слабо эргодическим.

Свойство  2э эквивалентно эргодичности по математическому ожиданию процесса

$Y_{\tau }\left(t\right)=\left(X\left(t\right)-m_X\right)\cdot \left(X(t+\tau )-m_X\right),$

рассматриваемого при произвольном значении параметра $\tau \ge 0$ [3].

В самом деле, пусть процесс $Y_{\tau }\left(t\right)$ эргодичен по математическому ожиданию. Тогда он стационарен по математическому ожиданию

$\forall t_0\ge 0E\left(Y_{\tau }\right(t_0\left)\right)=\underset{T\to +\infty }{\lim }\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}{y}_{\tau }\left(t\right)dt,$(16)

 где $y_{\tau }\left(t\right)=\left(x\left(t\right)-m_X\right)\cdot \left(x(t+\tau )-m_X\right)$ есть реализация процесса $Y_{\tau }\left(t\right)$. Уравнение (16) равносильно соотношению

$K_X(t_0,t_0+\tau )=\underset{T\to +\infty }{lim}\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}\left(x\left(t\right)-m_X\right)\cdot \left(x(t+\tau )-m_X\right)dt$(17)

Поскольку правая часть уравнения (17) не зависит от параметра $t_0$, то имеет место равенство $K_X(t_0,t_0+\tau )=k_X\left(\tau \right)$, подтверждающее эргодичность процесса $X\left(t\right)$ по АКФ. Справедливо и обратное рассуждение.

Проверим условие (15) по данным из временного ряда $x_i$, который пока будем считать бесконечным. При $T=L\cdot \Delta t$ уравнение (15) запишется в виде

$\underset{L\to +\infty }{\lim }\frac{1}{L}\cdot \sum _{j=0}^L\left(1-\frac{j}{L}\right)\cdot c_j=0$(18)

 где $c_j=k_X\left(j\Delta t\right)$ – автоковариация ряда $x_i=x\left(t_i\right)$, вычисленная по формуле (5). Реальный временной ряд оканчивается членом $x_N$. Выберем любую последовательность номеров $1⩽q_1<q_2<\dots <q_m=L$, где $L\ll N$ и для каждого $s\in \{\mathrm{1,2,}\dots ,m\}$ вычислим

$A_s=\frac{1}{q_s}\cdot \sum _{j=0}^{q_s}\left(1-\frac{j}{q_s}\right)\cdot c_j$

Значения $c_j$ найдем по приближенной формуле (7). Если по динамике чисел $A_s$ при возрастании номера $s$ видно, что они являются членами сходящейся к нулю последовательности, то этим подтверждается равенство (18), а значит и условие (15).

Применительно к гармоническому процессу $X_Z\left(t\right)$ с реализацией $x\left(t\right)=\sin \left(0.4t\right)+2$ этот метод убедительно подтверждает эргодичность по математическому ожиданию. Расчет производился до значения $L=10000$ при $q_s=s$, $m=L$ и $N=100000$.

Как проверить свойство  2э? Предположим, что случайный процесс $X\left(t\right)$ является слабо эргодическим, а каждый процесс $Y_{\tau }\left(t\right)$ является слабо стационарным. Тогда для каждого $\tau \ge 0$ процесс $Y_{\tau }\left(t\right)$ имеет свойство  1э и, согласно (15), справедливо (19)

$\underset{T\to +\infty }{\lim }\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}\left(1-\frac{\theta }{T}\right)\cdot k_{Y_{\tau }}\left(\theta \right)d\theta =0$(19)

Однако, проверить условие (19) весьма сложно. Для того, чтобы вычислить АКФ $k_{Y_{\tau }}\left(\theta \right)$ по одной реализации $y_{\tau }\left(t\right)$ необходимо, чтобы процесс $Y_{\tau }\left(t\right)$ был слабо эргодическим.

Если последнее известно, то проверять (19) нет необходимости. Проверка слабой эргодичности для каждого $Y_{\tau }\left(t\right)$ представляется более сложной задачей, чем проверка условия (19). Но если подтверждена слабая стационарность процесса $Y_{\tau }\left(t\right)$, то можно  предположить его слабую эргодичность, после чего проверить (19) следующим образом.

Обозначим $T_{\max }$ длину временного периода, на котором рассматривается реальный временной ряд $x_i=x\left(i\Delta t\right)$, $i=\mathrm{0,1,}\dots ,N$ и $T_{\max }=N\Delta t$. Тогда

$\begin{array}{c}{k}_{Y_{\tau }}\left(\theta \right)=\underset{T\to +\infty }{\lim }\frac{1}{T}\cdot \underset{0}{\overset{T}{\int }}\left(y_{\tau }\right(t)-m_{Y_{\tau }})\cdot \left(y_{\tau }\right(t+\theta )-m_{Y_{\tau }})dt\approx \\ \\ \approx \frac{1}{T_{\max }-\theta }\cdot \underset{0}{\overset{T_{\max }-\theta }{\int }}\left(y_{\tau }\right(t)-m_{Y_{\tau }})\cdot \left(y_{\tau }\right(t+\theta )-m_{Y_{\tau }})dt,\\ \\ m_{Y_{\tau }}\approx \frac{1}{T_{\max }-\tau }\cdot \underset{0}{\overset{T_{\max }-\tau }{\int }}\left(x\right(t)-m_X)\cdot \left(x\right(t+\tau )-m_X)dt.\end{array}$

Дискретизируя при $\theta =l\cdot \Delta t$, $l=\mathrm{0,1,}\dots ,N$, $\tau =k\cdot \Delta t$, $k=\mathrm{0,1,}\dots ,L\ll N$, получим:

$\begin{array}{c}{k}_{Y_{\tau }}(l\cdot \Delta t)\approx \frac{1}{n-l+1}\cdot \sum _{i=0}^{n-1}\left(y_{\tau }\left(i\Delta t\right)-{\overline{y}}_{\tau }\right)\cdot \left(y_{\tau }\left(\right(i+l\left)\Delta t\right)-{\overline{y}}_{\tau }\right),\\ \\ y_{\tau }(i\cdot \Delta t)=\left(x_i-\overline{x}\right)\cdot \left(x_{i+k}-\overline{x}\right),y_{\tau }\left((i+l)\cdot \Delta t\right)=\left(x_{i+l}-\overline{x}\right)\cdot \left(x_{i+k+l}-\overline{x}\right),\\ \\ m_{Y_{\tau }}={\overline{y}}_{\tau }\approx \frac{1}{N-k+1}\cdot \sum _{i=0}^{N-k}\left(x_i-\overline{x}\right)\cdot \left(x_{i+k}-\overline{x}\right),\overline{x}=\frac{{\displaystyle \sum _{i=0}^N{x}_i}}{N+1}\end{array}$

Считая временной ряд бесконечным запишем (19) в дискретизированном виде

$\underset{q\to +\infty }{\lim }\frac{1}{q}\cdot \sum _{l=0}^q\left(1-\frac{l}{q}\right)\cdot k_{Y_{\tau }}(l\cdot \Delta t)=0$ (20)

Выберем любую последовательность номеров $1⩽q_1<q_2<\dots <q_m=L$ и для каждого $s\in \{\mathrm{1,2,}\dots ,m\}$ вычислим

$B_s=\frac{1}{q_s}\cdot \sum _{l=0}^{q_s}\left(1-\frac{l}{q_s}\right)\cdot k_{Y_{\tau }}\left(l\Delta t\right)$

Если по динамике чисел $B_s$ при возрастании номера $s$ видно, что они являются членами сходящейся к нулю последовательности, то этим подтверждается равенство (20), а значит и условие (18).

Важно заметить следующее. Поскольку мы предполагали слабую эргодичность всех процессов $Y_{\tau }\left(t\right)$, не имея этому подтверждений кроме слабой стационарности, отсутствие видимой сходимости к нулю последовательности $B_s$ нельзя интерпретировать, как свидетельство неэргодичности процесса $X\left(t\right)$ по автоковариационной функции. При этом отсутствие видимой сходимости к нулю последовательности $A_s$ можно интерпретировать, как доказательство неэргодичности процесса $X\left(t\right)$ по среднему значению. В последнем случае проверка на эргодичность по АКФ становится излишней.

Проверим свойства  1э и  2э для временного ряда акций компании «Инарктика» (Рис.  1). Здесь $N=89$ (т.е. 90 уровней ряда), $m=L=20$, $q_s=s$. Последовательность $A_s$ изображена на диаграмме (рис. 2). Визуально наблюдается стремление к нулю. Последовательность $B_s$ визуально сходится к нулю значительно быстрее, чем $A_s$. Таким образом, случайный процесс котировок акций компании «Инарктика» можно считать слабо эргодическим.

 

Рис. 2: Сходимость к нулю последовательности ${\mathit{A}}_{\mathbf{s}}$ для котировок акций «Инарктики».

Fig.2: Convergence to zero of the sequence ${\mathit{A}}_{\mathbf{s}}$ for «Inarktika» stock quotes. 

 

Заключение

1. Представлен новый метод проверки слабой стационарности случайного процесса (СП) по его временному ряду, основанный на проверке стационарности среднего значения и стационарности автокорреляционной функции.
2. Установлено, что статистические тесты ADF, KPSS и PP для проверки нулевой гипотезы о стационарности могут применяться в качестве дополнений к описанному методу.
3. Обоснована необходимость проверки слабой эргодичности всякого СП, который изучается по временному ряду.
4. Практическая значимость представленного метода опробована на модельном примере слабо эргодического случайного процесса и временном ряде котировок акций компании «Инарктика».

 

  Конкурирующие интересы: Конкурирующих интересов нет.

About the authors

Dmitry B. Zotev

Novosibirsk State University of Economics and Management

Author for correspondence.
Email: zotev@inbox.ru
ORCID iD: 0000-0002-8472-6460

Doctor of Sciences of Physics and Mathematics, Professor of the Department of Mathematics and Natural Sciences

Russian Federation, 56, Kamenskaya st., Novosibirsk, 630099

Daria I. Chernyshova

Novosibirsk State University of Economics and Management

Email: beyourself20@mail.ru
ORCID iD: 0009-0001-4455-2566

The third year Student of the Faculty of Digital Technologies

Russian Federation, 56, Kamenskaya st., Novosibirsk, 630099

References

Supplementary files