Informer в алгоритмических инвестиционных стратегиях на высокочастотных данных биткоина

6/10

Ключевые слова: машинное обучение; прогноз финансовых рядов; автоматическая торговая стратегия; Informer; Transformer; Bitcoin; высокочастотная торговля; GMADL.

JEL: C4, C14, C45, C53, C58, G13.

Аннотация

Статья проверяет архитектуру Informer на автоматических стратегиях по высокочастотному биткоину. Три стратегии с разными лоссами — RMSE, Generalized Mean Absolute Directional Loss (GMADL) и Quantile — сравниваются с buy-and-hold и двумя бенчмарками на технических индикаторах. Данные: интервалы 5, 15 и 30 минут, шесть периодов. Quantile-Informer бенчмарк не обошёл; две другие модели — обошли. RMSE хуже на более частых барах; GMADL, наоборот, выигрывает от частоты и на 5-минутках бьёт остальные стратегии на большинстве тестовых окон. Главный вклад: RMSE, GMADL и Quantile на Informer для прогноза доходности и перевода прогноза в позиции. Evidенс: Informer, обученный GMADL, даёт результат лучше buy-and-hold.

1. Введение

Автоматические торговые стратегии давно интересуют и институционалов, и исследователей. По оценке Yadav (2015), 70–80% сделок на рынке уже идут через софт, и доля растёт.

Системы на дневных барах в эпоху HFT недостаточны — особенно для биткоина. BTC — децентрализованная валюта на публичном блокчейне (Nakamoto 2009). Актив известен волатильностью: в 2017 цена выросла почти в 20 раз, до около 19 497 USD, затем упала на 84%; в 2021 — новый максимум около 63 314 USD и падение до 34 770 USD (около 55%). После спотовых ETF биткоин стал спокойнее, но движения всё ещё сильнее классических инструментов.

Пять стратегий на исторических BTC/USDT частот 5, 15 и 30 минут, период 21.08.2019–24.07.2024. Две бенчмарк-стратегии — MACD и RSI. Три остальных используют Informer (Zhou et al. 2021) — attention-сеть для длинных рядов — чтобы прогнозировать доходности и выбирать позицию по прогнозу.

Вопросы исследования:

• Можно ли алгостратегию на биткоине, эффективнее buy-and-hold?
• Сигнал Informer эффективнее технических индикаторов?
• Как лосс модели влияет на результат стратегии?
• Помогает ли более высокая частота данных?

Ответ требует формального сравнения стратегий — это и есть основной вклад. Насколько известно авторам, Informer ещё не обучали Quantile или GMADL (Michańków et al. 2024) с последующей генерацией buy/sell. Сравнение включает buy-and-hold, два индикатора, три частоты, шесть окон и анализ чувствительности. Код фреймворка открыт на GitLab.

Структура: гл. 2 — литература; гл. 3 — данные; гл. 4 — определение стратегии, метрики, детали каждой; гл. 5 — гиперпараметры и тест; гл. 6 — чувствительность; гл. 7 — выводы.

2. Обзор литературы

2.1. Гипотеза эффективного рынка

EMH (Malkiel 1973): цена уже содержит доступную информацию; устойчиво бить рынок нельзя, лучшая стратегия — пассивный портфель. Слабая форма бьёт теханализ (случайное блуждание); полусильная — фундаментальный анализ; сильная включает инсайд. Даже слабая форма делает краткосрочные алгосистемы бессмысленными.

Fama (1970, 1991): есть статистически значимая автокорреляция дневных доходностей, но её недостаточно, чтобы опровергнуть EMH. Malkiel (2005): за 20 лет 90% управляемых фондов проиграли S&P 500.

Контраргумент — поведенческие смещения: overconfidence (Fischhoff–Slovic; Barber–Odean; Gervais–Odean), overreaction (De Bondt–Thaler), aversion к убыткам (Kahneman–Tversky; Odean), herding, mental accounting. Современные работы — time-varying weak-form efficiency (Lim–Brooks) и Adaptive Markets Hypothesis (Kim et al. 2011).

2.2. Ранняя статистика

Box–Jenkins: ARMA/ARIMA. Экспоненциальное сглаживание (Billah et al.). Гибриды ARIMA–ANN (Zhang 2003; Khashei–Bijari; Pai–Lin; Wang et al.; Adebiyi et al.). Azari (2018): ARIMA на биткоине не ловит скачки конца 2017. Võ–Ślepaczuk (2022): ARIMA+GARCH на лог-доходностях S&P 500; гибриды лучше чистого ARIMA.

2.3. Ранний ML

CNN, RNN, LSTM, GRU перенесены из CV/NLP в финансы. Chen et al. (2015): LSTM на дневных доходностях Китая. Honchar–Di Persio: LSTM лучше на длинных последовательностях; CNN лучше на S&P 500 и EUR/USD. Fischer et al.: LSTM для отбора S&P 500 бьёт RF и логит; отобранные бумаги — ниже среднего моментума, сильный short-term reversal, высокая вола. Grudniewicz–Ślepaczuk (2023): Bayesian GLM и Naive Bayes на WIG20/DAX/S&P/CEE. Nelson et al.: LSTM+индикаторы, средняя точность 55,9% «вырастет / нет». Siami-Namini et al.: ошибка LSTM на 84–87% ниже ARIMA. Kijewski et al. (2024): комбинация сигналов удваивает доходность при том же риске пассива, но LSTM гораздо менее устойчив к параметрам, чем классика.

2.4. Современный ML

RNN ломается на длинных рядах (взрыв/затухание градиента). Attention (Bahdanau; Luong), затем Transformer (Vaswani et al. 2017) — основа GPT-4 и Gemini. Обзор deep forecasting: Benidis et al. (2023). DeepAR (Salinas) ещё на RNN; TFT (Lim, Arik et al.) — квантили и интерпретируемость; MQ-Transformer (Eisenach et al.). Informer (Zhou et al. 2021) — вычислительно дешёвый Transformer под длинный горизонт.

Barez et al. (2023): Transformer vs LSTM на HF BTC/USDT log-return; Transformer выше кумулятивного PnL. Hu–Hu: TFT бьёт LSTM. Zhao et al.; Hájek–Novotny: TFT с сентиментом. Penmetsa–Vemula: Transformer лучше LSTM на BTC/ETH/LTC. Wang (2023): гибрид Transformer + bi-LSTM. Ding et al. (2023), Duan–Ke (2024), Lu et al. (2023): Informer бьёт LSTM/Transformer/BERT на минутных и 5-минутных барах по MAE, RMSE, MAPE.

Финансовый прогноз смещается к более высоким частотам и более сложным архитектурам — как в этой работе.

3. Данные

Пара BTC/USDT, 21.08.2019–24.07.2024 (5 лет). Tether — стейблкоин, близкий к USD. Пара повторяет BTC/USD, но с большим объёмом: хедж волатильности внутри крипты. Мотивы выбора: бесплатные мелкие интервалы (до секунды) в отличие от платных часовых акций; биржа 24/7, ряд равномерный; BTC/USDT — одна из самых ранних и ликвидных пар.

Рисунок 1 — смотреть в оригинале (PDF)

K-line с Binance API: open/close time, OHLC, volume. Интервалы 5/15/30 мин. Восемь гэпов суммарно более 101 часа (4,2 дня), доля точек 0,002 — заполнены копированием последней цены и объёма. Доходность бара:

Таблица 1. Описательные статистики доходностей (не аннуализированы). Нормальность отвергается.

Стд. отклонение растёт с длиной бара — ожидаемо. Экстремумы похожи: крупные движения короткие. Максимум на 15 мин — цена успела вырасти и упасть внутри 30-минутного окна. Лептокуртозис сильнее на мелких барах. Skew в (−1, 1). Алгоритмы на длинных интервалах эти скачки не видят.

3.1. Дополнительные ряды

VIX (дневное закрытие, Cboe), эффективная ставка fed funds (месяц, FRED), Crypto Fear/Greed Index (день: вола, моментум, Reddit, Google Trends, опросы). На каждый 5-минутный бар берётся последнее уже известное значение: для 2022-08-17 04:05 — VIX и Fear/Greed от 16 августа, ставка от июля. То жедневные/месячные цифры не используются: риск look-ahead.

Рис. 2–4 оригинала — ряды VIX, fed funds и Fear/Greed за тот же период; PDF.

3.2. Скользящие окна

Как Michańków et al. (2022): окно = 24 месяца in-sample + 6 месяцев out-of-sample, сдвиг на длину OOS. Шесть окон с одинаковым числом точек. In-sample делится на train и validation (20% in-sample).

Рисунок 5 — смотреть в оригинале (PDF)

Таблица 2. Число точек в частях каждого окна.

Таблицы 3–5 оригинала: статистики OOS по окнам. Вола выше в W1–W2. Куртозис особенно велик в W1 и W5 на 5 мин и в W5 на 15 мин (много почти нулевых доходностей). KS снова отвергает нормальность. Рис. 6: теплокарты расстояний Вассерштейна между окнами — главный сдвиг между первыми двумя, следующими тремя и шестым; справа — violin-плотности.

Рисунок 6 — смотреть в оригинале (PDF)

4. Методология

4.1. Рамка оценки

На каждом баре $t\in\{1,\ldots,T\}$ позиция: лонг, шорт или флэт. Допущения: смена позиции исполняется по close предыдущего бара; комиссия биржи $e=0{,}1\%$ (спот Binance); любая дробная доля актива (на практике минимум 0,00001 BTC); весь портфель в одной позиции; в конце $T$ позиция должна быть флэт.

Стратегия — $s_\theta:\mathbb R^{\lambda\times d}\to\{-1,0,1\}$, $\theta$ — гиперпараметры, $\lambda$ — lookback, $x_t\in\mathbb R^d$ — информация к моменту $t$:

Только прошлое. Стоимость портфеля $E_0=1$,

ARC (годовая сложная доходность):

ASD — годовая стд. отклонение доходностей:

IR* — Sharpe при нулевой безрисковой ставке: $\mathrm{IR}^*=\mathrm{ARC}/\mathrm{ASD}$.

MD — максимальная просадка:

IR** (Kosc et al. 2019): $\mathrm{IR}^{**}=\mathrm{IR}^*\times|\mathrm{ARC}|/\mathrm{MD}$ — критерий отбора гиперпараметров.

N — число смен позиции, $\sum_t |p_t-p_{t-1}|$ (лонг→шорт считается двумя сделками). LONG/SHORT — доля баров в лонге/шорте.

4.2. Стратегии

Стратегия — полный механизм «сигнал → позиция». Точность модели сама по себе не оценка стратегии.

Buy-and-hold. Без гиперпараметров: $s(\cdot)=1$.

MACD (Appel). $\mathrm{MACD}_t=\mathrm{EMA}^{\mathrm{fast}}_t-\mathrm{EMA}^{\mathrm{slow}}_t$, сигнал — EMA от MACD. Лонг, если MACD не ниже сигнала; иначе флэт или шорт в зависимости от бинарного гиперпараметра $\mathrm{short}$. Типичные 12/26/9 здесь — параметры поиска.

RSI (Wilder). $RSI_t=100/(1+RS_t)$, $RS$ — отношение SMMA приростов и падений close. Четыре порога: enter/exit long, enter/exit short; иначе держать $p_{t-1}$. Окно обычно 14 — тоже гиперпараметр. «−» в сетке значит «никогда не открывать/закрывать».

4.2.4. Стратегии на Informer

Informer (Zhou et al. 2021) — encoder–decoder Transformer под длинные ряды. Encoder: $L_{\mathrm{enc}}$ одинаковых слоёв; decoder: $L_{\mathrm{dec}}$. Ядро — multi-head ProbSparse self-attention. Каноническое внимание

Encoder слой: $\mathrm{MaxPool}(\mathrm{ELU}(\mathrm{Conv1d}(\mathrm{MHSA}(X_{i-1}))))$ — дистилляция по времени. Decoder: два MHSA (на прошлых таргетах и на $Z$ энкодера) плюс FFN $\max(0,xW_1+b_1)W_2+b_2$, residual, dropout, LayerNorm.

Вход $X_0$: вещественные признаки (линейная проекция в $d$), категориальные эмбеддинги, позиционные синусы/косинусы.

RMSE не совпадает с целью «максимизировать доход стратегии». Актив, который 99 баров стоит и на 100-м падает: константный прогноз даёт 99% «точности» и плохую торговлю. Точечный прогноз ещё и без меры уверенности.

Quantile loss — квантили распределения доходности; стратегия может требовать уверенности. Квантили $q\in\{0{,}01,0{,}02,0{,}03,0{,}05,0{,}1,0{,}25,0{,}5,0{,}75,0{,}9,0{,}95,0{,}97,0{,}98,0{,}99\}$ — чтобы потом крутить порог без переобучения.

GMADL (Michańków et al. 2024) штрафует знак и награждает крупные верные движения; $a=100$, $b=2$:

Рисунок 7 — смотреть в оригинале (PDF)

RMSE- и GMADL-стратегии: четыре порога на $\hat y_t$ (enter/exit long/short), иначе держать прошлую позицию. Quantile-стратегия: лонг, если квантиль $1-\mathrm{enter\,long}$ выше порога; шорт, если квантиль $\mathrm{enter\,short}$ ниже $-\mathrm{threshold}$. Интерпретация: уверенность $\mathrm{enter\,long}$, что доходность выше порога.

5. Эксперименты

Python, TA-Lib, PyTorch Forecasting. Каждое окно — свой экземпляр. ML учится на train, гиперпараметры (включая пороги) — по IR** на validation. У MACD/RSI только validation, чтобы пороги ML и не-ML смотрели на одни и те же данные.

5.1. Гиперпараметры

MACD. Окна EMA — 16 чисел Фибоначчи от 2 до 2584, $\mathrm{short}\in\{0,1\}$, 8192 комбинации, плюс $\mathrm{fast}\lt\mathrm{slow}$. Смещение к длинным окнам: MACD плохо сидит на 5–30 минутах. На последних двух окнах всех частот шорт выключен — намёк, что хвост выборки менее предсказуем. Полная табл. 7 — в PDF.

RSI. То же Фибоначчи для окна; пороги из $\{-,5,\ldots,95\}$, 38 416 комбинаций. Наоборот, окна маленькие — RSI выигрывает от частоты. Exit-пороги редко активны: закрытие лонга чаще совпадает с открытием шорта. Табл. 9 — в PDF.

Informer, обучение. Таргет — доходность (1). 40 эпох, early stopping (валидация каждые 300 батчей на 5 мин, patience 15). GTX 1080 Ti, ~1 час на прогон. Признаки (табл. 10): OHLC, volume, returns, VIX, fed funds, Fear/Greed; отношения open/high/low к close; vol 1h/1d/7d; SMA/EMA к close; MACD (12/26/9), RSI(14), полосы Боллинджера к close; категории hour (0–23) и weekday (0–6) по close бара. Вещественные нормализуются.

Сетка модели (табл. 11): past window 20–120, batch $\{64,128,256\}$, lr $\{10^{-3},5\cdot10^{-4},10^{-4}\}$, $d,f\in\{256,512,1024\}$, головы $\{1,2,4,6\}$, dropout $\{0{,}05,0{,}1,0{,}2,0{,}3\}$, слои энкодера/декодера $\{1,2,3\}$ — $1\,166\,400$ точек. Random search 30 комбинаций на первое окно каждой пары (частота × лосс) = 270 прогонов; выбранные веса переносятся на остальные окна.

Лучшие модели оказались маленькими: past window 20–30, малая $d$ (кроме Quantile 30 мин). Для RMSE на 5 мин, наоборот, окно 102. Dropout GMADL 0,01. Табл. 12 оригинала.

На 5 и 15 мин прогнозы RMSE почти нулевые (меньше комиссии), поэтому порог сделок схлопывается к 0,001. Quantile почти всегда требует высокой уверенности (0,95–0,99): при $e=0{,}1\%$ уже $\log_{0{,}999}(0{,}5)\approx 692$ ошибочных смен режут портфель пополам. У GMADL нет смещения к более крупным порогам на низких частотах — резкие движения торгуемы и на 5 мин. Полные табл. 14–18 — в PDF.

5.2. Результаты теста

Метрики по каждому окну и по склейке позиций на всём тесте (~3 года OOS).

5.2.1. 30 минут

Лучший — RSI (VAL 4,542, ARC 66,8%, IR** 2,415), но длинные куски без позиции. Все кроме Quantile бьют buy-and-hold (VAL 1,440, ARC 13,1%, MD 77%). GMADL и RMSE близки по результату при разном обороте: 811 vs 34 сделок.

Рисунок 8 — смотреть в оригинале (PDF)

Таблица к рис. 8. Весь тестовый период, 30 мин.

По окнам (рис. 9, PDF): RSI почти не торгует в W4 (0,02% времени) и W6 (ноль). Это как раз окна, где Quantile проваливается, а второй лучший — buy-and-hold: самые трудные куски. GMADL лучше на восходящем W5, RMSE — на нисходящем W2.

5.2.2. 15 минут

Лучший — GMADL (VAL 3,296, ARC 49,7%, IR** 0,987). Далее RMSE, затем buy-and-hold. MACD, RSI и Quantile хуже пассива. Quantile в рынке лишь ~40% времени — пороги слишком жёсткие. MACD/RSI много сделок, комиссия съедает.

Большая часть стоимости GMADL и RMSE накоплена в W1. RMSE почти не торгует в W2, W5, W6: прогнозы слишком близки к нулю. W6 снова никого не пускает выше buy-and-hold. MACD на W1 падает до VAL 0,35 и хоронит весь период. Рис. 10–11 — в PDF.

5.2.3. 5 минут

GMADL резко впереди: ARC 115,9%, ASD как у пассива, MD 32,7% против 77,3% buy-and-hold; лонг и шорт примерно поровну. Второй — RSI (почти 40% времени флэт). Только они бьют бенчмарк. Меньше сделок, чем у проигравших: лучше фильтр тренда. RMSE — 16 сделок за весь тест: крупные доходности штрафуются, прогнозы жмутся к нулю ниже комиссии. Quantile — больше всех сделок (3395), комиссия убивает.

Рисунок 12 — смотреть в оригинале (PDF)

По окнам (рис. 13): GMADL лучший везде, кроме последнего, где снова выигрывает buy-and-hold. Большинство сделок GMADL — во втором окне; в третьем всего 16 сделок и 80% флэта, но резкие свингы пойманы. RSI хорош на первых трёх окнах и ломается на последних.

5.2.4. Лучшие против buy-and-hold

Рисунок 14 — смотреть в оригинале (PDF)

IR** GMADL монотонно растёт с частотой; у RMSE — падает. Это совпадает с задумкой GMADL: знак и крупные движения. RSI остаётся сильным на 5 и 30 мин (второй overall на 30 мин) — индикаторам 50 лет, но они дешевле ML. MACD в топ-5 только на 30 мин, гиперпараметры тянутся к длинным окнам. Quantile — один из худших: либо лосс не для торговли, либо правило перевода квантилей в позицию слабое (много квантилей сразу могли размыть качество; дисперсия распределения не использовалась).

$t$-тест IR* лучших против buy-and-hold, упрощённая стандартная ошибка Sharpe $\sigma/\sqrt N$. $H_0$: IR стратегии не выше бенчмарка. Отвергается для всех восьми ($\alpha=0{,}01$).

Таблица 19. $H_0$: IR не выше buy-and-hold. *** — $p\lt 0{,}01$. Тест предполагает нормальность разностей доходностей.

6. Анализ чувствительности

Перебор архитектуры Informer дорог и вне скоупа. Смотрят факторы, влияющие на отбор порогов стратегии. Объект — лучший GMADL на 5 мин.

6.1. Длина validation

База: 20% in-sample ≈ 6 месяцев. Слишком коротко — нерепрезентативно; слишком длинно — отстаёт от текущего режима.

Таблица к рис. 15. Число сделок монотонно падает с удлинением validation. Худший — 3 месяца (убытки на последних двух окнах). Все варианты всё же бьют бенчмарк.

6.2. Число окон

База — 6 окон по 6 месяцев OOS. Те же 3 года теста режут на 3 или 12 окон; длина in-sample фиксирована, модели переобучают.

Таблица к рис. 16. И 3, и 12 окон хуже шестёрки, но всё ещё выше бенчмарка. Пик IR** на шести окнах может быть частично удачей нарезки — это не отменяет, что GMADL стабильно бьёт пассив.

6.3. Top-$n$ набор гиперпараметров

Лучший на validation может быть переобучен. Рис. 17: IR** на тесте для топ-10 наборов с validation. Для GMADL 5 мин первый набор действительно лучший, дальше монотонно хуже. На 15 и 30 мин второй набор validation оказался бы лучше на тесте. У RSI 30 мин первый хорош, на 15 мин второй сильно лучше. У RMSE 30 мин первые два переобучены. У заведомо слабых стратегий выбор $n$-го набора почти ничего не меняет.

7. Заключение

Пять стратегий, шесть окон, три частоты BTC/USDT. Восемь комбинаций бьют buy-and-hold на склейке теста. Лучшая — Informer+GMADL на 5 минутах, почти на всех окнах. Длина validation и число окон двигают IR**, но GMADL везде остаётся выше пассива.

Можно ли бить buy-and-hold на биткоине? Да: восемь стратегий на шести окнах, суммарно почти три года теста.

Informer vs индикаторы? RMSE и GMADL лучше MACD; RSI сравним и на 30 мин — второй overall. Старые индикаторы остаются дешёвой альтернативой тяжёлому ML.

Лосс? RMSE плохо ловит редкие крупные доходности на высокой частоте. GMADL от частоты выигрывает. Quantile хуже бенчмарка. Из трёх лоссов GMADL лучше всего подходит как сигнал алгосистемы; выбор лосса — один из решающих факторов.

Выше частота? Помогает GMADL, вредит RMSE. Индикаторы от 5 vs 30 мин почти не выигрывают.

Вклад: Quantile и GMADL на Informer против привычного RMSE, перевод прогноза в позиции, сравнение с MACD/RSI, несколько частот и окон, чувствительность. Расширения: полный перебор архитектуры и лосса; ещё более высокие частоты; другие инструменты кроме BTC.

Литература

• Appel, G. Technical analysis: power tools for active investors. FT Press, 2005.
• Barez, F. et al. Exploring the Advantages of Transformers for High-Frequency Trading. SSRN, 2023.
• Benidis, K. et al. Deep Learning for Time Series Forecasting. ACM Computing Surveys, 2023.
• Ding, Y., Zhang, C. and Zhang, C. An Informer Based Method for Stock Intraday Price Prediction. ICNC-FSKD, 2023.
• Fama, E. Efficient Capital Markets. Journal of Finance, 1970; Efficient Capital Markets: II, 1991.
• Fischer, T. et al. Deep learning with LSTM networks for financial market predictions. EJOR, 2017.
• Kosc, K., Sakowski, P. and Ślepaczuk, R. Momentum and contrarian effects on the cryptocurrency market. Physica A, 2019.
• Lim, B., Arik, S. O. et al. Temporal Fusion Transformers. 2020.
• Lu, et al. Informer vs LSTM/Transformer/BERT on 1-min and 5-min stocks. 2023.
• Malkiel, B. A Random Walk Down Wall Street, 1973; The Efficient Market Hypothesis and Its Critics, 2005.
• Michańków, J. et al. GMADL. 2024; rolling-window evaluation framework, 2022.
• Nakamoto, S. Bitcoin: A Peer-to-Peer Electronic Cash System, 2009.
• Vaswani, A. et al. Attention Is All You Need. 2017.
• Wilder, J. W. New Concepts in Technical Trading Systems, 1978.
• Yadav, Y. How algorithmic trading undermines efficiency in capital markets. 2015.
• Zhou, H. et al. Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting. AAAI, 2021.

Полный список — в PDF.

Перевод: гл. 1–7. Окна W1–W6 по отдельности и рис. 2–4, 9–11, 13, 15–17 — в PDF. · arXiv:2503.18096 · лицензия CC BY-NC-ND 4.0