(2/2) 페어에 칼만 필터를 얹으면 −53% 드로다운이 줄까 — 정적 vs 동적 헤지 실측
- 숏감마 리밸런싱과 페어트레이딩 — 두 개의 함정
- 페어에 칼만 필터를 얹으면 −53% 드로다운이 줄까 — 정적 vs 동적 헤지 ← 지금 글
Summary
1편에서 삼성전자↔SK하이닉스 페어트레이딩이 −52.8% 드로다운을 맞는 걸 실데이터로 봤어요. 시장중립이라던 전략이 왜 반토막이 났을까요. 1편 마지막에 예고한 대로, 이번엔 헤지비율 $\beta$ 를 고정하지 않고 칼만 필터로 매일 움직이면 그 낙폭이 정말 줄어드는지 같은 10년 데이터로 이어서 백테스트해볼게요.
결론부터 말하면 “반은 맞고 반은 틀렸다” 예요. 헤지비율을 움직이니 HBM 디커플링 국면(2024~2026)의 낙폭은 확실히 줄었는데(−52%→−29%), 평상시엔 오히려 헤지비율이 출렁이며 손해를 봤어요. 칼만 필터는 만능 방어막이 아니라 “레짐 전환(= 시장의 판 자체가 바뀌는 것)에 특화된 보험” 이라는 게 오늘의 그림입니다.
✅ 용어가 낯설어도 괜찮아요. 이 글엔 헤지비율·칼만 필터·코인테그레이션 같은 단어가 나오는데, 어려운 대목마다 “쉽게 말하면” 상자로 일상 비유(시소·내비게이션·강아지 산책)를 하나씩 붙여뒀어요. 수식은 건너뛰고 그 상자만 따라 읽어도 흐름이 잡히게 써봤습니다.
💡 이 글에서 다루는 것
- 왜 정적 $\beta=1.71$ 은 사실 과헤지(over-hedge) 였나 — 레벨 회귀 vs 일간 시장중립 베타
- 칼만 필터의 직관 — 헤지비율을 ‘상태(state)’로 두고 매일 갱신하는 상태공간 모델
- 실측 ① — 정적 $\beta=1.71$ 이 그린 헤지비율과 칼만 동적 $\beta$ 의 궤적 (0.50 → 0.84)
- 실측 ② — 정적 vs 동적 전체 성적표 (CAGR·Sharpe·MDD)
- 실측 ③ — 연도별로 부호가 뒤집히는 2024~2026 디커플링 국면
- 공짜가 아닌 이유 — 승률 64%→44%, 그리고 코인테그레이션이 깨질 땐 어떤 헤지도 근본 치료가 아니다
⚠️ 1편과 똑같이 메커니즘 설명 + 실데이터 백테스트예요. 데이터는 삼성전자(005930)·SK하이닉스(000660) 수정주가 10년치(2016-01-04 ~ 2026-07-20, 2585거래일)를 그대로 썼고, 칼만 필터·백테스트는 전부 재현 가능한 형태로 돌렸습니다. 특정 종목·전략 매매 권유가 아니에요.
1. 복습 — 페어는 ‘스프레드에 롱감마’였다
1편의 한 축을 다시 잡고 갈게요. 페어트레이딩은 비슷하게 움직이는 두 종목(삼성·하이닉스)의 상대가격에 베팅하는 전략이었어요. 벌어진 스프레드가 좁혀지는 데 거니까, 저가매수·고가매도 방향 — 스프레드에 대해 롱감마죠. 스프레드는 이렇게 정의했어요.
\[\text{spread}_t = \ln P^{H}_t - \big(\alpha + \beta\,\ln P^{S}_t\big)\]여기서 $\beta$ 가 헤지비율이에요. “하이닉스 1을 살 때 삼성을 몇 개 팔아 시장 방향을 상쇄할까”의 그 개수죠. 1편에선 이 $\beta$ 를 10년 전체 회귀로 한 번 구해서 $\beta=1.71$ 로 고정했어요. 그리고 z-스코어가 $\pm2\sigma$ 를 넘으면 진입, $0.5\sigma$ 안으로 들어오면 청산했고요.
💡 쉽게 말하면 — 삼성과 하이닉스는 평소 비슷하게 움직여요. 그래서 “삼성에 견줘 하이닉스가 평소보다 얼마나 비싼가/싼가”를 숫자 하나로 요약한 게 스프레드예요. 이게 평소보다 크게 벌어지면(하이닉스가 너무 비싸지면) “곧 제자리로 돌아오겠지” 하고 비싼 쪽을 팔고 싼 쪽을 사는 게 페어트레이딩이고요. 얼마나 벌어졌는지를 “평소보다 몇 배쯤 튀었나”로 잰 게 z-스코어($\sigma$ = 평소 출렁임의 폭)라서, 2배(2σ)를 넘게 튀면 들어가고 거의 제자리(0.5σ)로 오면 빠져나오는 규칙이에요. 그리고 그 균형을 맞추는 저울추가 헤지비율 $\beta$ 입니다.
문제는 “곧 좁혀지겠지”가 깨지는 순간이었어요. 2024년 HBM 사이클에서 하이닉스가 삼성을 구조적으로 앞서가자, 스프레드가 좁혀지긴커녕 한 방향으로 계속 벌어졌고, 페어는 그대로 밟혀 −52.8% MDD를 맞았죠. 그럼 이 고정된 $\beta$ 를 의심해볼 차례예요.
2. 정적 β=1.71 은 사실 ‘과헤지’였다
먼저 짚을 게 있어요. 1편의 $\beta=1.71$ 은 10년 로그가격을 통째로 회귀(= 두 종목 가격의 평균적 관계를 직선 하나로 요약하는 통계 방법)해서 나온 값인데, 이게 생각보다 위험한 숫자예요. 10년 동안 하이닉스가 삼성보다 훨씬 크게 올랐으니, 레벨 회귀의 기울기는 그 누적 상승비율을 담아 커집니다. 즉 $\beta=1.71$ 은 “장기 공동추세의 비율”이지 “오늘 시장 방향을 상쇄하는 헤지비율”이 아니에요.
실제로 일간 수익률로 헤지비율을 다시 재보면 이렇게 달라져요.
| 헤지비율 정의 | 값 | 의미 |
|---|---|---|
| 레벨 회귀 (10년 로그가격) | 1.71 | 장기 공동추세 비율 (1편이 쓴 값) |
| 일간 수익률 회귀 (시장중립) | 0.91 | 오늘 삼성 방향을 실제로 상쇄하는 비율 |
| 90일 롤링 로컬 회귀 | 0.9 ~ 1.5 | 국면마다 변하는 실제 관계 |
일간 기준 시장중립 헤지비율은 0.91 인데, 1편은 그 1.9배인 1.71로 삼성을 숏쳤던 거예요. 이러면 페어가 “시장중립”이 아니라 삼성을 과하게 숏친 방향성 포지션이 됩니다. 두 종목이 같이 갈 땐 티가 안 나다가, 하이닉스가 삼성을 앞질러 달아나는 순간 이 과잉 숏이 그대로 손실로 꽂히죠.
💡 쉽게 말하면 (시소 비유) — 페어는 시소예요. 하이닉스를 한쪽에 앉혔으면, 반대쪽 삼성은 딱 균형 잡힐 만큼만 앉혀야 시장이 오르든 내리든 시소가 안 기울어요(= 시장중립). 그 균형점이 0.91이었는데, 1편은 반대쪽에 1.71을 앉힌 거예요. 너무 무겁죠. 평소엔 둘이 같이 흔들려 티가 안 나다가, 하이닉스가 혼자 훌쩍 뛰는 순간 시소가 한쪽으로 쿵 하고 기웁니다 — 그게 −53% 낙폭의 정체예요.
💡 1편 −53% 낙폭의 상당 부분은 “평균회귀가 깨져서”이기도 하지만, 그 이전에 헤지비율 자체가 과했기 때문이에요. 고정된 $\beta$ 는 관계가 변해도 절대 안 움직이니까요. 그럼 $\beta$ 를 매일 새로 추정해서 따라가게 만들면 어떨까 — 그게 칼만 필터예요.
3. 칼만 필터 — 헤지비율을 ‘상태’로 두고 매일 갱신
💡 칼만 필터, 이름은 무섭지만 — 사실 여러분 폰의 내비게이션이 매 순간 쓰는 바로 그 기술이에요. GPS 신호는 건물 사이에서 조금씩 튀는데(= 관측), 내비는 “직전 속도라면 지금쯤 여기겠지”(= 예측)를 섞어서 진짜 위치를 부드럽게 잡아줘요. 새 GPS가 들어올 때마다 예측 → 관측으로 살짝 보정을 계속 반복하죠. 우리가 할 일도 똑같아요. “삼성과 하이닉스의 관계(헤지비율)”를 자동차 위치라고 치고, 매일 새 가격이 들어올 때마다 그 비율 추정치를 조금씩 고쳐나가는 거예요.
칼만 필터를 한 문장으로 줄이면 “관측이 하나 들어올 때마다, 숨은 상태 추정치를 조금씩 수정하는 재귀 필터” 예요. 여기서 숨은 상태(state)를 헤지비율 $\beta_t$ 와 절편 $\alpha_t$ 로 둡니다. 이 둘이 시간에 따라 천천히 흘러간다(랜덤워크 — 매일 조금씩 정처 없이 움직인다)고 가정하는 거예요.
\[\begin{bmatrix}\beta_t\\ \alpha_t\end{bmatrix} = \begin{bmatrix}\beta_{t-1}\\ \alpha_{t-1}\end{bmatrix} + w_t,\qquad \ln P^{H}_t = \beta_t\,\ln P^{S}_t + \alpha_t + v_t\]- 위 식(상태방정식): 헤지비율은 어제 값에서 작은 잡음 $w_t$ 만큼 흘러간다. 잡음 크기를 키우면 $\beta$ 가 빨리 변하고, 줄이면 정적에 가까워져요.
- 아래 식(관측방정식): 오늘 하이닉스 로그가격은 “그 시점 헤지비율 × 삼성 로그가격 + 절편”으로 설명된다.
매일 새 가격이 들어오면 필터는 두 단계를 밟아요. 예측(어제 상태를 그대로 끌고 오되 불확실성 $P$ 를 조금 키움) → 갱신(실제 관측과 예측의 오차 $e_t$ 를 보고, 칼만 이득 $K_t$ 만큼 상태를 수정).
\[e_t = \ln P^{H}_t - \big(\beta_{t-1}\ln P^{S}_t + \alpha_{t-1}\big),\qquad \beta_t = \beta_{t-1} + K_t\,e_t\]💡 쉽게 말하면 — 어제 생각한 헤지비율로 오늘 하이닉스 가격을 미리 찍어보고, 실제 가격과 얼마나 빗나갔는지($e_t$, 예측 오차)를 봅니다. 빗나간 만큼 헤지비율을 조금 고쳐요. 그 ‘조금’의 크기가 칼만 이득 $K_t$ 인데, 새 정보가 믿을 만하면 많이 고치고 그냥 잡음 같으면 거의 안 고쳐요. 사람이 “어, 예상과 다르네? 그럼 생각을 살짝 바꾸자” 하는 거랑 똑같아요. 이걸 2585일 동안 매일 반복한 게 다음 장의 궤적입니다.
핵심은 $\beta$ 가 롤링 윈도우처럼 뚝뚝 끊기지 않고 매끄럽게 흐른다는 거예요. 90일 롤링 회귀는 90일 전 데이터가 창밖으로 나가는 순간 값이 튀는데, 칼만은 과거 전체를 불확실성으로 눌러 담고 새 관측을 조금씩 반영해서 훨씬 부드럽게 적응합니다.
⚠️ 파라미터는 상태잡음 $\delta$(랜덤워크 크기)와 관측잡음 $V_e$ 딱 두 개예요. 이걸 크게 잡으면 $\beta$ 가 시장을 과하게 쫓아 휩쏘(whipsaw — 자잘한 움직임에 낚여 샀다 팔았다를 반복하다 수수료·잔손실로 돈이 새는 것) 가 늘고, 작게 잡으면 정적과 다를 게 없어져요. 여기선 $\delta=10^{-4}$, $V_e=10^{-3}$ — “천천히, 그러나 분명히 따라가는” 정도로 뒀습니다. 초기값은 첫 60일 회귀로 잡았어요.
4. 실측 ① — 정적 β vs 칼만 동적 β 궤적
말보다 그림이에요. 같은 10년 데이터에서 정적 $\beta=1.71$(고정선)과 칼만이 매일 추정한 동적 $\beta$ 를 겹쳐봤어요.
읽는 법이 재밌어요.
- 칼만 $\beta$ 는 2016년 0.50 근처에서 시작해 2026년 0.84 까지 천천히 우상향해요. 아래 스냅샷처럼요.
| 시점 | 칼만 β |
|---|---|
| 2016-06 | 0.51 |
| 2020-01 | 0.61 |
| 2023-06 | 0.66 |
| 2024-06 | 0.72 |
| 2026-06 | 0.85 |
- 흥미로운 건 칼만 $\beta$ 가 일간 시장중립 베타(0.91) 쪽으로 수렴한다는 거예요. 정적 1.71 이 얼마나 높이 떠 있었는지가 한눈에 보이죠. 필터는 “삼성을 그렇게까지 많이 숏칠 필요가 없다”는 걸 데이터로 배워간 셈이에요.
- 그리고 HBM으로 관계가 재편되던 2023→2026 구간에서 $\beta$ 가 더 가파르게 올라가요. 하이닉스와 삼성의 동조성이 커지는 걸 필터가 반영한 거예요.
💡 여기까지만 보면 “그럼 무조건 칼만이 낫겠네?” 싶은데 — 헤지비율이 좋아졌다고 전략 손익까지 좋아지는 건 아니에요. 스프레드 신호가 같이 바뀌니까요. 숫자로 확인해야 합니다.
5. 실측 ② — 정적 vs 동적 전체 성적표
두 전략을 완전히 같은 규칙으로 돌렸어요. 스프레드 $z$-스코어 90일 롤링, $\pm2\sigma$ 진입 / $0.5\sigma$ 청산, 거래비용 레그당 15bp(= 0.15%, 한 번 사고팔 때 양쪽 다 반영), 무레버리지. 딱 하나 — 헤지비율 $\beta$ 만 정적(1.71 고정) vs 동적(칼만)으로 다릅니다.
💡 표에 나오는 지표 넷만 알고 가요 — CAGR은 연평균 몇 %씩 불었나(복리 기준, 높을수록 좋음), Sharpe는 위험 대비 수익 효율(높을수록 좋고 1을 넘으면 훌륭), MDD는 고점 대비 최대 몇 %까지 깨졌나(작을수록 안전), 승률은 진입한 거래 중 이긴 비율이에요. 아래 표에서 볼드가 그 지표에서 더 나은 쪽입니다.
| 지표 | 정적 β=1.71 | 칼만 동적 β |
|---|---|---|
| CAGR | 6.3% | 3.3% |
| Sharpe | 0.36 | 0.26 |
| 전체 최대낙폭 MDD | −52.1% | −59.1% |
| 2026 디커플링 국면 낙폭 | −52.1% | −28.7% |
| 거래 횟수 | 39회 | 16회 |
| 승률 | 64.1% | 43.8% |
첫인상은 “어? 칼만이 더 나쁜데?” 예요. CAGR도 낮고(3.3% vs 6.3%), Sharpe도 낮고(0.26 vs 0.36), 심지어 전체 MDD는 −59% 로 더 깊어요. 정적의 최악 낙폭은 2026년 4월인데, 칼만의 최악 낙폭은 엉뚱하게 2023년 3월에 찍혔어요.
그런데 딱 한 줄이 눈에 걸리죠. 2026 디커플링 국면 낙폭이 −52% → −29%. 우리가 애초에 궁금했던 그 질문 — “1편의 −53% 드로다운이 줄어드는가” — 에 대해서는 “그 국면에 한정하면, 네” 인 거예요. 왜 이런 엇갈린 그림이 나오는지는 연도별로 쪼개면 선명해져요.
6. 실측 ③ — 2024~2026, 부호가 뒤집히는 구간
연도별 수익률을 정적 vs 칼만으로 나란히 놓아볼게요.
| 연도 | 정적 β=1.71 | 칼만 동적 β | 국면 |
|---|---|---|---|
| 2016 | +34.9% | −10.9% | 초기 |
| 2017 | +9.8% | −16.9% | 초기 |
| 2018 | +9.9% | −10.9% | |
| 2019 | +33.2% | +11.6% | |
| 2020 | −12.0% | −11.7% | |
| 2021 | +16.3% | −2.2% | |
| 2022 | +2.4% | −30.6% | |
| 2023 | +15.0% | +32.4% | HBM 시작 |
| 2024 | −34.7% | +58.7% | 디커플링 |
| 2025 | +8.4% | +7.2% | |
| 2026 | +3.2% | +41.6% | 디커플링 |
패턴이 정확히 갈려요.
- 2016~2022(관계가 안정적이던 시기): 정적이 압도적으로 좋아요. 헤지비율이 안정적일 땐 굳이 움직일 이유가 없고, 칼만은 괜히 $\beta$ 를 흔들며 휩쏘로 새어나가요(2022년 −30.6% 가 대표적). 이 구간이 칼만의 전체 MDD −59%(2023년 3월 저점)를 만든 주범이에요.
- 2024~2026(HBM 디커플링): 정확히 뒤집혀요. 2024년 정적은 −34.7% 로 밟혔는데 칼만은 +58.7%. 2026년도 +3.2% vs +41.6%. 관계가 구조적으로 변하는 구간에선, 헤지비율을 따라 낮춰준 칼만이 과헤지로 인한 손실을 피하고 오히려 방향을 먹었어요.
💡 즉 칼만 필터는 “평균 성적을 올리는 도구”가 아니라 “손실의 시점을 옮기는 도구” 에 가까워요. 관계가 변하지 않는 평상시엔 비용(휩쏘)을 내고, 관계가 변하는 국면에 그 비용을 보상받는 구조. 1편이 물었던 “−53% 드로다운”이 하필 디커플링 국면(2026)에 터진 낙폭이었기 때문에, 칼만이 바로 그 지점을 −29%로 눌러준 거예요.
7. 공짜가 아니다 — 승률과 코인테그레이션
그래서 “칼만 쓰면 되겠네”로 끝내면 위험해요. 대가가 분명하거든요.
- 승률이 깨져요(64% → 44%). 헤지비율이 매일 움직이면 스프레드의 정의 자체가 흔들려서, 진입했다가 “어? 스프레드 기준선이 바뀌었네” 하고 손절되는 일이 잦아져요. 신호 품질이 떨어지는 거죠.
- 평상시 비용이 실재해요. 위 표의 2016~2022 처럼, 관계가 안정적인 해엔 칼만이 거의 매년 정적보다 못해요. 디커플링이 언제 올지 모른 채 이 비용을 매년 선불로 내는 셈이에요.
- 그리고 가장 중요한 것 — 칼만은 헤지비율을 고쳐줄 뿐, 코인테그레이션이 깨지는 걸 되돌리진 못해요. 2024~2026 에 칼만이 이긴 건 “평균회귀를 잘 잡아서”가 아니라 “과헤지를 덜어내 방향성 손실을 줄여서”예요. 만약 관계가 완전히 끊겨 두 종목이 영영 따로 논다면, 동적이든 정적이든 페어라는 전제 자체가 무너집니다.
💡 쉽게 말하면 (강아지 산책 비유) — 주인과 강아지가 함께 산책해요. 강아지가 좌우로 왔다갔다 해도 목줄로 묶여 있어 결국 주인을 따라오죠. 이게 코인테그레이션(순간엔 떨어져도 장기적으론 같이 감)이에요. 반면 상관은 “지금 이 순간 둘이 같은 쪽으로 걸었나”만 봅니다. 페어트레이딩이 진짜로 믿는 건 순간의 발맞춤(상관)이 아니라 목줄(코인테그레이션) 이에요. 그런데 HBM이 2024~2026에 그 목줄을 끊어버렸어요. 목줄이 끊기면 강아지 쪽 무게(헤지비율)를 아무리 잘 맞춰도 강아지는 영영 멀어집니다 — 그래서 상관이 높아도(0.666) 안심할 수 없다는 거예요.
🚨 정리하면, 칼만 필터는 “헤지비율이 틀렸을 때”의 문제는 고쳐주지만 “페어 관계 자체가 틀렸을 때”의 문제는 못 고쳐요. 1편의 −53% 낙폭은 이 둘이 겹친 사건이었고, 칼만은 그중 앞쪽(과헤지)만 걷어낸 거예요. 상관이 높다고 코인테그레이션이 보장되지 않는다는 1편의 교훈은 여기서도 그대로 유효합니다.
8. 정리 — 칼만은 ‘만능 방어막’이 아니라 ‘레짐 전환 보험’
1편의 한 축(감마) 위에 오늘 것을 얹으면 이렇게 정리돼요.
| 정적 헤지 (β 고정) | 동적 헤지 (칼만 β) | |
|---|---|---|
| 헤지비율 | 1.71 고정 (과헤지) | 0.5→0.84, 시장중립 0.91 로 수렴 |
| 평상시(관계 안정) | 안정적·고승률(64%) | 휩쏘로 손실(승률 44%) |
| 레짐 전환(디커플링) | 과헤지로 −35% 밟힘 | 방향 덜 물려 +59% |
| 전체 성적 | CAGR 6.3% / MDD −52% | CAGR 3.3% / MDD −59% |
| 잘 쓰는 법 | 관계가 안정적일 때 | 구조 변화가 의심될 때 |
- 정적 $\beta=1.71$ 은 과헤지였어요. 10년 공동추세로 부푼 값이라 일간 시장중립(0.91)의 두 배 가까이 삼성을 숏쳤고, 그게 디커플링 국면에서 방향성 손실로 돌아왔습니다.
- 칼만 동적 $\beta$ 는 그 과헤지를 걷어내요. 그래서 1편이 물었던 2026 국면의 −52% 낙폭을 −29% 로 반토막 냈어요. 다만 평상시엔 헤지비율이 출렁이며 승률과 CAGR을 깎아먹습니다. 전체 성적으로 보면 오히려 뒤처져요.
- 그래서 칼만은 “항상 켜두는 방어막”이 아니라 “구조 변화가 의심될 때 드는 보험” 이에요. 그리고 보험료(평상시 휩쏘)를 매년 내야 하죠. 무엇보다 코인테그레이션이 깨지는 근본 문제는 어떤 헤지비율 트릭으로도 못 고친다는 게, 2편까지 와서 얻은 진짜 결론이에요.
두 편을 한 문장으로 묶으면 이래요. 숏감마(레버리지)는 변동성을 스스로 키우고, 롱감마(페어)는 변동성을 먹지만 그 전제가 깨질 때 함정이며 — 칼만 필터는 그 함정의 ‘헤지비율’ 부분만 완화할 뿐, ‘관계가 끊기는’ 부분은 못 막는다. 감마 한 글자에서 시작해 상태공간 모델까지 왔는데, 결국 매번 되돌아오는 교훈은 같아요. 상관 ≠ 코인테그레이션.
일단 오늘은 여기까지…..
이 페어트레이딩 2부작은 여기서 마무리할게요. 다음엔 또 다른 실데이터로 찾아뵐게요.
