위험과 수익이 뒤집힌 수수께끼

In Plain Terms

교과서는 더 위험한 자산이 더 높은 수익을 준다고 가르쳐요. 그런데 개별 종목의 고유한 변동성, 즉 시장 전체의 오르내림으로는 설명되지 않고 그 종목에만 남는 흔들림을 기준으로 보면 이 관계가 오히려 뒤집혀 나타나기도 했습니다. 흔들림이 큰 종목이 이후에 더 낮은 수익을 보인 거예요.

이 논문은 그 뒤집힌 관계를 미국 주식 전체를 대상으로 정식으로 기록한 대표 연구입니다. 저자들은 고유 변동성이 가장 높은 종목 묶음과 가장 낮은 종목 묶음의 이후 평균 수익 차이가 **월 약 −1.06%**에 이른다고 보고했어요. 위험이 곧 보상이라는 단순한 통념과 정면으로 부딪히는 결과라서, 오늘날 “고유 변동성 수수께끼(idiosyncratic volatility puzzle)“라고 불립니다.

The Strategy

전략의 뼈대는 “고유 변동성”을 어떻게 재느냐에 있습니다. 저자들은 각 종목의 일간 수익률을 파마-프렌치 3팩터(시장·규모·가치) 모형으로 설명하고, 그 모형으로도 설명되지 않고 남는 잔차의 변동성을 그 종목의 고유 변동성으로 정의했어요. 즉 시장·크기·밸류라는 공통 요인을 걷어낸 뒤, 순수하게 그 종목에만 남는 흔들림만 뽑아낸 값입니다.

측정한 다음에는 단순합니다. 매달 말 모든 종목을 이 고유 변동성 크기로 줄 세워 5개 분위(quintile)로 나누고, 시가총액 가중으로 포트폴리오를 만든 뒤 한 달 보유하고 매달 다시 짭니다. 논문의 핵심 설정은 “지난 1개월 일간 수익으로 측정 → 곧바로 보유 → 1개월 보유”라는 이른바 1/0/1 방식이에요. 가장 높은 분위(5)를 팔고 가장 낮은 분위(1)를 사는 롱-숏 구조로 두 묶음의 수익 차이를 재면, 그 차이가 바로 이 수수께끼의 크기가 됩니다.

원 논문은 이 고유 변동성 이야기와 함께, 시장 전체 변동성(VIX) 위험이 개별 종목 수익에 어떻게 반영되는지도 다룹니다. 시장 변동성 충격에 민감한 종목일수록 이후 수익이 낮았고, 저자들은 이 시장 변동성 위험의 가격을 연 약 −1%(월 약 −0.08%) 수준으로 추정했어요. 다만 이 두 가지, 즉 시장 변동성 민감도와 개별 고유 변동성은 별개의 현상이라는 점이 논문의 결론입니다. 고유 변동성 수수께끼는 시장 변동성 위험으로도 설명되지 않았거든요.

Reality Test

원 논문에서 고유 변동성 분위 정렬 결과는 약 1963년 7월–2000년 12월(약 450개월) 미국 상장 종목(NYSE·AMEX·NASDAQ)을 대상으로 합니다(앞서 나온 시장 변동성 VIX 분석만 자료가 1986년부터 시작해 1986–2000년 창에 맞췄고, 고유 변동성 정렬은 더 긴 표본을 씁니다). 이 구간에서 고유 변동성 최상위 분위와 최하위 분위의 원시 평균 수익 차이는 **월 약 −1.06%**였습니다. 파마-프렌치 3팩터로 위험을 보정한 알파 차이는 오히려 더 커져서 **월 약 −1.31%(t값 약 −7.0)**에 달했어요. 위험 요인을 걷어낼수록 이례가 줄기는커녕 더 뚜렷해졌다는 뜻이라, 통계적으로는 매우 견고한 결과였습니다.

저자들은 이 결과가 우연이 아님을 여러 각도에서 확인했어요. 규모, 밸류, 유동성, 거래량, 모멘텀을 통제해도 차이는 대체로 살아남았습니다. 예를 들어 크기를 통제한 뒤에도 5−1 알파 차이는 **월 약 −1.04%**였고, 밸류(장부가/시가)를 통제한 뒤에도 **월 약 −0.80%(t값 약 −2.9)**로 유의했어요. 흥미롭게도 이 현상은 가장 작은 종목에만 몰린 것이 아니라, 규모 기준 중간 분위(2–4번째)에서 오히려 **월 약 −1.91%·−1.61%·−0.86%**로 가장 강하게 나타났습니다.

발표 뒤 국제 검증도 이어졌습니다. 같은 저자들의 후속 연구(Ang·Hodrick·Xing·Zhang, 2009)는 23개 선진국 시장에서 같은 현상을 확인했고, 극단 분위 간 수익 차이가 **월 약 −1.31%**로 미국과 비슷한 크기였으며 G7 각 나라에서 개별적으로 유의했다고 보고했어요. 여러 나라에서 고유 변동성 낮은 수익이 함께 움직인다는 점은 이것이 한 시장의 우연이 아니라 넓은 공통 요인일 가능성을 시사합니다. 다만 이 숫자들은 모두 특정 표본 안에서(in-sample) 측정된, 거래비용을 빼기 전의 총수익 기준이라는 점을 계속 염두에 둬야 해요.

Pain Points

(1) 수수께끼가 사는 곳이 시장의 극히 작은 구석입니다. 논문 스스로 밝혔듯, 고유 변동성 최상위 분위는 종목 수로는 20%이지만 **시가총액으로는 평균 약 1.9%**에 불과했어요. 즉 이 낮은 수익은 시장 대부분을 차지하는 큰 종목이 아니라, 작고 거래가 얇은 종목 무리에서 나온 값입니다. 실제로 상장 종목을 NYSE로만 좁히면 5−1 알파 차이는 **월 약 −0.66%(t값 약 −4.85)**로 크기가 눈에 띄게 줄었습니다. 개인이 이 프리미엄을 실제로 거두려면 하필 거래비용과 매수·매도 호가차가 가장 비싼 저유동성 종목을 대량으로 다뤄야 한다는 게 첫 번째 난점이에요.

(2) 결과의 견고함이 측정 방식에 민감합니다. Bali·Cakici(2008)는 데이터 주기, 포트폴리오 가중 방식(시가총액 가중 vs 동일가중), 분위 경계 설정, 종목 선별 기준을 바꿔가며 다시 검증했는데, 동일가중으로 바꾸거나 가장 유동성이 낮은 종목을 제외하면 음(−)의 관계가 상당 부분 사라졌다고 보고했어요. 즉 원 논문의 시가총액 가중·1개월 측정이라는 특정 설정에서 강하게 나타나는 현상이라는 반론입니다. 반대로 Fu(2009)는 조건부 기대 고유 변동성을 EGARCH로 추정하면 오히려 양(+)의 관계가 나온다고 주장하기도 했어요. 무엇을 “고유 변동성”으로 정의하고 어떻게 재느냐에 따라 부호까지 달라질 수 있다는 점은, 이 신호가 데이터 스누핑과 정의 선택에 취약하다는 뜻입니다.

(3) 월 재구성에 따른 회전율과 실행 격차. 이 전략은 매달 극단 변동성 종목을 새로 골라 갈아끼우기 때문에 회전율이 구조적으로 높아요. 논문의 −1.06%는 매달 재구성하는 시가총액 가중 롱-숏 포트폴리오에서 나온 총수익이라, 잦은 매매 비용과 소형·저유동성 종목을 공매도해야 하는 어려움을 빼고 나면 개인이 백테스트 숫자를 그대로 재현하기는 사실상 어렵습니다. 개인이 접근하는 저변동성 계열 상품은 대개 공매도 없이 저변동 종목만 담는 롱온리 구조라, 논문이 측정한 롱-숏 프리미엄과는 성격이 다르다는 점도 함께 기억해 둘 필요가 있어요.

How It Connects Here

이 노트는 “위험과 수익의 관계가 늘 곧지는 않다”는 이 사이트의 반복 주제를 강하게 보여줍니다. 변동성이 낮은 종목이 오히려 위험 대비 잘 버틴다는 저변동성 계열 노트, 그리고 유동성이 얇은 구석에서 이례가 자주 생긴다는 유동성 관련 논의와 함께 읽으면 이 수수께끼의 정체가 더 또렷해져요.

The Verdict

고유 변동성 수수께끼는 통계적으로 견고하고 국제적으로도 반복 확인된, 학문적으로 매우 흥미로운 이례입니다. 그러나 이례가 존재한다는 것과 개인이 그것으로 꾸준히 돈을 번다는 것은 전혀 다른 문제예요. 논문의 월 약 −1.06%는 거래비용 이전, 특정 표본(약 1963–2000년), 시가총액 대비 약 1.9%에 불과한 작고 얇은 종목 무리에서, 롱-숏 구조로 뽑아낸 총수익이라는 단서가 겹겹이 붙어 있습니다.

여기에 측정 방식만 바꿔도 부호가 흔들린다는 반론까지 더하면, 이것을 안정적인 개인 전략으로 옮기기는 매우 어렵습니다. 단순 보유(Buy and Hold)는 이런 정의 민감성, 높은 회전율, 저유동성 종목 공매도 같은 부담이 전혀 없어요. 그래서 이 수수께끼에서 개인이 취할 수 있는 현실적인 교훈은 “변동성이 극단적으로 큰 잡주를 무리해서 좇지 않는다”는 규율 정도이지, 이 −1.06%를 직접 거두려는 시도는 아니라는 것이 이 노트의 판정입니다.