시장을 잴 자가 없다는 비판

In Plain Terms

앞선 CAPM은 어떤 자산의 기대수익이 그 자산이 시장 전체와 함께 움직이는 정도, 즉 베타만큼 주어진다는 우아한 모형이었어요. 그런데 이 모형이 현실에서 맞는지 확인하려면 먼저 “시장”이 정확히 무엇인지부터 알아야 합니다. 기준이 흔들리면 시험 자체가 흔들리니까요.

이 논문의 지적은 바로 그 지점에서 시작해요. 진짜 시장이란 세상의 모든 투자 가능한 자산을 담은 것인데, 우리는 그 전체를 통째로 관측할 수 없다는 것입니다. 그래서 이 노트는 “어떻게 벌 것인가”가 아니라 “우리가 안다고 믿는 것을 정말 검증한 게 맞는가”를 다루는, 방법론 자체에 대한 비판이에요.

The Strategy

이 논문이 제안하는 것은 매매 전략이 아니라 하나의 논증입니다. 뼈대는 두 조각으로 이뤄져 있어요.

첫째는 수학적 사실입니다. 어떤 포트폴리오가 평균-분산 효율적이기만 하면, 개별 자산의 수익과 그 포트폴리오에 대한 베타 사이에는 CAPM이 말하는 깔끔한 직선 관계가 자동으로 성립해요. 이건 모형의 예측이 아니라 항등식에 가깝습니다. 그래서 어떤 지수를 시장 대리물로 놓고 “베타와 수익이 직선을 이루는가”를 검사하는 일은, 사실상 “내가 고른 그 대리 지수가 효율적인가”를 검사하는 일과 같아져 버립니다.

둘째는 관측 불가능성입니다. Roll이 말하는 진짜 시장 포트폴리오는 주식만이 아니라 채권, 부동산, 원자재, 심지어 사람의 미래 노동가치까지 값이 매겨지는 모든 것을 담아야 해요. 그런 전체는 만들 수도 관측할 수도 없습니다. 그래서 연구자들은 어쩔 수 없이 주가지수 같은 대리물을 시장 대신 쓰는데, Roll의 결론은 이 대체가 검증을 근본적으로 흐린다는 거예요. 실증 검증에서 CAPM이 깨진 것처럼 보여도, 그것이 모형이 틀려서인지 아니면 대리 지수가 효율적이지 않아서인지 원리상 가를 수 없다는 이 구조가 흔히 “결합 가설(joint hypothesis) 문제”라고 불립니다. 효율적 시장 가설을 검증할 때 부딪히는 어려움과 정확히 같은 형태예요.

Reality Test

이 논문은 새 전략을 백테스트한 것이 아니라 검증이라는 행위 자체를 검증했기 때문에, 여느 실증 논문처럼 표본 기간이나 초과수익 숫자를 내놓지 않습니다. 대신 확인할 수 있는 것은 문헌 안에서의 위치예요. 1977년 《Journal of Financial Economics》 4권 2호 129–176쪽에 실렸고, 지금까지 약 3,300회 이상 인용되며 자산가격 실증 방법론의 표준 참고점으로 자리 잡았습니다.

논증의 핵심 결론은 이렇게 요약돼요. 검증에 쓴 대리 지수가 그 표본 안에서(in-sample) 효율적으로 보이면 베타와 수익의 직선 관계는 저절로 깔끔하게 나오고, 반대로 대리 지수가 효율적이지 않으면 모형이 맞든 틀리든 관계는 어긋나 보입니다. 즉 검증 결과는 CAPM이 옳은지가 아니라 우리가 고른 대리 지수가 효율적인지를 비추는 거울일 뿐이라는 것입니다.

발표 이후 학계의 반응이 흥미로워요. Stambaugh(1982)는 주식만이 아니라 채권·부동산·내구소비재까지 넣어 여러 대리 지수를 만들어 검증을 다시 돌렸는데, 놀랍게도 결론이 대리물 구성에 그다지 민감하지 않았습니다. 확장한 대리물 안에서 시가총액 가중 주식의 비중이 약 10% 수준까지 낮아져도 CAPM에 대한 결론이 주식만 담은 지수와 거의 똑같이 나왔어요. 확장 시장의 변동성이 결국 주식 변동성에 지배되기 때문인데, 이는 “실무적으로는” Roll의 우려가 결론을 뒤집을 만큼 크지는 않을 수 있다는 반론입니다. 다만 이것이 Roll의 논리를 반박한 것은 아니에요. 원리상 진짜 시장을 관측할 수 없다는 사실은 그대로 남고, Stambaugh가 보인 것은 실무에서 그 사각지대가 결론을 크게 흔들지는 않더라는 경험적 관찰이라는 점을 구분해 두는 게 정확합니다.

Pain Points

개인에게 이 논문의 pain point는 비용이나 낙폭 같은 숫자가 아니라, 판단의 토대가 생각보다 무르다는 사실 자체예요. Roll은 특정 매매 규칙을 주지 않는 대신 실증 증거를 대하는 태도를 바로잡아 줍니다.

첫째, “이 팩터가 시장을 이겼다”는 화려한 주장은 그 배후에 어떤 시장 대리물을 깔았느냐에 따라 크게 달라질 수 있어요. 결합 가설 문제 탓에, 초과수익처럼 보이는 것이 실제 이례 현상인지 아니면 기준으로 삼은 지수가 애초에 비효율적이었던 탓인지 개인이 사후에 가려내기는 매우 어렵습니다. 백테스트에 찍힌 알파가 모형의 승리인지 기준물의 실패인지 구분되지 않는 셈이에요.

둘째, 이 함정은 개인이 매일 마주하는 성과 비교에도 그대로 옮겨 붙습니다. 내 수익률을 어떤 벤치마크에 대볼 것인가, 추적오차를 무엇 대비로 잴 것인가 하는 선택이 결론을 바꿔요. 기준을 바꾸면 이겼다가 졌다가 하는 결과라면, 어느 한 검증 결과만 붙들고 확신하는 것은 위험합니다. 게다가 관측 불가능한 대상을 다루는 통찰인 만큼, 그럴싸한 대리 지수를 골라 원하는 결과를 뽑아내는 데이터 스누핑의 여지도 함께 커진다는 점을 Roll은 경고했어요.

How It Connects Here

이 논문은 앞선 CAPM 노트가 던진 우아한 모형에 “그런데 그걸 정말 검증할 수 있는가”라는 물음을 붙이는 짝 노트이고, 효율적 시장 가설의 결합 가설 문제와 같은 뿌리에서 자란 통찰이에요.

The Verdict

Roll의 비판이 개인에게 주는 교훈은 결국 겸손입니다. 우리가 시장을 완벽히 측정할 수 없다면, 정교한 모형과 화려한 검증 위에 쌓은 확신도 그만큼 흔들려요. 정밀한 신호를 좇아 자주 손대는 전략일수록 그 밑에 깔린 기준물이 타당하다는 가정에 크게 기대는데, 이 논문은 바로 그 가정이 원리상 확인 불가능할 수 있음을 보여줍니다.

측정과 검증이 근본적으로 어렵다는 사실을 받아들이면 결론은 오히려 단순해져요. 단순 보유(Buy and Hold)는 애초에 “무엇이 진짜 시장인가”를 정확히 맞혀야 성립하는 전략이 아니기 때문에, 이 비판의 사각지대에 거의 노출되지 않습니다. 관측할 수 없는 시장을 정밀하게 이기려 애쓰기보다, 인덱스 펀드로 넓게 담고 가만히 두는 편이 검증의 한계를 정직하게 인정하는 선택에 더 가깝습니다.