그레고리 주커먼의 『The Man Who Solved the Market』으로 뜯어본 르네상스 테크놀로지와 메달리온 펀드
퀀트, 그중에서도 헤지펀드 영역에서 '가장 위대한 투자자'를 묻는다면 논쟁의 여지가 거의 없습니다. 답은 하나, 제임스 사이먼스(James Simons)입니다. 그가 세운 르네상스 테크놀로지(Renaissance Technologies)의 메달리온 펀드(Medallion Fund)는 왕 중의 왕, 최고 중의 최고로 꼽히는 펀드죠.
문제는 그가 지독한 신비주의자라, 어디에 어떻게 투자하는지 알아낼 방법이 거의 없었다는 점입니다. 유튜브 영상 몇 개와 쓸모없는 기사만 돌아다닐 뿐이었죠. 그런데 2019년 11월, 월스트리트 저널 기자 그레고리 주커먼(Gregory Zuckerman)이 쓴 『The Man Who Solved the Market』이 출간됐습니다. 주커먼은 르네상스 관련 인물 30여 명을 만나 400여 차례 인터뷰를 진행했고, 사이먼스 본인도 (책을 달가워하진 않았지만) 10시간가량 인터뷰에 응했다고 합니다.
이 글은 그 책의 핵심을 '메달리온은 어떻게 30년간 복리 66%를 냈는가'라는 한 줄로 압축해 따라갑니다.
숫자부터: 30년 복리 66%가 말이 되는가
메달리온의 트랙 레코드는 1988년부터 2018년까지 30년입니다. 수수료 차감 전(gross) 연복리는 약 66%. 그런데 이 펀드는 수수료를 살벌하게 뗍니다. 성과와 무관하게 자산의 management fee 5%를 떼고, performance fee는 초기 20%에서 나중에 44%까지 인상했습니다.
이렇게 엄청난 수수료를 떼고도 투자자 순수익(net)이 연복리 약 39%였습니다. 30년을 그렇게 굴렸으니 누적 수익은 상상을 초월하죠. 책이 제시한 전설적 투자자들과의 비교는 다음과 같습니다.
| 투자자 / 펀드 | 연평균 수익률 |
| 메달리온 (gross, 수수료 차감 전) | 66% |
| 제임스 사이먼스 (net) | 39.1% |
| 조지 소로스 (George Soros) | 32% |
| 스티븐 코헨 (Steven Cohen) | 30% |
| 피터 린치 (Peter Lynch) | 29% |
| 워런 버핏 (Warren Buffett) | 20.5% |
| 레이 달리오 (Ray Dalio) | 12% |
소로스·버핏·달리오가 나란히 놓인 표에서, 순수익 기준으로도 사이먼스가 압도적 1위입니다. 수수료 차감 전 66%라는 숫자는 사실상 인간의 영역이 아닙니다.
수학자에서 트레이더로: 사이먼스의 이력
사이먼스는 1938년생입니다. 1958년 MIT 학사, 1962년 스물넷의 나이에 UC 버클리에서 박사가 됩니다. 원래 투자와는 거리가 먼, 순수 수학 이론(특히 기하학)의 대가였죠. 이런 사람이 훗날 억만장자가 됩니다.
MIT·하버드에서 잠깐 가르쳤지만 강의가 지루했던 그는, 1964년 IDA(Institute for Defense Analyses)에 들어가 소련 암호를 해독하는 일을 합니다. 여기서 그는 아무 의미 없어 보이는 데이터(noise) 속에서 패턴을 찾아내는 수학적 모델을 다뤘습니다. 주식시장과 정확히 같은 문제죠. 시장에도 무의미한 노이즈가 가득한데, 그 안에서 핵심 패턴을 찾아내는 것이 곧 돈을 버는 일입니다. 이때 알고리즘을 짜서 검증하는(초기 형태의 backtest) 재미도 붙였다고 합니다.
1968년, 서른 살에 그는 잘립니다. 베트남전을 두고 상사(장군)와 충돌해, 반전 견해를 언론에 밝힌 것이 화근이었죠. 같은 해 그는 스토니브룩(Stony Brook) 대학 수학과 학과장으로 부임해 학과를 미국에서 알아주는 수준으로 키웁니다. 이 시기 그는 천싱선(S.S. Chern)과 함께 천-사이먼스 이론(Chern-Simons theory)이라는, 기하학·물리학에 두고두고 인용되는 대논문을 씁니다.
그런데 기하학의 정상에 오른 이 사람이, 1978년 마흔의 나이에 교수직을 던지고 펀드를 차립니다. 새로운 도전이 필요했던 겁니다. "시장에는 패턴이 있고, 나는 그걸 찾아낼 수 있다"—이 확신 하나였습니다. 수학자들은 멘붕에 빠졌지만, 사이먼스는 남 눈치 볼 사람이 아니었죠.
10년의 헤맴: 감(感)으로 하던 시절
창업 초기, 그는 금융을 쉽게 봤습니다. 하지만 시장은 만만치 않았죠. 사이먼스는 천재 수학자들을 끌어모읍니다. 대표적 인물이 레너드 바움(Leonard Baum)—Baum-Welch 알고리즘으로 이어지는, 이른바 머신러닝의 아버지 중 한 명입니다.
사이먼스는 일찍이 IDA 시절 시장을 8개 상태(state)로 나눠—하락장, 상승장, 급등장, 고변동성, 저변동성 등—각 상태에 맞는 전략을 data mining으로 찾으면 복리 50%도 가능하다는 논문을 썼습니다. 지금 보면 익숙하지만 당시 금융권엔 생소했죠. 포커를 즐겼던 그에게 '상대의 상태를 읽고 플레이를 조정한다'는 발상은 자연스러운 것이었습니다.
하지만 정작 1978년 이후의 실전은 완전한 quant가 아니었습니다. momentum, fundamental 분석, mean-reversion에 직감(discretionary)까지 섞어 썼죠. 1,000만~2,000만 달러를 굴리며 크게 벌 때도 있었지만 30~40% drawdown을 맞기도 했습니다. 바움 역시 감으로 많이 투자했는데, "팔자"는 사이먼스와 "장기로 들고 가자"는 바움이 사사건건 부딪쳐 스트레스가 컸다고 합니다.
이후 뛰어나지만 까다로운 수학자 제임스 액스(James Ax), 그리고 데이터를 다루는 샌더 스트라우스(Sandor Straus)가 합류합니다. 그럼에도 10년 가까이 큰 빛을 못 봤고, 1984년 한 번 크게 깨지자 바움이 떠납니다.
자동화로의 전환, 그리고 머신러닝
바움의 방식이 논리+차트+직감에 기울고 quant를 등한시했다는 반성 끝에, 그들은 "자동화하자"로 방향을 틉니다. 액스와 함께 기술적 전략을 데이터로 backtest하고, 스트라우스가 데이터를 정비했습니다. 스트라우스는 도서관까지 가서 신문과 대조하며 데이터 오류를 잡아낸 '데이터 오타쿠'였고, 덕분에 르네상스는 당대 최고 품질의 데이터셋을 갖췄습니다.
1987년경부터는 컴퓨터가 스스로 패턴을 찾는 머신러닝 기법을 도입합니다. 재밌는 건, 정작 사이먼스가 처음엔 "그건 블랙박스라 안 된다"며 머신러닝을 배척했다는 점입니다. 퀀트의 제왕이 처음엔 머신러닝을 거부한 셈이죠. 결론은 추세추종(trend-following)과 역추세(mean-reversion) 전략을 결합하면 Sharpe ratio가 올라간다는 것이었습니다.
여담으로, quant의 또 다른 조상 격인 에드워드 소프(Edward Thorp)도 한때 르네상스 투자를 검토했지만, 사이먼스가 하루에 담배를 몇 갑씩 피워 사무실이 온통 재떨이라는 소문에 발을 뺐다고 합니다. 사이먼스의 골초 일화—회의 중 재떨이가 없자 앞에 놓인 케이크에 담배를 비벼 껐다는—는 책의 소소한 재미입니다.
50.75%의 승률로 부자가 되는 법
1988년 액스가 떠나고 엘윈 벌리캠프(Elwyn Berlekamp)가 옵니다. 그는 단타를 선호해 평균 보유기간을 1.5일로 확 줄였습니다. 사실상 day trading으로 전환한 것이죠. 마침 스트라우스가 tick data를 다 모아둔 덕에, 벌리캠프는 죽어라 backtest를 돌려 전략을 뽑아냅니다.
여기가 핵심입니다. 개별 전략의 승률은 50.75% 남짓에 불과했습니다. 그런데 이 승률을 수천~수백만 번 반복하면 큰 수의 법칙(law of large numbers)이 작동합니다. 한두 번이면 3연패도 나오지만, 50.75%짜리를 수백만 번 돌리면 실제 수익률이 기댓값에 수렴하죠.
그들이 찾아낸 패턴은 이런 것들입니다. seasonality(시간대·요일·월별로 잘 오르는 구간), 경제지표 발표 직전 하락 후 발표 뒤 반등, 마르크·엔 같은 특정 자산의 강한 trend. 그리고 "왜 통하는지 몰라도 상관없다—통계적으로 유의미하고 일관되면 그냥 쓴다"는 태도. 훗날 그들이 내린 결론은, 이런 패턴이 존재하는 이유가 투자자들이 멍청하고 편향(bias)이 있어 같은 실수를 반복하기 때문이라는 것이었습니다.
1990년, 이 방식으로 채권·외환·원자재 선물에서 연 77.8%를 달성합니다. 다만 사이먼스가 하루 4번씩 전화해 직감을 들이밀자, "시스템이 시키는 대로 하자"던 벌리캠프는 결국 지쳐 떠납니다.
주식 정복: pair trading과 50만 줄의 버그
채권·외환·원자재에선 돈을 벌었지만 주식은 아직이었습니다. 펀드를 크게 키우려면 용량(capacity)이 큰 주식시장이 반드시 필요했죠. 그래서 사이먼스는 주식 전략에 매달립니다.
주식에서 찾은 답이 pair trading, 즉 statistical arbitrage(통계적 차익거래)입니다. 원리는 이렇습니다. 보통 함께 움직이는 두 종목이 있죠—예컨대 현대차와 기아차. 그런데 어느 날 현대차만 크게 오르고 기아차는 안 올랐다면, 기아차를 매수하고 현대차를 공매도하는 겁니다. 벌어진 스프레드가 좁혀질 때 수익을 내는 구조죠.
문제는 구현이었습니다. 주식 전략을 위해 코드 50만 줄을 짰는데 도무지 작동하질 않았습니다. 사이먼스가 "6개월째 버그 하나 못 찾느냐"며 짜증을 낼 만큼 위기였죠. 그러다 1990년대 중반, 한 인물이 50만 줄을 전부 뜯어보고 2주치 코드가 잘못돼 있던 버그를 잡아냅니다. 그러자 다음 날부터 돈이 쏟아지기 시작했습니다. 이 주식팀의 수익은 결국 선물팀을 추월했고, 이들은 훗날 co-CEO 자리까지 오릅니다. 로버트 머서(Robert Mercer)와 피터 브라운(Peter Brown)입니다.
참고로 머서는 르네상스에서 번 수십억 달러를 트럼프 당선에 쏟아부은 최대 후원자로 유명하죠. 정치적 논란이 커지자 2017년 co-CEO에서 물러납니다.
왜 통하는지 몰라도 된다: 패턴 채택 기준
1997년경부터 정착된 연구 프로세스는 명확했습니다. 과거 데이터에서 패턴을 발견 → 통계적으로 유의미한가·일관성이 있는가·랜덤이 아닌가를 검증 → 모든 테스트를 통과하면 채택.
패턴이 '설명 가능한가'도 봤지만, 발견된 패턴의 절반가량은 설명이 불가능했습니다. 너무 이상한 게 아니면 그냥 썼죠. 설명 불가능한 패턴엔 장점이 있습니다—경쟁사가 같은 패턴을 못 찾을 가능성이 높다는 것. 물론 단점은 data mining·우연일 위험인데, 워낙 PhD가 많으니 overfitting 여부는 철저히 걸러냈을 겁니다.
21세기 들어선 데이터를 대폭 확장합니다. 뉴스에서의 기업 언급 빈도, 애널리스트 rating 변경, earnings 발표 후 가격 변화, 현금흐름·capex 방향, 유상증자의 계절적 패턴 등을 전부 분석해 더 복잡한 모델을 만들었고, 미국을 넘어 international 시장까지 진출했습니다. 그 결과 Sharpe ratio가 기존 2.0~2.5(이미 신의 영역)에서 2003년 이후 6~7.5까지 올라갑니다. Sharpe가 1만 돼도 매우 잘하는 것임을 감안하면, 이건 다른 차원입니다.
리스크 관리: 모델을 맹신하지 않는다
다른 quant fund와의 결정적 차이는 리스크 관리였습니다. 노벨상 수상자들이 만든 LTCM(Long-Term Capital Management)은 1998년 폭망했죠. 반면 르네상스의 원칙은 "모델을 만들되, 모델을 맹신하지 않는다"였습니다. 모델이 안 통해 깨질 때는 투자 비중을 함께 줄였습니다. LTCM은 정반대로 "일시적이다, 더 넣자"며 leverage를 키우다 무너졌고요.
메달리온조차 며칠 만에 10억 달러를 날린 사례가 책에 나옵니다. 사이먼스의 말이 이 철학을 요약합니다.
"우리는 우리 모델이 현실을 설명한다고 단 한 번도 믿지 않았습니다. 모델은 현실의 일부만 설명할 수 있을 뿐입니다."
개인 투자자가 가져갈 교훈
책을 다 읽어도 60% 복리를 그대로 복제할 순 없습니다. 하지만 힌트는 많습니다.
첫째, 높은 승률은 필요 없습니다. 50.75%짜리 전략을 수백만 번 돌려 큰 수의 법칙으로 부자가 되는 겁니다. 둘째, 대형 quant fund의 손이 닿지 않는 틈새—소형주, 비효율이 큰 시장—의 edge는 오래 남습니다. 르네상스가 갑자기 200억 규모의 한국 소형주를 건드릴 리는 없으니까요. 그래서 'AI·퀀트 펀드가 개미의 수익을 다 뺏어간다'는 걱정은 아직 이릅니다.
도전해볼 만한 영역으로는 seasonality 백테스트, pair trading(현대차·기아차, 삼성전자 보통주·우선주), ETF 간 상관관계 분석, 소형주 단기 패턴 등이 있습니다. 물론 검증은 본인이 직접 backtest해야 합니다.
르네상스가 발견한 유의미한 주식 패턴은 역추세(단기 mean-reversion), 애널리스트 추천 변경, 유상증자 신호 등이었고, 선물에서는 momentum(추세추종)이 잘 통했습니다. 그리고 이 모든 것을 지탱하는 전제는 하나—"인간이 멍청한 한, 패턴은 영원하다." 사람들이 늘 같은 실수를 하기 때문입니다.
이 명제를 가장 코믹하게 증명한 건 사이먼스 본인입니다. 지구상 가장 위대한 투자자 중 한 명인 그가, 2018년 말 미국 증시 급락 때 불안에 못 이겨 자산관리인에게 "이거 팔아야 하는 것 아니냐"고 물었다고 합니다. 매달 시장을 이기는 모델을 만든 사람조차 이렇게 흔들립니다. 인간이 얼마나 감정적인지, 그리고 왜 패턴이 반복되는지를 이보다 잘 보여주는 장면도 없죠.
참고 도서 : Gregory Zuckerman, The Man Who Solved the Market (2019)
'퀀트' 카테고리의 다른 글
| 퀀트 투자의 아버지, 에드워드 소프 (0) | 2026.07.16 |
|---|---|
| 45년 트레이더 린다 라쉬케 — "결과가 아니라 과정에 집착하라" (0) | 2026.07.15 |
