연 수익률 66%. 그것도 한두 해가 아니라 약 30년 동안 이어진 숫자라면, 믿기 어려운 게 당연합니다.
워런 버핏의 장기 평균 수익률이 20% 안팎이라는 점을 생각하면, 이 숫자가 왜 월가에서 '전설'로 불리는지 짐작이 갈 겁니다. 그 주인공은 수학자 출신 투자자, 제임스 사이먼스(James Simons)입니다.
이번 글에서는 그가 만든 르네상스 테크놀로지스의 메달리온 펀드가 어떤 원리로 움직였는지, 그리고 그 이야기에서 일반 투자자가 실제로 가져갈 수 있는 판단 기준은 무엇인지 정리해보겠습니다.

수학자는 왜 40세에 월가로 갔을까
제임스 사이먼스는 1938년 미국 매사추세츠에서 태어나 1958년 MIT에서 수학 학사를, 1961년 UC 버클리에서 박사 학위를 받았습니다. 이후 MIT와 하버드에서 강의했고, 프린스턴 인근의 국방 관련 연구기관에서 암호 해독 업무를 맡기도 했죠.
특히 기하학과 위상수학 분야에서 남긴 업적이 남다른데요. 그가 물리학자 천싱선과 함께 정립한 천-사이먼스 이론은 지금도 끈이론이나 응집물질물리학 등에서 활용되고 있고, 1976년에는 미국수학회의 베블런 기하학상을 받았습니다. 즉 그는 금융업에 발을 들이기 전, 이미 학계에서 인정받는 수학자였던 셈입니다.
그런 그가 1978년, 학계를 떠나 금융시장에 뛰어듭니다. 처음 세운 회사 모노메트릭스는 1982년 르네상스 테크놀로지스로 이름을 바꿨고, 여기서 사이먼스는 아주 단순하지만 파격적인 질문을 던졌습니다.
사람의 직관 대신 데이터가 시장의 패턴을 읽어낼 수는 없을까.
이 물음 하나가 이후 '퀀트 투자'라 불리는 흐름의 출발점이 됐습니다.

퀀트 투자, 전통적 투자와 뭐가 다를까
퀀트 투자는 기업 실적이나 경기 전망 같은 정보를 사람이 해석하는 대신, 가격과 거래량 데이터를 통계·수학 모델로 분석해 매매 규칙을 만드는 방식입니다. 감이 아니라 반복되는 패턴에 베팅한다는 점이 핵심이죠.

르네상스 테크놀로지스가 특이했던 지점은 사람을 뽑는 방식에도 있었습니다. 금융권 경력자나 MBA 출신 대신, 수학자·물리학자·통계학자·컴퓨터과학자를 적극적으로 영입한 거예요. 시장 경험은 적어도 방대한 데이터에서 패턴을 찾아내는 능력을 갖춘 사람들이었죠. 금융업에 과학 실험실의 작업 방식을 그대로 옮겨온 셈입니다.

메달리온 펀드의 실제 성과
메달리온 펀드의 정확한 매매 알고리즘은 지금도 공개되지 않았습니다. 다만 공개된 자료를 통해 성과 지표는 비교적 잘 알려져 있는데요.
1988년부터 약 30년간 메달리온은 수수료 차감 전 기준 연평균 약 66%, 수수료를 뗀 뒤 기준으로도 연평균 약 39%의 수익률을 기록한 것으로 전해집니다. 2008년 금융위기처럼 전 세계 증시가 폭락한 해에도 메달리온은 오히려 약 82%의 수익을 낸 것으로 알려져 있는데, 이건 단순히 '오를지 내릴지'를 예측하는 전략이 아니라 시장이 흔들릴 때 새롭게 드러나는 가격 관계와 거래 패턴을 빠르게 포착했기 때문이라는 분석이 많습니다.
여기서 짚고 넘어갈 부분이 하나 있습니다. 이 수익률은 "이길 확률이 51%만 넘으면 무조건 돈을 번다"는 식의 단순한 구조가 아니라는 점이에요. 실제로는 거래비용, 레버리지, 포지션 크기, 전략 간 상관관계 같은 요소가 복합적으로 작용한 결과에 가깝습니다. 흔히 카지노의 '하우스 엣지'에 비유되곤 하는데, 아주 작은 확률적 우위라도 수많은 거래에서 반복되면 결과가 누적된다는 논리입니다.
왜 일반 투자자는 메달리온에 들어갈 수 없을까
르네상스는 1993년부터 외부 자금 유치를 중단했고, 2005년 무렵에는 사실상 회사 임직원과 관계자 중심의 펀드로 정리됐습니다. 이유는 명확합니다. 좋은 전략이라고 해서 자금 규모를 무한정 키울 수 있는 게 아니기 때문이에요.
작은 가격 차이를 이용하는 전략일수록 운용 자금이 커지면 매매 행위 자체가 시장 가격을 움직여버립니다. 좁은 개울에서는 작은 물고기가 자유롭게 움직이지만, 같은 개울에 큰 배를 띄우면 물살 자체가 달라지는 것과 비슷하다고 보면 됩니다. 메달리온이 수십 년간 외부 자금을 받지 않은 것도 이 '전략 용량의 한계' 때문이라는 게 업계의 공통된 해석입니다.
"66% 수익률"을 내세운 마케팅은 걸러 들어야 하는 이유
이 글을 준비하면서 관련 자료를 찾다 보면, 메달리온의 66%라는 숫자를 앞세워 자동매매 프로그램이나 트레이딩 봇을 판매하는 콘텐츠를 꽤 많이 마주치게 됩니다. "사이먼스의 논리를 그대로 구현했다"는 식의 문구도 적지 않고요.
하지만 냉정하게 보면, 메달리온의 성과는 수십 년간 축적된 데이터, 최고 수준의 과학자 집단, 그리고 무엇보다 외부 자금을 받지 않아 유지된 '전략 용량'이 함께 만든 결과입니다. 개인이 구매하는 자동매매 프로그램 하나가 이 구조를 그대로 재현하기는 사실상 불가능합니다. 유명한 이름과 숫자를 빌려 신뢰를 얻으려는 마케팅일수록, 오히려 더 의심하고 접근하는 편이 안전합니다.
개인 투자자가 사이먼스의 이야기에서 챙길 것
사이먼스의 사례를 "수학을 쓰면 돈을 번다"는 식으로 요약하면 핵심을 놓치게 됩니다. 개인 투자자 입장에서 실제로 가져갈 만한 태도는 오히려 이런 것들입니다.
- 감으로 내리는 판단도 데이터로 한 번 더 점검해보는 습관 (예: 매매 이유를 기록으로 남기고 나중에 복기하기)
- 하나의 전략을 맹신하지 않고, 새로운 정보가 나올 때마다 가설을 수정하는 유연함
- 개인 한 명의 '촉'보다, 검증 가능한 근거와 반복 가능한 원칙을 우선하는 자세
- 압도적인 수익률을 내세우는 상품일수록 구조와 한계를 먼저 따져보는 신중함
메달리온이 보여준 건 하나의 천재적인 공식이 아니라, 가설을 세우고 검증하고 틀린 모델은 버리는 과정을 끝없이 반복한 결과에 가깝습니다. 그 태도 자체는 규모와 상관없이 개인 투자자에게도 적용해볼 만한 부분입니다.
마치며
제임스 사이먼스는 2024년 5월 10일, 86세로 세상을 떠났습니다. 그는 생전에 아내 마릴린과 함께 사이먼스 재단을 설립해 수학·기초과학·자폐증 연구 등에 오랜 기간 자금을 지원하기도 했습니다. 수학자, 투자자, 그리고 과학 후원자. 그가 거쳐 간 세 개의 세계는 결국 하나의 태도로 연결됩니다. 복잡한 현상 속에서도 반복되는 규칙을 찾고, 그 규칙을 감정 없이 계속 검증한다는 것이죠.
다만 메달리온의 성과는 특정 개인이나 상품이 그대로 복제할 수 있는 구조가 아니라는 점은 분명히 기억해둘 필요가 있습니다. 이 글은 정보 전달을 목적으로 작성됐으며, 특정 종목이나 상품에 대한 투자 권유가 아닙니다. 투자에 대한 최종 판단과 책임은 투자자 본인에게 있습니다.
제임스 사이먼스 - 수학으로 월가를 정복한 퀀트 투자의 전설
제임스 사이먼스 - 수학으로 월가를 정복한 퀀트 투자의 전설
월스트리트 역사상 가장 독특한 투자자는 누구일까요? 워런 버핏처럼 기업의 가치를 분석하거나, 조지 소로...
blog.naver.com