자동투자 모델을 검토할 때 확인할 성과와 한계

 

자동투자 모델, 요즘 정말 많이들 쓰잖아요. 로보어드바이저든 퀀트 전략이든, “알고리즘이 알아서 해줍니다”라는 말에 혹해서 시작하는 분이 대부분이거든요. 저도 그랬어요. 3년 전 퀀트 기반 자동투자를 처음 세팅하고, 백테스트 수익률 곡선이 우상향하는 걸 보면서 마치 돈 버는 기계를 만든 줄 알았죠.

그런데 실전은 달랐어요. 백테스트에선 연 18% 찍던 모델이 실제 운용 6개월 만에 -4%를 기록하더라고요. 왜 그런지 파고들면서, 수익률 곡선 뒤에 숨어 있는 진짜 성과 지표와 한계를 하나씩 깨닫게 됐습니다. 이 글은 제가 직접 겪은 시행착오와 현업에서 쓰이는 검증 프레임워크를 정리한 기록이에요. 자동투자 모델을 지금 검토 중이거나, 이미 돌리고 있는데 뭔가 찝찝한 분이라면 끝까지 읽어보시면 확실히 감이 잡힐 거예요.

 

수익률 숫자만 보면 당한다

자동투자 모델을 처음 접하면 눈이 가는 곳은 딱 하나예요. 수익률. “연 15% 수익” 같은 숫자가 크게 적혀 있으면 마음이 흔들리는 게 당연하죠. 근데 그 숫자 하나만 보고 판단하면, 나중에 큰코다칩니다.

제가 처음 검토했던 모델이 딱 그 케이스였어요. 연환산 수익률(CAGR)은 화려했는데, 그 과정에서 -30%까지 빠진 적이 있었거든요. 수익률이 높다는 건 그만큼 위험을 크게 감수했다는 뜻일 수 있어요. 실제로 국내 로보어드바이저 시장을 보면 이 점이 명확하게 드러납니다. 코스피200 지수 수익률 15.8%를 넘긴 상품은 전체 중 절반에도 못 미쳤고, 같은 시기 -0.8%에 머문 상품도 있었어요.

그래서 수익률을 볼 때 반드시 함께 확인해야 할 것들이 있어요. 프로핏 팩터(Profit Factor)가 대표적인데, 이건 총 이익을 총 손실로 나눈 값이거든요. 1보다 크면 이익이 손실보다 많다는 뜻이고, 1.5 이상이면 괜찮은 편이에요. 그리고 승률(Win Rate)도 봐야 합니다. 승률이 40%밖에 안 돼도, 이긴 거래의 평균 수익이 진 거래의 평균 손실보다 훨씬 크면 전체적으로 플러스가 나거든요.

수익률 검토 시 필수 체크 항목

지표	의미	적정 기준
CAGR	연복합 성장률	벤치마크 대비 초과수익 여부 확인
프로핏 팩터	총이익 ÷ 총손실	1.5 이상 권장
승률	전체 거래 중 이익 거래 비율	단독 판단 불가, 평균손익 비율과 함께 확인
평균 거래 수익	건당 평균 손익 금액	양수 유지 필수, 수수료 차감 후 기준

 

 

샤프비율, 위험 대비 수익 읽는 법

자동투자 모델 성과를 제대로 평가하려면 샤프비율(Sharpe Ratio)을 빼놓을 수 없어요. 이건 “위험 한 단위당 얼마나 벌었느냐”를 보여주는 지표거든요. 계산 방식은 생각보다 단순합니다. 모델의 기대수익률에서 무위험 수익률(국고채 금리 같은 것)을 뺀 뒤, 수익률의 표준편차로 나누면 돼요.

처음엔 저도 이 숫자를 대충 넘겼어요. “수익률이 높으면 된 거 아냐?”라고 생각했거든요. 근데 제가 쓰던 모델 A의 연수익률은 12%였고, 모델 B는 9%였어요. 수익률만 보면 A가 낫잖아요. 그런데 샤프비율을 계산해보니 A는 0.4, B는 1.1이 나왔습니다. A는 롤러코스터처럼 출렁이면서 12%를 만든 거고, B는 안정적으로 9%를 만든 거였죠.

일반적으로 샤프비율 1 이상이면 꽤 괜찮은 모델이에요. 0.5~0.6 정도면 수용 가능한 수준이고, 2 이상이면 상당히 우수한 편입니다. 3을 넘기면? 솔직히 의심부터 해봐야 해요. 현실에서 그 정도 수치가 지속되는 건 극히 드물거든요.

한 가지 더 짚자면, 샤프비율에는 맹점이 있어요. 수익률 변동이 위로 튀는 것(좋은 변동)과 아래로 빠지는 것(나쁜 변동)을 동일하게 취급한다는 점이에요. 그래서 하방 위험만 따로 측정하는 소르티노 비율(Sortino Ratio)도 함께 체크하는 게 좋습니다. 소르티노 비율은 마이너스 방향의 변동성만 분모에 넣기 때문에, 실제 투자자가 느끼는 체감 리스크에 더 가까운 수치를 보여줘요.

 

샤프비율 vs 소르티노 비율 비교

구분	샤프비율	소르티노 비율
분모 기준	전체 수익률 표준편차	하방 수익률 표준편차만 사용
장점	업계 표준, 비교 용이	손실 위험에 대한 체감도가 높음
단점	상승 변동도 리스크로 산정	상승 편향 모델에선 과대평가 가능
적정 수치	1.0 이상 우수	1.5 이상 우수

 

최대낙폭(MDD), 진짜 공포 지표

자동투자 모델에서 가장 간과되기 쉬운데, 실전에서 가장 뼈아픈 지표가 바로 최대낙폭(Maximum Drawdown, MDD)이에요. MDD는 포트폴리오가 고점에서 저점까지 최대 얼마나 빠졌는지를 퍼센트로 보여줍니다.

수식은 간단해요. (고점 – 저점) ÷ 고점. 예를 들어 1,000만 원이 700만 원까지 빠졌다면 MDD는 -30%인 거예요. 이 숫자가 왜 중요하냐면, 사람은 이론적으로는 “장기투자 하면 괜찮아”라고 생각하지만 실제로 -30%를 눈앞에서 보면 멘탈이 박살 나거든요.

제가 운용하던 모멘텀 기반 모델이 한번은 MDD -27%를 찍은 적이 있었어요. 백테스트에서도 -25% 구간이 있긴 했는데, “과거 데이터니까”라고 가볍게 넘겼습니다. 막상 실전에서 잔고가 줄어드는 걸 매일 확인하니, 3주 만에 모델을 꺼버렸어요. 나중에 보니 그 직후부터 반등이 시작됐더라고요. MDD 내성이 없으면, 좋은 모델도 끝까지 못 가져간다는 걸 그때 깨달았죠.

로보어드바이저 시장에서도 이 문제가 그대로 나타났어요. 2022년 주식시장 급락기에 “자산배분으로 안전하다”던 로보어드바이저 상품들도 손실을 피하지 못했고, 이용자들이 대거 이탈했습니다. 자본시장연구원의 분석에 따르면, 이 이탈 현상은 수익률 자체보다 낙폭에 대한 심리적 충격이 더 크게 작용한 것으로 나타났어요.

 

백테스트 과적합 함정에 빠지는 순간

자동투자 모델의 가장 치명적인 한계 중 하나가 과적합(Overfitting)이에요. 쉽게 말하면, 과거 데이터에 너무 딱 맞게 모델을 짜 놓은 바람에 새로운 시장 상황에선 전혀 작동하지 않는 현상입니다.

비유하자면 이런 거예요. 시험 족보만 달달 외워서 지난 시험은 100점 맞는데, 새 문제가 나오면 0점인 학생이랑 같아요. 백테스트 결과 곡선이 너무 매끄럽고 아름다우면 오히려 의심해야 합니다.

제가 한때 파라미터를 12개나 넣어서 최적화한 모델이 있었어요. 백테스트에서 연 25% 수익, MDD -8%. 완벽했죠. 근데 실전에 넣자마자 첫 달부터 마이너스가 시작됐습니다. 파라미터가 많을수록 과거 데이터의 노이즈까지 학습해버리는 건데, 그걸 몰랐던 거예요.

과적합을 피하려면 몇 가지 원칙이 있어요. 첫째, 파라미터 수를 최소화해야 합니다. 변수가 적을수록 범용성이 올라가요. 둘째, 아웃 오브 샘플(Out-of-Sample) 테스트를 반드시 거쳐야 해요. 전체 데이터를 학습용과 검증용으로 나눠서, 학습에 쓰지 않은 데이터에서도 성과가 나오는지 확인하는 거죠. 셋째, 워크포워드 분석(Walk-Forward Analysis)을 활용하면 시간 흐름에 따라 모델이 얼마나 견디는지 테스트할 수 있습니다.

과적합 자가 진단 체크리스트

점검 항목	위험 신호	대응 방법
파라미터 개수	10개 이상이면 경고	핵심 변수 3~5개로 축소
백테스트 곡선 형태	너무 매끄러운 우상향	현실적 변동성 포함 여부 확인
인샘플 vs 아웃샘플 격차	수익률 차이 50% 이상	워크포워드 분석 추가 적용
거래 빈도 급변	특정 구간에서만 거래 집중	다양한 시장 국면에서 재검증

 

 

슬리페이지와 실전 괴리

백테스트가 아무리 좋아도 실전에서 성과가 안 나오는 이유, 그 핵심 원인 중 하나가 슬리페이지(Slippage)예요. 슬리페이지란 주문을 넣은 가격과 실제 체결된 가격 사이의 차이를 말합니다. 백테스트는 “이 가격에 샀다”고 가정하는데, 실전에선 그 가격에 못 사는 경우가 비일비재하거든요.

특히 거래량이 적은 종목에서 이 문제가 심각해요. 내가 100만 원어치를 매수하려는 순간, 해당 가격대에 매도 물량이 20만 원어치밖에 없으면 나머지 80만 원은 더 비싼 가격에 체결되는 거죠. 반대로 급락할 때 팔려고 하면 원하는 가격보다 훨씬 낮은 가격에 체결될 수 있어요.

제 경험으로 보면, 중소형주 위주의 모멘텀 전략에서 슬리페이지 때문에 백테스트 대비 연 3~4%포인트 성과가 깎인 적이 있습니다. 매매 횟수가 많은 단기 전략일수록 이 문제가 누적돼서 무시 못 할 수준이 됩니다.

슬리페이지 외에도 실전 괴리를 만드는 요인들이 더 있어요. 거래 수수료와 세금은 백테스트에서 종종 빠지거든요. 국내 주식이라면 매도 시 0.18%의 증권거래세, 양쪽 모두 위탁 수수료가 붙습니다. 또 하나, 시장 충격(Market Impact)도 고려해야 해요. 내 주문 자체가 시장 가격을 움직일 수 있는 건데, 운용 금액이 클수록 이 영향이 커집니다.

 

블랙스완 앞에서 무너지는 알고리즘

자동투자 모델의 근본적 한계는 결국 여기에 있어요. 블랙스완(Black Swan) — 아무도 예측하지 못한 극단적 사건이 터졌을 때, 과거 데이터로 학습한 알고리즘은 속수무책이 됩니다.

2010년 5월 6일, 미국에서 발생한 플래시 크래시가 대표적인 사례예요. 자동 거래 시스템들이 연쇄적으로 매도 신호를 쏟아내면서 다우존스 지수가 몇 분 만에 약 1,000포인트 급락했죠. 알고리즘은 과거 패턴에 기반해서 판단하는데, “이 정도 속도로 떨어지는 시장”은 학습 데이터에 없었던 거예요.

코로나19 팬데믹 초기도 마찬가지였습니다. 2020년 3월, 전 세계 증시가 동시에 폭락하는 상황은 어떤 백테스트로도 재현 불가능한 환경이었어요. 자산 간 상관관계가 갑자기 1에 수렴하면서 분산투자의 효과가 순식간에 사라졌거든요. 로보어드바이저든 퀀트 헤지펀드든, 이 국면에서 무사했던 곳은 거의 없었습니다.

그렇다고 블랙스완을 이유로 자동투자를 포기할 필요는 없어요. 핵심은 모델에 대한 맹신을 버리는 것이에요. 자동투자는 “확률적으로 유리한 선택을 반복하는 도구”이지, “절대 손실이 안 나는 마법”이 아닙니다. 꼬리 위험(Tail Risk)에 대비해서 포트폴리오의 일정 비율은 현금이나 안전자산으로 유지하고, 손절 라인을 미리 설정해두는 게 현실적인 대응책이에요.

또 하나, 정성적 판단이 들어가야 하는 영역이 있어요. 기업의 갑작스러운 경영 변화, 지정학적 리스크, 규제 정책 전환 같은 것들은 숫자로 모델링하기 어렵습니다. AI 기반 거대언어모델(LLM)이 금융 거래를 자동 처리하는 시대가 오고 있지만, 이조차도 유사한 연쇄 폭락 가능성에 대한 우려가 업계에서 꾸준히 제기되고 있어요.

 

리밸런싱 주기와 운용 비용의 맹점

자동투자 모델을 돌리다 보면 반드시 마주치는 게 리밸런싱이에요. 포트폴리오의 자산 비중이 시장 변동으로 인해 처음 설정과 달라지면, 원래 비율로 되돌리는 작업을 말합니다. 문제는 이 리밸런싱 주기를 어떻게 잡느냐에 따라 성과가 크게 갈린다는 점이에요.

월간 리밸런싱과 분기 리밸런싱을 비교하면, 이론적으로는 월간이 더 나은 경우가 많아요. 포트폴리오 교체 빈도가 높으니까요. 그런데 현실은 다릅니다. 리밸런싱할 때마다 매매가 발생하고, 매매마다 수수료와 세금이 붙거든요. 월간 회전율 3%만 잡아도 연간 36%의 회전이 생기는데, 이게 비용으로 전환되면 수익을 상당히 깎아먹어요.

제가 찾아보니 국내 로보어드바이저 상품들의 연 보수가 대체로 0.5~1.0% 수준이더라고요. 여기에 ETF 보수, 거래 비용까지 합치면 실질 비용은 1.5% 안팎으로 올라갑니다. 연 6~7% 수익에서 1.5%를 빼면 실제 투자자 손에 들어오는 건 4.5~5.5% 수준이에요. 예적금 금리가 높았던 시기에는 이 수익률이 크게 매력적이지 않았던 것도 사실이죠.

그래서 모델 검토 시 거래 회전율(Turnover)을 꼭 확인하세요. 회전율이 연 200%를 넘기면 거래 비용이 수익의 상당 부분을 잠식할 수 있어요. 반대로 너무 낮으면 시장 변화에 둔감해지는 문제가 생깁니다. 보통 연 50~100% 수준이 비용 대비 효율이 괜찮은 구간으로 알려져 있어요.

 

자주 묻는 질문