Portfolio Selection Harry Markowitz

참고문헌 1: Portfolio Selection by Harry Markowitz
Finance
Quant
Portfolio
Review
Author

김한울

Published

November 22, 2025

포트폴리오 선택 이론을 다루는 논문입니다. 이 논문은 투자자가 여러 증권(자산) 중에서 어떻게 포트폴리오를 선택해야 하는지를 체계적으로 분석하며, 다음의 주요 내용을 담고 있습니다:

즉, 이 논문은 오늘날 금융에서 사용되는 현대 포트폴리오 이론(MPT)의 토대를 제공하는 핵심 저작으로, 투자자가 위험과 수익 간의 균형을 통해 합리적으로 포트폴리오를 구성해야 함을 설명합니다.

그럼, Markowitz의 포트폴리오 선택 논문의 주요 수식들을 전개하겠습니다.

기본 정의

포트폴리오의 기대수익률과 분산은 다음과 같이 정의됩니다.

포트폴리오 기대수익: \(E = \sum_{i=1}^{N} X_i \mu_i\)

여기서 \(X_i\)는 자산 i에 투자된 비율(가중치), \(\mu_i\)는 자산 i의 기대수익입니다.

포트폴리오 분산: \(V = \sum_{i=1}^{N} \sum_{j=1}^{N} X_i X_j \sigma_{ij}\)

여기서 \(\sigma_{ij}\)는 자산 i와 j 사이의 공분산(covariance)입니다.

공분산의 정의

자산 i와 j 사이의 공분산은: \(\sigma_{ij} = E\left[(R_i - \mu_i)(R_j - \mu_j)\right]\)

특별히 \(\sigma_{ii}\)는 자산 i의 분산이며, 상관계수(correlation coefficient) \(\rho_{ij}\)를 사용하면: \(\sigma_{ij} = \rho_{ij} \sigma_i \sigma_j\)

가중합의 기대값과 분산

\(R = \sum_{i=1}^{n} a_i R_i\)로 표현되는 가중합에 대해:

기대값: \(E(R) = \sum_{i=1}^{n} a_i E(R_i)\)

분산: \(V(R) = \sum_{i=1}^{N} \sum_{j=1}^{N} a_i a_j \sigma_{ij}\)

3개 자산 포트폴리오 모델

3개의 자산만 고려하는 경우:

1) 기대수익: \(E = \mu_3 + X_1(\mu_1 - \mu_3) + X_2(\mu_2 - \mu_3)\)

2) 분산:

\[V = X_1^2(\sigma_{11} - 2\sigma_{13} + \sigma_{33}) + X_2^2(\sigma_{22} - 2\sigma_{23} + \sigma_{33}) + 2X_1X_2(\sigma_{12} - \sigma_{13} - \sigma_{23} + \sigma_{33}) + 2X_1(\sigma_{13} - \sigma_{33}) + 2X_2(\sigma_{23} - \sigma_{33}) + \sigma_{33}\]

3) 제약조건: \(\sum_{i=1}^{3} X_i = 1, \quad X_i \geq 0 \text{ for } i = 1, 2, 3\)

포트폴리오 선택 원칙

Markowitz는 투자자가 다음을 따라야 한다고 제시합니다:

  • 기대수익-분산 규칙(E-V Rule): 주어진 기대수익 \(E\)에 대해 최소 분산 \(V\)를 갖거나, 주어진 분산 \(V\)에 대해 최대 기대수익 \(E\)를 갖는 포트폴리오를 선택해야 함

효율적 포트폴리오 집합은 이러한 조건을 만족하는 모든 포트폴리오로 구성되며, 이들이 만드는 곡선을 효율적 경계(efficient frontier)라고 합니다.

단순 할인 수익 규칙이 다양화를 설명할 수 없는 이유

비교대상으로 제시된 할인 기대수익 극대화 규칙: \(R = \sum_{i=1}^{N} X_i R_i\)

여기서 \(R_i\)는 독립적이고, \(\sum X_i = 1\), \(X_i \geq 0\)일 때, 이 규칙은 최대 \(R_i\)를 갖는 자산에만 전액 투자하도록 하므로 다양화를 설명할 수 없습니다. 반면, E-V 규칙은 공분산을 고려하여 다양화의 이점을 설명할 수 있습니다.


Markowitz 포트폴리오 수식의 약점과 개선 포인트

핵심 요약:
Markowitz 논문의 평균–분산(Mean–Variance) 수식은 현대 포트폴리오 이론의 출발점이지만,
① 분산을 위험으로 보는 정의 자체의 한계,
② 정규분포·단일기간·고정 상관계수 같은 비현실적 가정,
③ 기대수익·공분산 추정치에 대한 극심한 민감도(“오류 극대화기”) 때문에 실제 운용에서는 그대로 쓰기 위험하다는 비판을 받습니다.[1][2][3][4][5]

이 한계를 보완하기 위해 다운사이드 리스크, VaR/CVaR, 로버스트 최적화, Black–Litterman, 다기간·동적 모델, 행동재무 기반 모델 등이 제안되었습니다.[2][5][6][7][8][1]


1. 논문이 제시한 기본 수식 구조(요약)

Markowitz 논문의 핵심 수식은 다음 두 개입니다.

  • 포트폴리오 기대수익: \(E = \sum_{i=1}^{N} X_i \mu_i\)

  • 포트폴리오 분산(위험): \(V = \sum_{i=1}^{N} \sum_{j=1}^{N} X_i X_j \sigma_{ij}\)

여기서
\(X_i\): 자산 i의 비중, \(\mu_i\): 자산 i 기대수익, \(\sigma_{ij}\): 자산 i, j의 공분산입니다.[9][10]

투자자는
- 주어진 위험 \(V\)에서 \(E\)를 최대, 또는
- 주어진 \(E\)에서 \(V\)를 최소
가 되도록 \(X_i\)를 고르는 평균–분산 최적화 문제를 풉니다.[10][9]


2. 수식/가정 자체의 구조적 약점

2-1. “분산 = 위험” 정의의 한계

Markowitz 수식은 위험을 분산(또는 표준편차) 하나로 측정합니다.[2][10]

문제점: - 분산은 “예상 수익률에서의 편차”를 제곱해 평균낸 것이라,
상승(+ 초과수익)과 하락(– 손실)을 똑같이 “나쁜 변동”으로 처벌합니다.[7][11][2] → 현실의 투자자는 위쪽 변동(예상보다 많이 버는 것)은 싫어하지 않지만, 수식은 그것도 위험으로 봅니다. - 분산은 주로 분포의 “폭”만 보고, 꼬리(tail)에서의 극단손실(테일 리스크)을 제대로 반영하지 못함.[11][12][2]

이 때문에, 분산 기반 수식은
- “평균은 같지만, 드물게 큰 손실이 나는 포트폴리오”와
- “자잘한 흔들림만 있지만 큰 손실은 없는 포트폴리오”
동일한 위험 수준으로 평가할 수 있습니다.[7][2]

2-2. 정규분포·평균–분산 충분성 가정

Mean–Variance 수식이 “완전한” 선호를 설명하려면 대개 다음이 전제됩니다.[3][6][1][10][2]

  • 자산수익률이 정규분포
  • 또는 투자자의 효용이 2차(Quadratic) 효용 함수

현실에서는: - 수익률 분포가 비대칭(Skew), fat tail(두꺼운 꼬리) 를 갖고, 블랙스완 이벤트가 잦습니다.[6][12] - 이 경우 평균과 분산 두 개의 수치만으로 투자자의 위험 선호를 다 설명할 수 없습니다.
→ 실제로는 왜도(skewness), 첨도(kurtosis) 같은 3·4차 모멘트가 중요합니다.[1][6][2]

2-3. 단일 기간·정태적(static) 상관 구조

기본 Markowitz 모델은 보통 단일 기간·정태적 모형입니다.[3][10][1]

가정: - 한 번의 투자 기간 동안
기대수익 \(\mu\), 공분산 행렬 \(\Sigma\), 상관계수 \(\rho_{ij}\)고정
- 기간 말에 한 번 성과를 평가하는 구조

문제: - 현실의 상관계수는 시장 국면(regime)에 따라 크게 변동, 특히 위기 때는 “상관계수 1로 수렴”.[5][12][13][14] → 위기 국면에서 “다양화로 위험 분산”이라는 수식상의 이점이 실제로 무너집니다. - 투자·리밸런싱은 실제로 다기간·동적으로 일어나는데, 논문 수식은 이런 동학을 반영하지 않습니다.[5][1][3]


3. 추정(Estimation) 문제: “오차 극대화기” 문제

수식 자체보다 더 치명적인 약점은, 입력값(µ, Σ)을 어떻게 추정하느냐입니다.

3-1. 기대수익(µ) 추정에 대한 극단적인 민감도

실제로는 µ와 Σ를 과거 데이터로 추정해서 수식에 넣는데,
연구 결과 이때 기대수익 µ의 추정오차가 치명적으로 크고, 최적화가 이 오차를 증폭하는 것이 확인되었습니다.[4][1][2][3]

  • “Mean–Variance 최적화는 샘플 평균·공분산으로 풀면 실제 성과가 매우 나쁘다.”
  • Michaud(1989)는 이를 “error maximizer(오차 극대화기)”라고 부름.[2]
  • 단순 동일비중(1/N) 포트폴리오가 MV 최적화보다 오히려 나은 성과를 내는 경우도 많다는 연구가 다수.[4][3][2]

이 이유로 Markowitz 포트폴리오는 이론은 아름답지만, ‘그대로 쓰기엔 위험한 모델’이라는 평가를 받습니다.[2]

3-2. 공분산(Σ) 추정과 차원 저주

  • 자산 개수가 N이면 공분산 행렬은 \(N(N+1)/2\) 개 파라미터가 필요합니다.
  • N이 조금만 커져도 엄청난 수의 파라미터를 추정해야 하고, 표본 수 대비 차원이 너무 커서 추정이 매우 불안정해집니다.[10][1][3][5]

이 불안정한 추정치가 그대로 수식에 들어가면,
- 극단적으로 집중·레버리지·숏 포지션이 생기는 비상식적 해가 자주 나옵니다.[4][5][2]

3-3. 과거 데이터 의존성

Markowitz 수식은 실무에서 과거 수익률로 µ, Σ를 추정하는 방식으로 사용됩니다.[12][13][15][1][7]

  • 그러나 “과거 성과는 미래를 보장하지 않는다”는 문구대로,
    레짐 변화·구조적 붕괴가 일어나면 과거 기반 추정치는 무용지물이 됩니다.[13][14][12]
  • 위기 직전·직후에 상관 구조가 급변하면, 과거 데이터를 기반으로 그린 효율적 경계 자체가 실제와 크게 어긋날 수 있습니다.[8][12][5]

4. 현실 제약과 투자자 행동을 무시하는 한계

4-1. 거래비용·세금·규제·유동성 무시

기본 수식은 다음을 모두 무시합니다.[15][6][1][3][5][10]

  • 거래비용, 스프레드, 슬리피지
  • 세금
  • 최소 거래단위, 공매도 제한, 레버리지 한도
  • 유동성 제약(대량 매매 시 가격 충격)

→ 이 때문에 논문 속 “최적 포트폴리오”는
실제 시장에서 구현 불가능하거나, 구현하려면 비용·리스크가 과도해지는 경우가 많습니다.

4-2. 완전 합리·위험회피 투자자 가정

Markowitz 모델 및 그 위의 MPT는 보통 다음을 전제합니다.[16][6][8][10]

  • 투자자는 위험회피적(risk-averse), 효용 극대화, 완전 합리적
  • 완전한 정보, 효율적 시장 가깝게 작동

행동재무학 연구에 따르면: - 실제 투자자는 과신, 손실 회피, 군집행동, 프레이밍 효과 등 다양한 편향을 보이며,
항상 평균–분산 효용을 극대화하는 선택을 하지 않습니다.[6][8][16] - 많은 기관투자가는 규제·부채구조·평가체계 등 비수익·비분산 요인으로 포트폴리오를 결정합니다.[17][8]

즉, Markowitz 수식은 “어떻게 행동해야 하는가”에 대한 규범적 모델일 뿐, 실제 투자자 행동을 잘 설명하지는 못합니다.[8][6]


5. 이런 약점을 보완하기 위한 주요 개선 포인트

5-1. 위험 측정 개선: 다운사이드 리스크, VaR, CVaR 등

분산 대신 또는 분산과 함께 손실 쪽만 보는 지표를 사용하는 접근이 발전했습니다.[1][5][6][7][2]

  1. 세미분산(Semivariance), 하방편차
    Markowitz 자신도 이후 저서에서 세미분산을 제안했습니다.[2]
  • 목표수익 \(R^*\)보다 작은 구간만 고려: \(\text{Semivariance} = E\left[\min(R - R^*, 0)^2\right]\)

  • 기대수익이 높아서 생기는 “위쪽 변동”은 처벌하지 않고,
    실제 투자자가 싫어하는 손실 영역만 위험으로 측정합니다.

  1. VaR(가치-at-위험), CVaR(조건부 VaR)[5][6][7][1]
  • VaR: “신뢰수준 \(1-\alpha\)에서의 최대 손실”
  • CVaR: 그 손실을 넘는 구간에서의 평균 손실
  • 수식적으로 CVaR 최소화 문제는 선형계획법으로 풀 수 있어, 대규모 포트폴리오에 적합합니다.[5]
  1. Lower Partial Moments, Omega Ratio 등[6][1][5]
  • 특정 기준 이하의 모멘트만 고려하는 LPM
  • 수익분포 전체를 보되, 손실 쪽에 더 가중치를 두는 Omega 비율

이들은 Markowitz의 \(V\) 대신, 또는 \(V\)와 함께 사용되어 “위험 = 변동성”이라는 단순화의 약점을 줄이는 방향입니다.

5-2. 추정 리스크 완화: 로버스트 최적화·Bayesian·제약 부여

Mean–Variance 수식 자체는 그대로 두고, µ·Σ의 추정오차에 덜 민감하게 만드는 방향의 연구가 많이 이루어졌습니다.[18][3][8][1][4][5][2]

  1. 로버스트(robust) 최적화[18][5]
  • µ와 Σ가 어떤 “불확실성 집합(uncertainty set)” 안에서 변할 수 있다고 보고,
    최악의 경우에도 성능이 크게 나쁘지 않은 포트폴리오를 선택
  • 예: 박스(box)·타원체(ellipsoidal)·버짓(budget) 불확실성 집합 위에서의 Mean–Variance 문제[5]
  1. Black–Litterman 모형[1][5]
  • 시장 균형 수익률(시장 포트폴리오가 효율적이라는 가정)
    투자자의 주관적 견해(view)를 Bayesian 방식으로 결합
  • Markowitz 수식에 들어가는 µ를 더 안정적이고 직관적인 값으로 만들어,
    극단적 비중 해를 줄이는 효과
  1. 공분산 추정 개선: Shrinkage, Factor Model, Regularization[3][1][2][5]
  • 샘플 공분산을 단순히 쓰지 않고,
    • Shrinkage(표본 공분산을 구조적 행렬 toward로 수축)
    • 요인모형(시장·스타일·섹터 팩터)을 사용해 차원 축소
    • L2/L1 정규화로 비중에 패널티를 주어 극단해 방지
  • 이렇게 추정한 Σ를 Markowitz 수식에 넣으면 out-of-sample 성능이 개선됨.
  1. 제약 있는 Mean–Variance 최적화[10][1][2][5]
  • 비중 상·하한, 섹터·자산군 한도, 턴오버 제약 등 현실적 제약을 추가
  • 극단적 레버리지·숏 비중을 막고, 오차 증폭 문제를 완화

5-3. 다기간·동적·상태전이 모델

단일 기간 정태 모형이라는 한계를 극복하기 위한 접근입니다.[12][18][3][1][5]

  • 다기간 포트폴리오 선택: 반복 리밸런싱을 고려, 동적 프로그래밍·Stochastic control 등 사용
  • 레짐 전환(regime-switching) 모델:
    • 정상 국면/위기 국면 등 상태에 따라 µ·Σ·ρ가 달라진다고 가정
    • 상태 전이 확률 기반으로 포트폴리오 구성
  • 타임베어링 상관·변동성 모델(GARCH, DCC 등)을 이용해,
    Markowitz 수식의 입력값을 시간에 따라 업데이트하는 식으로 개선[5]

즉, 수식 형식(평균–분산)은 유지하되, µ·Σ를 동적으로 추정·업데이트하는 방향입니다.

5-4. 현실 제약과 비용을 포함한 확장

기본 Markowitz 문제에 다음을 직접 수식으로 포함시킨 모델들이 발전했습니다.[3][10][1][5]

  • 거래비용: 비중 변화 \(|X_i^{(t)} - X_i^{(t-1)}|\)에 비례하는 비용항을 목적함수에 추가
  • 세금: 실현이익에 대한 세금을 명시적으로 반영
  • 유동성 제약: 거래량 한도, 가격충격 함수 포함
  • 규제 제약: VAR 레귤레이션, 레버리지/숏 제한을 명시적 제약식으로 모델링

결과적으로는 \(\min_{X} \; \lambda V(X) - (1-\lambda)E(X) + \text{Costs}(X)\) 같은 식으로 확장됩니다.

5-5. 행동재무·머신러닝·비선형 모델과의 결합

Markowitz 수식이 전제한 “완전합리·정규분포·선형결합” 가정을 완화하려는 흐름입니다.[17][12][6][1][5]

  • 행동 포트폴리오 이론(Behavioral Portfolio Theory, BPT):
    • 투자자가 여러 “정신적 계좌(mental accounts)”와 비선형 효용을 가진다고 보고,
    • 평균–분산 대신 비대칭·구간별 효용을 최적화
  • 머신러닝 기반 자산배분:
    • 딥러닝, 강화학습 등으로 리스크·수익 예측과 포트폴리오 의사결정을 비선형 함수로 모델링
    • Markowitz의 선형·이차형 수식에서 벗어나, 고차원 패턴을 포착하려는 시도[6][1][5]
  • 복잡한 분포 모형(코퓰라 등):
    • 정규공분산 구조 대신, fat tail·비대칭 상관을 반영하는 joint distribution으로부터
    • VaR/CVaR, LPM 등을 계산해 최적화

6. 정리: “수식 자체”의 의미와 오늘날의 위치

  • Markowitz 논문의 수식은
    자산수익률의 기대값과 공분산을 통해 포트폴리오 위험·수익을 정량화하고,
    이를 최적화 문제로 표현했다는 점에서 여전히 이론적 기준점입니다.[9][10]
  • 다만
    • 분산 하나로 위험을 정의하는 단순화,
    • 정규분포·단일기간·정태 상관 구조,
    • µ·Σ 추정치에 대한 극심한 민감도,
    • 거래비용·세금·행동요인 무시
      등으로 인해 그대로 쓰기에는 실무적·경험적 한계가 크다는 것이 현재 공통된 평가입니다.[14][16][8][12][4][1][3][6][2][5]

그래서 현대의 많은 모델들은
- 기본 틀(“기대수익과 위험의 트레이드오프를 정량화하고 최적화한다”)은 Markowitz 수식을 유지하되,
- 위험 정의, 추정 방법, 동적 구조, 제약조건, 투자자 행동 모형을 점진적으로 바꿔가며 보완하는 방향으로 발전해 왔다고 볼 수 있습니다.[8][1][6][2][5]

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20