Convergence Theorems와 Optional Stopping Theorem

 

수렴 정리(Convergence Theorems)와 임의 정지 정리(Optional Stopping Theorem)

금융공학의 세계는 불확실성을 다루는 확률과정의 연속입니다. 파생상품의 가격을 결정하고 리스크를 관리하기 위해 우리는 미래의 불확실한 가치를 현재로 가져와야 합니다. 이 과정에서 '극한'과 '기댓값'이라는 두 가지 수학적 도구를 사용하는데, 이 둘의 순서를 안전하게 바꿀 수 있도록 허락해주는 강력한 규칙이 바로 수렴 정리(Convergence Theorems)입니다. 그리고 "공정한 게임"이라는 마팅게일(Martingale)의 성질이 언제까지 유지되는지를 알려주는 것이 바로 임의 정지 정리(Optional Stopping Theorem, OST)입니다. 이 두 개념은 현대 금융수학의 이론적 뼈대를 이루는 핵심 기둥입니다.

---

1. 적분과 기댓값의 순서를 바꾸는 마법: 수렴 정리 (Convergence Theorems)

확률론에서 확률변수 $X$의 기댓값 $E(X)$는 사실 측도론(Measure Theory)의 르베그 적분(Lebesgue Integral)으로 정의됩니다. 즉, $E(X) = \int_{\Omega} X(\omega) dP(\omega)$ 입니다. 여기서 $\Omega$는 모든 가능한 결과의 집합, $\omega$는 그 중 하나의 결과, $P$는 확률 측도입니다. 금융에서는 옵션 페이오프처럼 불연속적인 함수를 다루는 경우가 많아, 이러한 함수도 잘 적분할 수 있는 르베그 적분이 필수적입니다.

금융 모델링, 특히 이산시간 모델을 연속시간 모델로 확장할 때, 우리는 확률 과정의 극한을 다루게 됩니다. 이때 가장 중요하고 근본적인 질문은 '극한(limit)과 기댓값(적분)의 순서를 바꿀 수 있는가?' 즉, 다음 등식이 언제 성립하는가 입니다.

$$\lim_{n \to \infty} E(X_n) \overset{?}{=} E(\lim_{n \to \infty} X_n)$$

이 질문에 답하는 것이 바로 수렴 정리이며, 이는 파생상품의 만기 시점 가치를 현재 시점으로 할인해오는 위험중립가격결정(Risk-Neutral Pricing)의 논리적 기반이 됩니다.

1.1. 단조 수렴 정리 (Monotone Convergence Theorem, MCT)

가장 직관적인 정리입니다. 음수가 아닌 확률변수열 $X_n$이 계단을 오르듯 꾸준히 증가하면서 어떤 $X$로 수렴하는 상황을 상상해봅시다. 이 경우, 각 단계에서의 기댓값의 극한은 최종 목적지의 기댓값과 정확히 일치합니다.

정리 1: 단조 수렴 정리 (MCT)

확률변수열 $\{X_n\}_{n=1}^{\infty}$이 모든 $n$에 대해 $X_n \ge 0$ 이고 단조적으로 증가하여 $X$로 거의 확실하게 수렴하면 (즉, $X_n \uparrow X$ a.s.), 다음이 성립한다.

$$\lim_{n \to \infty} E(X_n) = E(\lim_{n \to \infty} X_n) = E(X)$$

금융에서의 의미: 이 정리는 주로 이론적 증명 과정에서 기반이 됩니다. 예를 들어, 어떤 금융 상품의 가치가 시간이 지남에 따라 단조롭게 증가하는 (매우 이상적인) 경우, 그 가치의 극한 기댓값을 쉽게 계산할 수 있게 합니다.

1.2. 파투의 보조정리 (Fatou's Lemma)

만약 확률변수열 $X_n$이 단조적으로 증가하지 않고 위아래로 진동한다면 어떨까요? 파투의 보조정리는 이때 기댓값의 극한에 대한 '최소한의 경계', 즉 하한선을 제공합니다.

정리 2: 파투의 보조정리 (Fatou's Lemma)

음수가 아닌 확률변수열 $\{X_n\}_{n=1}^{\infty}$에 대해, 다음의 부등식이 성립한다.

$$E(\liminf_{n \to \infty} X_n) \le \liminf_{n \to \infty} E(X_n)$$

여기서 $\liminf$은 '하극한'으로, 수열이 궁극적으로 도달할 수 있는 값들 중 가장 작은 경계입니다. 이 정리는 극한값이 존재하지 않을 때도 유용하며, 지배 수렴 정리를 증명하는 데 사용됩니다.

1.3. 지배 수렴 정리 (Dominated Convergence Theorem, DCT)

수렴 정리 3총사 중 가장 강력하고 금융공학에서 실용적으로 가장 많이 사용되는 정리입니다. 확률변수열 $X_n$이 어떻게 변동하더라도, 그 절댓값을 어떤 '지붕' 또는 '우산'처럼 덮어주는 확률변수 $Y$가 존재하고 그 지붕의 크기(기댓값)가 유한하다면, 극한과 기댓값의 순서를 안전하게 바꿀 수 있다는 정리입니다.

정리 3: 지배 수렴 정리 (DCT)

확률변수열 $X_n$이 $X$로 거의 확실하게 수렴하고($X_n \to X$ a.s.), 모든 $n$에 대해 $|X_n| \le Y$를 만족하는 확률변수 Y가 존재하며 $E(Y) < \infty$ 라면, 다음이 성립한다.

$$\lim_{n \to \infty} E(X_n) = E(\lim_{n \to \infty} X_n) = E(X)$$

금융에서의 의미: 이항 모델과 같은 이산 모형에서 계산한 파생상품 가격의 극한이 블랙-숄즈 방정식과 같은 연속 모형의 가격과 일치함을 보일 때 결정적인 역할을 합니다. 또한, 바로 다음에 나올 임의 정지 정리의 증명에서 핵심적인 논리를 제공합니다.

---

2. "공정한 게임"은 멈춰도 공정할까? 임의 정지 정리 (OST)

임의 정지 정리를 이해하기 위해선 먼저 몇 가지 기본 개념을 명확히 해야 합니다.

기본 개념 정의

• 정보의 흐름 (Filtration, $\mathcal{F}_n$): 시간이 $n$까지 흘렀을 때 우리가 알 수 있는 모든 정보의 집합입니다. 마치 $n$ 시점의 신문과 같습니다. $\mathcal{F}_0 \subseteq \mathcal{F}_1 \subseteq \dots$ 처럼 정보는 시간에 따라 누적됩니다.
• 마팅게일 (Martingale, $M_n$): "공정한 게임"을 수학적으로 모델링한 확률 과정입니다. 현재까지의 모든 정보($\mathcal{F}_{n-1}$)를 알고 있을 때, 다음 시점 $n$의 값에 대한 최선의 예측(기댓값)은 현재 값과 같습니다.정의: 확률 과정 $M_n$이 다음 세 조건을 만족하면 $(\mathcal{F}_n)$-마팅게일이다.
  (i) 모든 $n$에 대해 $E(|M_n|) < \infty$.
  (ii) $M_n$은 $(\mathcal{F}_n)$-adapted 이다 (즉, $M_n$의 값은 시점 $n$의 정보로 알 수 있다).
  (iii) 모든 $n \ge 0$에 대해 $E(M_{n+1} | \mathcal{F}_n) = M_n$.금융에서는 위험중립측도($\mathbb{Q}$) 하에서 할인된 자산 가격 과정이 마팅게일이 되며, 이는 모든 파생상품 가격 결정의 출발점인 자산가격결정의 제1 기본정리와 연결됩니다.
• 정지 시간 (Stopping Time, $\tau$): 미래를 엿보지 않고 오직 과거와 현재 정보에만 의존하여 "멈춤"을 결정하는 규칙입니다. 예를 들어 "주가가 100달러에 도달하면 멈춘다"는 정지 시간이지만, "3일 뒤 최고가에 도달하면 멈춘다"는 미래 정보가 필요하므로 정지 시간이 아닙니다.정의: $\tau$가 음이 아닌 정수 값을 갖는 확률변수일 때, 모든 $n \ge 0$에 대해 사건 $\{\omega \in \Omega | \tau(\omega) \le n\}$이 정보집합 $\mathcal{F}_n$에 속하면, $\tau$를 $(\mathcal{F}_n)$-stopping time 이라고 한다. 이는 시점 $n$에 멈출지 말지를 오직 시점 $n$까지의 정보만으로 결정할 수 있음을 의미합니다.

임의 정지 정리는 어떤 조건 하에서 정지 시간 $\tau$에 마팅게일을 멈추더라도 기댓값은 여전히 초기값과 같다는 것, 즉 $E(M_{\tau}) = E(M_0)$을 보장해주는 강력한 정리입니다.

정리 4: 임의 정지 정리 (Optional Stopping Theorem)

$M_n$이 마팅게일이고 $\tau$가 정지 시간일 때, 아래의 조건 중 하나가 만족되면 $E(M_{\tau}) = E(M_0)$이 성립합니다.

1. 정지 시간 $\tau$가 유계일 때 (즉, 어떤 상수 $N$에 대해 항상 $\tau \le N$일 때, $P(\tau \le N)=1$).
2. $E(\tau) < \infty$ 이고 마팅게일의 증분(increment)이 유계일 때 (즉, $|M_{n+1}-M_n| < K$ 를 만족하는 상수 $K$가 존재할 때).
3. 마팅게일 $M_n$ 자체가 유계일 때 (즉, 모든 $n$에 대해 $|M_n| < K$ 를 만족하는 상수 $K$가 존재할 때).

더 일반적인 조건: 위의 쉬운 조건들이 성립하지 않을 때, 아래의 세 가지 조건이 모두 만족되면 OST가 성립합니다.

• $P(\tau < \infty) = 1$ (정지 시간 $\tau$는 거의 확실하게 유한하다.)
• $E(|M_{\tau}|) < \infty$ (정지했을 때의 값 $M_{\tau}$는 적분 가능하다.)
• $\lim_{n \to \infty} E(M_n I_{\{\tau > n\}}) = 0$ (Uniform Integrability 조건과 관련됨)

증명 과정의 핵심

증명의 아이디어는 $M_{\tau \land n} = M_{\min(\tau, n)}$ 이라는 '멈추거나 혹은 n 시점까지 진행한' 과정을 이용하는 것입니다.

1. 멈춰진 과정 $M_{\tau \land n}$은 마팅게일 성질을 유지하므로, $E(M_{\tau \land n}) = E(M_0)$ 입니다.
2. 한편, $M_{\tau \land n} = M_{\tau} I_{\{\tau \le n\}} + M_n I_{\{\tau > n\}}$ 이므로, 양변에 기댓값을 취하면 $E(M_{\tau \land n}) = E(M_{\tau} I_{\{\tau \le n\}}) + E(M_n I_{\{\tau > n\}}) $ 입니다.
3. 따라서 모든 $n$에 대해 $E(M_0) = E(M_{\tau} I_{\{\tau \le n\}}) + E(M_n I_{\{\tau > n\}})$ 입니다.
4. 이제 $n \to \infty$ 로 극한을 취합니다.
   • 일반 조건 3에 의해 $\lim_{n \to \infty} E(M_n I_{\{\tau > n\}}) = 0$ 입니다.
   • $X_n = M_{\tau} I_{\{\tau \le n\}}$ 이라는 확률변수열을 생각합시다. 조건 1에 의해 $n \to \infty$ 이면 $X_n \to M_{\tau}$ 입니다.
   • 조건 2에 의해 $|X_n| = |M_{\tau} I_{\{\tau \le n\}}| \le |M_{\tau}|$ 이고 $E(|M_{\tau}|) < \infty$ 이므로, $|M_{\tau}|$가 지배 함수 역할을 합니다.
   • 이는 정확히 지배 수렴 정리(DCT)의 조건입니다! 따라서 $\lim_{n \to \infty} E(X_n) = E(\lim_{n \to \infty} X_n) = E(M_{\tau})$ 입니다.
5. 결론적으로 $E(M_0) = E(M_{\tau}) + 0$ 이 되어 $E(M_{\tau}) = E(M_0)$이 증명됩니다.

---

3. "반드시 이기는" 도박 전략의 함정

"잃으면 두 배로 베팅한다"는 유명한 마팅게일 베팅 전략을 통해 OST의 조건이 왜 중요한지 알아봅시다.

• 게임 규칙: 동전 던지기의 결과 $\eta_n$이 +1 또는 -1 (각각 확률 1/2)인 게임.
• 베팅 전략: n번째 판에 $\alpha_n = 2^{n-1}$달러를 베팅. 베팅액은 $n-1$ 시점에 이미 알려져 있습니다 ($\alpha_n$는 $\mathcal{F}_{n-1}$-가측).
• 총자산: $S_n = S_{n-1} + \alpha_n \eta_n = \sum_{k=1}^{n} \alpha_k \eta_k$. (초기 자산 $S_0 = 0$)
• 정지 규칙: 한 번이라도 이기면 즉시 게임을 멈춘다. $\tau = \min\{n \ge 1 : \eta_n = 1\}$.

이 전략의 속성 분석

1. $S_n$은 마팅게일: $E(S_n | \mathcal{F}_{n-1}) = E(S_{n-1} + \alpha_n \eta_n | \mathcal{F}_{n-1}) = S_{n-1} + \alpha_n E(\eta_n) = S_{n-1}$. 따라서 $E(S_n) = E(S_0) = 0$ 입니다. 게임 자체는 공정합니다.
2. OST 일반 조건 1 만족: $P(\tau > n) = P(\eta_1 = \dots = \eta_n = -1) = (\frac{1}{2})^n$. 따라서 $P(\tau = \infty) = \lim_{n \to \infty} P(\tau > n) = 0$ 이므로, $P(\tau < \infty) = 1$. 언젠가는 반드시 이깁니다.
3. OST 일반 조건 2 만족: n번째에 처음 이기면($\tau=n$), $S_n = \sum_{k=1}^{n-1} 2^{k-1}(-1) + 2^{n-1}(1) = -(2^{n-1}-1) + 2^{n-1} = 1$. 즉, 언제 멈추든 최종 자산 $S_{\tau}$는 항상 1입니다. 따라서 $E(|S_{\tau}|) = E(1) = 1 < \infty$.

역설 발생: 분명 공정한 게임($E(S_n) = 0$)인데, 특정 전략으로 멈추니 기댓값이 $E(S_{\tau}) = 1$이 되었습니다. $0 \neq 1$ 이므로 OST가 적용되지 않은 것입니다. 바로 세 번째 조건이 실패했기 때문입니다.

OST 조건 3 검증 실패

• 사건 $\{\tau > n\}$은 "n판을 내리 졌음"을 의미합니다.
• 이때의 총자산은 $S_n = \sum_{k=1}^{n} 2^{k-1}(-1) = -(2^n - 1) = 1 - 2^n$.
• 기댓값은 $E(S_n I_{\{\tau > n\}}) = (1 - 2^n) \times P(\tau > n) = (1 - 2^n) \times (\frac{1}{2})^n = \frac{1}{2^n} - 1$.

따라서 극한값은, $$\lim_{n \to \infty} E(S_n I_{\{\tau > n\}}) = \lim_{n \to \infty} (\frac{1}{2^n} - 1) = -1 \neq 0$$

심층 분석: OST 조건 3이 실패했다는 것은 이 전략의 '숨겨진 위험'을 수학적으로 드러냅니다. 비록 승리 시에는 1달러를 보장하지만, 그 승리가 오기까지 계속 질 경우 손실이 기하급수적으로 불어나고, 그 잠재적 손실의 기댓값이 결코 0으로 수렴하지 않는다는 의미입니다. 실제로 승리 직전 자산의 기댓값 $E(S_{\tau-1})$은 $-\infty$로 발산하며, 이는 1달러를 따기 위해 평균적으로 무한대의 손실을 감수해야 함을 뜻합니다.

---

4. OST의 올바른 활용: 대칭 랜덤 워크의 평균 도달 시간

이번에는 OST를 우아하게 활용하여 중요한 결과를 얻는 예시를 보겠습니다.

• 문제: 대칭 랜덤 워크 $S_n = \sum_{i=1}^{n} \eta_i$ 가 원점($S_0=0$)에서 출발하여 처음으로 $+a$ 또는 $-b$에 도달하는 데 걸리는 시간 $\tau$의 기댓값은 얼마일까요? (단, $\tau = \min\{n \ge 1 : S_n=a \text{ or } S_n=-b\}$, $a,b>0$)

이 문제를 직접 풀기는 매우 까다롭습니다. 하지만 $M_n = S_n^2 - n$ 이라는 새로운 과정을 정의하면 마법이 일어납니다.

$M_n = S_n^2 - n$ 은 마팅게일이다!

$E(M_n|\mathcal{F}_{n-1}) = E((S_{n-1}+\eta_n)^2 - n|\mathcal{F}_{n-1})$
$= E(S_{n-1}^2 + 2S_{n-1}\eta_n + \eta_n^2 - n | \mathcal{F}_{n-1})$
$= S_{n-1}^2 + 2S_{n-1}E(\eta_n) + E(\eta_n^2) - n$

$S_{n-1}$은 $\mathcal{F}_{n-1}$ 시점의 정보이므로 기댓값 밖으로 나오고, $E(\eta_n)=0$이고 $E(\eta_n^2)=1^2 \cdot \frac{1}{2} + (-1)^2 \cdot \frac{1}{2} = 1$이므로,

$E(M_n|\mathcal{F}_{n-1}) = S_{n-1}^2 + 1 - n = (S_{n-1}^2 - (n-1)) = M_{n-1}$

이제 $M_n$에 임의 정지 정리를 적용합니다. 이 경우 1차원 대칭 랜덤워크의 도달 시간 $\tau$는 $E(\tau) < \infty$ 임이 알려져 있고, OST를 적용할 수 있는 다른 조건들도 만족합니다.

OST에 의해, $E(M_{\tau}) = E(M_0) = S_0^2 - 0 = 0

$M_\tau$의 정의에 의해, $E(S_{\tau}^2 - \tau) = 0$ 이므로, 이는 $E(S_{\tau}^2) = E(\tau)$ 와 같습니다.

하지만 $S_\tau$는 $a$ 또는 $-b$의 값을 가지므로 $E(S_\tau^2)$를 바로 계산할 수 없습니다. 대신, 먼저 $S_n$ 자체가 마팅게일임을 이용하여 $S_\tau$의 확률을 계산해야 합니다. $S_n$에 OST를 적용하면 $E(S_\tau) = E(S_0)=0$ 입니다. $P(S_\tau=a) = p$라 하면 $P(S_\tau=-b) = 1-p$이므로, $E(S_\tau) = a \cdot p - b \cdot (1-p) = 0$ 이 되어 $p = \frac{b}{a+b}$를 얻습니다.

이제 $E(S_{\tau}^2)$를 계산할 수 있습니다. $E(S_{\tau}^2) = a^2 P(S_\tau=a) + (-b)^2 P(S_\tau=-b) = a^2 \frac{b}{a+b} + b^2 \frac{a}{a+b} = \frac{ab(a+b)}{a+b} = ab$.

최종적으로 우리는 놀라운 결과를 얻습니다.

$$E(\tau) = ab$$

원점에서 출발한 랜덤 워크가 처음으로 $+a$ 또는 $-b$ 거리에 도달하는 데 걸리는 시간의 기댓값은 정확히 $ab$ 입니다. 만약 $a=b=k$라면, $E(\tau)=k^2$가 됩니다. 이처럼 임의 정지 정리는 배리어 옵션 가격 결정 등 금융 문제에서 직접 계산하기 어려운 값들을 아주 강력하고 우아하게 찾아내는 데 사용될 수 있는 금융수학의 핵심 도구입니다.