필트레이션(Filtration)과 마틴게일(Martingale)

서문: '공정한 게임'의 수학적 추상화

마팅게일(Martingale)은 단순히 복잡한 수학적 개념을 넘어, 우리 주변의 불확실한 현상을 '공정함(fairness)'이라는 관점에서 이해하는 매우 강력한 도구입니다. 동전 던지기 게임을 상상해봅시다. 앞면이 나오면 1원을 얻고 뒷면이 나오면 1원을 잃는 게임에서, 매 순간 다음 판의 결과를 예측할 때 우리가 기댈 수 있는 가장 합리적인 정보는 바로 '현재까지의 자산'입니다. 과거의 승패 기록이 어떻든, 다음 판의 기대 이익은 0이며, 따라서 내일의 자산에 대한 최선의 예측은 오늘의 자산입니다.
마팅게일은 이러한 '공정한 게임'의 아이디어를 수학적으로 정교하게 다듬은 모델입니다. 이 개념을 통해 금융 시장에서의 자산 가격 변동, 랜덤 워크, 심지어는 복잡한 확률 시스템의 동작까지 분석할 수 있는 기반을 마련합니다. 아래에서는 마팅게일의 기본 구성 요소부터 시작하여, 그 정의와 핵심 예시들을 통해 이 강력한 이론의 세계를 탐험해 보겠습니다.

---

1. 마팅게일을 이해하기 위한 기본 개념

확률 과정 (Stochastic Process): 시간의 흐름에 따라 상태가 확률적으로 변하는 과정을 수학적으로 모델링한 것입니다. 표기: $\{X_n(\omega)\}$
표본 경로 (Sample Path): 확률 공간의 한 원소($\omega$)가 고정되었을 때, 시간에 따라 나타나는 실제 값들의 연속입니다. 예: $(\xi_1(\omega), \xi_2(\omega), \dots)$
필트레이션 (Filtration, $\mathcal{F}_n$): 시간이 흐르면서 쌓이는 정보의 집합을 나타내는 $\sigma$-field의 열(sequence)입니다. 과거의 정보는 미래에도 유지되므로, 항상 $\mathcal{F}_1 \subseteq \mathcal{F}_2 \subseteq \dots$ 관계가 성립합니다. 즉, $n$ 시점의 정보($\mathcal{F}_n$)는 $n$ 시점까지의 모든 것을 포함합니다.
적응 과정 (Adapted Process): 확률 과정 $\{\xi_n\}$이 모든 $n$에 대해 $\xi_n$이 $\mathcal{F}_n$-measurable일 때, 이 과정을 필트레이션 $\{\mathcal{F}_n\}$에 '적응'되었다고 합니다. 이는 "$n$ 시점의 값($\xi_n$)은 $n$ 시점까지의 정보($\mathcal{F}_n$)로 알 수 있다"는 의미입니다. 비유하자면, $n$일차까지의 주식 시장 데이터를 보고 $n$일차의 주가를 아는 것은 당연한 것처럼, 해당 시점의 값은 그 시점까지의 정보로 파악 가능해야 한다는 자연스러운 조건입니다.
자연 필트레이션 (Natural Filtration): 확률 과정 $\{\xi_n\}$ 자체로 생성된 필트레이션, 즉 $\mathcal{F}_n = \sigma(\xi_1, \dots, \xi_n)$을 의미합니다. 이는 $\{\xi_n\}$을 적응 과정으로 만드는 가장 작은(최소한의 정보를 가진) 필트레이션입니다.

---

2. 마팅게일, 슈퍼마팅게일, 서브마팅게일의 정의

마팅게일 (Martingale): 공정한 게임

마팅게일은 '공정한 게임'을 수학적으로 모델링한 것입니다. 어떤 확률 과정 $\{\xi_n\}$이 필트레이션 $\{\mathcal{F}_n\}$에 대해 마팅게일이 되려면 다음 세 가지 조건을 만족해야 합니다.

1. 적분 가능성 (Integrability): 모든 $n$에 대해 $E[|\xi_n|] < \infty$ 이어야 합니다. 즉, 기댓값이 유한해야 합니다.
2. 적응성 (Adaptedness): $\{\xi_n\}$은 필트레이션 $\{\mathcal{F}_n\}$에 적응된 과정이어야 합니다.
3. 마팅게일 속성 (Martingale Property): $E[\xi_{n+1} | \mathcal{F}_n] = \xi_n$

핵심 의미: $n$ 시점까지의 모든 정보를 알고 있을 때, 다음 시점($n+1$)의 값에 대한 최선의 예측(조건부 기댓값)은 바로 현재 시점($n$)의 값이라는 뜻입니다. 즉, 평균적으로 미래의 이득이나 손실이 '0'인 공정한 게임과 같습니다.

서브마팅게일과 슈퍼마팅게일: 유리하거나 불리한 게임

마팅게일이 '공정한 게임'이라면, 게임이 나에게 유리하거나 불리한 경우는 어떻게 표현할 수 있을까요? 여기서 서브마팅게일(Submartingale)과 슈퍼마팅게일(Supermartingale)의 개념이 등장합니다. 이들은 마팅게일 속성 조건만 살짝 바꾼 것입니다.

• 서브마팅게일 (Submartingale): 유리한 게임
  • 조건: $E[\xi_{n+1} | \mathcal{F}_n] \ge \xi_n$
  • 의미: 과거의 모든 정보를 바탕으로 할 때, 다음 시점의 값에 대한 기댓값이 현재 값보다 크거나 같습니다. 즉, 평균적으로 이득을 보는 '유리한 게임'에 참여하고 있는 것과 같습니다.
• 슈퍼마팅게일 (Supermartingale): 불리한 게임
  • 조건: $E[\xi_{n+1} | \mathcal{F}_n] \le \xi_n$
  • 의미: 과거의 모든 정보를 바탕으로 할 때, 다음 시점의 값에 대한 기댓값이 현재 값보다 작거나 같습니다. 평균적으로 손해를 보는 '불리한 게임'으로 해석할 수 있습니다. (카지노의 배팅이 대표적인 예입니다.)

---

3. 마팅게일의 예시와 증명

예시 1: 독립 확률 변수의 합

명제
$\eta_1, \eta_2, \dots$가 서로 독립이고 적분 가능한(integrable) 확률 변수이며, 모든 $n$에 대해 $E[\eta_n] = 0$을 만족한다고 가정하자. 이때 확률 과정 $\xi_n = \sum_{i=1}^n \eta_i$은 자연 필트레이션 $\mathcal{F}_n = \sigma(\eta_1, \dots, \eta_n)$에 대해 마팅게일(Martingale)이다.
증명
마팅게일의 세 가지 조건(적분 가능성, 적응성, 마팅게일 속성)을 순서대로 증명합니다.
1. 적분 가능성 (Integrability)
$\{\xi_n\}$이 적분 가능함, 즉 모든 $n$에 대해 $E[|\xi_n|] < \infty$임을 보여야 합니다.
$|\xi_n| = |\sum_{i=1}^n \eta_i|$
삼각 부등식에 의해 다음이 성립합니다.
$|\sum_{i=1}^n \eta_i| \le \sum_{i=1}^n |\eta_i|$
양변에 기댓값을 취하면, 기댓값의 선형성과 단조성(monotonicity)에 의해,
$E[|\xi_n|] \le E[\sum_{i=1}^n |\eta_i|] = \sum_{i=1}^n E[|\eta_i|]$
가정에서 각 $\eta_i$는 적분 가능하다고 했으므로, 모든 $i$에 대해 $E[|\eta_i|] < \infty$ 입니다. 유한한 값들의 유한 합은 여전히 유한하므로,
$\sum_{i=1}^n E[|\eta_i|] < \infty$
따라서 $E[|\xi_n|] < \infty$ 이므로, $\{\xi_n\}$은 적분 가능합니다.
2. 적응성 (Adaptedness)
$\{\xi_n\}$이 필트레이션 $\{\mathcal{F}_n\}$에 적응되어 있음, 즉 모든 $n$에 대해 $\xi_n$이 $\mathcal{F}_n$-measurable임을 보여야 합니다.
자연 필트레이션 $\mathcal{F}_n$은 $\sigma(\eta_1, \dots, \eta_n)$으로 정의됩니다. 이 정의에 따라, 확률 변수 $\eta_1, \dots, \eta_n$은 모두 $\mathcal{F}_n$-measurable입니다.
$\xi_n = \eta_1 + \dots + \eta_n$은 $\mathcal{F}_n$-measurable인 확률 변수들의 합입니다. 가측 함수(measurable function)들의 합은 여전히 가측 함수이므로, $\xi_n$은 $\mathcal{F}_n$-measurable입니다. 따라서 $\{\xi_n\}$은 $\{\mathcal{F}_n\}$에 적응된 과정입니다.
3. 마팅게일 속성 (Martingale Property)
$E[\xi_{n+1} | \mathcal{F}_n] = \xi_n$임을 보여야 합니다.
$E[\xi_{n+1} | \mathcal{F}_n] = E[\eta_1 + \dots + \eta_n + \eta_{n+1} | \mathcal{F}_n] = E[\xi_n + \eta_{n+1} | \mathcal{F}_n]$
조건부 기댓값의 선형성에 의해,
$= E[\xi_n | \mathcal{F}_n] + E[\eta_{n+1} | \mathcal{F}_n]$
이제 각 항을 계산합니다.

• 첫 번째 항 $E[\xi_n | \mathcal{F}_n]$: 위 2번(적응성)에서 $\xi_n$이 $\mathcal{F}_n$-measurable임을 보였습니다. 조건부 기댓값의 성질에 따라, $\mathcal{F}_n$-measurable인 변수는 조건 밖으로 나올 수 있습니다 ("Taking out what is known"). 따라서 $E[\xi_n | \mathcal{F}_n] = \xi_n$ 입니다.
• 두 번째 항 $E[\eta_{n+1} | \mathcal{F}_n]$: 가정에서 $\eta_{n+1}$은 $\eta_1, \dots, \eta_n$과 독립입니다. 따라서 $\eta_{n+1}$은 $\sigma$-field $\mathcal{F}_n = \sigma(\eta_1, \dots, \eta_n)$과도 독립입니다. 어떤 확률 변수가 특정 $\sigma$-field와 독립일 때, 그 $\sigma$-field에 대한 조건부 기댓값은 원래의 무조건부 기댓값과 같습니다. 따라서 $E[\eta_{n+1} | \mathcal{F}_n] = E[\eta_{n+1}]$ 입니다. 가정에서 $E[\eta_{n+1}] = 0$ 이므로, 이 항은 0이 됩니다.

두 항의 결과를 합치면,
$E[\xi_{n+1} | \mathcal{F}_n] = \xi_n + 0 = \xi_n$
따라서 마팅게일 속성을 만족합니다.
위의 1, 2, 3번을 통해 세 가지 조건을 모두 만족하므로, $\{\xi_n = \sum_{i=1}^n \eta_i\}$는 마팅게일입니다.

예시 2: 대칭 랜덤 워크 $S_n^2 - n$

명제
$\xi_1, \xi_2, \dots$가 $P(\xi_n = 1) = P(\xi_n = -1) = 1/2$를 만족하는 독립 항등 분포(i.i.d.) 확률 변수열이라 하자. 대칭 랜덤 워크 $S_n = \sum_{i=1}^n \xi_i$에 대해, 확률 과정 $\{M_n = S_n^2 - n\}$은 자연 필트레이션 $\mathcal{F}_n = \sigma(\xi_1, \dots, \xi_n)$에 대해 마팅게일이다.
증명
1. 적분 가능성 (Integrability)
$E[|M_n|] = E[|S_n^2 - n|] < \infty$임을 보여야 합니다.
삼각 부등식에 의해,
$E[|S_n^2 - n|] \le E[|S_n^2|] + E[|-n|] = E[S_n^2] + n$
$E[S_n^2]$를 계산해야 합니다.
$E[S_n^2] = E[(\sum_{i=1}^n \xi_i)^2] = E[(\sum_{i=1}^n \xi_i)(\sum_{j=1}^n \xi_j)] = E[\sum_{i=1}^n \sum_{j=1}^n \xi_i \xi_j]$
기댓값의 선형성에 의해,
$= \sum_{i=1}^n \sum_{j=1}^n E[\xi_i \xi_j]$
여기서 $i \neq j$인 경우와 $i = j$인 경우로 나눕니다.

• $i \neq j$일 때: $\xi_i$와 $\xi_j$는 서로 독립이므로 $E[\xi_i \xi_j] = E[\xi_i]E[\xi_j]$ 입니다. $E[\xi_i] = (1)\frac{1}{2} + (-1)\frac{1}{2} = 0$ 이므로, $E[\xi_i \xi_j] = 0 \cdot 0 = 0$ 입니다.
• $i = j$일 때: $E[\xi_i \xi_i] = E[\xi_i^2]$ 입니다. $\xi_i$의 값은 1 또는 -1이므로, $\xi_i^2$의 값은 항상 1입니다. 따라서 $E[\xi_i^2] = 1$ 입니다.

위의 합산에서 $i=j$인 항들만 값이 남게 되며, 이런 항은 총 $n$개 있습니다.
$E[S_n^2] = \sum_{i=1}^n E[\xi_i^2] = \sum_{i=1}^n 1 = n$
이제 원래의 부등식으로 돌아가면,
$E[|S_n^2 - n|] \le n + n = 2n$
모든 유한한 $n$에 대해 $2n < \infty$ 이므로, $\{S_n^2 - n\}$은 적분 가능합니다.
2. 적응성 (Adaptedness)
$M_n = S_n^2 - n$이 $\mathcal{F}_n$-measurable임을 보여야 합니다.
$S_n = \sum_{i=1}^n \xi_i$ 입니다. 각 $\xi_i$ ($i \le n$)는 $\mathcal{F}_n = \sigma(\xi_1, \dots, \xi_n)$의 정의에 의해 $\mathcal{F}_n$-measurable 입니다.
가측 함수들의 합은 가측이므로 $S_n$은 $\mathcal{F}_n$-measurable 입니다.
함수 $f(x) = x^2$는 연속 함수이므로 보렐 가측(Borel measurable) 함수입니다. 가측 확률 변수의 보렐 가측 함수 변환은 다시 가측이므로, $S_n^2$은 $\mathcal{F}_n$-measurable 입니다.
상수 $n$ 또한 자명하게 $\mathcal{F}_n$-measurable 입니다.
가측 함수들의 차는 가측이므로, $M_n = S_n^2 - n$은 $\mathcal{F}_n$-measurable 입니다. 따라서 $\{M_n\}$은 적응 과정입니다.
3. 마팅게일 속성 (Martingale Property)
$E[M_{n+1} | \mathcal{F}_n] = M_n$임을 보여야 합니다.
$E[M_{n+1} | \mathcal{F}_n] = E[S_{n+1}^2 - (n+1) | \mathcal{F}_n]$
$S_{n+1} = S_n + \xi_{n+1}$를 대입하고 제곱항을 전개합니다.
$= E[(S_n + \xi_{n+1})^2 - (n+1) | \mathcal{F}_n] = E[S_n^2 + 2S_n\xi_{n+1} + \xi_{n+1}^2 - (n+1) | \mathcal{F}_n]$
조건부 기댓값의 선형성을 이용하여 각 항을 분리합니다.
$= E[S_n^2 | \mathcal{F}_n] + E[2S_n\xi_{n+1} | \mathcal{F}_n] + E[\xi_{n+1}^2 | \mathcal{F}_n] - E[n+1 | \mathcal{F}_n]$
각 항을 계산합니다.

• $E[S_n^2 | \mathcal{F}_n]$: 위 2번에서 $S_n^2$은 $\mathcal{F}_n$-measurable임을 보였으므로, $E[S_n^2 | \mathcal{F}_n] = S_n^2$ 입니다.
• $E[2S_n\xi_{n+1} | \mathcal{F}_n]$: $2S_n$은 $\mathcal{F}_n$-measurable이므로 밖으로 나올 수 있습니다. $2S_n E[\xi_{n+1} | \mathcal{F}_n]$. $\xi_{n+1}$은 $\mathcal{F}_n$과 독립이므로 $E[\xi_{n+1} | \mathcal{F}_n] = E[\xi_{n+1}] = 0$ 입니다. 따라서 이 항은 $2S_n \cdot 0 = 0$ 입니다.
• $E[\xi_{n+1}^2 | \mathcal{F}_n]$: $\xi_{n+1}^2$ 또한 $\mathcal{F}_n$과 독립이므로 $E[\xi_{n+1}^2 | \mathcal{F}_n] = E[\xi_{n+1}^2]$ 입니다. 위 1번에서 계산했듯이 $E[\xi_{n+1}^2] = 1$ 입니다.
• $E[n+1 | \mathcal{F}_n]$: 상수 $n+1$은 $\mathcal{F}_n$-measurable이므로 $E[n+1 | \mathcal{F}_n] = n+1$ 입니다.

모든 항을 종합하면,
$E[M_{n+1} | \mathcal{F}_n] = S_n^2 + 0 + 1 - (n+1) = S_n^2 - n = M_n$
따라서 마팅게일 속성을 만족합니다.
위의 1, 2, 3번을 통해 세 가지 조건을 모두 만족하므로, $\{S_n^2 - n\}$은 마팅게일입니다.

예시 3: 조건부 기댓값으로 정의된 마팅게일

명제
$\xi$가 적분 가능한($E[|\xi|] < \infty$) 확률 변수이고, $\{\mathcal{F}_n\}_{n \ge 1}$이 필트레이션이라 하자. 확률 과정 $\xi_n = E[\xi | \mathcal{F}_n]$으로 정의하면, $\{\xi_n\}$은 필트레이션 $\{\mathcal{F}_n\}$에 대해 마팅게일이다.
증명
1. 적분 가능성 (Integrability)
$E[|\xi_n|] < \infty$임을 보여야 합니다.
$E[|\xi_n|] = E[|E[\xi | \mathcal{F}_n]|]$
함수 $f(x) = |x|$는 볼록 함수(convex function)입니다. 조건부 기댓값에 대한 젠센 부등식(Jensen's inequality)은 $f(E[X|\mathcal{G}]) \le E[f(X)|\mathcal{G}]$ 형태를 가집니다. 이를 적용하면,
$|E[\xi | \mathcal{F}_n]| \le E[|\xi| | \mathcal{F}_n]$
위 부등식의 양변에 기댓값을 취합니다.
$E[|E[\xi | \mathcal{F}_n]|] \le E[E[|\xi| | \mathcal{F}_n]]$
전체 기댓값의 법칙 (Law of total expectation, 또는 Tower property)에 의해 $E[E[Y|X]] = E[Y]$ 이므로,
$E[E[|\xi| | \mathcal{F}_n]] = E[|\xi|]$
가정에서 $\xi$가 적분 가능하다고 했으므로 $E[|\xi|] < \infty$ 입니다.
결론적으로 $E[|\xi_n|] \le E[|\xi|] < \infty$ 이므로, $\{\xi_n\}$은 적분 가능합니다.
2. 적응성 (Adaptedness)
$\xi_n$이 $\mathcal{F}_n$-measurable임을 보여야 합니다.
이는 조건부 기댓값의 정의에 직접적으로 포함되는 속성입니다. 어떤 확률 변수 $X$와 $\sigma$-field $\mathcal{G}$에 대해, 조건부 기댓값 $E[X|\mathcal{G}]$는 정의상 $\mathcal{G}$-measurable인 확률 변수여야 합니다.
따라서 $\xi_n = E[\xi | \mathcal{F}_n]$은 그 정의 자체로 $\mathcal{F}_n$-measurable 입니다. 그러므로 $\{\xi_n\}$은 필트레이션 $\{\mathcal{F}_n\}$에 적응된 과정입니다.
3. 마팅게일 속성 (Martingale Property)
$E[\xi_{n+1} | \mathcal{F}_n] = \xi_n$임을 보여야 합니다.
$\xi_{n+1}$의 정의를 대입하면 다음과 같습니다.
$E[\xi_{n+1} | \mathcal{F}_n] = E[E[\xi | \mathcal{F}_{n+1}] | \mathcal{F}_n]$
여기서 조건부 기댓값의 Tower property를 사용합니다. 이 속성은 $\mathcal{G}_1 \subseteq \mathcal{G}_2$인 두 $\sigma$-field에 대해 $E[E[X | \mathcal{G}_2] | \mathcal{G}_1] = E[X | \mathcal{G}_1]$가 성립함을 의미합니다.
필트레이션의 정의에 따라 $\mathcal{F}_n \subseteq \mathcal{F}_{n+1}$ 이므로, Tower property를 직접 적용할 수 있습니다.
$$E\left[E[\xi | \mathcal{F}_{n+1}] | \mathcal{F}_n\right] = E[\xi | \mathcal{F}_n]$$
$\xi_n$의 정의가 $E[\xi | \mathcal{F}_n]$ 이므로,
$$E[\xi | \mathcal{F}_n] = \xi_n$$
따라서 $E[\xi_{n+1} | \mathcal{F}_n] = \xi_n$이 성립하며, 마팅게일 속성을 만족합니다.
위의 1, 2, 3번을 통해 세 가지 조건을 모두 만족하므로, $\{\xi_n = E[\xi | \mathcal{F}_n]\}$는 마팅게일입니다.