Stopped Process와 Martingale Game

First Hitting Time과 Stopped Process: 마팅게일 이론의 핵심 개념 

---

1. First Hitting Time (최초 도달 시간)

금융 시계열 분석이나 확률 게임 이론에서, 우리는 종종 어떤 확률 과정이 특정 값이나 영역에 '언제 처음으로 도달하는가'에 관심이 있습니다. 이 시간을 First Hitting Time이라고 부르며, 이는 확률론의 중요한 개념인 정지 시간(Stopping Time)의 대표적인 예시입니다.

정지 시간 (Stopping Time)의 엄밀한 정의

먼저, 정보의 흐름을 수학적으로 모델링한 여과(Filtration), $\{\mathcal{F}_n\}_{n \ge 0}$를 정의해야 합니다. 여기서 $\mathcal{F}_n$은 시점 $n$까지의 모든 정보를 담고 있는 $\sigma$-대수(sigma-algebra)를 의미하며, 시간이 흐름에 따라 정보가 누적되므로 $\mathcal{F}_0 \subset \mathcal{F}_1 \subset \mathcal{F}_2 \subset \dots$ 관계를 만족합니다. 예를 들어, 확률 과정 $S_n$에 대한 자연 여과(natural filtration)는 $\mathcal{F}_n = \sigma(S_0, S_1, \dots, S_n)$로 정의됩니다.
음이 아닌 정수 값을 갖는 확률 변수 $\tau$가 이 여과 $\{\mathcal{F}_n\}$에 대한 정지 시간이라는 것은, 모든 $n \ge 0$에 대해 사건 $\{\tau = n\}$이 해당 시점 $n$까지의 정보 집합, 즉 $\mathcal{F}_n$에 속한다는 것을 의미합니다.
수학적으로는 다음과 같이 표현됩니다.

$$\{\tau = n\} \in \mathcal{F}_n \quad \text{for all } n \ge 0$$

이는 다음의 동치 조건과 같습니다: 모든 $n \ge 0$에 대해 $\{\tau \le n\} \in \mathcal{F}_n$.
직관적으로 풀어서 설명하면, "시간 $n$이 되었을 때, 우리가 과정을 멈춰야 할지 말아야 할지를 오직 시점 $n$까지 관찰된 정보만을 가지고 판단할 수 있어야 한다"는 뜻입니다. 미래의 정보가 필요한 결정이라면 정지 시간이 아닙니다.

예시 1: 도박사의 파산 문제 (Gambler's Ruin)

동전 던지기 게임을 상상해 봅시다. 현재 자산 $S_0$에서 시작하여, 앞면이 나오면 \$1을 얻고, 뒷면이 나오면 \$1를 잃습니다. 게임은 총자산이 목표 금액인 \$N이 되거나 \$0(파산)이 되면 멈춥니다.
$S_n$: $n$번째 판 이후의 총자산, \quad $\tau=\min\{n \ge 0: S_n=N \ \text{or}\ S_n=0\}$
이때 $\tau$는 게임이 멈추는 시간, 즉 First Hitting Time입니다.
사건 $\{\tau=n\}$은 “$n-1$번째 판까지는 자산이 0과 N 사이를 벗어나지 않았고, 정확히 $n$번째 판에서 자산이 0 또는 N이 되었다”는 의미입니다. 수학적으로
$$\{\tau=n\}=\{S_0\in(0,N),\ S_1\in(0,N),\ \dots,\ S_{n-1}\in(0,N),\ S_n\in\{0,N\}\}.$$
여기서 각 사건 $\{S_k \in A\}$ ($k \le n$)는 시점 $n$까지의 정보인 $\mathcal{F}_n=\sigma(S_0, \dots, S_n)$으로 명확히 알 수 있습니다. 따라서 이들의 교집합으로 정의된 $\{\tau=n\}$은 $\mathcal{F}_n$-measurable, 즉 $\mathcal{F}_n$에 속하게 됩니다. 결론적으로 $\tau$는 정지 시간입니다.

 

예시 2: 일반적인 확률 과정

더 일반적으로, 실수 집합의 부분집합 $B\subset\mathbb{R}$에 대해, 확률 과정 $S_0, S_1,S_2,\dots$가 처음으로 집합 $B$에 들어가는 시간 $\tau$가 정지 시간임을 보일 수 있습니다.
정의: $\ \tau=\min\{n \ge 0 :S_n\in B\}$
증명: 사건 $\{\tau=n\}$은 “$S_0,\dots,S_{n-1}$은 $B$에 속하지 않고, $S_n$은 $B$에 속한다”는 의미로 다음과 같이 표현됩니다.
$$\{\tau=n\}=\{S_0\notin B,\ S_1\notin B,\ \dots,\ S_{n-1}\notin B\} \cap \{S_n\in B\}.$$
여기서 $\{S_0\notin B,\dots,S_{n-1}\notin B\}$ 사건은 시점 $n-1$까지의 정보로 알 수 있으므로 $\mathcal{F}_{n-1}$에 속하고, 당연히 $\mathcal{F}_n$에도 속합니다 ($ \mathcal{F}_{n-1} \subset \mathcal{F}_n $). 또한 $\{S_n\in B\}$는 정의에 따라 $\mathcal{F}_n$에 속합니다. $\sigma$-대수는 교집합 연산에 대해 닫혀 있으므로, 이들의 교집합인 $\{\tau=n\}$ 역시 $\mathcal{F}_n$에 속합니다. 따라서, $\tau$는 정지 시간입니다.

정지 시간이 아닌 경우: 브라운 운동의 최대점

구간 $[0,L]$에서 브라운 운동(Brownian Motion)이 최대값에 도달하는 시간 $t^*$는 정지 시간이 아닙니다. 왜냐하면 특정 시점 $t$가 최대점에 도달한 시간인지를 알려면, 그 이후인 $L$까지의 모든 경로를 관찰하여 $t$ 이후에 더 높은 값이 없는지를 확인해야만 하기 때문입니다. 즉, 미래의 정보가 필요하므로 정지 시간의 정의를 위배합니다.

---

2. Stopped Process (정지된 과정)

이제 마팅게일(Martingale)이라는 개념을 도입해 봅시다. 마팅게일은 공정한 게임(fair game)을 수학적으로 모델링한 것으로, 다음 시점의 값에 대한 최선의 예측이 현재 값이라는 특징을 가집니다.

확률 과정 $\{S_n\}_{n \ge 0}$이 마팅게일(martingale)이라고 불리기 위한 조건은 다음과 같습니다:

1. 모든 $n$에 대해 $E[|S_n|] < \infty$ 입니다. (적분 가능성)
2. 모든 $n$에 대해 $S_n$은 $\mathcal{F}_n$-measurable 입니다. (적응성)
3. 모든 $n$에 대해 $E[S_{n+1} | \mathcal{F}_n] = S_n$ 입니다. (마팅게일 성질)

$S_n$을 $\mathcal{F}_n$에 adapted된 확률 과정(예: $n$번의 라운드 후의 손익)이라 하고, $\tau$를 $\mathcal{F}_n$에 대한 정지 시간이라고 합시다. 이때 정지된 과정(stopped process) $S_{n\land \tau}$는 (여기서 $a\wedge b=\min(a,b)$) 다음과 같이 정의됩니다.
$$S_{n\land\tau}(\omega)=S_{\min(n,\tau(\omega))}(\omega).$$
이는 “시간이 정지 시간 $\tau$에 도달하기 전까지는 원래 과정 $S_n$을 따르다가, $\tau$ 이후부터는 그 값 $S_\tau$에 영원히 머무르는” 새로운 확률 과정입니다. 이 장의 최종 목표는 원래 과정 $S_n$이 마팅게일이면, 이 정지된 과정 $S_{n\land\tau}$ 또한 마팅게일임을 보이는 것입니다. 이를 위해서는 마팅게일의 세 가지 조건(적분 가능성, 적응성, 마팅게일 관계식)을 모두 만족하는지 확인해야 합니다.

① 적분 가능성 (Integrability)

$S_n$이 마팅게일이라면 모든 $n$에 대해 $E(|S_n|)<\infty$ 입니다. $S_{n\land\tau}$의 기댓값이 유한한지 확인해 봅시다.
$S_{n\land\tau}$는 다음과 같이 분해할 수 있습니다. $$S_{n\land\tau} = \sum_{k=0}^{n-1} S_k I_{\{\tau=k\}} + S_n I_{\{\tau \ge n\}}.$$ 여기서 $I_A$는 집합 $A$의 지시 함수(indicator function)입니다. 삼각 부등식과 기댓값의 선형성에 의해, $$ \begin{aligned} E\!\left(|S_{n\land\tau}|\right) &= E\left[\left| \sum_{k=0}^{n-1} S_k I_{\{\tau=k\}} + S_n I_{\{\tau \ge n\}} \right|\right] \\ &\le E\left[ \sum_{k=0}^{n-1} |S_k| I_{\{\tau=k\}} + |S_n| I_{\{\tau \ge n\}} \right] \\ &= \sum_{k=0}^{n-1} E\left[|S_k| I_{\{\tau=k\}}\right] + E\left[|S_n| I_{\{\tau \ge n\}}\right] \\ &\le \sum_{k=0}^{n} E[|S_k|]. \end{aligned} $$
$S_n$이 마팅게일이므로 각 $E(|S_k|)$는 유한하며, 유한 개의 합이므로 $E(|S_{n\land\tau}|)$ 또한 유한합니다. 따라서 적분 가능성 조건이 만족됩니다.

② 적응성 (Adaptedness)

$S_{n\land\tau}$가 $\mathcal{F}_n$-measurable, 즉 $\mathcal{F}_n$에 adapted 되어 있는지 보이겠습니다. 임의의 보렐 집합(Borel set) $B \subset \mathbb{R}$에 대해 사건 $\{S_{n\land\tau}\in B\}$가 $\mathcal{F}_n$에 속하는지 확인하면 됩니다.
$$ \{S_{n\land\tau}\in B\} = \{S_{\min(n,\tau)} \in B\} = \bigcup_{k=0}^{n-1} \{S_k \in B, \tau=k\} \cup \{S_n \in B, \tau \ge n\}. $$ 이제 각 항을 분석해 봅시다.

• $k < n$인 경우: $\{S_k \in B, \tau=k\} = \{S_k \in B\} \cap \{\tau=k\}$.
  $\{S_k \in B\}$는 $S_k$가 $\mathcal{F}_k$-measurable이므로 $\mathcal{F}_k$에 속합니다. $\tau$가 정지 시간이므로 $\{\tau=k\}$도 $\mathcal{F}_k$에 속합니다. 따라서 이들의 교집합은 $\mathcal{F}_k$에 속하며, $\mathcal{F}_k \subset \mathcal{F}_n$이므로 $\mathcal{F}_n$에도 속합니다.
• $k=n$인 경우: $\{S_n \in B, \tau \ge n\} = \{S_n \in B\} \cap \{\tau \ge n\}$.
  $\{S_n \in B\}$는 $S_n$이 $\mathcal{F}_n$-adapted이므로 $\mathcal{F}_n$에 속합니다. $\{\tau \ge n\}$은 $\{\tau \le n-1\}^c$ (여집합)와 같고, $\{\tau \le n-1\} = \bigcup_{j=0}^{n-1} \{\tau=j\}$ 입니다. 각 $\{\tau=j\}$는 $\mathcal{F}_j \subset \mathcal{F}_{n-1}$에 속하므로, 이들의 유한 합집합인 $\{\tau \le n-1\}$은 $\mathcal{F}_{n-1}$에 속합니다. 따라서 그 여집합인 $\{\tau \ge n\}$도 $\mathcal{F}_{n-1}$에 속하며, 당연히 $\mathcal{F}_n$에도 속합니다. 결국 교집합도 $\mathcal{F}_n$에 속합니다.

모든 항이 $\mathcal{F}_n$에 속하므로, 이들의 유한 합집합인 $\{S_{n\land\tau}\in B\}$도 $\mathcal{F}_n$에 속합니다. 따라서 $S_{n\land\tau}$는 $\mathcal{F}_n$에 adapted 되어 있습니다.

---

3. 마팅게일 관계식 증명 및 선택적 정지 정리

이제 $S_{n\land\tau}$가 마팅게일의 핵심 조건인 $E(S_{n\land\tau}\mid \mathcal{F}_{n-1})=S_{(n-1)\land\tau}$를 만족하는지 증명하겠습니다. 이는 Doob's Optional Stopping Theorem의 기초가 되는 매우 중요한 결과입니다.

Theorem (마팅게일 보존 정리)

$\tau$가 $\{\mathcal{F}_n\}$에 대한 정지 시간일 때,

• $S_n$이 마팅게일이면, $S_{n\land\tau}$도 마팅게일이다.
• $S_n$이 슈퍼마팅게일이면, $S_{n\land\tau}$도 슈퍼마팅게일이다.
• $S_n$이 서브마팅게일이면, $S_{n\land\tau}$도 서브마팅게일이다.

증명: 이산 확률 적분 표현 활용

핵심 아이디어는 $S_{n\land\tau}-S_0$를 이산 확률 적분(discrete stochastic integral) 형태로 표현하는 것입니다. 다음과 같이 새로운 확률 과정 $\beta_k$를 정의합니다.
$$ \beta_k= I_{\{\tau \ge k\}} = \begin{cases} 1,& \tau\ge k,\\ 0,& \tau<k. \end{cases} $$
이 $\beta_k$는 “아직 멈추지 않았으면($\tau\ge k$) 계속 투자하고, 이미 멈췄으면($\tau<k$) 투자를 멈춘다”는 의미의 도박 전략(gambling strategy)으로 해석할 수 있습니다. 도박 전략은 시점 $k-1$까지의 정보로 시점 $k$에서의 투자량을 결정해야 하므로, $\mathcal{F}_{k-1}$-measurable이어야 합니다. 이러한 과정을 예측 가능 과정(predictable process)이라고 합니다.
Claim: $\ \beta_k$은 $\mathcal{F}_{k-1}$-measurable이다.
$\{\beta_k=1\}=\{\tau\ge k\}=\{\tau > k-1\}=\{\tau\le k-1\}^c$.
$\tau$가 정지 시간이므로 $\{\tau\le k-1\}$ 사건은 $\mathcal{F}_{k-1}$-measurable입니다. 따라서 그 여집합도 $\mathcal{F}_{k-1}$-measurable입니다. 마찬가지로 $\{\beta_k=0\}=\{\tau < k\}=\{\tau \le k-1\}$ 또한 $\mathcal{F}_{k-1}$-measurable입니다. 즉, $\beta_k$는 예측 가능 과정입니다.
이제 $S_{n\land\tau}-S_0$를 $\beta_k$와 $S_k$의 증분($\Delta S_k=S_k-S_{k-1}$)으로 표현하면 다음 등식이 성립합니다. $$S_{n\land\tau}-S_{(n-1)\land\tau} = \beta_n (S_n - S_{n-1}).$$ 이를 $n=1$부터 $n$까지 합하면, $S_{n\land\tau}-S_0=\sum_{k=1}^{n}\beta_k\,(S_k-S_{k-1})$임을 확인할 수 있습니다.
이제 조건부 기댓값을 계산해봅시다. $$ \begin{aligned} E(S_{n\land\tau}\mid \mathcal{F}_{n-1}) &= E\big(S_{(n-1)\land\tau}+\beta_n(S_n-S_{n-1})\ \big|\ \mathcal{F}_{n-1}\big)\\ &= E(S_{(n-1)\land\tau} \mid \mathcal{F}_{n-1}) + E(\beta_n(S_n-S_{n-1}) \mid \mathcal{F}_{n-1}) \end{aligned} $$ 여기서 $S_{(n-1)\land\tau}$는 $\mathcal{F}_{n-1}$-measurable이므로 첫 번째 항은 $S_{(n-1)\land\tau}$가 됩니다. 두 번째 항에서는 $\beta_n$이 $\mathcal{F}_{n-1}$-measurable이므로 조건부 기댓값 밖으로 나올 수 있습니다. ("Taking out what is known") $$ \begin{aligned} E(S_{n\land\tau}\mid \mathcal{F}_{n-1}) &= S_{(n-1)\land\tau}+\beta_n\,E(S_n-S_{n-1}\mid \mathcal{F}_{n-1})\\ &=S_{(n-1)\land\tau}+\beta_n\,\big(E(S_n\mid \mathcal{F}_{n-1})-S_{n-1}\big). \end{aligned} $$
결론은 원래 과정 $S_n$의 성질에 따라 결정됩니다:

• $S_n$이 마팅게일이면 $E(S_n\mid \mathcal{F}_{n-1})-S_{n-1}=0$. 따라서 $E(S_{n\land\tau}\mid \mathcal{F}_{n-1})=S_{(n-1)\land\tau}$. 즉 $S_{n\land\tau}$도 마팅게일입니다.
• $S_n$이 슈퍼마팅게일이면 $E(S_n\mid \mathcal{F}_{n-1})-S_{n-1}\le 0$이고 $\beta_n\ge 0$이므로 $E(S_{n\land\tau}\mid \mathcal{F}_{n-1})\le S_{(n-1)\land\tau}$. 즉 $S_{n\land\tau}$도 슈퍼마팅게일입니다.
• $S_n$이 서브마팅게일이면 $E(S_n\mid \mathcal{F}_{n-1})-S_{n-1}\ge 0$이고 $\beta_n\ge 0$이므로 $E(S_{n\land\tau}\mid \mathcal{F}_{n-1})\ge S_{(n-1)\land\tau}$. 즉 $S_{n\land\tau}$도 서브마팅게일입니다.

선택적 정지 정리 (Optional Stopping Theorem)

위 정리는 "마팅게일을 언제 멈추든 그 과정은 여전히 마팅게일 성질을 잃지 않는다"는 것을 보여줍니다. 이를 바탕으로 더욱 강력한 결론을 이끌어낼 수 있는데, 바로 선택적 정지 정리입니다. 이 정리는 특정 조건 하에서, 정지 시간 $\tau$에서의 기댓값이 시작 시점의 기댓값과 같다는 것을 말해줍니다.
정리 (OST): $S_n$이 마팅게일이고 $\tau$가 정지 시간이라고 하자. 다음 조건 중 하나가 만족되면, $S_\tau$는 적분 가능하고 $E[S_\tau] = E[S_0]$ 이다.

1. $\tau$가 유계이다. 즉, 어떤 상수 $N$에 대해 $P(\tau \le N) = 1$ 이다.
2. $\tau$가 거의 확실하게 유한($P(\tau < \infty)=1$)하고, $E[|S_n| | \tau > n]$이 유계이다. (예: $S_n$ 자체가 유계인 경우)
3. $E[\tau] < \infty$ 이고, 마팅게일의 증분 $S_{n+1}-S_n$의 조건부 기댓값이 유계이다. ($E[|S_{n+1}-S_n| | \mathcal{F}_n] \le K$)

이 정리는 "공정한 게임에서는 어떤 정지 규칙을 사용하더라도 평균적으로 돈을 딸 수 없다"는 직관을 수학적으로 뒷받침합니다. 만약 위 조건들이 만족되지 않는다면 $E[S_\tau] = E[S_0]$가 성립하지 않을 수 있으며, 이는 수학 법칙의 위배가 아니라 단지 정리의 가정이 충족되지 않았음을 의미합니다. 이러한 경우는 종종 전략이 숨겨진 무한한 리스크를 내포하고 있음을 암시합니다.

---

4. 응용: 마팅게일 도박 시스템의 허와 실

이제 이 이론을 구체적인 도박 게임에 적용해 봅시다. 이길 확률과 질 확률이 각각 $1/2$인 공정한 게임($E(\eta_n)=0$)을 생각합니다. 이기면 $+1$, 지면 $-1$을 얻습니다. ($S_n = \sum_{i=1}^n \eta_i$는 마팅게일입니다.)
마팅게일 베팅 전략(Martingale Betting Strategy): 질 때마다 판돈을 두 배로 올리는 전략입니다. 이기면 다시 \$1부터 시작합니다.
$\eta_i$: $i$번째 게임의 결과 ($+1$ 또는 $-1$),  $V_i$: $i$번째 게임에 거는 판돈.
$V_1=1$. $i>1$에 대해, 만약 $i-1$번째 게임에서 이겼으면 $V_i=1$. 졌으면 $V_i = 2V_{i-1}$.
$G_n=\sum_{i=1}^{n}V_i\,\eta_i$: $n$번째 게임 후의 총 손익
이 시스템이 공정한 게임을 이기는 전략으로 만들 수 있을까요? 결론부터 말하면, 유한한 자본 하에서는 불가능합니다. $G_n$이 마팅게일임을 보임으로써 이를 확인할 수 있습니다.
$V_n$은 $n-1$번째 게임까지의 결과 $(\eta_1, \dots, \eta_{n-1})$에 의해 결정되므로 $\mathcal{F}_{n-1}$-measurable 입니다. 따라서 $V_n$은 예측 가능한 베팅 전략입니다. 총 손익 과정 $G_n=\sum_{i=1}^{n}V_i\,\eta_i$는 예측 가능한 과정 $V_i$를 마팅게일 증분 $\eta_i$에 곱하여 더한 것이므로 이산 확률 적분입니다. 따라서 $G_n$ 역시 마팅게일입니다.
정지 시간의 정의: $\tau=\min\{n \ge 1: \eta_n=1\}$, 즉, 처음으로 이기는 순간 게임을 멈춘다고 합시다. 이길 때까지 계속하면, 총 손익은 항상 \$1이 됩니다. 예를 들어, 지고($-1$), 지고($-2$), 이기면($+4$), 총 손익은 $-1-2+4=1$ 입니다. 그렇다면 $E[G_\tau]=1$ 이므로 $E[G_0]=0$과 모순되는 것이 아닐까요?
여기에 바로 선택적 정지 정리의 함정이 있습니다. 위에서 정의한 정지 시간 $\tau$는 유계가 아니고($P(\tau > N)>0$ for all N), 총 손익 $G_n$도 유계가 아닙니다. 더 심각한 것은 $E[\tau] = \infty$ 이고, 증분 $V_n \eta_n$도 유계가 아니므로 OST의 어떤 조건도 만족하지 않습니다. 따라서 $E[G_\tau]=E[G_0]$ 라고 결론 내릴 수 없습니다.

유한 자본의 현실: 파산의 수학

현실 세계에서는 베팅 상한선이 있거나 플레이어의 자본이 유한합니다. 자본 한계를 $M$이라고 합시다. $k$번 연속으로 패배할 확률은 $(1/2)^k$입니다. 이때 누적 손실액은 $\sum_{i=0}^{k-1} 2^i = 2^k - 1$ 입니다. 만약 $2^k-1 > M$ 이 되면, 도박자는 $(k+1)$번째 베팅($2^k$ 달러)을 할 수 없어 파산하게 됩니다. 즉, 아무리 자본이 많더라도 충분히 긴 연패가 발생하면 (비록 확률은 낮지만) 반드시 파산합니다.
이러한 파산 가능성을 포함한 새로운 정지 시간은 $\tau^*=\min\{n: \eta_n=1 \text{ or } G_{n-1} < -M+V_n\}$ 입니다. 즉, 이기거나 더 이상 판돈을 댈 수 없으면(파산) 멈추게 됩니다. 이 $\tau^*$는 유계는 아니지만, 파산의 가능성이 존재하기 때문에 게임의 기댓값은 더 이상 \$1이 아닙니다. 실제로 $G_{n \land \tau^*}$는 마팅게일 보존 정리에 의해 여전히 마팅게일이며, 따라서 $E[G_{n \land \tau^*}]=G_0=0$ 입니다. 이는 "언제 게임을 멈추든, 평균적인 총 손익의 기댓값은 항상 0이다"라는 것을 의미하며, 이 전략이 장기적으로 이득을 보장해주지 못함을 수학적으로 증명합니다.