Bachelier’s Equation
Overview
Markov chain의 시간 진화를 나타내는 가장 확실한 방법
Bachelier’s equation은 random walk에서 N번 step 후 위치의 확률 분포를 계산하는 기본 방정식이다. 핵심 아이디어는: 독립적인 step들을 누적한 결과는 각 step의 확률 분포를 모두convolution한 것이다.
이 방정식이 왜 중요한가?
통계물리와 확률론에서 확률 분포에 대해 Fourier transform을 쓰는 근본적인 이유를 보여주기 때문이다.
Symbol Table
| Symbol | Meaning |
|---|---|
| N번 step 후 위치 (random variable) | |
| N번 step 후 위치의 확률 밀도 함수 (PDF) | |
| n번째 step의 크기 | |
| Convolution 연산 | |
| Fourier transform of |
The Problem: 누적 확률 분포 계산
우리가 알고 싶은 것
Random walker가:
- 처음 위치
에서 시작 - N번의 독립적인 step
을 거침 - 최종 위치:
질문: 최종 위치
step 크기의 확률 분포와 step 시작 이전의 위치에 대한 PDF를 모두 고려해야 한다.
step 크기에 대해 적분한다.
말이 되려면 아래 같은 적분을 해야 한다.
이게 바로 convolution!
Recursive하게 전개
최종적으로:
(
이것이 Bachelier’s equation이다!
The Problem with Convolution
왜 Convolution은 계산하기 어려운가?
1D 예시:
- 적분을 직접 계산해야 함
- N번 convolution하면? 계속 중첩 적분!
- 계산 복잡도가 급격히 증가
The Solution: Fourier Transform! ✨
Convolution Theorem
Fourier transform을 하면 Convolution이 곱셈으로 변환된다!
Bachelier’s Equation in Fourier Space
아래 식은 초기 위치 분포가 디락 델타라고 가정한 듯 하다.
real space에서 디락 텔타는 Fourier space에서 상수이다.
각 step의 확률 분포 푸리에 변환한 걸 다 곱해 주면 그만이다.
IID (Identical Independent Distributed) steps이면:
그러니까 매 step의 확률 분포가 동인하면서, 각 step이 independent하다면
똑같은
엄청나게 간단해졌다!
최종 답 구하기
Inverse Fourier transform:
왜 통계학자들은 Fourier를 좋아하나?
1. Convolution → Product
| Real Space | Fourier Space |
|---|---|
| 중첩 적분 (악몽) | 단순 곱셈 (천국) |
2. Product → Sum (Log 취하면)
이게 바로 cumulant-generating function의 additivity!
3. Gaussian은 Fourier에서도 Gaussian
계산이 매우 간단해짐!
이것이 이어지는 이론들
- Generating Function → Moment 추출
- Cumulant Generating Function → Additivity
Related Concepts
- Chapman-Kolmogorov Equation
- Cumulant Generating Function
- Central Limit Theorem
- Diffusion Equation Derivation from Random Walks
References
- MIT OCW 18.366, Lecture 2 (Bazant)
Lecture 2 Moments, Cumulants, and Scaling.pdf