Bachelier’s Equation

Overview

Markov chain의 시간 진화를 나타내는 가장 확실한 방법

Bachelier’s equation은 random walk에서 N번 step 후 위치의 확률 분포를 계산하는 기본 방정식이다. 핵심 아이디어는: 독립적인 step들을 누적한 결과는 각 step의 확률 분포를 모두convolution한 것이다.

이 방정식이 왜 중요한가?
통계물리와 확률론에서 확률 분포에 대해 Fourier transform을 쓰는 근본적인 이유를 보여주기 때문이다.

Symbol Table

SymbolMeaning
N번 step 후 위치 (random variable)
N번 step 후 위치의 확률 밀도 함수 (PDF)
n번째 step의 크기 에 대한 PDF
Convolution 연산
Fourier transform of

The Problem: 누적 확률 분포 계산

우리가 알고 싶은 것

Random walker가:

  • 처음 위치 에서 시작
  • N번의 독립적인 step 을 거침
  • 최종 위치:

질문: 최종 위치 의 확률 분포는?

step 크기의 확률 분포와 step 시작 이전의 위치에 대한 PDF를 모두 고려해야 한다.
step 크기에 대해 적분한다.
말이 되려면 아래 같은 적분을 해야 한다.

이게 바로 convolution!

Recursive하게 전개

최종적으로:

(, 원점에서 시작)

이것이 Bachelier’s equation이다!

The Problem with Convolution

왜 Convolution은 계산하기 어려운가?

1D 예시:

  • 적분을 직접 계산해야 함
  • N번 convolution하면? 계속 중첩 적분!
  • 계산 복잡도가 급격히 증가

The Solution: Fourier Transform! ✨

Convolution Theorem

Fourier transform을 하면 Convolution이 곱셈으로 변환된다!

Bachelier’s Equation in Fourier Space

아래 식은 초기 위치 분포가 디락 델타라고 가정한 듯 하다.
real space에서 디락 텔타는 Fourier space에서 상수이다.

각 step의 확률 분포 푸리에 변환한 걸 다 곱해 주면 그만이다.

IID (Identical Independent Distributed) steps이면:
그러니까 매 step의 확률 분포가 동인하면서, 각 step이 independent하다면
똑같은 을 여러번 곱하면 된다.

엄청나게 간단해졌다!

최종 답 구하기

Inverse Fourier transform:

왜 통계학자들은 Fourier를 좋아하나?

1. Convolution → Product

Real SpaceFourier Space
중첩 적분 (악몽)단순 곱셈 (천국)

2. Product → Sum (Log 취하면)

이게 바로 cumulant-generating function의 additivity!

3. Gaussian은 Fourier에서도 Gaussian

계산이 매우 간단해짐!

이것이 이어지는 이론들

  • Generating Function → Moment 추출
  • Cumulant Generating Function → Additivity

References