인공지능 - 베이즈 정리(Bayes’ theorem)

베이즈 정리 (Bayes’ theorem)

베이즈 정리란?

베이즈 정리는 조건부 확률을 계산하는데 사용되는 중요한 통계적 원리로, 사건 A 가 발생한 상황에서 사건 B 가 발생할 확률을 계산하는 방법을 제시합니다. 이는 확률 $ P(A|B) $를 계산하는데, 이는 B 가 주어진 상황에서 A 의 확률입니다.

베이즈 정리의 일반적인 형태

베이즈 정리는 다음과 같이 표현됩니다: [ P(A|B) = \frac{P(B|A)P(A)}{P(B)} ] 여기서:

• $ P(A

  B) $: B 가 주어졌을 때 A 가 발생할 확률 (사후 확률, posterior probability)

• $ P(B

  A) $: A 가 주어졌을 때 B 가 발생할 확률 (우도, likelihood)

• $ P(A) $: A 가 발생할 사전 확률 (prior probability)
• $ P(B) $: B 가 발생할 전체 확률 (증거, evidence)

음성 인식에서 베이즈 정리의 적용

음성 인식 문제에서는 x (음성 신호의 특징 벡터)와 w (단어)에 대해 베이즈 정리를 사용하여 조건부 확률을 계산합니다.

수식: $ \hat{w} = \arg \max_{w} P(w|x) $

이 수식에서 $ P(w|x) $는 주어진 음성 신호 x 가 있을 때 단어 $ w $가 될 확률입니다. 이를 베이즈 정리로 다음과 같이 표현합니다: [ P(w|x) = \frac{P(x|w)P(w)}{P(x)} ]

• $ P(w

  x) $: 음성 신호 x 가 주어졌을 때 단어 w 일 확률 (사후 확률)

• $ P(x

  w) $: 단어 w 가 주어졌을 때 음성 신호 x 가 발생할 확률 (우도)

• $ P(w) $: 단어 w 의 사전 확률
• $ P(x) $: 음성 신호 x 의 전체 확률 (모든 단어에 대해 음성 신호 x 가 발생할 확률의 합)

동시에 발생할 확률?

베이즈 정리는 사건 A와 사건 B가 동시에 발생할 확률 $ P(A \cap B) $와 다릅니다. 대신 베이즈 정리는 한 사건이 주어진 상황에서 다른 사건이 발생할 확률을 계산합니다.

음성 인식에서 찾는 것

음성 인식에서 베이즈 정리를 사용하여 동시에 찾는 것은 다음과 같습니다:

• 음성 신호 x 가 주어졌을 때 가장 가능성 있는 단어 $ w $를 찾는 것.

이 과정은 두 가지 주요 요소의 결합 확률을 최대화하는 것을 포함합니다:

1. **음향 모델 ($ P(x

   w) $)**: 단어 w 가 주어졌을 때 음성 신호 x 가 발생할 확률. 이는 음향적 유사성을 나타냅니다.

2. 언어 모델 ($ P(w) $): 단어 w 의 사전 확률. 이는 해당 단어의 일반적인 사용 빈도를 나타냅니다.

따라서, 음성 인식에서 베이즈 정리는 주어진 음성 신호 x 에 대해 가능한 단어 w 의 확률을 계산하여 가장 가능성 높은 단어를 예측하는 데 사용됩니다. 이 과정은 단어 w 와 음성 신호 x 간의 음향적 일치와 단어 w 의 사용 빈도를 동시에 고려하는 것입니다.