Likelihood   우도, 가능도

1. 우도 (Likelihood, 尤度, 가능성/가능도)

  ㅇ 우도의 의미
     - 나타난 결과에 따라 여러 가능한 가설들을 평가할 수 있는 측도(Measure)임
        . 확률적으로 조건부확률로 표현할 수 있음 => 2.번항 참조
     - 우도는, 확률로 표현되나 각 가설에 대한 가능도/지지도 등의 의미가 강함
        . 즉, 각 가설에 대한 우도는, 그 가설을 지지하는/받쳐주는 정도라고 볼 수 있음

  ㅇ 우도의 활용
     - 알려진 결과(관측된 표본)에 기초하여,
     - 미지 모수에 대한 추정(가설)의 정확성에 대한 질적인 평가 척도 로써 삼음

  ㅇ 우도의 계산
     - 나타난 결과에 해당하는 각 가설 마다 계산해야 하는 값 임
        . 나타난 결과 마다 다른 값을 갖는, 여러 가능한 가설들을 계산
     - 우선, 설계 대상 시스템에 대한 모델화를 하고,
        . 이 모델로부터, 결과에 대응되는 각 가설 마다 우도를 산출 함

  ㅇ 최대 우도 원리는, 
     - 나타난 결과에 해당하는 각 가설 마다 계산된 우도 값 중 가장 큰 값을 선택하는 것
        . [참고] ☞ 사후확률, 최우추정법, 베이즈 통계학 등 참조


2. 우도의 확률적 표현 = 조건부확률

  ㅇ 우도(조건부확률)의 표기 : P(Bj|Ai)
     - 각각의 원인 Ai으로부터 결과 Bj가 나타날 것이라는 가설에 대해 지지하는 정도
        . 나타난 결과 Bj 마다 다른 값을 갖는 여러 가설 Ai 들을 평가할 수 있는 조건부확률
        . 각각의 원인 Ai은, 분류 범주/분류 영역/카테고리 라고도 함


3. 우도 함수 및 확률함수적 표현

  ㅇ 우도 함수 (Likelihood Function) 이란?

       
     - 미지의 모수(Population Parameter) θ라는 변수에 의존하는 함수
        . 통상, 모집단의 모수는 미지의 특정(고정) 量이지만,
                관측된 표본에 의해 추정되는 모수는 미지의 변수 처럼 취급 가능
     - 즉, 우도 함수는, 관측결과를 초래한 미지의 모수를 추정하는 것에 대한 함수적 표현 임

  ㅇ 관측 표본들에 대한 결합확률밀도함수 = 우도 함수
     - 모집단이 미지의 모수 θ에 확률적 관계로써 확률밀도함수 fX(x;θ)를 따르고,
     - 관측된 랜덤 표본치 x1,x2,...,xn들로 구성된 데이터 집합이 있을 때,
     - 관측된 랜덤 표본들에 대한 결합확률밀도함수가 우도함수가 됨
         

  ㅇ 만일, 
     - 관측된 랜덤 표본들이 상호독립적이면, 곱해지는 형태를 취함
         
     - 관측된 랜덤 표본들이 이산적 확률변수라고하면, 우도는 결합확률이 됨