VLC   Variable Length Code, Variable Length Coding, Variable Word Length Coding, Entropy Coding   가변장 부호화, 가변장 부호, 가변 길이 코드, 가변 길이 부호화, 엔트로피 부호화

(2026-10-20)

엔트로피 코딩


1. 가변장 부호화 (VLC) 또는 엔트로피 부호화

  ㅇ 데이터의 통계적 발생 확률을 이용하여,
     - 사용이 빈번한 코드는 짧게하고, 사용이 드문 코드는 길게하여,
     - 전체 데이터량을 작게하는 압축 부호화 방식
     - 응용 例) 모스 부호 등

  ㅇ 정보의 통계적 중복성을 제거하는 압축 부호화 방식 임
     - 즉, 통계적 특성을 이용한 부호 길이 단축 방식

  ㅇ 또한, 무손실 압축 방식 이기도 함


2. 가변장 부호화 / 엔트로피 부호화의 종류

  ㅇ 호프만 부호화 및 산술 부호화
     - 사전에 심볼들의 통계(발생 확률)를 미리 구하여, 
     - 이에따라 부호책(Codebook)을 설계한 후,
     - 이를 이용하여 각 심볼을 부호화하는, 2단계 방식을 취함
     - 주로, 소스 데이터의 원래 지니고 있던 확률적 성질을 이용함

     * 호프만 부호화 : 심볼의 발생 확률에 따라, 
        . 빈도가 높을수록 짧은 부호어를 할당하는 방식
     * 산술 부호화 : 심볼열의 발생 확률을 이용하여,
        . 발생 확률이 높은 심볼열일수록 대체로 더 짧은 비트열로 표현하는 방식

  ㅇ LZW 부호화 (Dictionary-based)
     - 부호화를 해나가면서,
     - 새로 나타나는 심볼열을 (새로운 문자열 패턴을), 
     - 그때 마다 사전식으로 부호책에 기억시켜 (사전 색인으로),
     - 이를 다음 심볼의 부호화에 이용해가는 방식

     * 심볼의 발생 확률을 직접 이용하는 방식이 아니라, 
        . 반복되는 문자열 패턴을 사전에 등록하는 방식입


3. 가변장 부호화의 문제점 및 해결

  ㅇ 문제 : 부호어 길이가 가변적이므로,
     - 한 부호어의 끝과 그 다음의 시작 위치가 모호함

  ㅇ 해결 : 접두사 조건(Prefix Condition)
     - 어떤 부호어도 다른 부호어의 접두사가 되지 않아야 함
     - 이는, 즉시 복호가 가능한 가변장 부호를 구성하는 충분조건 임

  ※ 결국, 가변장 부호화가 가져야 할 필수 성질
     - 유일 디코딩 : 유일하게 디코딩되어 심볼이 결정되어야 함
     - 즉시 디코딩 : 들어오는 즉시 차례대로 복호가 가능해야 함

▷ 코드 용어
1. 코드 용어   2. (소스/코드) 알파벳   3. 코드 확장   4. 전치 코드   5. 동시 코드   6. 결정 트리   7. 크라프트 부등식   8. 코드 길이   9. 코드 북   10. 가변 길이 코드   11. 유효 부호어   12. 부호화율   13. 등가 부호  
▷ 소스 부호화 (기초)
1. 소스 부호화   2. 고정 길이 부호   3. 가변 길이 부호(엔트로피 부호화)   4. 호프만 부호   5. 산술 부호화   6. LZW 부호화   7. 연속 길이 부호화  
용어해설 종합 (단일 페이지 형태)

"본 웹사이트 내 모든 저작물은 원출처를 밝히는 한 자유롭게 사용(상업화포함) 가능합니다"
     [정보통신기술용어해설]