Paper Database & Bibliography
/
Image Translation Literature Search
/
GAN
/
catGAN: Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks
Search
Share
catGAN: Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks
•
[
PRML
]
Infomation Theory
[Part VIII. GAN] 4. CatGAN(Categorical GAN) - 라온피플 머신러닝 아카데미
ML Academy [Part VIII. GAN] 4.
Entropy 최대화와 최소화
발현 빈도가 높은 데이터는 더 짧은 bit 를 가지는 데이터로 표현하여 전체 전송량을 줄일 수 있게 된다.
•
결국 Non-Uniform 분포의 엔트로피가 Uniform 분포의 엔트로피보다 낮다는 것을 의미한다.
•
Entropy
H
=
E
[
l
e
n
g
t
h
]
=
H=\mathbb{E}[length]=
H
=
E
[
l
e
n
g
t
h
]
=
코드를 만드는 평균 길이 = 공을 튕기는 평균 횟수
