آنتروپی
entropy
information entropy
آنتروپی اطلاعات
Shannon theorems
قضایای شانن
مفهوم آنتروپی را به مقدار ارسال و دریافت موثر اطلاعات پیوند می دهند.
نظریه کدگذاری
coding theory
قضایای کدگذاری کانال
Shannon theory
نظریه شانن