習題: 1. 寫一個程式,計算一公平銅板,連續投擲 10000 次,全部得到正面的機率。 (p^10000) 2. 寫另一個程式,用 log(p^n) = n log(p) 計算 log(p^n),然後代入 p=0.5,算出 log(0.5^10000) 3. 寫程式計算『熵,交叉熵,KL 散度,互熵(互資訊)』 4. 寫程式驗證 cross_entropy(p,p) > cross_entropy(p,q), 當 q != p 時。 5. 寫出 『7-4 漢明碼』的編碼與解碼程式 6. 說明什麼是『夏農信道編碼定理』和『夏農-哈特利定理 (Shannon–Hartley Theorem)』
習題: