※ 本文是否可提供台大同学转作其他非营利用途？（须保留原作者 ID）
（是／否／其他条件）：是
哪一学年度修课：104-1
ψ 授课教师 (若为多人合授请写开课教师，以方便收录)
王奕翔
λ 开课系所与授课对象 (是否为必修或通识课 / 内容是否与某些背景相关)
电信所、电机系选修
δ 课程大概内容
详情参照老师的课程网页:
http://homepage.ntu.edu.tw/~ihwang/Teaching/Fa15/IT.html
先从如何定义一个机率分布的乱度开始，说明:
information reduces uncertainty
再切入通讯最核心的Source Coding、Channel Coding的证明:
Source Coding 的 minimum compression ratio = entropy of the source
Channel Coding 的 maximum transmission rate= capacity of the channel
接下来讨论容许一定范围的distortion之下，Source Coding将如何变化
(若能容许越大的distortion，则compression ratio可以变得越小)
最后将主题岔开至Statistics，
说明Large Deviation Theory的基本概念
(rare event的机率会随sample数增加而exponentially decay)
还有Hypothesis testing
(error probability 会随sample数增加而exponentially decay)
期末时介绍special topics，
一种真的能达到channel capacity的coding: polar code
另外为了证明这些理论，也会学一些数学工具，
例如stationary random process
typical set(high probability set for soruce coding)，
convex optimization