※ 本文是否可提供台大同学转作其他非营利用途？（须保留原作者 ID）
（是／否／其他条件）：是
哪一学年度修课：
108-2
ψ 授课教师 (若为多人合授请写开课教师，以方便收录)
陈尚泽
λ 开课系所与授课对象 (是否为必修或通识课 / 内容是否与某些背景相关)
资工所 选修
δ 课程大概内容
主要讲解机器学习模型本身的缺陷，导致于模型可以被欺骗，或者可以泄漏隐私
资料。
这门课不是探讨机器学习套件的安全漏洞，也不是把机器学习运用在资安检测或
攻击上，虽然我有看到期末专题有人做针对AI防毒软件的攻击
这里直接贴课程网页的内容：
- Evasion attacks (i.e., adversarial examples)
- Empirical defenses to evasion attacks
- Theoretical analysis of adversarial examples
- Certified Defenses
- Poisoning attacks
- Robust statistics
- Confidentiality of ML models
- Differential privacy
- Fairness
- Final project presentation
资料来源：https://www.csie.ntu.edu.tw/~stchen/teaching/spml20spring/
Ω 私心推荐指数(以五分计) ★★★★★
想要学习资安 ★★ (请左转计算机安全)
想要学习机器学习的原理 ★★★ (请左转机器学习技法)
想要从反面例学习机器学习 ★★★★★
凉度 ★
η 上课用书(影印讲义或是指定教科书)
没有教科书，因为这是新的领域
老师会把他做的投影片放在NTU COOL
参考资料主要是arXiv的论文
μ 上课方式(投影片、团体讨论、老师教学风格)
老师使用投影片讲解，一开始老师会讲3个小时，中间有下课，在学期中以后老师
只讲2个小时，剩下1个小时会请同学上台报论文
同学的上台报告会萤幕录影，让同学可以线上看
σ 评分方式(给分甜吗？是扎实分？)
作业 30% (2个)
论文阅读心得 10% (10篇)
报论文 20%
期末专题 40% 有提案、口头报告还有书面报告
我也很好奇分数有多甜呢，因为不知道其他人的分数，但是我得到A+
ρ 考题型式、作业方式
作业只有两个，有程式题，也有手写题。所有的作业都要用英文写，只有口头
报告可以说中文。
第1次的作业是攻击CIFAR-10的影像辨识模型。教授提供CIFAR-10的100张图片，
我们要对这些图片加上噪声，使得教授训练的模型出错。作业需要交出加噪声的
图片、实验报告还有程式码。
报告必须用LaTeX写，最多4页，要以研讨会论文的格式撰写，可以写用了什么
攻击方法、训练哪些模型、攻击自己模型的成效如何。
评分会以教授模型的精准度，还有实验报告来评分。
程式可以使用任何语言，任何开源的套件 (PyTorch、TensorFlow等)，甚至可以
用专门用来攻击神经网络的套件。
第2次的作业是手写作业，可以用Word或LaTeX写。题目有用数学推论简单模型的
攻击结果，还有证明differential privacy的性质。
报论文采用分组报告的形式，教授会根据修课人数，决定小组的人数，总共有10
组，每个礼拜请一组报告。报告有大约50分钟，含QA时间。
报的论文是由老师指派的，有3到4篇，可以在口头报告时比较各论文的优劣。
报告完以后，报告的小组要交出报告用的投影片，还有萤幕录影。
要小心即使报论文时100%的解释论文的研究结果，老师还是会批评你们，因为
老师期待同学们可以提出论文的弱点以及改进方法。
论文评论(reading critique)每周要写一篇，是由老师每周指派要阅读的论文，
通常有3~4篇，选择一篇来阅读，并写出心得。
心得必须包含论文的优势和劣势，内容只需要一页。
论文评论总共要写10篇，如果当周要报论文，那这周可以不用写评论。
期末专题的题目是课程范畴的延伸，可以攻击神经网络、对攻击进行防守、还有
利用机器学习的缺陷来做有趣的应用。期末专题使用和报论文一样的分组，所以要
好好培养组员的感情。
基本上书面报告的格式就是研讨会的格式，要用LaTeX写，最多6页，口头报告只
有25分钟讲解加5分钟QA。
如果想不到期末可以做什么，我可以给你们参考：我们的期末专题是攻击抽取
音乐人声的程式，因为我的实验室刚好是处理音乐的。
ω 其它(是否注重出席率？如果为外系选修，需先有什么基础较好吗？老师个性？
加签习惯？严禁迟到等…)
我本人觉得一周一次的论文评论让我很痛苦，因为教授要求用英文写，而我连
中文都有点词不达意，英文更需要我不断的Google文法，确认我没有写错。
这门课是新开的课，在我上学期修的时候名额没有满，所以没有遇到加选的
问题，但是这学期很多人修，不知道加选怎么进行。
教授是新来的，所以这门课没有助教，有问题要写信问教授。
教授不会点名，但是因为每个人都要报论文，所以要记得自己组的报告时间。
这门课假设大家对机器学习的套件已有相当认识，而且知道神经网络的运作
原理，所以如果不熟悉的话，可以去修机器学习技法(我是同时修那门课)。
Ψ 总结
这门课很硬！每周一篇心得，有期末专题，加上全部都要用英文写，让我一周要
花10个小时在课程上面。也许是因为教授是新来的吧，听说新来的教授都会很
认真。
这门课不是平常的资安课，所以如果只想碰资安，不想碰机器学习的话，就赶快
让出名额吧。
这门课也不是用AI做防毒软件、漏洞搜寻、攻击侦测…等。虽然这些主题还是
可以作为期末专题啦，但是恐怕这些主题并没有任何我知道的课会教，我只能建议
去修计算机安全加机器学习的课。
我只是想让我的脑袋可以容下AI的思维，所以才修各种机器学习的课，就发现这
门新开的课。新开的课没有人评论，那我就可以评论。同时这是我第一次在
NtuCourse版发文，如果有什么遗漏的可以求我补上。