可解释和可信任AI已经提了很多年
各大AI论坛都会拿这个当主题
ChatGPT后 这特性又重新被重视
2023年主流的AI 几乎都是以DL为核心
DL的特性就是没人知道中间到底发生什么事
针对因果关系 还有Granger causality test可以验证
(虽然限制也不少就是)
但是可解释性 通常就是作文比赛
反正就是想办法解释 只要能说服人就算成功
是人文问题 不是科学问题
至于可信任 就更玄了
Deep Learning 本身就很难
(一个99%准确的model 可能改个pixel就将总统辨识成狗)
更不用说很多都是随机结果的stochastic model
可重复性不是Deep Learning的强项
比较常见就是人为去修改输出
例如影像辨识避开黑猩猩 就不会出现非裔同胞被辨识成其他灵长类动物
或是拒绝回答一些政治不正确的问题
但这只是头痛医头的作法 无法有系统地执行
可解释和可信任AI是假议题吗???