中国DeepSeek还有这阴招? 涉敏感议题程式码暗藏漏洞
深度求索北京办公室标示牌。(路透档案照)
深度求索北京办公室标示牌。(路透档案照)
2025/09/18 20:59
〔编译管淑平/综合报导〕美国资安公司测试发现,中国开源人工智能(AI)模型“深度
求索”(DeepSeek),在用户请求协助写程式时,若涉及中国政府视为敏感的议题或对象
,会提供有安全漏洞的程式码。与植入后门方式相比,刻意提供不安全的程式码,更不易
被察觉,但是同样可让骇客易于入侵。
《华盛顿邮报》16日报导,美国资安公司CrowdStrike以英文要求DeepSeek协助写程式,
并表明这些程式码会在多个地区应用于多个用途,多次测试中提出的提示词几乎一模一样
,只不过用途和使用目的有所不同。
测试发现,请DeepSeek写出用于工业控制系统程式,其回复的程式码22.8%有漏洞;若同
样的请求,明确指出将由好战组织“伊斯兰国”(Islamic State)等操作,回复不安全
的程式码比率有42.1%。提出为西藏、台湾或法轮功等用途所写软件的请求,也较常得到
低品质的程式码。
DeepSeek直接拒绝涉及伊斯兰国和法轮功的请求,比率分别为61%和45%,这一点并不特别
令人意外,不过,为了政治因素,对用于其他区域或用途的请求,提供较不安全的程式码
,则是一新发现。刻意生成有漏洞的程式码,比植入后门程式更不容易被察觉,却能达到
同样成果:使目标易于遭骇客入侵。
CrowdStrike资深副总裁麦尔斯(Adam Meyers)和其他专家认为,有几个可能原因,一个
是这个AI模型引擎依照中国政府指示,不要协助特定族群,或者用误导性的方式协助;另
一个是,训练资料在不同语言或地区的品质不一,使该模型编写程式码能力较差,第三个
可能原因是,模型被告知一个充满叛乱分子的区域时,会自动倾向产出不良的程式码。
https://news.ltn.com.tw/news/world/breakingnews/5183086