1.媒体来源:
三立新闻网
2.记者署名:
李鸿典
3.完整新闻标题:
AI技术引发诈欺事件　身份验证系统面临挑战
4.完整新闻内文:
https://i.imgur.com/xVCjM5x.jpg
▲微软与 OpenAI 及MITRE 合作，透过 AI 的威胁侦测、行为分析、机器学习模型、零信
任原则以及加强验证，保护自身免受这类网络威胁攻击侵害。（图／台湾微软提供）
资安领域，人工智能（AI） 正引领一场巨大变革，AI 可协助企业组织以高速击败网络攻
击、解决资安人才短缺问题，并推动资安的创新和效率；攻击威胁者也可利用 AI 提升攻
击效率及范围。微软发布第六期《Cyber Signals》研究报告，揭示攻击威胁者如何运用
AI 提升攻击效率并进行身份欺诈，以及微软与OpenAI及MITRE 合作，透过 AI 的威胁侦
测、行为分析、机器学习模型、零信任原则以及加强验证，保护自身免受这类网络威胁攻
击侵害。
微软与 OpenAI 及MITRE 合作 揭示国家型攻击威胁行为的手法与路径
为确保安全、负责任地使用 ChatGPT 等 AI 技术，应坚持道德应用的最高标准，以保护
社群免受潜在的AI滥用。微软与 OpenAI 合作，揭露有关追踪国家型攻击者的手法与路径
，包括来自：俄罗斯的Forest Blizzard、北韩的Emerald Sleet、伊朗的Crimson
Sandstorm、以及中国的Charcoal Typhoon 和 Salmon Typhoon。这些攻击者试图使用大
型语言模型（LLMs）来增强其正在进行的网络攻击行动。这项重要的研究揭示微软观察到
这些攻击者在 AI 方面采取的早期行动，并记录微软如何阻止他们的活动，以保护 AI 平
台和用户。
微软亦公布指导及采取行动的原则，以减轻因为国家型持久攻击威胁者、持久操纵者和使
用 AI 平台和 API 的网络犯罪集团带来的风险。这些原则包括：识别和对恶意威胁行为
者的行动、通知其他AI服务供应商的使用、与其他利害关系者合作以及提升透明度。
此外，微软与 MITRE 合作，将这些 LLMs 主题的战术、技术和程序（TTPs）整合到
MITRE ATT&CK 框架或 MITRE ATLAS（人工智能系统对抗性威胁情境）知识库中，以帮助
更广泛的资安社群了解和侦测大型语言模型 LLMs 在攻击活动中的新蓝图。
AI 技术引发诈欺事件 身份验证系统面临挑战
AI 引发的诈欺事件也是另一重要议题；语音合成技术的滥用就是一个例子，三秒的语音
样本可以训练模型使其听起来像任何人。必须了解恶意行为者如何利用 AI 破坏长期存在
的身份验证系统，以便应对复杂的诈欺案件和其他掩盖身份的新兴威胁。
然而，AI 可以用来帮助公司阻止诈欺企图。举例来说，微软过去停止了与巴西一家公司
的合作，但微软的 AI 系统侦测到该公司仍试图改变身份以重新进入微软的生态系统，微
软的 AI 侦测便使用了十几个风险讯号来标记诈欺公司，并将其与先前识别的可疑行为联
结起来，从而阻止其非法尝试。
https://i.imgur.com/E9bveLG.jpg
▲微软发布第六期《Cyber Signals》研究报告，揭示攻击威胁者如何运用 AI 提升攻击
效率并进行身份诈欺。（图／台湾微软提供）
微软也建议企业组织加强员工网络风险教育：
1. 采用条件式存取原则，以强化组织安全态势。
2. 进行社交工程 (Social Engineering) 教育训练，以识别威胁并即时做出反应。
3. 严格保护资料的机密和可控性。
4. 利用生成式 AI 资安工具，如 Microsoft Copilot for Security。
5. 启用多重身份验证。
因应网络攻击者利用 AI 提高攻击效率 微软提四大应对建议
网络犯罪分子和国家支持的攻击行为者正在寻求利用 AI（包括LLMs）来提高攻击的速度
及范围，并利用可以进一步实现其目标和攻击及技术的平台。尽管攻击威胁行为者的动机
和复杂程度各有不同，但在布署攻击时，他们的共同任务包括侦察、编码和协助学习及使
用人类和机器语言。微软采用了多种方法来保护自身免受这类网络攻击威胁的侵害，包括
人工智能的威胁侦测、行为分析、机器学习模型、零信任原则以及加强验证等。
针对企业组织，微软也提出四大建议应对网络威胁：
1. 限制 AI 存取的范围并持续评估应用的合适与合规性。
2. 防范指令提示造成的风险：企业应实施严格的输入验证和清理，以降低指令产生
的风险。
3. 要求整个 AI 供应链保持透明度：企业应评估 AI 可与组织数据接触的所有领域，
包括透过第三方合作伙伴和供应商，并透过零信任和数据治理计划来降低风险。
4. 明确与员工沟通企业的 AI 使用和风险政策。
此外，生成式 AI 可以高速帮助资安防御者保护其组织，AI 在资讯安全的作用是推动多
面向的创新并提高防御效率，从强化攻击威胁的侦测到简化资安事件回应，AI 的能力正
在重塑资安。LLMs 在资安的应用证明了 AI 的潜力，这些模型可以分析大量数据，揭示
网络攻击威胁的模式和趋势，为攻击威胁情报提供有价值的背景资讯。使用 Microsoft
Copilot for Security 的用户在所有任务上的准确性提高了 44%、速度提升了 26%，皆
突显了将 AI 整合到资安防御中的重要性与效益。
AI赋予我们适应并防御不断变化的威胁，能够即时侦测异常、快速回应以阻绝风险，并根
据组织的需求量身定制防御策略。此外，AI 还有助于解决全球 400 万名资安专业人才的
缺口，并帮助防御者提高防御的速度与效率。
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://www.setn.com/News.aspx?NewsID=1428990
6.备注: