美国总统签署行政命令推动人工智能安全与道德规范
https://bit.ly/49igA66
随着新兴的生成式人工智能技术如ChatGPT的快速发展，人工智能的安全与道德问题引发
全球讨论。拜登政府日前签署行政命令，寻求建立人工智能新的安全与道德标准。
该命令要求开发基础人工智能模型的企业，在部署到公众前必须通知联邦政府并分享所有
安全测试结果。命令尤其关注可能对国安、经济安全或公共卫生造成风险的基础模型。具
体而言，该命令要求开发具有“最强大人工智能系统”的公司必须向政府分享安全性测试
数据。
命令中提到将建立新标准，包括对模型进行广泛的安全测试。同时，也将推动发展工具以
确保人工智能系统的安全与可信赖性。此外，命令还提到需要保护公民隐私，并避免人工
智慧加剧就业、医疗和司法领域的歧视与偏见。
总统行政命令的多项行动和措施：
1. 人工智能安全测试的新标准：美国国家标准研究院（NIST）将制定新的测试标准，强大的
人工智能模型开发人员必须在公开发布之前与政府分享他们的安全测试结果和其他重要数
据。
2. 新的人工智能安全标准：国家安全委员会和白宫办公厅主任奉命制定一份国家安全备忘录
，指导人工智能和安全的进一步行动。
3. 保护隐私：建立保障措施，以保护其资料用于大规模模型训练的个人。
4. 人工智能产生的内容：美国商务部计画制定内容认证和浮水印指令，确保能清楚辨识人工
智慧产生的内容。
5. 防止危险生物材料：制定强而有力的标准，以防止人工智能工程合成有害生物物质。
6. 人工智能和工作的未来：制定原则和最佳实践，以尽量减少人工智能主导的自动化对劳动
力的负面影响。
由于人工智能保障措施在美国国会仍处于早期阶段讨论，且世界各国已竞相制定自己的指
导方针，该命令突显了拜登政府回应社会的期望，也呼吁国会通过相关立法。该命令的规
范对于人工智能投入的科技领先企业会有什么样的影响，仍有待观察。