原文标题：白宫：辉达、IBM和Salesforce同意AI自律协议
原文连结：https://reurl.cc/2ErZRa
发布时间：2023/09/12 18:50
记者署名：钜亨网编译张祖仁
原文内容：
美国白宫周二 (12 日) 宣布，包括辉达 (NVDA-US)、IBM (IBM-US) 和 Salesforce
(CRM-US) 在内的多家公司，将自愿加入拜登政府限制人工智能 (AI) 风险的规定。
这些承诺分为三类，包括在向公众推出 AI 产品之前确保其安全、将安全放在首位，以及
赢得公众对该技术的信任。
Adobe (ADBE-US)、Coherent (COHR-US)、Palantir (PLTR-US)、Scale ai 、Stability
是签署该协议的 8 家公司之一。亚马逊 (AMZN-US)、Anthropic 、谷歌（GOOGL-US)、In
flection、Meta (META-US)、微软 (MSFT-US)和OpenAI 自也都愿加入政府的计画。
白宫发表声明表示：“这些承诺是政府行动的重要桥梁，也是拜登与贺锦丽政府兑现 AI
承诺和管理风险的综合方法之一。”“政府正在制订一项行政命令，并将继续寻求两党立
法，以帮助美国在负责任的 AI 开发方面发挥引领作用。”
根据协议条款，两家公司将允许在发表 AI 系统之前对其进行内部和外部安全测试，包括
其技术如何影响社会、生物安全和网络安全，并承诺分享安全最佳实践。
这些公司还表示，将投资于网络安全和其他保障措施，以防止未发布的模型权重泄露和遭
到骇客攻击。它们还允许第三方报告其自己系统中潜在的安全漏洞。
在公共信任方面，这些公司将确保用户能够经由浮水印系统等技术了解 AI 何时生成内容
。谷歌于 8 月发表其自有的浮水印技术，称为 SynthID，该技术将标记直接嵌入到由
Imagen 文本到图像生成器创建的图像中。
这些科技公司进一步表示，将研究 AI 的潜在社会风险，并努力解决从气候变化到癌症研
究等问题。
得益于 OpenAI，AI 产业迅速普及。该公司于 2022 年 11 月发布了由 AI 驱动的生成
型 ChatGPT 机器人。微软在 OpenAI 上投资了数十亿美元，并于 2 月发表其自家 Bing
聊天机器人和 Edge 浏览器。谷歌母公司 Alphabet 也发表了 Bard 机器人版本，并正在
开发使用生成式 AI 的搜索引擎实验版本。
但该技术的发展和创新步伐也引发人们的担忧，即 AI 可能被用来做各种事情，从传播虚
假讯息到抢走各行业劳工的工作岗位。
皮尤研究中心进行的一项民意调查显示，52% 的受访美国人表示，他们对 AI 在日常生活
中的使用更加担心，而不是兴奋。
心得/评论：
虽然大部分科技巨头都加入AI自律协议，但还是无法完全防堵因AI造成的道德风险
就像签署武器禁运相关协议，一样会有违反规范的武器流出及使用