标题:防止人工智能失控 顶尖科学家开发监控软件
新闻来源: (发文须填写新闻网站名称与连结，供板友分辨)
中央社
https://tinyurl.com/28wrmj6t
（中央社纽约3日综合外电报导）忧心生成式人工智能（generative AI）快速普及，人工
智慧先驱研究者、加拿大电脑科学教授班吉欧（Yoshua Bengio）正在开发软件，以监控
这项日益取代人类工作的技术。
法新社报导，班吉欧被认为是人工智能革命的教父之一，他今天宣布成立非营利组织
LawZero，目标为降低人工智能的固有风险。
班吉欧是有电脑界诺贝尔奖之称的图灵奖（Turing Award）得主，多年来一直警告有关人
工智慧的风险，无论是被恶意使用，还是软件本身出现问题。
随着所谓的人工智能代理（AI agent）的发展，风险正在增加。这种技术让电脑做出过去
曾经由人类工人做出的决策。
人工智能代理的目标是建立虚拟员工，以极低成本完成人类几乎能够做到的任何工作。
班吉欧说：“目前，人工智能的开发是为了实现利润最大化。”他还说，即使人工智能持
续出现缺陷，它也仍被广泛应用。
另外，对班吉欧来说，赋予人工智能类似于人类的自主性很容易被用于恶意目的，例如散
播假消息、生物武器和网络攻击。
他说：“如果我们控制不了自作主张的超智慧人工智能，它们可能会给人类造成极大伤害
。”
LawZero表示，组织首要任务之一是开发“科学家人工智能”（Scientist AI），这是一
种经过专门训练的人工智能形式，可以用作安全防护，确保其他人工智能的行为是正确的
。
LawZero目前有超过15名研究人员，并获得谷歌公司（Google）前执行长施密特（Eric
Schmidt）和他的妻子温蒂（Wendy Schmidt）创立的慈善机构施密特科学（Schmidt
Sciences）的资助。（译者：林沂锋/核稿：杨昭彦）1140604