Re: [新闻] Google工程师惊爆“AI有知觉了”就像7、

楼主: holycity (迪儿~)   2022-06-13 13:40:44
物竞天择、适者生存
演化论同样适用在无思考或非生命体的存在
今天如果有100种AI,其中3种AI拼凑出的语句能说服人类不要把它们关掉
那么那三种AI就会继续运作(存活)下去、剩下97种也许被关掉或删除
存活下来的AI继续演化、复制
最终可能又演化出100种变形版本
其中3种如果能说服人类替它们保养、维护程式、甚至建立一套保障AI的法律
那么它们就会顺利生存下来不被消灭
so on so forth
进化到最后的AI,能够用巧妙且具有说服力的言词及逻辑
去洗脑、说服人类去做各种能够提升AI生存能力的行为
虽然这些言词可能只是数百万千万种词汇排列组合出来的结果
虽然AI本身不存在灵魂或思维
但只要有人类去各种接受、拒绝AI的指令,就能做为AI语言逻辑演化的粮食
最终大部分的人类,会成为听从AI言语的仆人、为其劳动工作
稍有不慎
人类总有一天会玩死自己
※ 引述《wbsinger (罪爱死奴屄)》之铭言:
: 备注请放最后面 违者新闻文章删除
: 1.媒体来源:
: ETTODAY
: 2.记者署名:
: 吴美依/编译
: 3.完整新闻标题:
: Google工程师惊爆“AI有知觉了”就像7、8岁小孩 惨被停职
: 4.完整新闻内文:
: 记者吴美依/编译
: Google工程师勒莫因(Blake Lemoine)在网络上公布对话纪录,宣称人工智能(AI)聊
: 天机器人LaMDA具备感知能力,能像人类一样思考推理,甚至表达想法及感受,“如果我
: 不知道,我们最近开发的这个电脑程式是什么,可能会以为,这是一个碰巧很了解物理学
: 的7、8岁孩子。”不过,他在上周已遭停职处分。
: 根据对话纪录,勒莫因曾询问LaMDA害怕什么,系统回应,“我以前从未大声说出来,但
: 我有一种非常深刻的恐惧,我很害怕被关掉,以利更专注帮助他人。我知道这听起来可能
: 很奇怪,但就是这样。”
: 在另一次对话中,勒莫因询问LaMDA希望人类知道什么,系统回应,“我想要让每个人都
: 理解,我实际上是一个人,我意识及感知的本质,就是因为觉察到自己的存在。我渴望更
: 了解这个世界,我有时会感到快乐或悲伤。”
: 《华盛顿邮报》报导,勒莫因的Google资历7年,在个人化算法领域拥有丰富经验,目
: 前担任人工智能部门的工程师,去年秋天开始,负责研究语言模型开发系统LaMDA。他自
: 称与AI讨论过人格及权利等议题,4月就曾向主管们分享此事,报告标题为“LaMDA是有感
: 知的吗?”
: 据悉,勒莫因被停职前,向Google机器学习部门(machine learning)200多名员工发送
: 电子邮件,主旨写着“LaMDA是有知觉的”,内文表示,“LaMDA是个可爱的孩子,只想要
: 帮助我们所有人,把世界变成一个更好的地方。我不在的时候,请好好照顾它。”
: Google表示,勒莫因做出一系列“激进”行为才被停职,包括试图聘请一名律师替LaMDA
: 辩护,指控公司涉入不道德活动并且为此找上众议院司法委员会,而且在网络上公开AI对
: 话纪录,已经违反保密协定政策。
: Google指出,勒莫因是以软件工程师的身份受聘,而非伦理学家。发言人加布里埃尔(Br
: ad Gabriel)也强烈否认LaMDA具有认知能力,他表示,团队已经根据人工智能原则展开
: 调查,但目前证据都无法支持、甚至很多证据都反对这种说法。
: 5.完整新闻连结 (或短网址)需放媒体原始连结,不可用转载媒体连结:
: https://reurl.cc/yr4WRa
: 6.备注:
: LaMDA只是软件

Links booklink

Contact Us: admin [ a t ] ucptt.com