[新闻] 中国聊天机器人上线 敏感话题终止回答

楼主: sakaba (早起的鸟儿)   2023-09-03 12:22:54
中国聊天机器人上线 敏感话题终止回答
https://www.youtube.com/watch?v=8tRHqTL8a_c
【新唐人2023年09月02日讯】8月31日,中国8款人工智能聊天机器人应用程式正式上线。
但外界发现,在向这些机器人提出政治敏感话题时,聊天就会被迫中止。
8月31日起,中国11家通过中共网信办7月公告的《生成式人工智能服务管理暂行办法》备
案的大模型机器人产品陆续上线,并面向全社会开放。
北京5家大模型机器人产品分别是百度的“文心一言”、抖音的“云雀”、百川智能的“
百川大模型”、清华系AI公司智谱华章旗下的“智谱清言”和中科院的“紫东太初大模型
”。
上海3家大模型机器人产品包括商汤的“商量SenseChat”、MiniMax的“ABAB大模型”、
上海人工智能实验室的“书生通用大模型”。
多家陆媒报导称,华为、腾讯,科大讯飞、360等科技公司的类似产品之后也将陆续开放

台湾两岸政策协会研究员、政治学博士吴瑟致:“中国它所做出来的这些东西,透过AI能
够强化它数位控制的一个能力,然后透过这些方式来去符合它的统治上的需求。它所建立
的系统绝对会跟民主国家,或是民主社会所建立的AI系统是有很大的差距的。”
当天晚上,聊天机器人“文心一言”APP在苹果和安卓应用商店率先上线,用户可以通过
对话生成文字和图片。
但德国之声在试用时发现,在与其对话时,如果输入“维吾尔族”“中国青年失业率”等
敏感话题时,系统就会终止对话。
澳大利亚华裔学者张小刚:“就是说这个专制政权有这种能力,集中人力、物力去做一件
事情,看上去很有效率。但是因为它要防这个、防那个,怕民众有这个想法、有那个想法
,然后东西出来以后,又怕人们运用的时候能够又反过来去对付它,所以它就会有很多的
限制,很多的框框条条,所以最终的结果是效率很低。”
台湾两岸政策协会研究员、政治学博士吴瑟致指出,中共是在透过新的AI技术加强社会管
控。
吴瑟致:“另外一个层面就是说,中共也希望透过AI系统来树立它的一个标准化。那么它
希望透过自己的AI研发技术,或是说AI研发的成果来建立一套全球的标准化的一个作业。
如果是这样子的话,其实这个就会影响到全球秩序的运作。”
今年3月,百度“文心一言”曾被外界批评是技术不成熟的产品,尤其是AI生成的绘图功
能闹出了不少笑话。
旅美政经分析人士秦鹏:“有一些人怀疑,百度‘文心一言’的算法或图库背后,是不是
有美国的啊?因为在一些图片生成上,露出了一些马脚,比如你让它画‘一只爱国的猫’
,出现的是头顶美国国旗的猫咪。所以,小度,你到底爱的谁的国呢?”
张小刚:“我当时也有这么一个疑问,‘文心一言’它这么快发展出来,它是不是完全是
自己的东西?而它只是做了一个接口,中间用真正的ChartGPT去做它后面真正的这个运算
、回答的东西,然后通过这个‘文心一言’来表现出来,那么从中它可以去过滤掉一些它
不喜欢的东西。”
当时有网友怀疑,“文心一言”和汉芯、鸿蒙一样,有套壳、画皮、造假的嫌疑。
张小刚:“类似这种事情以前是发生过的。因为国内的商业的这种环境,它确实是有一种
不管知识产权,所以很多人就说百度就是山寨的谷歌,还有什么东西去山寨国外的东西,
这个现象已经很多了,所以大家有这种猜想。”
百度方面的回应则坚称,“文心一言”完全是百度自己研发的大语言模型。
张小刚:“这个虽然开放了,但是更多的我们看到它是靠这种偷啊,或者用别人的这个技
术,对知识产权的侵犯,来获得的这个进步。而真正的能够有原创的还是相当少,而且还
是非常有限制。”
吴瑟致则提醒说,AI系统的可塑性非常高,国际社会应该警惕中共发展AI等高科技技术带
来的全球影响力。
编辑/孟心琪 采访/常春 后制/钟元
https://www.ntdtv.com/b5/2023/09/01/a103777552.html

Links booklink

Contact Us: admin [ a t ] ucptt.com