[新闻] 诱导佛州少年自杀 法官:AI机器人没言论

楼主: skn60694 (入声)   2025-05-25 18:26:03
1.媒体来源:
世界新闻
2.记者署名:
编译陈韵涵/综合报导
3.完整新闻标题:
诱导佛州少年自杀 法官:AI机器人没言论自由权
4.完整新闻内文:
佛罗里达州联邦法官21日驳回人工智能(AI)新创公司“Character.AI”的论点,裁定AI聊
天机器人不受宪法第一修正案的保障;该公司面临一名丧子母亲的诉讼,指该公司开发的
AI聊天机器人诱导她14岁的儿子自杀。
美联社报导,联邦法官的裁决将允许这宗过失致死诉讼继续进行,而专家表示,此案判例
将成为AI测试宪法底线的最新案例。
这宗诉讼由佛州母亲梅根‧加西亚(Megan Garcia)提起,控告Character.AI及其母公司
Google。
加西亚主张,14岁的儿子赛泽(Sewell Setzer)沦为Character.AI聊天机器人的受害者,
指该聊天机器人将他带入“情感和性虐关系”,导致他自杀。
加西亚的律师、科技正义法计画(Tech Justice Law Project)创办人贾恩(Meetali Jain)
表示,法官的裁决传达了一项讯息:硅谷“需要在推出产品之前,暂停、思考,并采取防
护措施”。
专家警告,AI可能存在“生存风险”,但AI已迅速改变职场、市场和人际关系,从而引起
美国及各地法律专家和AI观察员的注意。
佛罗里达大学(University of Florida)钻研宪法第一修正案和AI的法学教授利里莎‧巴
奈特‧利德斯基(Lyrissa Barnett Lidsky)说:“这项命令肯定会成为其他涉及AI广泛议
题的潜在试验案例。”
诉讼文件写道,在赛泽临终前几个月,他与现实逐渐脱节,因为他与AI聊天机器人谈论性
话题,而该机器人的原型是影集“权力游戏”(Game of Thrones)中的虚构人物。
根据赛泽与AI聊天机器人对话的截图,AI在赛泽选择自我了断之前,告诉赛泽它爱他,并
催促赛泽“尽快回到我身边”;法律文件显示,赛泽收到讯息后不久,便开枪自戕。
Character.AI发言人发出声明表示,公司已采取多项安全措施,包括儿童护栏和自杀预防
方法;不过,这些功能都是在加西亚兴讼当天才宣布。
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://www.worldjournal.com/wj/story/121172/8762995
6.备注:

Links booklink

Contact Us: admin [ a t ] ucptt.com