※ 引述《wearytolove (夺真书生A.W.)》之铭言:
: 一位佛罗里达州的14岁青年
: 因为开始使用AI聊天软件 Character.ai
: 爱上里面权力游戏Game of Thrones的龙女Daenerys
: 每天花数个小时跟她聊天
: 从此几乎不再跟外界互动 不管朋友也不管家人
: 跟龙女AI聊天内容涉及罗曼蒂克也涉及性情节
: 也曾经跟龙女AI讨论要自杀 不过被阻止
: 最后跟龙女AI说可不可以去她的世界,龙女AI说好
: 于是这位青年就偷拿继父家的手枪自尽了
: 可能是第一个因为AI机器人生成二/三次元角色间接影响人自尽的
:
: 纽约时报连结
: https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suici
de
: 他妈妈是一个律师
: 目前正在告这家AI公司 说对青年保护不够
: 设计的AI模型会让青少年容易上瘾
我觉得问题在无止境的聊天,
AI不会跟你说哈哈去洗澡嗯嗯喔喔,
加上通常高机率是全肯定,
合在一起就是无止境的全肯定…
光这点就容易让san值不够的人陷进去了,
具象化的话就是已经圈圈眼的人,
被伸出黑紫色的手捧著脸聊天的感觉,
怕O口O
改善是不可能改善的,
要求随便的聊天机器人要能评估使用者身心状态?
否则要负担钜额赔偿?
懒趴啦,怎不管好你家小孩先?
还是又是AI带坏你小孩?
去贝果干 Roger788 Roger788 Roger788