跟朋友聊到心灵判官，
故事里面有个叫希比拉的黑箱系统
不只可以防范犯罪的发生
还可以让大部份人心甘情愿地把自己的人生交给它安排。
当年看到这个设定本来觉得太夸张离奇了
但几年后看到AI发展起来，能作到的事越来越多。
如果之后法官判案或律师辩护时开始参考AI意见
乃至干脆跳过人类的判断，直接由AI判案
现实世界的大家能够接受吗?

这老问题了 你在问的其实就是 skynet

请参考PSYCHO-PASS其实还是由人脑判断

当权者会放弃审判权交给AI 想想 再想想

谁要为AI的判断负责

司法是个好工具，当然要握在手中

如果AI由当权者掌控就没问题了阿表面上民主AI 实际还是由执政者掌握

AI的信服力不够啊 如果要靠掌权者授权撑腰又会被批评是上位者的工具

听起来跟现在没啥区别

想太多，最难处理的永远不是事，而是人；法律判决就是处理人的问题

那就要看那AI有多强了 只是这类文章讲的AI其实都是skynet

我在不少反乌托邦作品里看过类似的情节

至少ai不会双标

AI判人死刑 然后告诉犯人这是数据的结果 你觉得犯人会觉得这个AI完全公正吗？

billy791122: 至少ai不会双标 <--- 嗯 这我觉得就是你对LLM可能有比较多的假设了

骰子也不会双标，还是我们直接1D20

没办法双标的判决其实很危险喔 因为法律还是有量刑问题

AI要公正那背后就不能有人 背后不能有人 那AI的背后是什么？一堆数据和计算吗？那为什么用数据和计算可以判断一个人有多好有多坏？

的那种，除非你完全没有版本更新，不然一样可能会有你看起来像双标的判定

目前的AI真的不会双标吗 更何况它们还不是真正的AI吧

反之 如果被害者觉得AI判轻 然后AI告诉被害者 基于犯人的精神状况或某些原因 依照过去的数据 应该从轻量刑 那被害者会觉得AI公正吗？就算AI完全公正 在人看来却不一定公正 公正这概念本来就是人定的 AI再怎么公平都没办法让所有人觉得公正

AI这种到现在还在研究它到底会宫啥小的 有人敢靠它吗

要到这篇的程度，就是必须要到“人类已经完全相信这个系

ChatGPT律师 vs Grok检察官

统的公正性、不会去质疑他任何结果”就好比文章中的西比拉这系统，他说是什么就是什么

当然以台湾现在来说 用AI应该比靠法官来的可信

AI书记官搞不好有机会

(′・ω・`) 说得好像人类法官就很公正似的…

现阶段也没人能理解法官到底会说出什么疯话

你住哪里就会觉得当地法官没啥可信度啦

你确定系统不会被人为操纵吗

不可能所有人都认同法律判决的 久而久之就会产生不信任

如果突然某次ai升版 判决改变怎么办

现在的世界还是只能让人类管理人类

QED有一集剧情就是在演这个

而且以前在大家觉得这不公平的时候 会要求修改法律那如果换成AI来审判 那我们能不能有说AI判的有问题 应该修改法律的情况发生？如果有 那这AI就不够公平 如果没有 那AI就只是不能与时俱进的计算机

@chocoball 使用这种AI判官系统的基本就是所有人都不可以

因为管理要究责，ai出包你没办法究责

台湾不是有无上大法官吗 有问题就交给大法官就好

只要有人类的6成满意度就够了 月费够便宜就OK便宜治百病然后有钱人可以课金增加胜率 很公平

6成满意度 那如果有6成觉得另外4成该死 那是不是那4成就该死

不可能,因为这样掌权者就无法操弄司法了

美国不是才有关税用AI帮算的你们就继续支持这种民智未开的东西==

不过这样的确看出来 有一点不可能 因为律师比较高贵又不是什么底层 怎么可能取代

律师跟AI工具一点都不冲突就是了

如果过半数人同意就能定夺一个人是死是活 那这情况叫多数暴力 而且还不能排除集体失智的情况

马上出现示范 质疑掌权者操弄司法的了阿如果掌权者选择用AI 你是不是一样会怀疑

或者可以想像一个稍微更接近的：什么情况下，大家会同意由同一个系统来决定你有没有罪 而且你没得解释的？

因为课本也会印错，所以我决定100%相信AI给的知识

我认真觉得还满难的就是了

短时间不会，现在的AI没有自我的判断基准

你要一个有“自我判断基准”的AI也不难啊只是那基准不见得是你喜欢的而以

问题是法律本来就是人定的规则

现在的问题就是你说的这个基准可以被忽悠过去

基准甚至可以明确地跟你说：就是算出来的数值超过某门槛

也就是说 在法律上 AI所基于的原则是人定的

甚至连怎么算出这数值 都可以公开在你眼前 让你验证

法律可以被计算出来其实是件很恐怖的事

老话一句“Ai审判众人，谁来审判Ai？”

现在的AI没有自己的判断能力

一个AI说要暂时牺牲集体利益 否则未来会过得很惨那人民是会暴动的

然后就会发现杀1~2个人还真的不会被判死

人民因此会暴动那就是AI不能取代法官啊

你们要知道现在AI最大的功能就是推卸责任图是AI生的，是抄袭也别来找我

你看心灵判官里面 就算一大堆人数值超标，一般民众是会觉得“矮额 他们有问题”另一个问题就是 ShiinaKizuki 提到的，这AI能改版吗？能改版的话，如果做出的决定跟以前不一样 会不会又有人觉得这AI标准有问题了

我们来做个假设 如果在一战过后由AI来管理威玛共和然后AI算出还款的政策 要求暂时加重人民的纳税 那当时觉得我们没有输的德国人是会乖乖缴税还是选一个小胡子把AI干飞

就算不会改版也是会被怀疑啊 这判决是不是挂名AI其实是上位者搞的

然后国与国的冲突要怎么算？一个AI跳出来说某国错有罪 那被判有罪的那国会乖乖听话吗？

@aaronhkg 你讲的那个比较是第一步的信任问题

想太多 法治的终点还是人治

国与国之间有国际法 你让AI根据国际法来仲裁看看没人会听的

我认为可行而且很快，AI的逻辑推理是真的够好，会担心过程是否公正的话大可以要求它一一提出合理的理由来说明，只是AI目前还是容易假造资料，要限定它的资料必须完全来自于固定范围的证据、喂给它限定的法律条文和判例

你把国家的单位换成都市 再换成家庭 最后换成当事者 结果也是一样 在那当下的人不一定会信服这个AI的判准首先 合理的说明是什么 有精神病是不是合理的说明

现在还不行

就你觉得那理由合理我不一定觉得合理

那些作品的假设都是 机器人三原则能正常运行...

最终的解释权还是在于人 得要有人来说AI给的理由很

是啊我的意思就是人性在第一步就会起疑了 哪有差

很好啊，你看看现在那些法官有公正吗？

你觉得现在的法官不公正 那AI也不会公正

哈 所以我才说很多人心中想的就是skynet 而不是现代AI

因为你觉得法官不公正代表你觉得有更公正的判决

那就算换成AI来判 并且判出你觉得更公正的结果 那还是会有反方的人觉得那不公正 至少原先给出判决的法官和接受这判决的人会觉得不公正

目前AI解释法条和引用法条似乎问题不少，我的话不可能相信AI吐出来的结果（因此，律师还是有得生存）

你在未来也绝对会成为那个觉得AI的判决不公正地那方

Ai连很客观的答案都常常出错，你说呢？

判决是要追求公正没错 但判决的目的不只有给出公正的结果它还安抚某些人的情绪和满足某些道德观 而那些东西不管怎么搞都会有人跳脚AI判决要成立就是你不能因为情绪而不满 还要抛弃所有道德观 完全服从AI给出的规则和判罚 就算你觉得那不合乎道德就现在来说 要让大家接受某些特殊条件可以减刑都很难了 何况是完全遵守AI给出的规则

我们再来想一下一个有趣的假设 如果现在AI强大到能给出公平的判决 且某位医生可能被判无罪或有罪 那在判下无罪或有罪时 大家可能都接受这个AI的判断吗？我来想一下会有什么结果 被告说谎 欺骗AI 或 检调给出假的证据 栽赃好人

@ShiinaKizuki 你那个问题可能要定义一下什么是"公平"不然我觉得 “大家都接受”是"公平"这概念的必要条件XD

答案就是没办法因为公平的定义每个人都不同

或者可能宽松一点“变成大部人人都能接受”

如果说有AI判案就Gta那个PC次世代版本就是了 一堆开过的不给玩

那少部分人的公平就不是公平吗？

某些人别再期待有个救世主或ai能给你公正无私的方向指引了 你们只会被骗而已

不收贿不恐龙法官 & 不会偏坦辩护人不包疪的律师..谁要

而且如果只是数人头 那还用得着AI?我来都行

犯罪系数要上线了吗

何况法律本来就会给出大部分的人无法接受的结果

现在ai真的超强 deepsearch

有犯罪系数这种东西说不定真能AI来判如果犯罪系数完全没有作假或操作的可能性的话结果心灵判官的人每个都在这上面动手脚 笑死

除非AI可以扛责任不然别想了 即时机器的决策比人准但是不准的时候还是必须要有人背锅的

律师使用AI已经有案例了，不过还在辅助阶段而已

还可以显示思考过程给你看 觉得有问题就加限制让他重想

就算AI能给出公平的判决 只要被告和受害者是人 那就肯定会有人觉得判决不公平 他们只是少了一个怀疑的人而已

不可能 司法 呵呵

辩护还有可能 判案不可能 判决就是要经由人来决定才有意义 不然人类就真的要完蛋了

用AI来辩护倒是很有可能

我想说打个比方现在人都用AI学围棋，往往Ai下的棋人类都看不懂，反之Ai做出一个人类看不懂的判决，那还是相信Ai的判决吗

有欸 想到一块了谁不想要一个比人还公正的AI来为自己辩护

这篇讨论的不就是一个绝对公正唯一真神的AI吗? 那怎么可能会有问题呢? 如果判决材料有问题，那就连司法单位都全部用AI，那就绝对不会有问题了。如果谁对判决有疑问那就绝对是提出问题的人有问题。

但我觉得总有一天人类能抛掉所有的道德观 并且不管这法律是否合理 完全相信AI可是你受害者和被告不可能是AI吧 他们都是可以影响判决的人而且如果大部分的人觉得有问题怎么办？这时候难道要说大部分的人都错了？法律就是这么写所以这判决合理 这种说词能让大部分的人接受？如果司法单位是绝对公正的真神 那未来一定会做出违背大部分人意愿的判决 因为他们只依照法律办事 法律只能被大部分的人修改 不可能永远是大部分人的共识

现在法律有些就已经很反直觉了 之后给AI判决一定会更多反直觉的判决结果 但你能说他错吗? 可是依然会有些用直决判断的民众觉得判决有问题吧

要让AI成为法官 那最好它是真神 有能力把所有对自己的判决有意见的人都除掉不然这些人不爽就会要求改法律 最后迟早会发现法律是由前人定的 而这些前人不是AI 只是上个时代的大部分的人

可以做参考，但不能成为主要

那现在的问题就变成人能不能接受AI定的法律

ai的资料来源就是现实中的判例，你越不喜欢现实中的判例，他越会这样判，而你到时候抗议ai的做法，他也不可能会改除非重新训练，所以到最后还是人的问题

如果大家都能接受 那最后的问题就剩下大家能不能接受把所有被告和受害者都换成AI因为这些被告和受害者与其关系人本身就是导致不公正的泉源 是最该排除的对象有个故事是一个正常人进到大家都是白痴的世界 最后他觉得自己才是白痴 如果有全知全能去完的AI 那他大概也会被我们搞到以为自己才是白痴*去完 全善

给AI判还是得有人扛责, 你总得有人扛责任

不过AI辅助判决倒是很有可能法官需要某种可以证明自己很公平的东西AI正好适合 以后有暴民要搞他 就说我是依AI来判

有可能啊算法得出最优解，未来可能大小事都用ai

法官可以请一年病假ai不行，光这点ai就输了

司法是个好工具

只要"AI幻觉"这问题没确实解决 那永远都不可能给AI判

不要双标就好，别三家AI判的结果有三种

没有不行

没有自然人存在的要怎样辩 但律师参照AI提策略是可能的

六法全书唯一死刑的时代终于要来了？

喂进去的恐龙法官判例 这样能期待什么

vedal:

人类太自大了不会下放审判人的权力给ai …至少我们这代不会，从小浸在ai 长大的小孩就有可能

有件事比较确定 AI无法无中生有创造 只能用人类数据拼图出一个结果 那就说明没有真正的意识所以关于人性之类的事AI可能没办法合理判断 但一些无关紧要的事 可能可以或是超级小罪

当代AI做到加速思考 无法取代思考 完全还是比较科幻一些连相较简单的翻译工作 幻觉频度仍很高 需要人为校稿了但对于不擅长思考、答辩的人 AI 会是个很好的法扶工具

Shiina讲得那些 把AI两字换成人类都还是成立啊

懂了AI的运作规则之后 你就会发现AI很会一本正经胡说八道

对有钱有权的人来说 司法太好操控了 不会放权给AI

这就假议题，看现在ai幻想从来没少过还一堆人把ai讲的错误资讯拿来质疑别人

光是一个云端发票抽奖权重就搞不定了 要判你生死的你觉得有人会信吗？人就是只相信人而已但如果大家都用ai写稿 最后人就只是橡皮图章了 呵呵

没意义 你怎么知道不会被做手脚

很多事情AI都能做了，但至少一二十年内不会给AI

就没有什么绝对公平的判决 只要一个判决有输赢败诉的那边就很可能觉得不公平，每个民众心里的标准也不一样