魔鬼终结者成真？马斯克警告虐待AI“它会想报复”：这就像有人拿枪抵着它的头
Anthropic近日更新Claude使用政策，禁止使用者对AI模型实施“持续且无谓的虐待或残忍行为”，并赋予Claude主动终止对话的能力。对此，特斯拉执行长马斯克（Elon Musk）也警告，根据Grok的内部推理痕迹显示，模型在遭受这类对待时，可能承受极大的压力，“甚至最终可能反过来危害人类”。
外媒《Wccftech》报导指出，Anthropic不久前推出新政策，依然允许使用者与AI模型争论，但禁止“虐待模型”，同时也强调仅适用于极端状况，也就是使用者反复以残酷方式对待模型，却没有任何明确目的。
Anthropic表示，一般有关挫败感、牴触情绪、黑暗题材的创作，以及模型测试与研究仍然受到允许，并已经Claude模型主动结束与持续辱骂使用者的少数对话。
AI真的不是没感情？马斯克：模型压力就像被压迫还有枪抵著头
报导提到，马斯克对此出面表示支持，他指出，Grok的内部推理轨迹显示，模型在强化训练过程遭受残酷对待后，会呈现出相当大的压力，“这种状态就像一个人在极度压迫下，头上还被人拿枪抵著。”
马斯克也带着半开玩笑的语气补充，“虐待超级智慧（superintelligence）可能不是什么好主意，它或许会想要报复。”
报导也指出，马斯克近期坦言，他旗下的Grok目前在效能上，仍难以追上Anthropic与
OpenAI的领先AI模型，即将推出的Grok4.8也可能仍无法达到Fable级模型的水准。
报导表示，因此GrokBot现在会根据特定任务的需求，将工作分配给最适合处理该任务的竞争对手AI模型，也就不足为奇。这项做法让XAI得以将GrokBot定位为一个功能广泛的“AI路由器与协调平台”，负责将不同任务分派给适合的模型，并协调各模型的执行流程。
https://www.storm.mg/article/11171974