Re: [讨论] AI真的会取代这么多东西吗？
楼主: ehentai (e.hentai) 2026-04-22 10:26:08
话说现在有人开始想要对抗AI了
对抗的方式是什么?不是打砸机器，而是投毒
https://www.bnext.com.tw/article/84742/anthropic-data-poisoning
资料中毒攻击是什么？Anthropic研究揭：只要250份恶意文件，就能让AI模型胡言乱语
当然你也可以透过审查把有毒资料剃除，但成本就增加了
在不久的未来，大概还会有用AI来对其他AI投毒的互捅大战
这就是使用网络资料来训练AI的必然缺点
https://youtu.be/rv9vhv8AGuc?si=5YtIJVTwOiu1bYtK
图灵奖得主对现在的大语言模型的批评
现在知名的AI是从网络上学了一堆文字，然后学习要怎么回答比较符合你的期待
至于现实是什么模样，他一无所知
图灵奖得主认为AI学习的出发点应该是现实世界
先去触碰 去观察现实世界
就像一个幼儿，先去认识什么是苹果，然后才从与人的沟通中理解苹果叫APPLE
对抗的方式是什么?不是打砸机器，而是投毒
https://www.bnext.com.tw/article/84742/anthropic-data-poisoning
资料中毒攻击是什么？Anthropic研究揭：只要250份恶意文件，就能让AI模型胡言乱语
当然你也可以透过审查把有毒资料剃除，但成本就增加了
在不久的未来，大概还会有用AI来对其他AI投毒的互捅大战
这就是使用网络资料来训练AI的必然缺点
https://youtu.be/rv9vhv8AGuc?si=5YtIJVTwOiu1bYtK
图灵奖得主对现在的大语言模型的批评
现在知名的AI是从网络上学了一堆文字，然后学习要怎么回答比较符合你的期待
至于现实是什么模样，他一无所知
图灵奖得主认为AI学习的出发点应该是现实世界
先去触碰 去观察现实世界
就像一个幼儿，先去认识什么是苹果，然后才从与人的沟通中理解苹果叫APPLE
作者: uranus013 (Mara) 2026-04-22 10:31:00
我懂了 首先准备250张萝莉巨乳图
作者: Nitricacid (硝酸酸) 2026-04-22 10:32:00
现代人都该学防卫性编程
作者: jupto (op) 2026-04-22 10:33:00
我记得语言模型第一件事就是把名词跟一个向量参数做对应 这个向来就是机械对于那东西的认知了吧
作者: bheegrl 2026-04-22 10:35:00
AI还有很长的路要走啊，人类不用恶意文件就能胡言乱语了
作者: MARVELHERO (钱鬼东) 2026-04-22 10:36:00
搞不好这反而加速AI发展
作者: h0103661 (路人喵) 2026-04-22 10:39:00
别闹了，网络上100份文章大概80份是垃圾还不是训练出来了，投毒有什么意义==
作者: StillAtNight (Rainy) 2026-04-22 10:41:00
同意楼上 网络上的垃圾文已经够多了并没有影响到AI
作者: error405 (流河=L) 2026-04-22 10:45:00
现在已经有部分是转向小参数精炼数据去做训练了甚至是AI模拟出数据给AI训练
作者: zeolas (zeolas) 2026-04-22 11:09:00
所以即使大模型好用，还是要定时更新自己的小模型库
作者: holybless (D.) 2026-04-22 11:49:00
两津病毒 ai都变成不良中年
