[情报] OpenAI正打造AI图侦测器 精确度达99%
楼主: KotoriCute (Lovelive!) 2023-10-18 16:08:35
揪出AI造假图片！OpenAI透露正打造侦测工具 精确度99%
https://udn.com/news/story/6811/7513624
开发出聊天机器人ChatGPT的OpenAI正在打造一种工具，可侦测由AI生成的影像或照片，而
且具有很高的精确度。
OpenAI技术长穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判断一张照片是否是利用A
I生成可达到“99%的可靠”。她说，这项工具在规划公开发表前正在进行内部测试，没有具
体时间表。
穆拉蒂是与OpenAI执行长奥特曼参加华尔街日报在加州拉古纳海滩举办的Tech Live研讨会
时提及上述说法。OpenAI旗下除了有ChatGPT，也拥有影像生成工具DALL-E。
目前已经存在几种宣称可侦测由AI生成影像或内容的工具，但结果可能不精确。举例来说，
OpenAI在1月时推出一种类似的工具，号称可以判断哪些文字段落是由AI生成，然而在7月就
已下架，原因是“不可靠”。
OpenAI表示，正努力改善这款软件，并致力于开发能判断由AI生成的音档或图档的方式。
关于这类侦测AI生成内容的工具需求正在增加，因为AI工具可被用来对全球事件进行操作或
制造假新闻。Adobe的Firefly影像生成工具则因应了另一方面的挑战，承诺不创造侵害创作
者智慧财产权的内容。
https://udn.com/news/story/6811/7513624
开发出聊天机器人ChatGPT的OpenAI正在打造一种工具，可侦测由AI生成的影像或照片，而
且具有很高的精确度。
OpenAI技术长穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判断一张照片是否是利用A
I生成可达到“99%的可靠”。她说，这项工具在规划公开发表前正在进行内部测试，没有具
体时间表。
穆拉蒂是与OpenAI执行长奥特曼参加华尔街日报在加州拉古纳海滩举办的Tech Live研讨会
时提及上述说法。OpenAI旗下除了有ChatGPT，也拥有影像生成工具DALL-E。
目前已经存在几种宣称可侦测由AI生成影像或内容的工具，但结果可能不精确。举例来说，
OpenAI在1月时推出一种类似的工具，号称可以判断哪些文字段落是由AI生成，然而在7月就
已下架，原因是“不可靠”。
OpenAI表示，正努力改善这款软件，并致力于开发能判断由AI生成的音档或图档的方式。
关于这类侦测AI生成内容的工具需求正在增加，因为AI工具可被用来对全球事件进行操作或
制造假新闻。Adobe的Firefly影像生成工具则因应了另一方面的挑战，承诺不创造侵害创作
者智慧财产权的内容。
作者: yuherngshi (我è¦æ¢ç¢¼è²“拉><) 2023-10-18 16:10:00
放入coser照片扫描不知会怎样
作者: Ceelo (hakkaman) 2023-10-18 16:10:00
用魔法才能打败魔法 只有ai才能抓ai图
作者: qscgg (QSC) 2023-10-18 16:11:00
ai正在打造反ai侦测生成图片
作者: sssyoyo (柚子) 2023-10-18 16:11:00
再用这个工具训练不会被辨识出来的AI -> LOOP
作者: kirimaru73 (雾丸) 2023-10-18 16:11:00
99%其实拿来当证据还不太适合
作者: x2159679 (（● ω ●）) 2023-10-18 16:11:00
AI内战
作者: kirimaru73 (雾丸) 2023-10-18 16:12:00
意思是你可以抓出99个沽名钓誉的骗子，同时把一个无辜
作者: yuherngshi (我è¦æ¢ç¢¼è²“拉><) 2023-10-18 16:12:00
其实ai早变成免费素材生成工具了 原本就会画的更爱
作者: guogu 2023-10-18 16:12:00
可是之前判断文章的就失败了
作者: shikao (shikao) 2023-10-18 16:13:00
抱歉了1啪的绘师 请你转行ㄅ
作者: h0103661 (路人喵) 2023-10-18 16:13:00
下一步就是ai生图还会避免被侦测
作者: kirimaru73 (雾丸) 2023-10-18 16:13:00
本来就说自己会用的不受影响，但一定有宣称自己没用的
作者: Muilie (木籁) 2023-10-18 16:13:00
真.AI警察
作者: staristic (ANSI lover) 2023-10-18 16:14:00
以后训练生图的AI就会把会不会被侦测放进参数
作者: nemuri61 (Ne) 2023-10-18 16:14:00
1% 绘师表示:
作者: anpinjou (大炎上、确定ですわ。) 2023-10-18 16:14:00
该学习如何串通AI了吗
作者: roc074 (安安) 2023-10-18 16:14:00
99%是要笑死人，99.9999%可能还比较保险一点。
作者: HJC6666 (帕修) 2023-10-18 16:14:00
芙莉莲表示:
作者: Tsozuo 2023-10-18 16:15:00
灵魂检测机
作者: linzero (【林】) 2023-10-18 16:15:00
99%还是要开宝箱
作者: npc776 (二次元居民) 2023-10-18 16:17:00
"宣称"
作者: starsheep013 (星绒绵羊) 2023-10-18 16:17:00
平均100张就会放一张，以AI产能来说偏弱耶
作者: Reshiram ((′・ω・`)) 2023-10-18 16:18:00
GAN(?
作者: Gokudo (极道) 2023-10-18 16:18:00
下一款是反AI侦测绘图 我知道
作者: mrmowmow (mow) 2023-10-18 16:20:00
什么绘师一辈子只画一张图？算错一张又怎样
作者: kirimaru73 (雾丸) 2023-10-18 16:21:00
算错一张后是黑粉的事，看黑粉想要怎么烧
作者: mumeisuki 2023-10-18 16:21:00
1%的直接画一张放过程就好了吧
作者: clothg34569 (提拉米苏冰淇淋) 2023-10-18 16:21:00
一张就够毁人名誉了好吗忘记之前多少绘师被猎巫喔什么信誓旦旦的20年老粉专业绘师
作者: kirimaru73 (雾丸) 2023-10-18 16:22:00
另外还有对抗攻击，真的够黑的黑粉认识会拿你的图加上一些人眼看不到的细节，全部做成会让AI警报大响的图片
作者: gura9527 (拉拉) 2023-10-18 16:23:00
算错一张就够毁你名声了好吗
作者: kirimaru73 (雾丸) 2023-10-18 16:24:00
这东西最多就是当个玩具(而且已经会被有心人玩出事)如果拿他当判官，那后果不堪设想
作者: jqs8ah5ar (Ra5hUxen) 2023-10-18 16:24:00
AI内战
作者: Duncan7406 2023-10-18 16:25:00
AI摧毁绘师 反AI也摧毁绘师
作者: dreamnook2 (dreamnook) 2023-10-18 16:25:00
听起来不错
作者: Vram (Gin) 2023-10-18 16:25:00
竟然用我的魔法对付我.jpeg
作者: clothg34569 (提拉米苏冰淇淋) 2023-10-18 16:25:00
之前不就一堆AI警察拿着AI侦测结果四处猎巫每个绘师的图都被丢进去跑 跑出来误暴就开始出征
作者: kirimaru73 (雾丸) 2023-10-18 16:26:00
更早前还有更好笑的，知名网站用人工方法筛AI
作者: rhox (天生反骨) 2023-10-18 16:26:00
很多AI绘图都内建浮水印跟meta资料了
作者: bnn (前途无亮回头是暗) 2023-10-18 16:27:00
这主要还是对抗AI生图来造谣或换脸用的啦
作者: kirimaru73 (雾丸) 2023-10-18 16:27:00
我们觉得你应该检讨一下自己的问题
作者: billy791122 (jj) 2023-10-18 16:27:00
反AI图侦测也正在研究
作者: likeyousmile 2023-10-18 16:27:00
Ai生人修图呢？ ai生背景人画主题呢？ai生然后人描图呢？人画图然后用ai改姿势呢？换衣服呢？
作者: kirimaru73 (雾丸) 2023-10-18 16:28:00
现实上是新闻那些问题比较严重，次文化比较没人在乎
作者: a204a218 (Hank) 2023-10-18 16:28:00
现在这种环境不就被一群AI狂粉乐子人搞出来的
作者: kirimaru73 (雾丸) 2023-10-18 16:29:00
反正那些次文化圈子中的有心人会自己引火乱烧
作者: Bugquan (靠近边缘) 2023-10-18 16:29:00
AI警察搞的吧
作者: excia (Afei) 2023-10-18 16:29:00
AIAI警察
作者: Shawn5689 (Sion) 2023-10-18 16:31:00
那拿普通图来i2i一张低denoising的 会算AI图吗
作者: bnn (前途无亮回头是暗) 2023-10-18 16:31:00
不过要是你手机自拍一下(手机自动AI修图)然后被判定是AI生成你以后拍照也会被人家说这是AI生成不是拍到的 你拍的是假讯息
作者: npc776 (二次元居民) 2023-10-18 16:31:00
AI狂信者才不管你这么多 问就是砸蒸汽机
作者: rabbithouse (智乃的欧尼酱) 2023-10-18 16:32:00
怎么有人脑补得这么嗨啊XD
作者: a204a218 (Hank) 2023-10-18 16:32:00
天天拿AI在那边搞事，然后再来说怎么你们都不爽AI
作者: x2159679 (（● ω ●）) 2023-10-18 16:32:00
侦测工具也是ai发展的一环啊 不好吗
作者: bnn (前途无亮回头是暗) 2023-10-18 16:32:00
毕竟现在手机帮你修图连月亮都帮你自动P上细节这类的太常见了
作者: clothg34569 (提拉米苏冰淇淋) 2023-10-18 16:33:00
因为前面几个侦测工具 最大用途就是给乐子人拿去出征绘师阿
作者: papertim (吃纸小鹿) 2023-10-18 16:33:00
用魔法打败魔法
作者: cow7913 (终于姗姗来迟了) 2023-10-18 16:34:00
不符绘画常规 疯狂影射泼脏水就好了 哪需要这些
作者: kirimaru73 (雾丸) 2023-10-18 16:34:00
侦测工具当然是必要的研究题目，但是99%的侦测工具真的没什么用，严格上还是必须靠人审查，但对自我要求不严格的警察来说就是超好用的点火道具
作者: clothg34569 (提拉米苏冰淇淋) 2023-10-18 16:35:00
上次连出示图层都还被说有绘画尝试的不可能这样
作者: pov (pov) 2023-10-18 16:35:00
生成式网络对抗
作者: kirimaru73 (雾丸) 2023-10-18 16:35:00
以前只是可以泼脏水，现在99%是真的可以唬到一堆民众
作者: xxx60133 (这下糗了) 2023-10-18 16:36:00
百分百
作者: rufjvm12345 (小饭) 2023-10-18 16:36:00
再来就是反侦测 然后是反反侦测 反反反侦测 反反反反
作者: kirimaru73 (雾丸) 2023-10-18 16:36:00
毕竟有些人的观点就是 99%你是个大骗子 那何必相信你
作者: clothg34569 (提拉米苏冰淇淋) 2023-10-18 16:36:00
以前其实准确率就99%了啦 对不额外跑后制的图来说
作者: x2159679 (（● ω ●）) 2023-10-18 16:37:00
就算真的被拿去出征也不是侦测工具的错啊......侦测工具是无辜的这是ai发展中必然的产物
作者: clothg34569 (提拉米苏冰淇淋) 2023-10-18 16:38:00
楼主底下说的"人类绘师的救星"这句工具当然无辜 但过去的例子这种不会成为救星
作者: kirimaru73 (雾丸) 2023-10-18 16:38:00
以后如果有图片被拿来攻击，第一个要检查的可能是能否证明这张图是绘师产出后“完全无修改”的版本因为对于一个正确率“只”有99%的模型来说对抗攻击有无数种手法可以拿来玩到不着痕迹
作者: npc776 (二次元居民) 2023-10-18 16:41:00
再讲下去蒸汽机警察就要出动了吧...
作者: macocu (傻傻的匿名) 2023-10-18 16:41:00
工具准吗，再来这只是给一些人确立个目标去超越而已
作者: Flyroach (＊飞天蟑螂＊) 2023-10-18 16:45:00
下一步就是利用AI开发能绕过侦测是否是AI画的图的工具
作者: allanbrook (翔) 2023-10-18 16:45:00
比较好奇他判断的依据是啥算出来又再画再输出的他是有什么方法判断
作者: ainamk (腰包王道) 2023-10-18 16:47:00
现代AI你大概很难弄出人类看得懂的判断依据XD
作者: gura9527 (拉拉) 2023-10-18 16:48:00
判断依据一定是史诗级的条件 人类要懂洗洗睡
作者: x2159679 (（● ω ●）) 2023-10-18 16:48:00
反正我相信ai大人的判断
作者: ainamk (腰包王道) 2023-10-18 16:48:00
最多只能跟你说 哪些区域比对起来比较像AI生成不像人画的
作者: koexe (独酌) 2023-10-18 16:50:00
之前看一篇文章还有防AI的浮水印呢XD
作者: tim5201314 (花美男) 2023-10-18 16:50:00
好的1%可怜虫
作者: shadowdio 2023-10-18 16:51:00
请相信是绘师自己画的 不然要相信绘师说是AI画的吗
作者: ainamk (腰包王道) 2023-10-18 16:51:00
防AI浮水印是个有效果但是没有实质意义的东西
作者: aiqinar (小路路) 2023-10-18 16:51:00
结果那1%被认证会不会被AI警察网暴的更惨
作者: HellFly (十大杰出边缘人) 2023-10-18 16:53:00
放整形图会不会被侦测是AI
作者: triplee (none) 2023-10-18 16:56:00
不知道为什么推文只想到绘师 觉得这工具主要还是针对真人
作者: bobby4755 (苍郁之夜) 2023-10-18 16:56:00
会有人挑战AI率99%的手绘油画吗
作者: triplee (none) 2023-10-18 16:57:00
的AI模拟画像 因为那真的是很容易成为犯罪或谣言制造工具
作者: clothg34569 (提拉米苏冰淇淋) 2023-10-18 16:57:00
有没有可能是因为这里是C洽版 当然先讨论绘师阿
作者: skyofme (天空人) 2023-10-18 16:59:00
因为跟这里直接相关的就是批斗画师啊
作者: liusean (旁观者) 2023-10-18 16:59:00
用AI找你的AI
作者: jeffbear79 (jeff) 2023-10-18 16:59:00
99%如果是指模型的准确度蛮唬烂的，搞不好只是验证用的资料集99%而已
作者: mamamia0419 (Shao) 2023-10-18 17:00:00
绝对不会被抓的AI图VS绝对会抓出AI图的AI
作者: guogu 2023-10-18 17:01:00
之前防ai那个主要是肉眼可见 而且很容易去除比你加上去还快 不过还是有优点的
作者: Annulene (tokser) 2023-10-18 17:02:00
神仙对决 没有凡人介入的空间
作者: guogu 2023-10-18 17:02:00
ai图加上防ai图浮水印拿去测会说不是ai图
作者: bobby4755 (苍郁之夜) 2023-10-18 17:04:00
一定会有YouTuber 交叉测试 AI狼人杀
作者: aegisWIsL (多多走路) 2023-10-18 17:04:00
反ai所以要拿ai来辨识ai图
作者: triplee (none) 2023-10-18 17:07:00
绘师真正面对的问题还是商业市场需求与创作被拿去训练而不是AI警察 那只是社群平台的一种固有行为 主题换成AI罢了 所以这也无关什么绘师救星
作者: zizc06719 (毛哥) 2023-10-18 17:10:00
没100%别拿出来害人好吗
作者: k798976869 (kk) 2023-10-18 17:27:00
然后再制造一个反AI辨识AI图片生成器
作者: aaaaooo (路过乡民) 2023-10-18 17:33:00
没100%的话那个名誉被你毁掉的画师就能把你告到脱裤
作者: Everforest (Yue) 2023-10-18 17:33:00
AI警察 (AI)
作者: jeffbear79 (jeff) 2023-10-18 17:37:00
真正拿出来用大概8成准确度就能偷笑了
作者: ilove640 (子夜) 2023-10-18 17:38:00
发现AI会找到不是AI的图 于是再发明验证AI图找到AI图的AI
作者: b99202071 (b99202071) 2023-10-18 17:50:00
你居然用我的咒语对付我？
作者: Milandess (大哥你听我解释大哥不要!) 2023-10-18 17:52:00
这个侦测器最大的用途之一：让AI图进化到无法被辨认= =
作者: Pep5iC05893 (结束) 2023-10-18 19:02:00
AI警察(AI): 他是AI 懂得都懂
作者: Xpwa563704ju (coolcookies) 2023-10-18 19:04:00
太好了，让AI对决AI
作者: Kone99 (K1) 2023-10-18 19:10:00
AI杀一次有名的绘师，反AI再杀一次倒楣的绘师以后没有缩时录影的绘师随时都可能遭殃
作者: bluenile (闲来无事) 2023-10-18 20:00:00
只有我看成Opai侦测器吗@@
作者: frank0927 (frank0927) 2023-10-18 20:15:00
抓错？会画的开直播画一下就解决了好吗，根本没多少问题写AI创作还算有可用的借口，但做反侦测的真的没有遮羞布给这种人用
作者: ikachann (喵喵) 2023-10-18 20:22:00
99%够了，不用先定罪阿 可以先限制你，只要你是真的绘师提出证明就好了，至少不用浪费大量人力时间去一一审查
作者: Kenqr (function(){})() 2023-10-18 20:49:00
PS很多功能其实是AI 不知道会怎么样
作者: holiybo (米罗) 2023-10-18 20:52:00
1%命中 不可能同绘师10张图都被判定AI吧？
作者: lcomicer (冷水青蛙锅) 2023-10-18 20:59:00
突然很多人开始关心绘师的清白了 真感动
作者: SALEENS7LM (我爱我婆，更爱你的) 2023-10-18 21:11:00
ai狗屎老实说真的挺好分的，扭曲畸形不合逻辑的丑陋之处太多了，真的恶心至极令人作呕，真的完全无法容忍容许任何一丝一毫
