最近，一篇由研究人员使用Midjourney AI图像生成器创作的科学文章引起了业界的广泛关注。
这篇文章中的一幅图片展示了一只配有巨大生殖器的卡通老鼠，旁边伴随着一串毫无意义的文字，
例如“testtomcels”、“Dissisilcied”和“dck”。
https://i.imgur.com/csNOW5I.jpeg
该文章原本发表在《细胞与发育生物学前沿》期刊中，
但由于内容的不当，现已被该期刊正式撤回。
这起事件凸显了在科学文献中使用AI工具的风险。尽管一些主要期刊已开始限制这种做法，
但研究人员仍然担心不受限制地使用AI工具可能会促进不准确的发现，
并可能对机构和研究人员造成声誉损害。
该期刊表示，该论文“不符合《细胞与发育生物学前沿》的编辑和科学严谨标准”，
并声明该文章及其中的AI生成图片已从其数据库中删除，以保护科学记录的完整性。
期刊声称，论文的作者未能回应审稿人要求他们修改图片的请求。
现在，前沿表示正在调查这一切如何发生的。
科学诚信专家伊丽莎白·比克（Elisabeth Bik）表示，这幅图片是一个“悲哀的例子”，
说明生成型AI图像如何容易地穿越裂缝。
尽管特别是那个阳具图像很容易被发现，
但比克警告说，
它的发表可能预示著将来更有害的条目。
随着每年在线上发表的学术文章超过五百万篇，目前无法确定研究人员使用AI生成图像的频率。
但即使目前AI生成的图像还没有大量出现在文章中，
对于时间紧迫的研究人员来说，
使用越来越令人信服的工具以更快的速度生产发表作品仍然存在动力。
一些知名期刊已经采取预防措施，以防止这些内容被发表。
《自然》与《科学》已联手声明不允许AI制图
https://i.imgur.com/lxILnvZ.jpeg
其实就在去年（2023），《自然》已经发表了一份措辞强烈的声明，
表示将不允许在其期刊中出现任何AI生成的图像或视频。
《科学》家族的期刊则禁止在未经编辑许可的情况下使用由AI生成的文本、图像或图表。
《自然》的编辑委员会表示，其决定是在几个月的审议后做出的，
主要是由于难以验证用于生成AI内容的数据。
委员会还表示担心图像生成器无法妥善归功于艺术家的工作。
目前负责这些工具的AI公司正在对抗艺术家和作者提起的一系列诉讼，
他们称这些工具非法地吐出了受版权保护材料训练的图像。
除了归属问题外，生成型AI工具倾向于喷出文本并产生不事实或概念上准确的图像，
研究人员称之为“幻觉”。
此外，研究人员警告称，AI生成的图像可能被用于创建真实的假图像，也称为深度假造，
他们说这可能被用来支持错误的数据或不准确的结论。
所有这些因素都给希望发表AI生成材料的研究人员或期刊带来了挑战。
《自然》的编辑委员会去年写道：“世界正处于AI革命的边缘。
这场革命充满了巨大的希望，
但AI——特别是生成型AI——也正在迅速颠覆科学、艺术、出版等领域的长期惯例。
这些惯例在某些情况下花了几个世纪才发展出来，
但结果是一个保护科学完整性和保护内容创作者免受剥削的体系。
如果我们不谨慎对待AI的处理，所有这些成果都有危险解体的风险。”
https://reurl.cc/aLA5z9