发表3天就被撤稿!西安医生用AI画的离谱插图

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)

近期,西安的 3 位医生用 AI 制作论文插图,并将文章顺利发表。

刊发不到 3 天,这篇论文就因为插图过于离谱引起热议,文章总阅读量一度超过 30 万。争议之下,期刊迅速撤稿,并公开致歉。

这张用 AI 绘制的插图,到底有多离谱?

文章中的 AI 插图之一,图源:该论文

超30万阅读,见刊3天后撤稿

2月13日,西安3名脊柱外科医生在细胞生物学领域期刊《FrontiersinCellDevelopmentandBiology》发表了题为《Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway》的论文,阐述了精原干细胞与JAK/STAT 信号通路相关的功能。

图源:Frontiers

论文中一共包含 7 张插图,其科学准确性却存疑。一张描述从大鼠睾丸中分离、纯化和培养精原干细胞的过程的插图由 AI 绘制完成,其中,一只大鼠拥有松鼠的坐姿,且有 4 个睾丸和比身体还大的阴茎,图右下侧的培养皿中还有一把汤勺。

其余图片也被质疑,期刊的科学诚信顾问 Elisabeth Bik 评价:「信号通路图很混乱、没有进一步阐释,像在解释怎么做彩色甜甜圈」、「细胞图好像带香肠和蓝色西红柿的披萨」……

另外,插图的标注中还存在大量的英文单词拼写错误:stemm cells(正确:stem)、proprounization、Sinkecle……以及一些看起来像单词但实际上没有任何意义的字母组合(senctolic、dissilced 等)。期刊科学诚信顾问Elisabeth Bik在个人博客表示「这些拼写看得我抓狂」。

面对巨大的争议,在刊出该论文 3 天后,期刊迅速表示「会更正并发布修改后的论文」,随即又更新公告:该文章不符合期刊的编辑和科学严谨标准,予以完全撤回。

其余图片也被质疑,期刊的科学诚信顾问 Elisabeth Bik 评价:「信号通路图很混乱、没有进一步阐释,像在解释怎么做彩色甜甜圈」、「细胞图好像带香肠和蓝色西红柿的披萨」……

另外,插图的标注中还存在大量的英文单词拼写错误:stemm cells(正确:stem)、proprounization、Sinkecle……以及一些看起来像单词但实际上没有任何意义的字母组合(senctolic、dissilced 等)。期刊科学诚信顾问 Elisabeth Bik 在个人博客表示「这些拼写看得我抓狂」。

面对巨大的争议,在刊出该论文 3 天后,期刊迅速表示「会更正并发布修改后的论文」,随即又更新公告:该文章不符合期刊的编辑和科学严谨标准,予以完全撤回。

AI绘制的荒谬插图,怎么过审的?

除了撤稿,期刊还单独公开致歉:「在该论文的审核流程中,有审稿人对于论文中的图形/数据(figures)提出了质疑并要求作者修改,但作者在当时并没有回应。

「论文最后还是通过评审后发出了,目前正在回溯、调查相关发表流程。为这一错误向科学界致以诚挚的歉意。」

致歉声明,图源:Frontiers

对于审稿人提出的文章具体质疑内容和修改要求,期刊在致歉声明中并未列出。但该论文作者用 AI 制作文章插图的行为,实际上却符合该期刊的投稿要求。

该期刊在相关规定中,允许人工智能加入(包括但不限于任何引述、引用或参考文献),但必须对其进行披露,并且作者必须检查其内容的准确性。

按照这个规定,论文作者也确实在对应内容处按照要求进行了标注和说明:插图是由人工智能绘画程序 Midjourney 生成。

作者的标注,图源:该论文

让 AI 进入论文,这篇论文的作者和所投期刊都不是个例。AI 辅助科研与论文发表早已受到了众多研究者与刊物的青睐和支持。

去年,美国田纳西大学健康科学中心的一名放射科医生使用 ChatGPT,4个月写了16篇论文,其中5篇已发表。(点击链接查看往期文章:某院医生用 ChatGPT 在 4 个月内狂写 16 篇论文,其中 5 篇已发表)

四大医学顶刊之一NEJM也在今年还专门推出了新杂志NEJM AI,编辑团队在第一卷中发文鼓励研究者使用大语言模型(LLM)投稿。

图源:NEJM AI

AI 进论文获得众多支持,但本次这篇论文的顺利发表也让人开始担忧:如何保证 AI 创作出准确的内容、并接受合理的审核?

本次被撤回的论文,AI 绘制的插图从投稿到审核、最终发表,准确性都没有得到保证。其审稿人之一表示:「我只根据研究的科学价值来评估该论文,但最终是否发表 AI 论文由出版商(Frontiers)自己决定。」

混乱的审核和发表标准或许并不是个例。科学诚信顾问 Elisabeth Bik 担心其他只是看起来更加真实、实际上也缺乏准确性的 AI 论文已经渗透到了文献之中:「这篇论文能发表,说明科学期刊、编辑和同行评审员在接受和发表人工智能生成的论文方面可能都不够成熟。

图源:Elisabeth Bik 的博客文章

部分期刊关于 AI 参与论文的规则

(简要梳理)

NEJM:作者必须在提交稿件时披露是否使用人工智能辅助技术,并仔细审查和编辑所有材料,对其作品的准确性、完整性和原创性负责;人工智能生成的材料不能作为引用的主要来源。

JAMA:不鼓励提交和发布由人工智能、语言模型、机器学习或类似技术创建的内容,除非是正式研究设计或方法的一部分;作者需对其内容完整性负责。

Cell:如果作者在写作过程中使用生成人工智能(AI)和人工智能辅助技术,必须在稿件末尾添加披露声明,放在「利益声明」中,并对相关内容承担全部责任。

Science:对于论文中的图像和文本,只要在「方法」部分按要求披露,即可使用生成式人工智能(AI)和大语言模型。

中华医学会:生成式人工智能技术(GenAI )不能用于整篇论文或论文重要部分的撰写(如研究方法、结果和对结果的解释分析等),建议作者将 GenAI 辅助完成的部分(文本、图表、程序等)作为补充材料提交、存档,以便审稿人和编辑对论文的原创性进行评判。

fonsony 发表评论于
中國學者是專研醫學,不是專研英魚,錯個字有什麼大問題? 刊物也可看過指出改正。 重要的是真實否?
wanjiadeng 发表评论于
奇葩国里的无数奇葩事之一而已。没啥好奇怪的
密码忘记了 发表评论于
不良编辑,收钱发文,出事甩锅,鉴定完毕。
hkzs 发表评论于
我让AI生存的东西,只要我认可,就是我的原创,我对其负完全的文责。无需进一步说明。就像我用计算器算出来的计算结果就是我的计算结果,无需进一步说明一样。
hkzs 发表评论于
我觉得图没什么问题。那些意见是吹毛求疵。图本身是示意图,并非用于大鼠解剖学。
Amita 发表评论于
不觉得有什么毛病
灯下 发表评论于
davidinchina 发表评论于 2024-02-22 19:23:00这就是一篇综述文章而已,不涉及新数据。
==========================
综述是教学和通过总结现有信息得出结论。 这几张图可以说乱七八糟的错误。 AI现在没能力处理复杂专业信息。比如AI找的文献,很多是不存在的,AI自己编的。
灯下 发表评论于
BBQ2004 发表评论于 2024-02-22 20:40:00为啥我觉得挺好的 局部放大让大家看清楚没毛病啊
============================
坐姿,大j8其实都没有问题,正常局部放大,关键在于内容是错误的。四个睾丸? 另外睾丸和表皮直接连接吗?还有大量错误。通路图也乱七八糟瞎画。英文就更别说了, 不只是拼写错误问题,是从意思到拼写都不对。 AI制图现在没法解决文字,以及正确理解含义,尤其专业信息。
BBQ2004 发表评论于
为啥我觉得挺好的 局部放大让大家看清楚没毛病啊
davidinchina 发表评论于
这就是一篇综述文章而已,不涉及新数据。
弯刀月 发表评论于
就连英文都遥遥领先?