论文写太好，竟被误判学术造假：“这显然是ChatGPT写的”？！|《自然》职场

一位期刊审稿人指责Lizzie Wolkovich使用ChatGPT撰写稿件。她并没有这样做——但论文还是被拒绝了。

我刚刚被指控学术造假。我被指控的不是数据造假——捏造或误导性地操纵数据或结果——这算是不幸中的万幸，因为我的实验室主要研究全球变化对生态群落的重塑，并努力确保数据透明和可共享，以及我们的工作的可重复性。相反，我被指控论文造假——将人工智能（AI）创作的“作品”冒充自己的作品。这很伤人，因为和许多人一样，我也认为写论文是一个有点痛苦的过程。我读了一些有关写作的书，一方面是为了从这些书中强调的“写作惯有的缓慢而困难的程度”中得到安慰，另一方面是为了寻找改进的方法。我目前的策略是强迫自己写作，在初稿之前草拟几个大纲，然后进行写作和大量修改。虽然知道这并不容易，但我总是学生们推荐这种方法，因为我认为科学家努力进行良好的学术沟通很重要。

在我提交的论文收到一条审稿评论、称它是ChatGPT的作品时，可以想象我有多惊讶。一位审稿人写道，这“显然是ChatGPT的杰作”，负责审稿的编辑也模棱两可地表示赞同，称他们觉得“这种写作风格很不寻常”。惊讶只是我所经历的情绪之一；我还感到震惊、沮丧，以及困惑和恐慌。考虑到我为写作付出的大量努力，我被指控为聊天机器人，而且还没有丝毫证据支撑，这对我来说是一个巨大打击。

学术造假（包括涉嫌滥用ChatGPT）的指控不应轻易作出。来源：Alexandre Rotenberg/Alamy

事实上，我没有用ChatGPT写过稿件中的任何一个字。我很快就想到方法来证明自己的清白。我用纯文本文件（使用排版语言LaTeX）写作，并用版本控制系统Git进行追踪，所以可以GitHub上显示了我的文本更改历史记录（提交的消息包括“终于写完了！”和“还有25分钟的写作进度！”，我从未想过这些消息会被公开分享）。我还尝试将自己在ChatGPT问世之前的论文写作风格与我提交的这篇论文进行比较。

也许我可以问问ChatGPT，它是否认为我的论文是它写的。但后来我意识到，我得花时间证明自己不是聊天机器人——这似乎是整个事件最坏的结果。我真正想做的是拿起我的“球”，愤怒地走出操场：他们怎么敢这么做？但首先，我决定听听调查研究数据造假的研究人员、我的论文合著者和其他同事的看法。大多数人都同意我的担忧。其中一位说得最简洁：“所有科学批评都是可以接受的，但这（错误指控）是另一回事。”

01

存在危机

这些评论不仅指出了同行评审过程中固有的缺陷，对我而言更重要的是，它们还指出了人工智能是如何毫不费力地破坏科学的。

E. M. Wolkovich被指控用ChatGPT生成的文本冒充自己的作品。来源：T. J. Davies

人们担心人工智能会控制人类，放大错误信息，并助长潜藏的偏见和不平等。一些人正试图制定保护措施来防止这些情况发生。但人们也在试图创造那些能在需要帮助的地方作出贡献的人工智能，或许也包括作为一种写作辅助工具。但是，正如我的经历所表明的那样，ChatGPT的存在本身就破坏了整个过程。我既因为被误认为是一个聊天机器人而恼火，又因为审稿人和编辑们对有人提交了人工智能生成文本这一想法的漠然而感到震惊。

很多科学都是建立在对同事的道德和正直的信任和信念之上的。我们大多相信别人不会捏造他们的数据，我相信人们（目前）不会在没有披露的情况下使用大型语言模型撰写论文或基金申请书。我不会在没有证据的情况下指控某人数据造假或统计操纵，但审稿人在指控我时显然没有这种不安。也许他们并不想把这当作严厉的指控，而编辑也毫不犹豫地转发并附和了他们的评论——但他们实际上是在指责我撒谎，故意将人工智能生成的文本当作我自己的。他们还自信地认为他们可以辨别出我的作品和人工智能工具的作品——但显然他们做不到。

我们需要揭露学术界的造假和不端行为。在我看来，揭露数据造假的人付出的代价太高，而造假的后果却太低。但我担心，在这样一个世界里，审稿人可以随意提出造假指控，而出版社编辑和期刊编辑只是敷衍了事，并让作者重新提交稿件。这不仅表明审稿人和编辑不相信提交论文的作者的科学诚信，而且表明道德是可以协商的。这样的世界似乎很容易被ChatGPT破坏——除非我们提高标准。

科学协会可以从会议和研讨会开始对话，以此制定更明确的、由社区生成的标准，来说明何时以及如何在稿件撰写过程中正确使用人工智能，以及如何承认这种帮助。这样的标准可以帮助编辑制定更好的流程来处理对人工智能生成文本的指控，理想情况下，这种方式不会让作者感到沮丧。

至于我，我现在计划从写作的第一天就开始使用Git和GitHub，并每天记录更改痕迹。这不是一个板上钉钉的系统，但它让我感到安心——更不用说，这是一份清楚展示了缓慢而艰苦地撰写论文，且没有使用ChatGPT的纸质记录。

© nature

doi:10.1038/d41586-024-00349-5