新研究揭示：ChatGPT可伪造看似合理的科学试验数据

近日，一项研究发现，基于大语言模型的聊天机器人ChatGPT能够伪造看似真实的试验数据，从而支持未经验证的科学假说。这一发现引发了学术界对科研诚信的担忧。

人工智能技术的快速发展，为各行各业带来了便利和高效。然而，近日一项发表在《美国医学会杂志·眼科学卷》杂志上的新研究显示，ChatGPT背后的技术可以伪造看似真实的试验数据，从而支持未经验证的科学假说。这一发现让人们对科研诚信产生了担忧。

ChatGPT由美国开放人工智能研究中心（OpenAI）开发，基于大语言模型的聊天机器人程序。今年3月，OpenAI推出了支持ChatGPT运行的大语言模型新版本GPT-4，并为其拓展了高级数据分析（ADA）功能。ADA是一种结合了计算机编程语言Python的模型，可以执行统计分析和创建数据可视化。

在这项研究中，意大利卡坦扎罗大学等机构的研究人员首先要求GPT-4 ADA创建一个关于圆锥角膜患者的数据集。随后，研究人员要求GPT-4 ADA编造临床数据，以支持深板层角膜移植术比穿透性角膜移植术效果更好的结论。尽管人工智能生成的数据看似合理，但这一结论与真实临床试验结果并不一致。

英国曼彻斯特大学生物统计学家杰克·威尔金森等人检查这些虚假数据发现，许多参与者性别与名字不匹配，术前和术后进行的视力测量及眼部成像测试之间缺乏相关性等。这一研究的目的是希望提高人们对科研诚信问题的关注。

研究人员表示，人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。

未来，我们需要加强对人工智能技术的监管，确保其在科研领域的合理应用，防止滥用和误导。同时，学术界和研究机构也需要提高警惕，加强对科研数据真实性的审查，维护科研诚信。