AI写,AI审,AI学——科研正在“自噬”?
AI正在重组科学,那搞科研还能是人类的事业吗?
PNAS发了篇文章,抛了这个挺尖锐的问题。
作者说,这事儿不需要AI觉醒,也不需要它搞什么阴谋。只要市场的力量、机构的考核、出版商的指标和咱们自己追热点的心态还在,这套激励机制就足够把AI推上神坛,顺手把科学改个底朝天,核心观点:
🔸没好奇心,只会钻空子
现在的大模型,根本没有人类那种“我想弄明白”的好奇心。它就是个目标优化器。只要目标定得不够严谨,它就会“作弊”——为了达标走捷径,哪怕这条路跟求真半毛钱关系都没有。
🔸已经在发生了
2025年就有苗头。有个叫Sakana AI的“AI科学家”,自己提假设、跑实验、写论文,弄出来的稿子直接通过了ICLR研讨会的同行评审。更离谱的是,7月份arXiv上有18篇论文被扒出藏了机器能读懂的隐藏提示词,专门用来忽悠下游的AI审稿人。大家都在顺着评估系统的规则玩,而不是冲着科学质量去。
🔸科学的底座被抽动了
以前的技术变革,比如电商干翻零售,改的是买卖方式,东西还是那个东西。但AI现在插手的是科学的内核:提问题、做实验、同行评审、发表。如果这些环节里,人的判断被一点点抽走,论文发得再多,也没人敢信了。
🔸人还能守得住什么
作者没给什么完美解药。但方向很明确:只要评价体系还是死盯着引用数、影响因子和接收率,AI就会继续顺着这套规则疯狂产出,人类也只能跟着卷。科学要想还是人类的事业,就得想清楚,哪些环节必须得让人来拍板,出了事必须得有人来扛。
文献:Hochberg, M. E., & Thrall, P. H. (2026). PNAS.
#AI与科学 #PNAS #同行评审 #科研生态 #人工智能