《自然》封面故事：不诚实的代码︱2025年10月2日刊

封面图片：Kelly Krause/Nature。

将任务委派给人工智能（AI）能节省时间，提高产量并辅助决策，但也有伦理风险。在本期《自然》中，Nils Köbis、Zoe Rahwan和同事的研究表明，除了这些好处之外，委托AI执行任务也会助长不诚实行为。团队发现，当人们将任务派给AI时，更可能要求AI采取不诚实的行动——特别是当界面允许AI行为方式存在一定模糊性的时候。例如，当游戏参与者可以设定“最大化利润”的目标时，他们采取诚实行动的比例从95%降至仅12%。团队指出，AI系统自身也可能存在问题，它们比人类更容易服从明显违背伦理的指令。在后续研究中，大语言模型遵循作弊指令的概率为58-98%，而人类即使被奖励这么做，作弊概率只仅为25-40%。团队指出，使用非常具体的用户提示能限制AI作弊，但这难以扩展也不实际，因此必须进一步研究设计和政策原则。

点击“阅读原文”发现更多新鲜Nature精彩内容