AI假发票是个大问题

文 | 英国《金融时报》社评

过去，企图报销造假的人手段相当原始：一台复印机和一瓶修正液；再加上几张由热心的出租车司机提供的空白车票。如今，手法既更“高级”，又更容易。正如英国《金融时报》本周报道的那样，图像生成式人工智能的出现，催生了大量由AI生成的假发票，正在助长报销欺诈。这些假发票配有仿真的商标、地址和明细，甚至还模拟了折痕和咖啡渍。

人们高度关注一种可能性：精心制作的AI生成“深度伪造”——即被篡改的视频或音频，能够让知名人物“说出”从未说过的话——可能被用于政治肮脏伎俩或金融诈骗。但“欺骗的民主化”也会助长更基础、更常见的欺诈形式。

过去需要具备平面设计或照片编辑技能并使用相应软件才能制作的以假乱真的伪造品，如今仅凭文本提示就能由AI生成。这对试图控制报销舞弊支出的公司来说是个大问题。通过侵蚀对文档证据与纸质记录的信任，这一趋势对金融信任也可能产生更广泛的影响。

据软件供应商AppZen称，9月份提交的欺诈性单据中，虚假AI收据约占14%，而前一年为零。SAP在7月的研究显示，近70%的首席财务官认为员工在用AI伪造报销收据；10%的人确信这种情况已在他们企业发生。

一种应对措施是求助于AI来侦测AI伪造内容，例如扫描AI生成图像中嵌入的

元数据——尽管很多用户知道，可以通过给图像拍照或截屏来去除这些信息。AI软件还可以搜寻更隐蔽的破绽，比如表述中的重复模式、过多四舍五入后的总数，或与某地不相符的商家信息。

也许最万无一失的保障措施，是要求所有报销类支出都通过公司支付的企业卡完成——这样公司可以直接获取交易数据——并可以配合一款应用，要求员工当场拍照并提交收据。公司还可以通过在应用中使用“虚拟”企业卡来更严格地控制费用，这些卡可以设置消费限额，或仅限于某些交易类型或特定商户使用。

然而，如果AI能够变出一张栩栩如生的酒店账单，它同样可以伪造发票、付款记录、银行对账单或租赁合同——动

摇了长期支撑财务报告的“眼见为实”原则。就目前而言，高级审计师们对这些风险仍相当从容。过去30年，行业已从对纸质文件的依赖大步迈进，转而采用数据分析并直接检验电子付款记录。公司和审计师本身也在使用AI来监控那些人类可能忽略的异常。

一位资深审计师表示，如今版的尼克•里森(Nick Leeson)——这位在1995年拖垮巴林银行(Barings Bank)的“流氓交易员”——已无法再用伪造文件掩盖行迹。然而，更近年的Wirecard欺诈案——尽管发生在生成式AI时代之前——仍然大量依赖伪造文件来隐藏并不存在的营收与现金余额。

AI欺诈者与配备AI的“看门狗”之间似乎将上演一场军备竞赛。至少目前，“看门狗”相当有信心他们仍然领先。不过，正如某家报销平台的一位高管开始告诫客户的那样，新的座右铭或许应当是：“别相信你的眼睛。”

智能眼镜能否赢得我们的信任？