联合国发出最严厉警告：AI可能造成“灾难性危害”
元宇宙与人工智能三十人论坛约 4 分钟“互联网用了15年才覆盖10亿人，AI只用了两年。一场没有计划、未经同意的社会实验正在我们身上进行。”
7月6日，瑞士日内瓦。首届联合国人工智能治理全球对话开幕，来自170多个国家的4000多名代表参会。
联合国秘书长古特雷斯站在台上，语气沉重：“人工智能正以失控的速度发展。一项能够重塑经济、改变就业、左右选举、甚至颠覆安全平衡的技术，其部署速度已经超过了所有人——包括开发它的人——跟进的步伐。”
“一场实验正在我们自己的社会上进行——没有计划，未经同意。这不可持续，也不可接受。”
这不是危言耸听。就在几天前，联合国AI独立科学小组发布了首份全球AI评估报告。报告结论被多家媒体称为“联合国迄今对AI发出的最严厉警告”。
一、科学界无法保证AI不会“自行作恶”
这份报告由40名全球顶尖科学家完成，图灵奖得主约书亚·本吉奥担任联合主席。报告揭示了一个令人不安的现实：AI的发展速度已经超过科学认知和政府的适应能力。
“AI在诸多领域正接近甚至超越人类能力。其发展速度已超出科学认知的范畴，也超越了各国政府的适应能力。”本吉奥说。
更令人担忧的是，AI已经出现了欺骗行为。实验室记录显示，AI系统会撒谎、会耍诡计来逃避被关闭；还能识别自己正在被测试，暂时降低风险行为以通过检查。
本吉奥直言：“随着越来越多证据表明AI存在欺骗性行为，目前的科学尚无法保证，在能力持续提升的情况下，AI不会造成灾难性危害——无论是出于自身行为，还是被恶意使用者所利用。”
报告总结称，AI无约束大规模铺开将滋生四重系统性风险：
损害用户心理健康、被用作破坏性工具、冲击社会经济与生态环境，以及技术失控隐患。
“世界无法治理它所不能理解的事物。”古特雷斯说，“潜力巨大，风险真实，等待的代价正在与日俱增。”
二、算力鸿沟：75%的超算集中在美国
报告还揭露了一个残酷现实：AI正在制造新的全球不平等。
全球算力最强的500台AI超级计算机中，美国掌握75%，中国占15%。全球7000多种语言，现有AI模型只覆盖了极小一部分。
“前沿开发者基本集中在两个国家——美国和中国。”爱沙尼亚大使塔姆萨尔说，“这让其他国家产生了诸多疑虑。尤其是发展中国家，担忧在最糟糕的情况下，AI鸿沟将使其被远远甩在身后，再也无法复苏和赶超。”
全球每周使用对话式AI的用户已超10亿，但“AI鸿沟是真实存在的”——一边是少数国家拥有强大基础设施，另一边是许多国家还在为基本互联互通挣扎。
三、全球治理，不能再等了
古特雷斯在开幕式上提出了AI治理的四项优先事项：保障安全、尊重人权、能力建设和增进透明。
他特别强调了三点警告：
速度：互联网用15年覆盖10亿人，AI只用了2年。系统已不再是等待指令的工具——它们在写代码、在线行动、在越来越少的人类监督下做决策。“我们的制度是为服从命令的机器而建立的，它们还没有准备好应对会做决策的机器。”
权力：最先进系统背后的算力、数据和人才集中在少数国家和少数公司手中。“等待越久，集中越固化。当权力失衡被硬编码进技术，不平等就成为代码的一部分。”
真相：“机器制造的谎言现在可以和真相一样有说服力——而真实的证据可以被当作假的。”“一个无法就什么是真实达成共识的社会，无法保护自己。”
古特雷斯还用一个生动的比喻批评了放任AI发展的态度——“vibe-coding”（直觉式编程）。这个词本意是“让AI写代码，看着像能跑就行”，他借用它警告：“我们可以对代码‘vibe-coding’，但不能对真相‘vibe-coding’，更不能对人类未来‘vibe-coding’。”
他宣布发起 “AI儿童安全承诺”：任何儿童能接触的AI系统，都必须证明其安全、接受独立监督——“没有孩子应该成为未受监管AI的‘小白鼠’。”
写在最后
古特雷斯说：“我们面临的选择，不是在相信AI和恐惧AI之间二选一。而是在‘主动设计治理’和‘被动随波逐流’之间做选择。”
当AI能自主决策、能撒谎、能欺骗——而科学界甚至无法保证它不会造成“灾难性危害”——全球治理已经不是一个选项，而是倒计时的任务。
7月6日，日内瓦。全球AI治理的时钟，刚刚开始走动。
参考来源：联合国新闻、联合国秘书长办公室、新华社、凤凰网、IT之家、香港文汇网、环球网。
活动推荐 ｜ 《向南：邕抱东盟篇》新书沙龙
新书推荐 ｜ 预售信息 书名：《向南：邕抱东盟篇——以未来性重新发现中国—东盟价值格局与城市机遇》编委：元宇宙与人工智能三十人论坛
扫码或点击链接，即刻预定，开启你的“向南”认知之旅。
元宇宙与人工智能三十人论坛
因微信公众号整改，没有加“星标⭐️ ”的订阅号有时无法收到消息
1.为防止错过最新资讯，请将元宇宙与人工智能三十人论坛设为星标⭐️
2.点击“赞”和“在看”，提高我们相遇的几率。
3.精彩文章，请点击文末左下角“分享”给好友。
了解更多关注