ReaderMX.
元宇宙与人工智能三十人论坛

炮轰Sora，杨立昆为什么不看好生成式AI

元元宇宙与人工智能三十人论坛约 11 分钟

Image

AI的发展会增强人类整体智慧。

来源｜中国企业家杂志
头图来源｜视觉中国
过去一周，OpenAI发布的生成式视频大模型Sora刷爆了各大社交媒体，OpenAI在发布Sora时表示：“Sora是能够理解和模拟现实世界模型的基础，我们相信这种能力将成为实现AGI的重要里程碑。”而图灵奖获得者、Meta首席科学家Yann LeCun（杨立昆）却在社交平台X上炮轰Sora，称Sora的生成式技术路线注定失败。
杨立昆一直不看好生成式AI，2月中旬，杨立昆参加了迪拜世界政府峰会（WGS），在采访中再一次分享了自己的AI见解。在他看来，想让AI像人类一样观察世界，还需要更多科学突破。仅依靠海量文本训练出来的大模型，还远达不到人类的智力水平。因为他一直认为，文字只能承载一小部分人类知识，而绝大部分智慧都来自人类与现实世界以及人类之间的互动。
同时，杨立昆强力主张开源AI大模型，只有开源才能让技术更安全、更可定制，才能形成生态。他希望有一个自由且多样化的AI平台，就像现在自由且多样化的社交媒体平台一样。最后，他发表了对AI安全建设的看法，他认为，技术的安全建设是在发展过程中一步一步完善的，很多安全措施都需要在进行中学习和开发，他相信AI会逐渐变得安全可靠。
Image
来源：X社交媒体平台截图

以下为精彩要点：

1.人工智能会发展成基础设施类工具，而互联网的发展历程已经证明，任何基础设施类工具最终都会开源，对于这类工具来说，开源更安全、更可定制，能在其之上创建一个生态系统。

2.我们需要自由且多样化的AI平台，就像我们需要丰富多样的社交媒体一样。

3.尽管现在AI可以做很多事情，但要超越人类的智力和学习能力还没那么简单，还需要更多科学突破，毕竟人类对世界的理解比我们目前最强大的AI系统还要好得多，我们还有很长的路要走。

4.如果仅依靠文本来训练人工智能系统，将永远无法达到人类的智能水平。

5.人工智能将从本质上增强人类的整体智慧，未来，AI不会掌控世界，而是会作为我们的工作助手，帮助人类更好地工作。

6.AI的安全性也会在发展过程不断得到完善，让AI变得完全可靠肯定是有一个过程的。
以下为访谈全文（有删改）：
Image
AI的未来必是开源的
主持人：去年（2023年）Meta推出了开源大模型Llama2，杨教授可以从安全和创新的角度谈谈为什么开源是AI未来发展的方向吗？
杨立昆：未来，我们与数字世界的所有互动都将借助人工智能系统完成。目前已经存在人工智能代替传统搜索引擎帮助人们工作的情况，我相信未来人工智能会成为连接人类与数字世界的桥梁。若想要人工智能深入参与人类生活，就需要各种各样的人工智能系统，用以满足不同语言、文化、价值体系的需求。显然，这不是某一家公司或某个国家能够单独完成的。从本质上讲，人工智能会发展成基础设施类工具，而互联网的发展历程已经证明，任何基础设施类工具最终都会开源，对于这类工具来说，开源更安全、更可定制，能在其之上创建一个生态系统。我们目前整个通信系统的基础设施例如互联网、手机系统、通信软件全部都是开源的，这不是被有意设计，而是受市场推动的。
在过去的几个月中，Llama2开源的范围更大了，很多企业都在使用Llama2训练和定制他们在垂直领域的AI应用，使用他们自己的语言和文化训练AI模型。我们需要自由且多样化的AI平台，就像我们需要丰富多样的社交媒体一样。
主持人：对于你和Meta而言，是否开源肯定牵扯到公司的利益问题，你们围绕AI大模型是否开源有过争论吗？在推动大模型开源时是否遇到过阻力？
杨立昆：围绕是否开源以及如何能做得更好，我们内部讨论了几个月。为了测试如何做会更好，我们在2023年初发布了第一版Llama，那个时候还不是真正的开源，用户必须申请才能获得权限，申请邮件中需要写明身份并说明打算用Llama做什么。后来我们收到了来自初创公司、大型企业、联合国非政府组织等的各种申请，想将Llama作商用，而不是单纯用来科学研究。就像20世纪90年代互联网大爆发时引发的热潮，点燃了大众使用AI、研究AI的热情。当今世界只有少数公司有能力训练和开发那些高功率的前沿大模型，所以这些模型更应该成为一个平台，开源供大家使用。
Meta自创办以来，一直有开源的传统。过去10年，我们开源了大约1000个不同的项目。其中最受欢迎的一个叫PyTorch（一个开源的Python机器学习库，基于Torch，用于自然语言处理等应用程序），那是一个在AI研究和开发中被广泛使用的软件平台。不久前我听Sam Altman（山姆·阿尔特曼）的发言，ChatGPT也是用PyTorch搭建的。不过后来它发展得越来越大，就独立出去给专门的公司管理了。
AI没那么快超越人类
主持人：除了开源，是否还会有一些更基础、更简单的方法来保障AI发展的安全性？
杨立昆：从过往的经验看，开源软件确实更安全，因为它更受关注。现在全世界都在使用Linux（一种免费使用和自由传播的类UNIX操作系统），全球的网络服务器、云服务甚至包括汽车上的微控器上都在运行Linux系统。Linux掌握着世界，就是因为它是开源的，你可以把它应用在任何你想要的地方，随时监督它，让它变得更安全。同样，AI也是这样，开源后会有更多眼睛盯着它，也会有更多方法来保证它的安全性。
现阶段反对开源的原因，无非是担心AI发展日益强大，将来产生自我意识从而掌控世界，但我认为这种状况短期内不会发生，尽管现在AI可以做很多事情，但要超越人类的智力和学习能力还没那么简单，还需要更多科学突破，毕竟人类对世界的理解比我们目前最强大的AI系统还要好得多，我们还有很长的路要走。
在实现人类智能级别的人工智能出现之前，我们需要突破的是让人工智能了解世界是如何运作的，现在的人工智能还无法做到这一点，虽然它们可以记录各种事实，但并没有持续记忆。至少Llama还不行，AI可以推理、计划，这些是智能行为的基本特征，但目前的大模型还达不到我们理想中的水平。
原因很简单，你可以了解一下我们用于训练Llama的数据量，大到令人惊讶。通常是10万亿个token（语言模型中用来表示最小文本单元），一个token相当于一个单词的话就相当于10万亿个单词，对人类来说，这意味着要用15万年～20万年的时间来读完一本书。
所以虽然人工智能系统非常聪明，能够消化如此庞大的知识，但当你跟心理学家交流时他们会告诉你一个例子：一个4岁的孩子，总计醒着的时间是16000小时，当我们对通过视觉进入视觉皮层的信息量做一个估计时，发现大约每秒有20兆字节的信息通过光学神经。一个孩子看到的信息数据量是我们最先进的人工智能模型训练数据量的50倍，这表明，如果仅依靠文本来训练人工智能系统，将永远无法达到人类的智能水平。文本是一种非常贫瘠的信息载体，只能反映人类知识的一小部分，人类的大部分知识来自我们与现实世界和其他个体之间的互动，这些知识并非来自文本。
因此我们不断遇到机器人学家早已经知道的悖论：莫拉维克悖论——人类所独有的高阶智慧能力只需要非常少的计算能力，例如推理，但是无意识的技能和直觉却需要极大的运算能力。我们认为理所当然的事情，例如抓住掉落的物体，我们并不认为这是一项多么智能的任务，这对于人类来说太简单了，但对当下的人工智能或机器人来说却非常复杂。所以我们的大模型可以通过律师资格考试，但还不能实现自动驾驶汽车，我们甚至没有可以清理餐桌、使用洗碗机、打扫房子和修剪草坪的全能家务机器人。这些都是一个10岁的孩子可以一次性学会的任务，但对机器人来说并不简单。我们在人工智能取得真正进展之前还需要一些科学上的突破。
主持人：你认为这个突破将会在哪里出现？
杨立昆：应该是科学研究方面的突破，而非来自现有的架构和数据量的扩展。因为随着训练Llama的数据量增加，性能会趋于饱和，我们已经使用了互联网上所有的公共数据，没办法拥有更多，就像训练的大模型参加法学考试一样，只要通过就可以，考得再高也没有太大意义，我们需要其他维度的突破，这就要依靠科学研究，而不是追求数据量的增长。4岁孩子醒着的16000小时学到的东西，用30分钟的视频就能呈现完，我们有更多视频资源，却无法教会人工智能做那些人类本能就会做的事情。现阶段没有这种技术能让AI像婴儿观察世界一样来学习。我们正在研究这个问题，希望得到突破。
Image
AI会慢慢变得安全可靠
主持人：你与世界上很多商业领袖、政府代表交流过生成式AI的安全问题，想知道大家对AI的看法是一个怎样的变化过程，对于AI的担忧主要来自哪里？
杨立昆：有些人对技术的潜力抱有非常积极的看法，就像我们刚刚听到的山姆·阿尔特曼的观点，当然，如果我们不认为这对人类有益就不会从事这方面的研究工作。
我认为人工智能将从本质上增强人类的整体智慧，未来，AI不会掌控世界，而是会作为我们的工作助手，帮助人类更好地工作。我们会为它设定目标，因为如果AI自己设定目标可能会带来危险，由人类来定这个目标就可以有效避免绝大多数不可控的因素。使用AI就像是有一群非常聪明的人在为你工作，在场的许多领导者应该很清楚这个概念，一般我们都需要与比我们聪明的人一起工作。
同时越来越多的人意识到，人工智能也许会带来新的文艺复兴，就像15世纪印刷机的出现一样，它真正促进了知识的传播，现在的AI发展也会带来类似的效果。
我在过去的6个月中观察到，一开始有很多关于AI是否继续快速发展的讨论，但在过去2个月中这些声音逐渐变小了，现在人们更关心的是我们如何正确发展AI。这与20世纪开发的许多新技术类似，在技术诞生的最初阶段可能并不安全，但最终会被优秀的工程师和市场力量打磨得更安全可靠。就像飞机的涡轮发动机技术，经过几十年的不断改进，已经变得非常安全可靠了，人工智能也会如此。我们将从初级人工智能系统开始研究，让它们能够初步理解世界，学会规划、存储记忆和进行推理，然后会逐步提升人工智能系统的复杂程度，同时会设置安全保护措施，确保人工智能的发展处于可控状态，让它们为我们工作。
主持人：的确现在的飞机技术已经很完善了，但偶尔还是会出现事故，就像最近发生的飞机门炸开事故那样，这让大家都感到非常恐慌。人工智能是否也会出现这种情况，虽然已经很安全了，但总避免不了意外发生。我们可能会预料到发动机出现某些故障，但没人会想到飞机在空中时机舱的门会出现脱落，那么是否可以认为人工智能系统也会出现计划之外的严重事故？
杨立昆：每一项强大的技术都伴随着风险，尽管飞机发生事故的概率远小于汽车，但意外仍会发生，所有技术都是如此。所以部署AI的正确方法和错误方式，都需要我们在发展前进的过程中学习。就像我们在持续不断地改进驾驶汽车的安全系统一样，安全带、安全气囊、保险杠以及自动刹车系统等都是一步一步更新完善的，在汽车不断发展的过程中研究出来的安全技术。AI的安全性也会在发展过程中不断得到完善，让AI变得完全可靠肯定是有一个过程的。我们不要将科幻小说中的设定带入现实生活中，引起不必要的恐慌，人类并不是注定要灭亡，这是非常荒谬的想法。
主持人：今年对于世界各地的选举来说，有了人工智能可能会带来很多问题，你觉得我们做好这方面的准备了吗？
杨立昆：这是一个真实的短期风险，其实那些问题也不是AI出现后才有的，制作假视频，传播假消息已经存在很长时间了，只不过AI技术的加入使得这些假内容的生产速度更快了，让许多人感到害怕。
目前，行业一直努力制定用于验证或标记真实内容的标准，这需要摄像头制造商、图像处理软件、供应商、社交网络等行业上下游达成C2PA（一种开源的互联网协议。它依靠加密技术对一条内容的来源细节进行编码，这也被技术专家称为“出处”信息）协议。为真实内容加上水印，以此提醒人们哪些是真实的内容，哪些是AI生成的内容。相信那些想传播真实信息的人会更有动力去维护真实信息的标记，而那些只想散布虚假信息的人完全不会做维护行动，所以标记真实可信的内容会是一个很好的方法。
主持人：最后一个问题，你想给这些AI系统开发者哪些建议，确保他们的AI技术在安全的范围内发展？
杨立昆：开源模型是必要的，无论政府认为他们应该怎么做，这是必然出现的，因此我给大家的建议是不要禁止开源AI模型。

来源：中国企业家杂志

*元宇宙与人工智能三十人论坛诚邀您填写关注者满意度调查问卷，本次调研不涉及个人隐私，扫码填写即可收获小礼品一份，期待您最真实的反馈！
Image

元宇宙与人工智能三十人论坛

因微信公众号整改，没有加“星标⭐️ ”的订阅号有时无法收到消息

1.为防止错过最新资讯，请将元宇宙与人工智能三十人论坛设为星标⭐️ 

2.点击“赞”和“在看”，提高我们相遇的几率。

3.精彩文章，请点击文末左下角“分享”给好友。

了解更多关注
Image
Image

KEEP THE THREAD GOING

更多来源文章

全球信息情报中心

01 上汽集团与飞书签署集团层面合作协议 7月27日，上汽集团与飞书签署集团层面合作协议，双方将以飞书AI和一体化协同平台为基础，加速人工智能深度融入研发、生产与经营全流程。 02 腾讯WorkBuddy正式上架鸿蒙电脑应用市场 7月27日，据腾讯云消息，腾讯WorkBuddy正式上架鸿蒙电脑应用市场，成为鸿蒙平台首…

阅读全文