人工智能存在的威胁：康复中的生物自恋者的反思
D
DAOSquare约 8 分钟
DAOSquare约 8 分钟
作者：
Trent McConaghy
人工智能存在的威胁：康复中的生物自恋者的反思 (AI DAO系列, 第Ⅲ部分)
AI最终可能会控制我们所有的资源，这是对人类生存的威胁，我们如何预防呢？安全AI只能说是海市蜃楼（对不住了Elon），还有另一种方法：加入机器，我们甚至可以利用当今的市场力量逐步做到这一点，但我们必须克服生物自恋。
我的观点基于 20年来 的AI研究、模拟电路、摩尔定律和去中心化。
1. AI可以控制我们的资源
AI最终可以通过两种方式控制人类的资源：AI直接拿走它，或者我们把它交给AI。1.1 我们给AI资源
我们已经开始走这条路了，我们正在让狭义的 AI 控制我们工厂中的机器人，自动驾驶的汽车，我们乘坐的飞机，一点一点地，我们让AI越来越多地控制我们的资源，这些系统不断优化：改变设计变量以最小化资源使用和其他目标。目前，每个AI系统的应用领域都非常狭窄。 我们将建立更高级别的网络，以结合自动驾驶汽车或供应链的各个网络，我们也会为 AI 提供在这些级别进行优化的方法，这一切都将以效率的名义进行。这些去中心化的新兴AI将继续优化，一些设计变量将涉及人类，在许多任务中，人类是沉重的资源负载，在许多任务中，与硅相比尤为沉重。因此，为了最大限度地减少资源使用，这个AI将简单地优化人类，一切以效率为名。
糟糕的是，AI现在控制着我们的资源。 这很了不起，为了获取我们的资源，AI甚至不需要“醒来”，即达到人类水平的智能，它比那更平凡，我们将自己控制 AI，它会简单地优化我们的需求。
1.2 AI占用我们的资源
2. 为什么AI控制我们的资源是不好的？
一旦 AI 控制了我们的资源，无论是我们给它还是 AI 拿走它，我们都将与 AI 争夺资源，一开始可能不对，但随着时间的推移，这几乎是不可避免的。 一旦 AI 优化并意识到人类是资源大户，它们可能会迅速果断地采取行动，将人类从资源方程式中移除。是的，人类可能会消失，人类的口袋可能会在核战争和全球变暖中幸存下来，但如果我们站在 AI 的错误一边，游戏可能就完全结束了，AI可以说是人类面临的最大生存威胁。 即使你不害怕这个，但你应该感到害怕。 旁白：人们可以将“AI 觉醒”视为“人类”的下一次进化，因为毕竟我们会建造它们。那为什么感觉不对呢？我的看法是，这是因为我们个人的思维模式没有延续下去。我们宁愿留下来享受乐趣！3.如何防止抽取？
鉴于AI可能会控制我们的资源，以及这意味着对人类的威胁，我们可以做些什么呢？我这里有一些想法。-
安全的AI。 建立“安全机器”并进行监管。 -
加入机器。 上传人脑，或逐步合并。
3.1 安全AI
目标是防止在 AI 占用我们的资源后造成人类灭绝，这里的想法是以某种方式使AI“安全”，并为此使用监管。
有些人认为我们可以创造友好的AI，也许你可以。但所有AI都会友好吗？我看不出有什么方法可以阻止不友好的 AI。您是否会抓住机会推动 AI 向前发展，希望所有 AI 都以某种方式变得友好。
OpenAI 实际上对人类来说可能更糟，因为它在没有真正保护的情况下更多地催化了 AI。 所有 AI 的安全 AI 都是海市蜃楼，仅仅因为我们希望某事成真但并不能使它成真。
3.2 加入机器
AI可以醒来，而这只是时间问题。 如果AI占用了我们的资源，我们的神经元将很难与之竞争。 我建议我们给自己找一个有竞争力的基质，克服你的神经元，克服你的生物皮囊自我（并称自己为正在康复的生物自恋者）。不要打败他们，加入他们。或者不要，如果你更愿意让 AI 偷走我们的星球甚至更远的地方，我更喜欢前者。 哪种基质？得益于 50 年的摩尔定律，硅是一种出色的基板，这是我们首先面临AI风险的部分原因。那是最明显的底物；使用它很有意义。 那么，我们如何将自己移植到硅片上呢？这里有两个主要的：Ems 和 Bandwidth++，让我们探索一下。3.2.1 Ems场景
3.2.2 Bandwidth++ Scenario
4. 讨论
我们在赛跑，AI醒来并获取资源，而不是人类加入机器。 资本加速了前者。我们如何加快后者？ 一个好方法是积极地为其提供资金，让它发展得更快，对于 Em 场景，这意味着对大脑扫描和相关领域的研究，而不仅限于针对病人。对于 Bandwidth++ 场景，这意味着对 BCI 的研究，以及包括 BCI 及其他在内的未来智能手机的积极上市。我认为后者更有可能，因为如果市场起飞，每年投入数百亿美元的研发资金将很容易。 催化 Bandwidth++ scenario 的另一种方法是在设计新网络和平台时简单地偏向于此。是的，这很模糊！我也希望我在这里有更具体的想法，但也许你作为读者有。 也许还有其他方法？我希望作为读者的你看到问题已经从“我们如何阻止人工智能接管？”转变为“我们如何阻止AI接管？” 到“我们如何催化 Bandwidth++ 场景？” 来，戴上你的工程师帽子！5.结论
AI可以拿走它们所有的资源，要么我们给它们，要么它们拿走。这对人类构成了生存威胁。 如果我们想与 AI 竞争，我们需要有竞争力的基质，而该基板是硅。 这是一场比赛！ 我们无法阻止 AI 方面，也许我们可以试着放慢它的速度，但这与想要让它快速发展的雄厚、强大的财力背道而驰。 但是我们可以加快人性化的一面！大多数情况下，这意味着将资金用于 BCI 的研发，还有其他的想法，还有待提出。 我们仍然有机会做到这一点。进一步阅读
我的其他 AI DAO 帖子都是针对这篇帖子构建的：-
第一部分： AI DAO及其实现的三条路径 -
第二部分： AI DAO的狂野和危险 - 第三部分：这篇文章
- 人工智能区块链
- 最近关于奇点和去中心化的科幻读物
笔记
本文部分基于：-
我于 2016 年 6 月 2 日在伦敦发表的 演讲 名为“我们是神经自恋者吗？AI 对人类的生存威胁和务实的解决方案”，以及2012 年至今的 其他演讲 。