拜登发布10项最严AI监管新规，马斯克惊呼，吴恩达痛批
元宇宙三十人论坛约 6 分钟“
白宫发布了一项针对AI监管的行政命令，这些指令是“世界上任何政府所采取的最强有力的行动”，旨在保护AI对美国公民的影响。这项命令建立在拜登-哈里斯AI权利法案的基础上，并得到了15家领先科技公司的自愿承诺，以确保AI的安全和负责任的发展。这项命令旨在减轻AI风险，同时利用其潜力。
OpenAI、Google、微软等知名AI参与者必须遵守新的AI立法。
白宫10月30日宣布了一项针对AI监管的重大行政命令。根据白宫副幕僚长布鲁斯·里德（Bruce Reed）的说法，这些指令是“全球任何政府迄今为止采取的最强有力的行动”，旨在保护AI对美国公民的影响。
拜登政府一直在制定监管自由度较大的AI行业的计划。这项命令基于拜登-哈里斯关于AI权利法案的蓝图，以及15家领先科技公司自愿与政府合作推动安全和负责任的AI开发。
白宫并未等待国会通过自己的立法，而是通过行政命令来减轻AI风险，同时充分利用其潜力。随着像ChatGPT这样的生成式AI的广泛使用，利用AI的紧迫性变得非常真实。
白宫AI行政命令涉及10个关键规定。
这个行政命令是什么样的？它将如何影响AI公司以及未来的行业发展？以下是详细解读。
1. 开发强大AI系统的开发者必须与联邦政府分享其安全测试的结果
换句话说，当一家知名AI公司(例如OpenAI、Google和微软)正在训练其模型时，它必须在向公众发布之前分享红队安全测试的结果。（红队是一组人，通过冒充恶意行为者来测试数字实体的安全性和安全性。）
根据一位高级政府官员的说法，该命令侧重于未来一代AI模型，而不是像ChatGPT这样的当前面向消费者的工具。此外，需要分享安全测试结果的公司是那些符合最高计算性能门槛的公司。该官员表示：“这不会捕捉到由研究生甚至教授培训的AI系统。这实际上是针对世界上最强大的系统。”
2. 红队测试将符合国家标准与技术研究院（NIST）制定的高标准
国土安全部和能源部还将共同合作，确定AI系统在网络安全以及化学、生物、放射性和核基础设施领域是否存在某些风险。
3. 解决使用模型进行科学和生物相关项目的AI参与者的安全问题
正在制定新的“生物合成筛选”标准，以防范由AI工程化的“危险生物材料”。
4. AI生成的内容必须加上水印
商务部将发布指导方针，确保所有AI生成的内容 - 音频、图像、视频和文本 - 都标明来源。这将使美国人能够确定哪些内容是由非人类实体创建的，从而更容易识别欺骗性的Deepfake。
5. 持续推进“AI网络挑战”
对于未曾了解的人，AI网络挑战是拜登政府的一个倡议，旨在建立一个高级别的网络安全计划，加强AI工具的安全性，确保漏洞得到修复。
6. 依靠国会通过“跨党派数据隐私立法”
这项行政命令是对国会的一项信息，要求立法者加快速度。拜登呼吁立法者确保在知名AI参与者训练其模型时保护美国人的隐私。儿童的隐私将是主要关注点。
7. 深入研究公司的数据政策。
白宫表示，将评估机构和第三方数据经纪人如何收集和使用“商业可得”信息，即公共数据集。一些“可以识别个人身份”的数据是对公众可得的，但这并不意味着AI参与者可以自由使用这些信息。
8. 减少AI引发的歧视
将会推出指导方针，减少房东、联邦承包商等领域歧视的可能性。此外，政府将介绍在刑事司法系统中关于判刑中使用AI的问题的最佳实践。此外，拜登政府将处理与AI在刑事司法系统中的使用相关的问题。
9. 吸引全球顶尖AI人才
截止到今天，ai.gov网站为寻求AI奖学金和美国政府工作机会的申请人提供了一个门户网站。该命令还寻求更新具有AI专业知识的移民的签证标准。
10. 支持容易受到AI发展影响的工人
拜登政府将通过制定原则和最佳实践来支持工人的集体谈判权，以保护工人免受潜在的监控、工作替代和歧视等危害。该命令还宣布了有关AI对劳动力市场潜在扰乱的报告计划。
此项监管要求，对美国国家安全、经济、公共卫生或安全构成风险的AI系统开发商在向公众发布前，需要与美国政府分享安全测试结果。
符合以下条件的模型，都要受到监管——
(i) 使用超过10^26次整数或浮点运算算力训练的任何模型，或主要使用生物序列数据并使用超过 10^23次整数或浮点运算算力训练的任何模型；
(ii) 任何计算集群，拥有一组物理上共用一个数据中心的机器，通过100 Gbit/s以上的数据中心网络横向连接，并且理论上具有每秒10^20次整数或浮点运算的最大计算能力，用于训练AI。
初创公司Playground的创始人Suhail Doshi把这些标准高亮出来，评论道：终有一天，我们会后悔对自己做了这样的事。
这条推文获得了LeCun的转发，甚至马斯克都在下面留言——的确有可能。
Suhail总结道，美国政府对监管和报告要求的起点是——
- fp16时为50K H100s（带互连） - fp32处为1.5M H100s（带互连） - 414M H100训练时数
有人发现了华点——白宫知道什么是浮点运算，什么是10^26吗？是谁在向他们提供信息，谁在幕后监管？
与其担心「AI引发世界末日」这种虚无缥缈的风险，AI强监管所带来的巨头垄断，才是从业者和政策制定者该真正关心的问题。
甚至还讽刺道：
「让我们把核武器也开源了，让它们更安全。好人永远比坏人拥有更大的核武器，所以一切都应该没问题。」文章综合整理，参考来源：
AI范儿：https://mp.weixin.qq.com/s/6DfW_FpVZ7b466QymrG_nQ
新智元：https://mp.weixin.qq.com/s/z17qpUor94dMTj06YZXtrw
元宇宙三十人论坛
因微信公众号整改，没有加“星标⭐️ ”的订阅号有时无法收到消息
1.为防止错过最新资讯，请将元宇宙三十人论坛设为星标⭐️
2.点击“赞”和“在看”，提高我们相遇的几率。
3.精彩文章，请点击文末左下角“分享”给好友。
了解更多关注