预言称，超级智能10年内降临！人类能拯救吗？丨ChatGPT&AI 最近信息汇总16
土匪投资日记约 12 分钟本周大新闻：近日，马斯克表示，未来机器人的数量将超过人类，人工智能的发展会驱动产生一个组合的超级智能，它有强大的能力，比人类要强大。它可能会有很积极的未来，或出现一些负面的未来，我们要尽自己的可能确保这些负面的消极的未来不会发生。
对此，OpenAI表示，超级AI智能都已逐渐提上议程。
OpenAI组建了一个团队，试图用20%算力，在未来4年解决「超级智能对齐问题」。
热门内容
1
1.OpenAI预言：超级智能10年内降临！正集结算力拯救人类，4年彻底攻克对齐
新品发现
2
国内资讯
3
国际资讯
4
我和团队持续在关注ChatGPT ，我们会每周统计最近七天左右的信息， 方便大家了解， 也欢迎大家和我们一起交流。
另外，为深入探讨 AI 发展和其机遇，我们联络了相关老师共同创办了知识星球『AI商业观察』，加入者可获 AI最新发展情报、资源 以及 无需翻墙的AI链接 ，还有详细的指导教程哦~
名额有限，对此感兴趣的你，欢迎进来抢先学习和体验！
热门内容
1.OpenAI预言：超级智能10年内降临！正集结算力拯救人类，4年彻底攻克对齐
OpenAI出手了！为了不让超级智能失控，首席科学家Ilya Sutskever和Jan Leike将共同领导团队在未来4年投入20%算力，解决「超级智能对齐问题」。
博客开篇，短短几行，便阐述了OpenAI对超级智能降临时间的预判，以及具有「毁天灭地」能力的重度担忧。
超级智能将是人类发明的最具影响力的技术，可以帮助我们解决世界上许多最重要的问题。但超级智能的巨大力量也可能非常危险，并可能导致人类丧失权力，甚至导致人类灭绝。
虽然有超级智能现在看来还很遥远，我们相信这可能在十年内实现。
2.AI智能体卷爆大模型！AutoGPT等4大Agent打擂，「西部世界」谁将成为软件2.0？
最近，AI Agent忽然再次爆火。
什么是AI智能体？
它们是一种自动的智能体，以最简单的形式中在循环中运行，每次迭代时，它们都会生成自我导向的指令和操作。因此，它们不依赖人类来指导对话，并且是高度可扩展的。
大语言模型的出现，无疑给AI智能体的发展带来了全新的想象力。
这也引起了无数AI大佬和科技巨头的兴趣。今年加入OpenAI的大牛、前特斯拉AI总监Karpathy近日就在一次开发者活动上表示：AI智能体，代表了AI的一种未来！
Karpathy曾将AutoGPT称为快速工程的下一个前沿。
其实，早在今年三、四月，就有过一轮AI智能体的大爆发，仿佛巧合一样，在短短两周内，斯坦福西部世界小镇、BabyAGI、AutoGPT等多个智能体，就如雨后春笋一般冒出来。
这些智能体出现的时间，都非常接近。
3月21日，Camel发布。
3月30日，AutoGPT发布。
4月3日，BabyAGI发布。（https://www.cognosys.ai/）
4月7日，西部世界小镇发布。
5月27日，英伟达AI智能体Voyager接入GPT-4后，直接完胜了AutoGPT。通过自主写代码，它完全独霸了《我的世界》，可以在游戏中进行全场景的终身学习，根本无需人类插手。
就在同一时间，商汤、清华等共同提出了通才AI智能体 Ghost in the Minecraft (GITM)，它同样能够通过自主学习解决任务，表现优异。
这些表现优异的AI智能体，简直让人看到了AGI+智能体的雏形。
3.ChatGPT紧急下线联网模式，曾被曝能白嫖付费网页
用ChatGPT白嫖网页付费内容，马上就要行不通了。
就在昨天，OpenAI宣布，暂时禁用ChatGPT的官方网页浏览模式。
虽然公告说得很隐晦，但此次功能下架，主要目的就是针对“翻越付费墙”的漏洞进行紧急修复。
ChatGPT的界面中也出现了相应的提示。
有些网友误以为是要永久下架，表示自己无法接受，“能联网才值得付费”。
得知只是暂时取消之后，网友们激动的心情似乎有了一些平复，不过依旧期待着这一功能早日回归。
新品发现
1.学而思推出基于自研大模型的AIGC课程
7月3日，学而思宣布推出基于自研大语言模型的 AIGC 课程，名为《人工智能第一课》。
学而思表示，该课程将“推进编程课程产品升级，助力 AI 教育普及”。
据悉，课程具有如下亮点：
以 AIGC 工具为依托，基于好未来自主研发的大语言模型推出了 7 个 AI 创作工具，目的在于教授学生利用 AIGC 工具创作“文、图、音”相结合的作品，如有声绘本、登陆火星策划案等等。
培养有效运用 AI 工具的思维能力，将在课堂中反复培养学生“会提问-会迭代-会辨析”的思维模式。学而思方面称，“人工智能时代是人机协作的时代，更清晰地与 AI 交流，就能更有效地解决问题”。
该课程相比以往课程“以听为主”的单向传授式学习，更加强调以实践探究为主，号称“在每堂课上，孩子都能结合学到的知识并借助 AI 工具产出一个创意作品”，以培养孩子的好奇心和创造力。
好未来集团首席技术官田密表示，“好未来已深刻意识到，生成式人工智能和大型语言模型的长期影响是会转移到学习领域的。” 提及好未来在人工智能领域的探索，田密称，将对科技研发的大力投入和深度应用，让好未来成长为一家名副其实的科技教育公司，现已积累了上百项教育定制AI能力，十余个智慧教育解决方案，以及包括图像、语音、视频、题库在内的海量教育场景数据集。
田密介绍，好未来于今年春节起，已开始进行自研大语言模型的研发。本次推出的人工智能课程，正是基于自研的大语言模型，未来，好未来大模型还将支持更多的学习产品。
2.北大开源首个中文法律大模型——ChatLaw
北大团队开源了中文法律大模型，并针对大语言模型和知识库的结合问题给出了法律场景下合理的解决方案。
目前，ChatLaw法律大模型提供ChatLaw-13B、ChatLaw-33B和ChatLaw-Text2Vec三个版本，底座为姜子牙-13B、Anima-33B。使用了大量法律新闻、法律论坛、法条、司法解释、法律咨询、法考题、判决文书等原始文本来构造对话数据。
开源地址：https://github.com/PKU-YuanGroup/ChatLaw
在线测试：https://chatlaw.cloud/lawchat/#/
论文：
https://arxiv.org/pdf/2306.16092.pdf
3.一句话搞定数据分析，浙大全新大模型数据助手，连搜集都省了
一款基于LLM的AI数据助手叫做Data-Copilot，由浙江大学团队研发。
只需要用一句话描述自己想看的数据，其他统统交给它！处理、分析，甚至可视化，都能轻松搞定，甚至连搜集也不用自己动手。
相关论文预印本已经发布。
GitHub项目页:
https://github.com/zwq2018/Data-Copilot
论文地址:
https://arxiv.org/abs/2306.07209
HuggingFace DEMO:
https://huggingface.co/spaces/zwq2018/Data-Copilot
4.「分割一切」视频版来了：点几下鼠标，动态的人、物就圈出来了
只要在视频中点几下鼠标，SAM-PT 就能分割并且追踪物体的轮廓。
视频分割在许多场景下被广泛应用。电影视觉效果的增强、自动驾驶的理解场景，以及视频会议中创建虚拟背景等等都需要应用到视频分割。
近期，基于深度学习的视频分割已经有着不错的表现了，但这依旧是计算机视觉中一个具有挑战性的话题。
现在，有研究者提出了 SAM-PT（Segment Anything Meets Point Tracking），这或许能够对「绊脚石」的消除提供新的思路。
论文地址：https://arxiv.org/pdf/2307.01197.pdf
GitHub 地址：https://github.com/SysCV/sam-pt
国内资讯
1.文心一言APP国区可下载！免费体验120+玩法，PPT大纲Excel公式一键生成
终于，正版百度文心一言APP上架苹果商店了！
（此前百度因为盗版文心一言APP泛滥，还起诉过苹果公司及相关开发团队。）
与目前已有的AIGC应用相比，文心一言APP给人最直观的感觉就是——玩法超多。
来感受一下这个feel：
从画各种类型的图像，到生成不同风格的文案，再到做PPT、职场办公、写代码等等，共计约125个细分玩法。
其中就包括像“马斯克”、“甄嬛小传对话篇”这样有意思的专区：
还有最重要的一点——全部免费！
这可算是把网友们高兴坏了，纷纷表示想“体验一下”：
但是！
如果你的百度账号在之前没有申请过体验资格，那么现阶段还是需要排队等待。
2.2023世界人工智能大会有哪些看点？
7月6日到8日，2023世界人工智能大会（WAIC）在上海举办。今年的大会主题为“智联世界 生成未来”，国内外的嘉宾将汇聚上海，重点围绕大模型、AI for Science、通用智能体、算力、元宇宙、人才等十大话题展开讨论。
据了解，今年大会首发首展新品超30款，涵盖大模型、芯片、机器人、智能驾驶等领域。
此次人工智能大会最受关注的亮点莫过于“大模型”，展览现场也集结了大模型领域的重点“嘉宾”。
比如第四范式首次公开展示其“式说”大模型——一款多模态大模型产品。该产品主要专注在用生成式AI重构企业软件，提升软件的用户体验及开发效率。
公司构建的“大模型之城”也在此次大会首次亮相，集合大模型在司法、房产经纪、工业设计等多个产业领域的落地成果。
今年的人工智能大会上，美团无人机第四代新机型首次公布和亮相。该机型是专注于城市低空物流配送场景的全新多旋翼机型，最大配送距离约为5公里，较上代提升近35%；同时可在“中雨和中雪”中安全执行配送任务，能够适应97%以上国内城市的自然环境要求。
美团无人机展示
本次大会展出了20多款智能机器人，特斯拉的人形机器人“擎天柱”、达闼的双足机器人都在大会上亮相。
达阀的双足机器人
除了有趣的消费级机器人，一些B端的尝试也可以在大会上看到应用。擎朗智能在大会上重点展出了M1系列医疗配送机器人，这些机器人可在极其繁琐、复杂的环境中自主运行，并能动态地与其他机器人协同配合，完成各种不同的医疗配送任务。
在特斯拉展台，一款极具机械感的“酷炫”机器人则成为焦点。特斯拉的仿生人形机器人自发布之际就备受关注，这款机器人不仅外观像人，还可以执行各种任务，实现搬运物品、交互、对话等功能。此次大会上，观众可以近距离观察这个机器人的神奇构造。
特斯拉人形机器人
3.“AI换脸”诈骗出现涉政苗头
近日，北方某地警方发布了一起利用“AI换脸”对当事人实施诈骗的案件。
诈骗分子运用人工智能技术，通过微信视频通话与受害人进行了十多分钟交流，受害人转账数百万元。引人关注的是，该案不仅是一起新型网络诈骗，更是一起涉政诈骗案件。不法分子模拟伪造的，是受害人认识的一名领导干部。
在微信视频聊天中，“换脸”后的骗子提出，其朋友有一笔工程保证金需要借用受害人公司的对公账户走账。在视频画面中，骗子“换脸”后面部表情自然，声音逼真，受害人便放松了警惕，转账后打电话确认，才知道被骗。
这样的事不止一起，各地还曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部行骗，值得引起高度警惕。
一些领导干部由于工作原因出镜率相对较高，这为骗子提供了丰富的面部识别素材；在电视、广播新闻中也可以找到一些领导干部的大段同期声，这令“伪造成本”更低。
奇安信安全专家裴智勇表示，目前，专业级别的人工智能“深度伪造”仍需通过较强的硬件在实验室环境实现。这意味着，近期“AI换脸”诈骗形成系统性风险的可能性不大，但仍需未雨绸缪、预防打击。
在源头端，需要进一步加强公民个人信息保护。在技术层面，数字水印鉴伪等技术有待进一步普及利用。
从法律制度方面看，反电信网络诈骗法、刑法等法律为打击治理各类网络诈骗活动提供了法律支撑。此外，还需通过完善相关制度进一步落实平台责任。
国际资讯
1.1.5万亿训练数据，8000输入长度，可商业化！Salesforce开源XGen-7B
全球排名第一CRM厂商Salesforce开源了，70亿参数的类ChatGPT大语言模型XGen-7B。（开源地址：https://github.com/salesforce/xgen）
XGen主要亮点功能包括：支持超长8000内容输入长度，同类开源产品多数都在2000左右；在1.5万亿tokens数据集上进行训练，Salesforce认为，参数并不是提升大语言模型性能的唯一标准，在海量优质数据上进行训练同样非常重要；
除了文本、还支持多种代码生成；资源消耗低性能强大，支持Apache-2.0允许商业化。目前，XGen推出了4K、8K两个商业化版，以及8K指令微调（只能用于技术研究）版本。
2.AI抢人大战告一段落！8位赢家胜出，西雅图或成下一代AI技术爆发地
最近一年多的时间里，生成式AI技术风靡全球，与此同时，所有顶尖科技企业也都开启了一场抢人大战，毕竟大型语言模型、大规模集群基础设施以及AI应用等目前还属于高精尖技术，掌握在少数高端人才手中。
最近，有外媒记者深扒了全球所有人工智能相关公司，按照产品质量、论文数量等指标进行排序，找出了当下八个引领生成式人工智能技术开发的公司，并统计了员工公开的教育背景、曾任职公司、居住地等信息。
除了八家领头公司外，文章还统计出11家非常有潜力的，将模型应用于实际场景、直接对接用户的公司，也许就是下一次AI技术革新的领头羊。
在统计的过程中可以发现，大公司的顶尖人才基本都被更灵活、更有创新力的创业公司挖走，导致大公司在AI技术浪潮中的人才争夺战处于劣势位置。
1. Tome，帮助生成演讲和视觉叙事故事的人工智能
2. Character.AI，可以与各种生成AI人物聊天
3. Anthropic，专注人工智能安全和研究的公司，主要为工作环境构建聊天机器人
4. OpenAI，ChatGPT的开发公司，展现了大型语言模型的能力；还发布了用于图像生成的DALL-E系列模型
5. Hugging Face，建立模型以执行企业中的特定任务
6. Jasper，创建营销和品牌层面创意内容的模型
7. Stability AI，开源了Stable Diffusion，也是最早向公众发布的图像生成模型之一
8. Midjourney，一个自筹资金的研究实验室，发布了一个完全在Discord上运行的图像生成工具
虽然八大创业公司的名字在各大媒体中频繁出现，但也有11家公司正在悄然扩张，吸引了大量高质量人才加入团队。
1. Pictor Labs，数字病理学（AI驱动的组织病理学），加速疾病的临床研究
2. Endpoint Health，AI辅助的免疫相关疾病的精准治疗
3. Otter.ai，由人工智能驱动的音频转录，类似聊天机器人会议助手
4. Bria，具有商业用途控制的图像和视频内容
5. WellSaid Labs，文本到语音的配音
6. Subtle Medical，由人工智能驱动的放射学图像处理
7. Copy.ai，通过聊天机器人进行营销文案写作
8. Lexion，销售、采购、人力资源、法律等方面的人工智能合同助理
9. You，带有聊天机器人界面的搜索引擎
10. OctoML，基于云计算的大型语言模型模型微调和运行
11. Runway，视频、图像和其他创意工具
这些公司都一个共同点：虽然人工智能研究是核心，但他们着重解决特定领域的问题，或者专注于为真实客户定制特定用例。
—The end—
声明：以上仅做个人分享，不构成投资建议。