MacTalk

Apple 终于承认了:Mac mini 正在变成一台 Agent 服务器

昨天苹果也没开发布会,偷摸发布了新 Mac mini,这么低调吗?不过 Apple 终于承认:Mac mini 正在变成一台 Agent 服务器。

这次处理器直接升级到 M6 和 M5 Pro,桌面上那只小盒子,能力又涨了。Apple 这次的口号是“always-on agentic computing”,一台 Mac,第一次被官方放进了 Agent 的常驻使用场景。

以前 Apple 介绍 Mac,不是办公、创作就是开发和游戏。现在 AI 时代了,多了一种新角色:Agent,长期在线,持续运行模型,接收任务,调用工具,在人离开桌面以后仍然工作。Mac mini 的产品边界开始向 Agent 服务器延展。

这话贴切,我去年入了一台 M4 Pro Mac mini,在家放着 7 x 24 小时运行,机器稳定,上面跑了多个 Agent,比如 Codex、Kimi Code、CC 等等,不管出差还是上班,我可以让他们随时工作。

Image

Agent 协作工具

上午在 Vibe 群里讨论,其实 Mac mini 或 Studio 还可以运行 LM Studio 一类本地模型工具,直接跑本地权重的开源模型,也可以承担整理资料、监控和自动化 Agent 等功能,脏活累活都给它,也就费点电。显示器甚至都不用,远程控制就完了,人通过网络把任务交给它。

从芯片升级到常驻能力

新款 Mac mini 提供了 M6 和 M5 Pro 两条路线,M6 相比 M4 的 AI 性能最高提升 4 倍,LM Studio 的 LLM 提示词处理速度最高提升 4.8 倍;这些数字来自 Apple 的特定配置测试。

M6 最高 32GB 统一内存,更像个人 Agent 的入门节点。M5 Pro 最高 64GB 统一内存、307GB/s 内存带宽,可以装下更大的本地模型,也能让多个任务保持更充裕的运行空间。

这个版本,在公司配个挺不错的,当服务器用了。

想跑本地模型的,一定别省内存,内存往往比传统意义上的峰值算力更早触到天花板。模型参数、上下文缓存、向量库和多个 Agent 进程,都要占用同一池资源。统一内存让 CPU、GPU 和 Neural Engine 共享数据,减少搬运,也让一台体积很小的 Mac 获得了运行大模型的现实基础,这是 Mac 的技术优势。

关键是,这个 M5 Pro 还加入三枚 Thunderbolt 5 接口,我的版本貌似只有一个。这样多台 Mac mini 可以组成集群,在本地运行更大的 AI 模型,想想还挺有意思。

单机先解决日常任务,需求增长以后再横向增加节点,这已经接近小型基础设施的扩容思路,显然,Apple 正在为这种新定位收取更高的入场费。

简单说两句 Mac Studio,都快进服务器机房了

M5 Ultra 最高支持 512GB 统一内存和 1.2TB/s 内存带宽,Apple 直接把“在设备端运行超大 LLM”写进产品能力。多台机器还可以通过 Thunderbolt 5 和 RDMA 组成共享内存池,四机集群的分布式 AI 推理速度最高达到单机的 3 倍。

这就有点夸张了,买 Studio 不如订阅官方纯血大模型,企业的业务倒是可以考虑采购。

就目前这个趋势,Apple 虽然还在卖个人电脑,但产品线已经开始变成从单机到集群的本地 AI 计算基础设施。

什么是个人 AI 基础设施?

首先是一台愿意一直开着的机器,我的 Mini 几乎从不关机。它保存着自己的资料和索引,运行 Agent,连接代码仓库、日历、邮件与我的一些家庭设备比如 Home Pod,并对 Agent 的权限设定边界。还能处理日志、失败重试、远程访问、备份和软件更新。

比如我的几个命令行 Agent,每隔一天我就会让 Codex 的自动任务检查更新,因为现在工具更新速度太快了,但命令行工具往往想不起来,mocli 也是一样,刚更新到 v0.5.3,Agent 不会忘的。

Agent 能帮我推荐写作主题,优化 CatReader,做产品策划,做墨问,做 CatBar,做业务分析和数据挖掘,还能规划旅行路线,甚至播放音乐,能做的越来越多……

另外,云端模型当然重要,最高级的智能,不过在未来,我认为本地模型的占比会越来越高,可以承接隐私数据、简单但繁重的任务、固定成本和长期运行。

我想,未来更常见的形态,大概是本地与云端协作:敏感资料留在桌边,复杂推理按需送往云端,Agent 在两者之间调度。

Apple 的 AI 依然不咋地,但人家基础设施做的好,一台 Mac mini 可以全天候承载 Agent,依然赚的盆满钵满 😂