你的 iPhone 也可以离线运行 DeepSeek「含原理介绍」
App Store搜索fullmoon,目前免费,使用这个app可以直接在iPhone上运行 mlx-community/DeepSeek-R1-Distill-Qwen-1.5B-4bit 模型,大家可以直接尝试下。
地址:https://apps.apple.com/app/fullmoon-local-intelligence/id6727014156
配置步骤如下:
| 打开设置 | install,并选择 |
当然也有很多其他app支持,有一些付费,就不提了。
原理
大概分析了下原理,基本上是使用苹果的MLX Swift实现的。https://swiftpackageindex.com/ml-explore/mlx-swift/main/documentation/mlx/examples 可以直接修改LLMEval这个例子,稍微修改即可运行起来DeepSeek。如果你是iOS开发,能很快实现。
https://github.com/ml-explore/mlx-swift-examples/tree/main/Applications/LLMEval
下图是我测试的例子
第一步,获取代码:
https://github.com/ml-explore/mlx-swift-examples
第二步,增加如下代码
第三步,修改默认模型为DeepSeek,真机运行即可。我自测iPhone 16 Pro 可以顺利运行1.5B和7B,14B的模型还没下载成功(看日志是我手机空间不足了,你可以试试)。
总结
随着算力突破与算法优化,终端侧大模型的部署已跨越技术落地门槛,真正的挑战在于如何通过场景化创新释放其商业潜能。相信未来端侧智能将呈现三大演进方向:
其一,模型轻量化与异构计算的深度结合,推动千行百业实现低门槛AI赋能;
其二,隐私保护与实时决策的天然优势,将催生医疗诊断、金融风控等敏感领域的颠覆性应用;
其三,结合多模态交互和情境感知能力,终端大模型将重构移动生态,开创从被动响应到主动服务的交互新范式。
当设备真正具备认知智能时,业务价值将不再局限于降本增效,而是迈向人机协同的智能增强新纪元。
最后,我创建了一个AI菜鸟学习群,如果有兴趣一起成长,可以加群一起交流,公众号聊天中发送“加群”或者“AI”即可获取加群方式。