数字生命卡兹克

这台卖37999的RTX Spark电脑,让我实现了Token自由。

昨天,受邀在北京参加英伟达的活动,跟他们一起在店里庆祝,RTX Spark的全球开售。
毫不夸张的说,现场真的人山人海。
Image
在剪彩开售的一瞬间,我去京东看了下,几分钟不到,128G的版本,直接就被抢空了???
Image
大家对本地算力的需求,比我想象的还要旺盛。
而我自己呢,其实在一周以前就已经收到了RTX Spark的机器,是华硕的ProArt创16,128G统一内存+1T版本,目前在京东售价37999,也就是上面那个在京东直接被抢空的版本。在所有的同机型里,性价比应该是最高的了,其他的同型号有的甚至要贵上万块。
Image
只能说,感谢英伟达。

说实话,第一次拿到手的时候,我最惊讶的地方,其实是它的体积和重量。

你很难想象,这么一台薄至约12.9mm、轻至1.79kg的16英寸轻薄本,里面居然塞进了一颗原生支持CUDA、最高拥有128GB统一内存的RTX Spark芯片。

Image
目前我也已经深度使用了一周的时间了,非常想跟大家来分享一下我在这段时间,使用RTX Spark的体验。
其实今年6月,老黄第一次在发布会上发布RTX Spark 的时候,我就写过一篇文章:英伟达发布全新RTX Spark - 个人PC的新时代。
在那之后,我其实就一直等着这台电脑发售,虽然我现在有两台Mac Mini在家24小时跑着Agent,但是谁又能拒绝一个有着统一内存,还有CUDA生态,能在本地跑模型,还能打游戏的超轻薄的RTX Spark电脑呢。
因为过去我们想在本地跑大模型,一直有一个非常蛋疼的问题。
你想要大内存,那可能就得买 Mac。苹果的统一内存确实很牛逼,但是很多AI项目的底层都是围绕NVIDIA的CUDA生态开发的,在Mac上跑起来,有时候就需要各种移植和适配。
你想用CUDA呢,那就得买英伟达显卡。但是传统消费级显卡的显存容量又有限,5090也才32G,稍微大一点的模型,就有可能塞不进去。
而RTX Spark这次,把这两件事情直接结合到了一起。
128GB的统一内存,加上CUDA生态,作为一个喜欢折腾AI、并且还是一个游戏佬的我来说,没办法,RTX Spark还是太有吸引力了,而且基本就是唯一解。
所以一周以前拿到手以后,我除了先下了Steam之外,干的第一件事,就是开始疯狂去部署各种各样的模型。
玩AI的这几年,好像都没有这么痛快过。
而且模型自由、Token自由的感觉,真爽。
可以先给大家看一下我这台电脑的配置。
Image
RTX Spark N1X芯片,128GB统一内存,加上1TB SSD。
我知道,大家肯定都还会想跟5090比一下,但这块我想说,RTX Spark主打的还是大容量、便携、以及超高能效。
我简单做了一下表。
Image
为了大容量和轻量便携,所以英伟达做了一些妥协,压低了带宽和算力,但是换来的,是完全不同功耗。
RTX Spark把功耗压到了80W,而5090纯单显卡,就需要恐怖的575w的功耗,你在笔记本和一些小机型里,根本不可能带的动。
所以,相比之下,我个人还是觉得,对于绝大多数的玩家来说,RTX Spark的适用性和泛化性,还是高于5090的,基本就是用更加广泛的场景,来换取慢一点的速度。
因为这一次英伟达为了让大家开箱即用,所以也贴心的跟WorkBuddy合作了,他们搞了一个RTX Spark专区,所以国内用户完全可以直接下载WorkBuddy,这样可以非常方便的开箱即用。
首先,打开WorkBuddy,在左上角找到这个RTX Spark专区,然后点击切换。
Image
你就可以来到RTX Spark的专区首页了。
Image
英伟达给了一些预设,你可以快速的进行一些便捷操作。
Image
当然,最核心的,肯定还是在这台电脑上,使用本地模型,我都用RTX Spark了,那肯定是要用本地模型的嘛对吧。
点击设置,进入到模型,就能看到这边有个本地模型的选项了。
Image
如果你是第一次拿到这台设备,那右边是一个下载的选项,就可以直接一键把模型下载下来放到你的本地了。
这个模型是单独预设的,所以跑的速度还是不错的,能跑到80 Token/秒。
同样的,你也可以自己部署其他的模型,不需知道太底层的原理,可以直接让Agent帮你跑。
对于一台128G统一内存的机器来说,吃下一个100B左右的Q4量化版本,我觉得是没啥问题的,但是相对于日常使用来说,我不建议跑的这么满,需要给别的东西留下一点空间。
所以,我无比推荐大家,换上我觉得本地的一个最牛逼的模型,甚至是能跟曾经的Opus 4.6相匹敌的,且能无时无刻常驻后台的模型。
他就是Qwen 3.8-27B。
这玩意是真的猛,猛到一定的级别了,在AA上,以一个27B的模型,跟一众几千亿的模型打的有来有回。
Image
而且是完全可以本地部署的,而且Token无限,绝大多数的活,它其实都足够了。
想在本地部署它,并且在WorkBuddy里一起用,或者放到别的Agent里面变成可选模型,也特别简单。
Image
一句话的事,记得一定要说开启MTP。。。
然后,就装好了。
Image
这里要注意,即使开了MTP后,Qwen3.8-27B的推理速度,还是会比比如Qwen3.6-35B-A3B慢不少,主要是因为这是一个少见的Dense模型,所以其实推理的时候也是带着27B的参数一起推理的,而后者其实只需要跑3B,所以会慢不少。
但是换来的,却是智力的飞跃。
我在本地实测大概能跑到30 Token/秒,差不多跟Codex里面的GPT-6.1 Sol一个速度,所以你能接受GPT-6.1 Sol的速度,那我觉得在本地跑Qwen-3.8 27B,我觉得你也没啥问题。
部署到本地以后,你就可以让他快乐的干活了,至此,你也拥有了,无限Token,想怎么干活怎么干活。
比如直接挂在后台,监控我产品的BUG反馈和Github上PR,直接异步全自动迭代,实现loop循环,相信我,在很多场景下,Qwen-3.8 27B,绝对够了。
那我们大语言模型有了,但你都买RTX Spark了,肯定不可能只玩个大语言对吧,那多亏啊。
所以我又陆陆续续部署了一系列的各种各样的模型。
比如图片生成模型、视频生成模型、本地OCR模型、ASR模型、TTS模型,甚至还有专门翻译的小模型等等等等。
各有各的用处。
就像3年前,那时候大家买电脑玩本地AI,很多人都是为了玩Stable Diffusion,那时候还缩写叫SD,可惜现在SD的名字都被Seedance抢走了。。。
Image
这张图肯定很多人见过也用过,属实是我的AI启蒙。
而现在,版本变了,AI绘图开源模型里面,Qwen-Image-2.1独领风骚,直接就可以部署以后,你也可以实现,无限画图。
BF16、40 步配置,一张1K左右的图,大概需要在1分多钟。
Image
效果也很不错。
Image
当然,你也可以,直接出视频。
H3在本地就可以直接跑,15秒的720P,本地跑大概20分钟。
还有等等等等。
这些,是我在本地里面,精挑细选之后,装的所有的模型,基本能覆盖到绝大多数场景了。
Image
这么一看,在开源生态上,Qwen是真的强的离谱,几乎占了半壁江山。
而折腾这些模型,其实也挺麻烦的,虽然有Agent了,但是还是没有那么开箱即用。
于是,为了让大家也可以方便的开箱即用,包装整合一下,于是,我想了想,把整套的路径和流程,打包成了一个WorkBuddy上的专家,放在了RTX Spark的专区里面。
Image
当你把机器买来以后。你只需要打开WorkBuddy, 安装这个专家。
它就会先检查你的电脑配置,以及本地已经有哪些模型了。
因为并不是所有人,都是128G的内存版本,那适配和能带的动的模型也不一样,所以这个专家会根据你的实际电脑配置来给你做一个清单的规划,告诉你应该配置什么样模型。
Image
如果你已经配置过了,那么他们就会显示已就绪,如果是刚开始没有下载的话,它就会引导你去下载。并且我也全部都设成了魔搭社区的链接,所以也不需要做一些特殊的网络配置。
然后,所有的能力和推理引擎我都已经封装好了,当你跟着引导下好模型之后,也完全可以使用这个专家来调用你所有的本地模型。
比如直接让他画图,再让他生成一段视频,甚至可以组合起来进行使用。
Image

比如,你想给自己的文章做一张配图。

你可以直接跟它说,帮我画一张16:9的赛博朋克风格城市夜景,它就可以调用本地的Qwen-Image-2.1,直接在你的电脑上生成图片。

如果你觉得图片不错,还想让它动起来,那就接着说,把刚刚那张图做成一段视频。它就可以继续调用本地的H3视频模型,去完成下一步的生成。

甚至你还可以把几个模型串起来,这就是128G超大内存的好处了,可以并行跑。

比如,我丢给它一张英文的产品发布会截图,先调用OCR模型把里面的文字识别出来,再调用翻译模型翻译成中文,最后交给Qwen3.8-27B,帮我整理成一段适合公众号使用的介绍。

或者你有一段会议录音,也可以通过本地ASR模型转成文字,再用大语言模型帮你提炼重点、整理待办。

这些场景涉及的模型能力,我都整合到了这个专家里,不过能用哪些,取决于你的电脑配置,还有已经下载和配置好的模型。

而且整个过程中,你不需要自己去研究每个模型的API怎么调用,也不需要知道背后到底跑的是什么推理框架。

而这所有的行为和操作都是在你本地电脑上完成的,不花一分钱。

毕竟大家花了几万块钱买一台RTX Spark,总不能买回来以后,还得先花半个月学Python、学CUDA、学各种推理框架,才能真正把这台机器的能力用起来吧。。。

我希望普通人拿到机器以后,也能尽可能简单地把本地AI用起来。

而且这些本地模型推理,都不需要再额外支付API费用,想画多少图、翻译多少文字,就看你自己的硬件能跑多少了。

希望这个小小的专家,能对大家有用。

当我做完了这一切以后,我是真的觉得自己,用AI的心情,是跟以前不一样了的,有一种,更加自由的感觉,不需要被Token额度所束缚。
真的,每次看到这种东西我都很难受。
Image
而这种Token自由带来的创造力,我感觉也会更多。
举个例子,我自己的英语不是很好,所以你让我去阅读一些国外的网站。对我来说还是有很大的挑战的,但对于一个AI博主来说,不看国外的网站,那是不可能的。
所以一直以来我都在用模型来去帮我翻译,这就避免不了的,需要用到付费的Chrome浏览器翻译插件,要么订阅,要么为API所付钱。
但我有了这台电脑以后,我的第一个想法就是,为什么我不自己部署一个本地专门翻译的小模型,然后自己搓一个Chrome浏览器翻译插件,来解决我的这个问题呢?
于是,我只花了半小时,就搞定了。
Image
在浏览的实时效果上,是这样的,基本可以做到近乎实时的翻译,而且翻译效果极佳。
Image
而它的翻译的模型,是我精挑细选对比之后,选的B站的一个2B的小模型,在我自己的评估体系里面,我会觉得它的翻译质量是真的很不错,而且非常懂科技,在一些专业名词上都不会乱翻译。
并且推理速度极快,基本1秒钟全都能出来,而且是2B小模型,所以我直接设了在翻译浏览的时候,根据文本块,直接设置了6路并行,我觉得差不多了。
Image
如果想要更快,那开8路或者12路也行。
这种需求,我以前基本不太敢用一些API去做,因为真的很烧钱,反而订阅一些其他家的会员还便宜一点。
而现在,直接插件自己写,模型自己本地跑,想怎么调怎么调。
这种感觉,还是很不一样的。
今天的AI,主要在响应人的请求,但未来的AI,一定会越来越多地参与到人的整个生活和工作的所有流程里。
而这个变化,会直接带来一个特别现实的问题,也就是我上面提到的。
成本。
我觉得很多人其实低估了这个问题,我其实前几天分享过我现在自己纯粹的阅读会员订阅费用。
Image
我就不展开给大家算了,但是结论就是我每个月要花6000块钱的AI会员订阅费用,你没看错,6000块。
这其实还没有算上我的一些程序的后端自动化的费用。
比如我的AIHOT。
Image
每天,都会有巨量的工作流,在后台处理着上千条新闻,而每一个新闻后面都可能是三四个模型进行协同,对它进行预筛、实体抽取、精选打分、翻译、摘要、聚簇、去重等等等等。
全都是钱。
最狠的时候,我的API账单是这样的。
Image
即使后面稳定了,每天的消费也是100多块钱的API费用,这还只是其中一个产品,我已经极尽可能去省钱了,用的全是flash级的小模型,基本上一次就几分钱,还是会堆成这样。
如果真的未来的AI开始全天候工作呢?假设你的电脑每隔几秒钟,就需要识别一次当前屏幕上的内容呢?假设你工作的时候,它就在在后台无时无刻的整理文件、检索资料、分析各种信息呢?假设你每打开一个软件,它都可能需要做几次小的判断呢?
这些任务,每一件的计算量可能都不大。
但当它们变成每天成千上万次,甚至更多次的后台调用以后,事情就完全不同了。
如果所有这些任务,都要云端,都要调用API,都要按Token付费。
那么你相信我,这个费用会夸张到我们普通人绝对不可能接受的程度。
最搞笑的是,这里面很多任务,可能根本用不到什么顶级大模型。
比如一个2B的翻译模型就能干得很好的活,或者一个极快的很小的决策模型就能干的判断的活,你为什么非要每次都请求一遍几千公里之外的数据中心?
当智能的边际使用成本足够低的时候,人们才会开始把智能用在那些过去根本不值得使用智能的地方,而这,才会带来真正的创新。
在我很小的时候,还是胶卷时代,那时候,一卷胶卷就几十张,买胶卷要钱,冲洗也要钱,所以那时候我还记得,在老家跟亲戚聚餐的时候,大家拍照都特别郑重,要等人到齐,要摆好姿势,要喊一二三。
后来数码相机出来了,再后来手机拍照普及了,每多按一次快门,成本几乎是零。
于是大家开始随手拍,拍吃的,拍天上的云,拍身边的伙伴,出去旅游一下,一天拍几百张都是稀松平常。
拍照开始变得不要钱了,于是,有了自拍,有了街拍,有了短视频,这一切的一切,都是从拍照约等于免费开始。
人就是这样,只要每用一次都需要付钱,人就会算计,就会省着用,那些最奇怪、最随机、最有创意的事情,可能大家完全都不敢去尝试。
就像A16Z的报告,即使已经是2026年、AI已经大肆奔涌了快4年了,在美国那边,依然是98%的美国家庭还没有为AI付过费。
Image
这就是现实。
而且对于我自己来说,云端模型它好像永远不是属于我的东西,它是我租的。
这可能也是我们华夏文明,自古以来,对土地的一种执念吧。
就像云端的模型,它就像我们租来的地,它确实很强,是那种最肥的地,它的产量最高。但它永远不是我的,可本地的模型就是我的那一亩三分田,它的产量可能低一点,能力可能差那么一些。可那好像就是我自己的东西,没有人会管我,也没有人会随时随地收回我的土地,我想在上面做什么,都可以。
这是一种物质上和精神上的自由。
苏轼《赤壁赋》里有一段话,我特别喜欢。
惟江上之清风,与山间之明月,耳得之而为声,目遇之而成色,取之无禁,用之不竭,是造物者之无尽藏也,而吾与子之所共适。
这一周的RTX Spark的使用,对我来说的感受,就是取之无禁,用之不竭。
当你有了一台这样的机器,有了在本地跑的模型后,相信我,你一定能懂我的感受。
我手上的这一台华硕的机器,它的定价其实已经是大幅的低于我预期了,大家都知道现在的内存还有算力有多金贵,我本来预期我这台128G+1T的设备,至少是卖45000以上,但最后的定价,其实是37999,已经很不错了。
但我知道,如今的RTX Spark对于绝大多数人来说,依然还是过于昂贵。
但,就像几十年前,个人电脑刚刚出现的时候,也同样很贵。
可随着后来芯片越来越便宜,电脑越来越普及,几乎人人都有一台个人电脑之后,大时代来了。
现在你花几千块钱买一台电脑,它的计算能力可能就已经远远超过了当年某些昂贵的大型计算机。
AI很可能也会经历一个类似的过程。
今天我们需要一台三万多块钱的RTX Spark,才能比较舒服地在本地运行一个几十B参数的大模型。
但随着模型量化、蒸馏、推理优化和芯片技术的继续发展,未来类似的能力,可能会逐渐进入普通笔记本,甚至手机。
而RTX Spark这种设备,我觉得,至少让我们提前看到了那种未来可能是什么样子。
每个人,都可以在自己的电脑里,拥有真正属于自己的,取之无禁,用之不竭的智能。
我们已经花了几十年的时间,让计算属于每个人。
接下来,智能,也将真正属于。
每个人。

以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~谢谢你看我的文章,我们,下次再见。

>/ 作者:卡兹克

>/ 投稿或爆料,请联系邮箱:[email protected]