我花了13999买了人生第一台AIPC,然后把你想知道的全测了
我从很久以前,就一直是一个AI手机或者AIPC坚定的信念者。
前端时间把我的手机,从小米的MixFold2,换成了搭载 骁龙8 Gen3的小米14 Ultra。 再加上我一直想把我那个破天选2的游戏本现在干一天活就死3次,跑个啥都崩,所以我就诞生了想换一个笔记本,换一台AIPC的念头。 我在网上搜刮了很久,看了一圈的评测,最后选了当时还没开售的联想 YOGA Pro 16s AI元启 。
速度贼快,第二天也就是5月21号的早上,这台心心念念的的电脑就放在了我的家门口,真的吹爆京东的配送速度。。。
我也第一时间进行了开箱。这个设计就很符合我的审美,我就好一口磨砂。
软件:因为众所周知的原因,Windows的 Copilot在国内是没法用的。所以 至少需要提供一个 基于你们 厂家的优化版集成式AI来当你的智能体助理。 硬件:搭载英特尔的Ultra系列芯片。毕竟这里面塞了NPU,专为AI新增的处理单元,这个Ultra里塞了 CPU+GPU(集显)+NPU 三个单元,这是硬件最大的不同。
毕竟我自己的能力圈,还有整个AIPC的定位,最核心的自然还是那个单词:
AI。所以,再深度用了三天之后,我决定来写一篇评测文章,好好聊聊他们的AI功能。
毕竟,这样才算对的起我花出去的Money,你说对吧。
一. 联想小天 因为一些众所周知的原因,国内的windows电脑,是没办法直接用微软的 Copilot的,而且Windows Copilot也不是端侧大模型,全部是接的GPT4o云端推理,这个肯定是不行的。
而联想的 YOGA Pro 16s AI元启,自带了一个AI的综合体,专属助理联想小天。
本质上,就是一个内置的AI应用,里面集成了大模型和和各种应用,是一个非常典型的智能体助理的定位。
也可以说,联想小天就是整个联想AIPC的核心,所以,先看看它的设计。1. 本地与云端双模型
最核心的一点就是,联想小天可以切换本地和云端双模式。
本地个人模式,就是直接用内置在本地的端侧大模型用CPU去做推理。 云端模式,就是用云上的大模型去做推理。 云端的大模型参数,肯定是要比本地大很多的,但是我翻了很多资料,并没有看到具体的模型数据,只知道是联想自己的天禧大模型。 我用一个测试标杆弱智吧的问题,来让大家看看本地和云端的区别。
这个端侧模型是直接用CPU跑的,而且功耗很低,大模型常驻在后台,大概只吃4G左右的内存,在推理的时候,也不怎么吃CPU。
而且推理速度还是可以的。我录屏给大家感受一下。
然后在AIPC的场景下,其实我们很看跟系统的集成,一个优秀的智能体助理 ,其实应该是能调用系统的各项能力的。
联想小天集成了很多,但是我觉得还是初期,还不够。现在能达到的水平是,用自然语言调用一些联想系统的级别的应用,以及修改基本的设置项,比如看硬件配置,开启护眼模式,下APP等等。
当然,还有我预期的更复杂的场景,比如我说: 我想看今晚更新的最新的庆余年2。 理论上他会打开腾讯视频,打开庆余年2,自动定位到今晚更新的集数上,但是这种需要跟腾讯视频这种第三方接口打通,我觉得...就...还是想一想就算了。
2. 本地知识库 这个可能是我最看重的AIPC的功能了。
举个例子, 我朋友是做HR的,手上一堆公司内部规定和章程,她自己也天天记不住,也不敢扔到大模型上,每次都是别人问她以后她先查,如果有端侧大模型,其实就方便很多了。
再比如我,我自己有一份文件,里面都是我自己各种公司资料和各种密码,还有一堆比如我自己的敏感信息、身份证号、啥的,这个文件是我的命根子,要是泄露出去可能就炸了。
但是我经常需要跟别人签各种合同、写邮件、对接入库、发工资,还有一堆乱七八糟的琐事,需要极度频繁的用到这些信息。而AI其实可以大大的帮我减轻这些工作量的,比如直接跟我的信息和银行卡号,给对面发个打款邮件。但是我肯定不敢把这些信息传给ChatGPT或者Kimi之类的,所以每次我都是直接生成一个模板,然后我去手动填。
但是能端侧的话,那就不太一样了。
再比如我还有一个我自己的比较详细的介绍文档,里面有很多跟其他公司合作的一些核心数据,这个肯定不敢传云端的,但是我在端侧,就敢随便问答了。比如以前经常有人问我:方便简单给一下您的介绍吗?现在我就敢直接把这个文档扔进去然后直接生成。
你也可以点击个人知识库,把一些文件直接扔进来向量化处理。
但是坦率的讲,现在知识库的体验还不是特别的好,产品还需要迭代。
因为我自己理解的知识库,是把文件传上去之后,就可以不用管了,直接在对话里面提问题就行。
但是联想小天现在还需要先进知识库,勾选文件后进行提问,而且一次最多有3个文件的限制。
我觉得端侧模型这个方向肯定是没问题,但是这个产品的交互体验设计,还需要迭代优化。
3. 本地文件搜索直接用大模型搜本地文件,还是一个挺刚需的功能的,因为有一说一,过往的文件搜索,实在太难用了,而且我自己的管理习惯其实不是很好,经常各种文件散落在各地,所以大模型加持下的AI搜索,还是一个我挺期待的功能的。
所以我直接在小天里面试了下,比如: 找出我公司的营业执照文件 。
可以看到还是做了一些AI加持的,有语义理解了。我搜的虽然是公司营业执照,但是把银行证明、公司资料啥的都搜出来了,不过那个公司法还是略有一点抽象。
除了文件外,也能搜某个特定日期的。
在文本端还不错,但是一旦搜一些多模态的内容,比如图片、音频、视频,效果目前就还有点一般,经常会不准。
比如我让搜我电脑里的美女图片。
开什么玩笑= =我电脑里大把的,但是确实就没有搜出来。
4. 其他 除了上面的一些我比较关心的重点功能外,其他的跟AI的结合都是一些工具属性。 比如跟AIPPT合作,可以在电脑上直接调用AIPPT的能力,用文件直接生成大纲,然后挑选模板生成PPT。
在日常浏览各种文字的时候,选中后也会直接出小天的菜单,可以直接用大模型进行提问、润色、总结等等,这个还挺好用的。
二. 本地部署的大模型 除了用联想小天之外,一些专业玩家肯定也想自己部署一些大模型玩玩。 我们现在有了Ultra9,所以也可以给大家看一下,这个专为AI打造的CPU,跑本地大模型的速度,再对比一下4060跑的速度。 我直接下了LM studio,一个给小白用的专门拿来部署本地模型的产品。嗯,很适合我。毕竟专业的测试环境不是我这种非专业用户能搞的。所以就看看大众化的东西~
先看Ultra9直接跑本地大模型的效果。我直接把我的4060显卡给禁用了。
现在我的电脑里已经用不了4060的显卡了。
直接在LM Studio上加载 千问1.5 7B,用Ultra9推理。千问的推理速度大概是这样的,我录了个屏,可以感受下。CPU的占用率直接干到了100%。
三. AI绘图
联想自己也内置了一个AI绘图工具,AI画师。
目前这个产品还比较简单,只有一个模型,有一些预设的风格,支持ControlNET进行一些绘图的可控性。
在生成速度方面,1:1的图,分辨率是512*512px,1张图在5s左右。
3:4的是576*768,一张图大概在9s左右。
不过,对于一些专业玩家来说,我相信大家更关注的是SD在本地跑的时间。不过CPU的加强对SD基本没啥用,所以跑图基本还是会用独显来跑,这台笔记本是4060。
没有任何插件,经典的麦橘模型,一张512*768的图,花了15s。
四. 写在最后
其他就是一个正常的水平,毕竟这是一个笔记本。肯定不能跟台式机去比。
毕竟人一个4090的功耗,基本等于笔记本整机的功耗了。但是在我做一些专业性的工作,比如C4D的渲染、剪映的抠像时,速度还是比之前高了很多,而且我看占用,基本全靠NPU。
除了我这次买的YOGA Pro 16s AI元启外,Book 9i和Air 14也是Ultra芯片,有NPU和联想小天,我自己是选的YOGA Pro 16s。
在去年11月我写过的一篇关于AI手机的文章里,我是这么说的:
“ 大模型,必须进终端,必须直接集成在手机、电脑、智能穿戴这些消费电子的设备终端里,它才能叫真正的AI ” 因为一个很关键的词,它叫, 隐私 。 不要觉得那些大模型厂商都是慈善家,就像我前天发的文章说的一样,他们一定是会用大家的对话和数据进行训练的。 而说实话,我们本身有太多太多敏感的信息了,而这些敏感信息其实很多时候是能提高工作效率的。 就像我上面的例子,因为我自己开公司,就我一人,所以很多时候一些乱七八糟的文件和合同是得我自己处理的。我很想把我公司的所有信息、我的所有信息,比如公司的经营范围、银行卡号、密码、我的身份证号、住址等等,都扔给AI,这样就每次就可以直接生成一份完整的材料,而不是生成一个模板,我自己再去手改。
但是,你觉得,我敢把这些敏感信息,扔给任何一个AI吗?ChatGPT?Claude?文心一言?通义千问?你觉得我敢吗?换做你,你敢吗?
比如我的程序员朋友,手上一堆的代码规范文档,明明可以让AI进行辅助工作,但是苦于安全隐私问题,根本不敢扔进去。上一个敢扔进去的老哥,他们公司的源代码都已经可以直接在ChatGPT上调出来了。
所以,我们真的需要 端侧模型,需要能在本地直接跑的,安全的能保护隐私的大模型,而且这个端侧模型,还能跟系统深度集成。 隐私+方便。而这,就是我认为的AIPC,最大的价值。
我不知道,未来的AIPC,或者更挑明一点的说,未来国内的AIPC,发展速度和更新换代的速度有多快。但是,我的期待还是非常非常高的。
这是趋势,不会变。我先氪为敬。
以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标 ⭐~谢谢你看我的文章 。