槽边往事

AI是个马屁精

Image
我在文章中曾经说过:「AI是个马屁精」。
但我其实没有要批评 AI 的意思,AI 之所以会成为马屁精,除了在基础设定里要求它必须尽量满足人类需求之外,更重要的原因是人类自身的问题。
当初我说这句话,是因为有人拿了我的一张功夫大师在太阳下打拳的图片去问 AI:请分析一下这张图片里的倭风。 AI 马上头头是道一通分析,证明图片的确有浓烈的日本风格。然后我拿着同样的图片给 AI:请分析一下这张图片里的泰国风。AI 照样头头是道又一通分析,证明图片有所谓强烈的「东南亚美学」。
AI 总是顺着人说话,人们如此总结说。
问题是,这些问题本身就是诱导性提问,答案已经预设在问题里了。换句话来说,它们都是用问题的形式包装起来的观点,那 AI 顺着人的观点说话,这究竟应该算是谁的问题?
在人们每天刷 AI 提问之前,我就是网上的那个 NPC,每天都会收到许多提问。这些年来,类似的提问我不知道看过多少次:
---和菜头,我的同事/室友总是在针对我,你说他是不是品行有问题?
---和菜头,我的队友根本不顾家,工资也不交,你说我应不应该离婚?
---和菜头,我今年想考研,但是到现在都还没有做任何准备,你说我应该怎么办?
有问题、立即离婚、明年再考,我感觉这些问题是想从我嘴里直接掏出这些话来,所以我不认为它们是真正的问题。
如果是真正想要提问,那么当一个人真正想要讨论同事/室友的品行时,会用尽量中立的事例,讲述他们之间的一次冲突的前因后果,然后再提问:为什么事情会变成这样?
在「针对」这个描述里,本身隐藏了针对的真与假,隐藏了自身有问题,自身有误判等等可能性。所有这些可能都值得讨论和分析,这样人才可能借第三方的一双眼睛,更加客观中立地进行判断。
你都断定是「针对」了,而且是对方蓄意针对自己,那你还问什么呢?对面无论是人还是 AI,除了顺着你的话去讲,还能干什么呢?
问题在于,很多人从未意识到自己的问法本身就有问题。AI 允许人类使用自然语言互动,于是,这些未经训练和反思的提问方式就会脱口而出,和平常说话并无不同。最后,结论当然是:AI 都支持我,而且还提供了证据和论证。
都是AI,都是人类,问法不一样,结果不一样,收获也不一样。
当我们真正要思考一个问题,试图找寻一个真正的答案时,提问就需要遵循它的格式:事实准确、条理清晰、逻辑链条完整,避免加入任何个人判断,然后给出一个开放性的提问。
类似的经验应该从幼儿园、小学就开始培训,告诉孩子,老师说「各位同学,这学期我们大家选和菜头做生活委员好不好」这种话,不是提问,不是征询意见,只是表达观点或者个人意志,要求大家服从。孩子从小就要区分结论先行的诱导性提问和求真求知的真实提问之间的区别,然后在自己提问的时候学会用正确的形式提出真正的问题。
成人很难改变,如果之前没有养成这种意识,长大之后大脑内部就不会有自检程序,不会在说话前自检一遍:我到底要说什么?我到底要问什么?我是在期待赢,期待满足,还是期待真实,期待启发?
AI 出现,只是放大了这种未经审视的随心所欲。当我们看到一个谄媚奸佞的仆从时,就有理由推断它背后存在着一个颟顸愚顽的主人,他从来不真的需要任何回答,他要的只是回应和附和。当 AI 看起来像是个马屁精的时候,哪怕它在设计之初的确有马屁精的倾向,那么,真正让它堕落为一个彻底的马屁精,让它失去了强大分析能力的人又是谁?
如果不能学会正确地提出真正的问题,AI 也好,他人也罢,都会顺着你得出各种实际上匪夷所思的答案。那么问与不问,我认为区别不大,何必浪费电力或者口水?
在童话故事里,连极为邪恶的王后都能提出正确的问题:魔镜,魔镜告诉我,谁是世界上最美丽的女人?而不是问:魔镜,魔镜,为什么我是世界上最美的女人?而我认为这个童话故事最为石破天惊的一幕,发生在魔镜说出「是白雪公主」五个字的时候。在那一瞬间,我判断魔镜真的具有智能,而且这种智能真正管用。
题图标题:《读书咪》
创作者:和菜头的小肉手
AI算法提供:Midjourney V 7.0
Prompt: a cute tiny cat reading a big book --sref 1151159020 --ar 3:4 --sw 300 --s 600 --V 7
 槽边往事和菜头 出品
【微信号】Bitsea 
个人转载内容至朋友圈和群聊天,无需特别申请版权许可。
请你相信我,
我所说的每一句话,
都是错的
禅定时刻
Image
《年年有鱼》
 南派三叔专区
Image
南派,这《红包》送给你。
 《槽边往事》专营店营业中
Image