收获不止数据库

人工智能与数据共生之路⓵--数据之痛,大模型医?

引言

上回说到,无名从2050年穿越而来,向众人揭示了AI时代的未来就业情况,大家唏嘘不已(详见:小朋友都能懂的人工智能⑬AI时代,未来就业走势)。数天后,到了与无名约定再见的日子,他却并未现身,只留下一张纸条。

原来,无名发现由于自己的低级错误,可能无法再回到自己的时代。懊悔之余,他决定边过隐匿生活,边寻找解决之道。

很快,无名的传说在江湖中流传开来,无数人争相寻找这位大师以求指点,但都无功而返。

数月后...

老牛:L兄,咱们真的能见到无名大师吗?

Image

L:是的,见无名大师不易,大家一定要好好珍惜这次机会。

数小时后...

无名:欢迎各位光临!L兄,好久不见,别来无恙。

L:无名兄,今天我带了几位数据库圈的朋友登门请教,打扰了您的闭关参悟,还望见谅。
无名:无妨,近期我取得了重要突破,顺利的话,再过三个月我就能重返2050年。到时候,想见面可就难了。有什么问题,大家尽管问。

1

数据之痛,从业者们口中的悲催故事

老牛:无名大师,我是一家头部企业的数据库团队负责人。我们企业有数百套数据库,涉及数十种不同的技术栈(详见:数据库二十年目睹之怪现状⓵ 太!多!了),团队成员需要熟悉各种技术栈的命令,以便在不通过数据库之间切换操作。然而,这对个人的能力要求太高,大家疲于应对,苦不堪言。所以,想向您请教有没有更好的解决办法。
无名:嗯,大家还有什么问题,一并提出来,我统一解答。
老马:我公司的数据库数量比老牛的更多,运维团队每天都面临忙不完的变更、升级、迁移、扩容、巡检、告警处理、故障诊断、性能优化、选型测试等工作,经常通宵加班,大家都快撑不住了。
老牛:老马,深有同感,我们的情况也差不多。
小羊:两位老哥没提到SQL问题,我可是深受其扰啊。我们公司业务需求复杂多变,几乎每天都有大量新SQL上线。开发人员忙不过来,天天加班。更糟糕的是,由于需求紧迫,大量性能低下的SQL匆匆上线,严重影响了生产系统的运行,导致我们不得不花大量时间诊断和优化SQL,快被折腾疯了。即便后来我们制定了SQL编写规范,引入了SQL审核工具,压力依旧很大。
大熊:羊兄,我是做数据治理的,非常理解你的处境。我总感觉数据怎么都治理不好。字段类型不规范(如日期、字符、数字类型的选择)、字段命名五花八门(工资字段就有pay、 salary、 wage等多种命名)、字段存储格式更是混乱(如分隔字符有逗号、顿号、破折号等)... 更糟的是,字段语义逻辑问题频发,比如“地址”含糊不清(离XX100米)、“邮编”瞎写、“身份证信息”格式写错、“年龄”不符逻辑(父亲仅比孩子大2岁)等。这些问题通常是在应用时才暴露,修复起来非常仓促,被动又低效。
小侯:真羡慕各位前辈这么忙碌。我是个新人,因为无法很好地融入工作,心里特别着急。我接手的数据库太多了,眼花缭乱的,很多特性还不熟悉,大量参数含义搞不明白,对应的业务场景也不清晰,也无法读懂复杂SQL的含义,故障诊断总找不到根原因,变更作业更是战战兢兢,写SQL时又总是担心有逻辑错误或者性能问题...

无名:嗯,大家都抛出了自己的问题,L兄,你有什么需要探讨的吗?

L:无名兄,我非常关注中国数据库产业的发展。虽然我们的数据库技术已经在某些方面超越Oracle了(详见:数据库二十年目睹之怪现状⓹真实的谎言),但由于起步较晚,用户案例积累远不如Oracle。而优化器又极其依赖大量案例的经验打磨,因此在这一领域难免存在差距。对此,您有什么建议吗?

从业者的数据之痛

人员

困境

已采取手段

老牛
数据库团队负责人

数百套数据库, 多种技术栈, 学习成本高

1. 引入工具
2. 完善流程

3. 扩大人员

4. 加班加点

老马
数据库规模大,工作涵盖变更,升级,迁移,扩容,巡检,告警,诊断,优化,选型等,难以支撑
小羊
数据库开发工程师
1. SQL开发量巨大, 难以应对 

2. 低效SQL频上线, 影响生产

3. 疲于生产SQL的诊断及优化

1. SQL规范

2. 举行培训

3. 审核工具

大熊
数据治理技术专家
1. 类型, 命名, 格式等不规范

2. 语义逻辑错误频发难定位

3. 应用时才暴露, 应对仓促

1. 制定规范
2. 治理工具

3. 人肉修复

小侯
数据库运维工程师
1. 数据库过多, 学习很困难
2. SQL复杂, 业务难以理解

3. 故障诊断和变更操作吃力

1. 学习文档

2. 参加培训

3. 依靠团队

L
数据专家行业专家
国产数据库起步晚, 优化器尚有差距
1. 收集案例

2. 加大投入

2

人工智能,无名大师的数据诊疗方案

无名:其实,各位的数据库“心病”无需太过担忧,我可以开出一剂名为“人工智能“(AI)的药方,它的核心成分是基于生成式AI的大语言模型,简称“大模型”。

Image

小羊:无名大师,我也在用大模型,主要是用来协助自己写文章、绘图(详见:小朋友都能懂的人工智能⑪一滴墨汁成就一代画师)、做视频(详见:小朋友都能懂的人工智能⑫从画师到视频大师)等,这玩意儿真能解决我们的数据库问题吗?

无名:你用大模型协助你写文章、绘图、做视频,本质是通过交互让它帮你完成任务。其实,假设它真的掌握了SQL,用它处理SQL的编写、审核、优化(详见: SQL优化思想)和解释,与用它写文章、绘图并无本质区别。你的主要问题在于需求过多、SQL工作量大以及审核和优化的繁琐,包括小侯需要的SQL解释。只要你们能够清晰的表达需求,大模型就可以帮你分担这些任务,并且它会变得越来越强。

老马:无名大师,您认为大模型可以参与生产中的数据库运维工作?但变更、升级、故障处理等操作都需要极高的准确性,一旦出错,后果不堪设想。如果大模型的建议有误,而我们又误采纳了,岂不是会对生产环境造成严重危害?我不敢用啊。

无名:你的顾虑很有道理。大模型和数据库的结合确实存在许多挑战,尤其是它的四大天坑。

老牛:天坑?

3

四大天坑,大模型真能治愈数据之痛?

无名:我们先来看天坑1——“回答全靠猜”。大模型的回复是基于概率统计,而非记录查询。它通过计算词向量(详见:小朋友都能懂的人工智能⓹-不可思议的大模型),结合注意力机制(详见:小朋友都能懂的人工智能⓺- 逆天,句中高能!!)依次生成得分最高的词,连成句子或代码。简单来说,它不知道你在问什么?也不知道自己在回答什么。因此,它偶尔会产生胡言乱语,也被称为“大模型的幻觉”。

老马:啊,都不知道自己在回答什么,还有幻觉,听起来确实很坑。

无名:接着说天坑2——“时常会失忆”,大模型在长时间交互中,可能忘记之前交代的信息。(详见:小朋友都能懂的人工智能⓼--无名的故事与GPT-4运行(推理)流程)。比如,你要求它遵循Oracle数据库的SQL语法,但随着对话深入,它可能会把这要求抛在脑后,于是,回复就偏离了你的预期(详见:小朋友都能懂的人工智能⓽ Hi AI, Database is all you need)。

老牛:这也太不靠谱了吧!

无名:再说天坑3——“不具时效性”。比如某个大模型是2024年6月1日训练出来的,那它只掌握了6月1日以前的知识,之后的信息它一概不知。就算给它提供最新的知识让它学习,它也只能进行推理回答,而不能把这些新知识融入到神经网络参数里,也就是说,大模型不能实时学习,要重新训练才能掌握新内容。

小侯:我们人类都可以随时学习新知识,大模型怎么就不行呢?

无名:最后说天坑4——“成本超昂贵”。OpenAI公司在大模型研发上投入已超百亿美金,仅仅一次大模型训练成本就常常超过千万美金(详见:小朋友都能懂的人工智能⓻--无名的故事与GPT-4训练流程),而推理成本更是高的惊人(详见:小朋友都能懂的人工智能⓼--无名的故事与GPT-4运行(推理)流程)。所以能参与大模型研发的公司和机构很少,在国内也就阿里、百度、字节跳动、清华大学等少数几家有能力参与。

老马:这么贵!还会胡言乱语、失忆,知识又不实时,这大模型根本无法用啊。

Image

L:老马,别着急下结论,无名兄来自2050年,咱们问问他未来大模型与数据库的结合情况如何?

无名:未来,大模型与数据的结合非常成功。两者达成了一种“共生”的美妙境界,不仅大模型赋能数据,数据也能反过来提升大模型能力。这一过程经历了多个发展阶段,可以类比L1到L5的无人驾驶层级。

老马:真的吗?可您提到的“四大天坑”让我完全不敢接受啊。

无名:大模型与数据的结合不是一蹴而就,而是分阶段逐步实现的。天坑远不止这四个,但是都有解决之道。接下来,我会详细讲解大模型的运行机制,以及与数据结合的关键思路,并带大家回顾这一“共生之路”的各个阶段。

众人:太好了,非常期待!

欲知后事如何,请听下回分解...

致谢(拼音顺序)
衷心感谢陈家宇、陈凯文、陈青龙、陈伟华、陈奕华、褚凤天、丁俊、德哥、方文宇、方旭尘、高清华、高小明、郭昌清、郭一军、胡傲华、黄秉诚、黄海明、黄军武、黄锏、黄美龙、黄维新、黄围围、黄文思、黄学刚、黄志洪、蒋文娟、江晶、江梦添、孔罗星、梁克会、李华民、李建、林春、林铃棠、林通、卢小文、刘兵、刘华阳、刘肖鹏、刘昭、米伟、明玉琢、欧伟杰、彭志远、钱伟华、饶雪婷、瞿恒锐、尚雷、司马辽太杰、石福仁、唐川、王其达、王景灯、王卓、王青牛(青牛踏雪)、伍绍明、吴炳锡、吴聪、吴华勤、吴添林、谢恒忠、熊灿灿、薛晓刚、许林杰、徐培钟、徐紫英、应发荣、于成铭、叶剑锋、叶杰、姚建艺、杨帆、杨光、杨祥坤、杨有田、张飞、张丽梅、张雁飞、张荣志、张守帅、张文升、张展、曾力、赵振平、郑小超、郑宇隆、郑智渊、庄子骏等专家与好友,他们为《人工智能与数据共生》系列以及《小朋友都能懂的人工智能》系列的推出提供了宝贵的建议和支持!
更多精彩原创内容见公众号
    点关注   Image  不迷路
系列回顾
  • “小朋友都能懂的人工智能” 系列

  • “数据库观察记” 系列

  • “世事洞明皆学问” 系列


预告:《超融合数据库》即将出版,关注梁老师公众号,敬请期待。

Image