体现价值-我们靠PostgreSQL迁移PolarDB,给公司省下了100万 “巨款”
❝开头还是介绍一下群,如果感兴趣PolarDB ,MongoDB ,MySQL ,PostgreSQL ,Redis, OceanBase, Sql Server等有问题,有需求都可以加群加群请联系 liuaustin3 ,(共3400人左右 1 + 2 + 3 + 4 +5 + 6 + 7 + 8 )(1 2 3 4 5 6 7 8群已经爆满 9群 为纯聊天群,默认不加入不得发广告,自己公众号文章链接等,发一次直接踢,默认加入8群,开10群PolarDB专业学习群115+)
项目终于完成了,比预期还要好,当时预计是替换PostgreSQL后每年给公司降低数据库费用100万,现在在计算,应该比这个数还要多。
差不多从项目立项到完成1年多的时间,工作的压力是异常的大,节约数据库费用的这个事情,相信每个DBA都有做,但实话实说干了20多年的数据库工作,我也是第一次做到了一个项目降低成本费用100万。
期间和我们的DBA Team 的小伙伴熬过了的日日夜夜,都算有了回报。因为我深知在现代社会,勤奋的工作未必有什么回报,只有超长的发挥才能换的短暂的平稳。
在我打工的这20多年里面,我记忆深刻的是一个领导的一句话,你要创造别人创造不了的价值,你才能体现你的价值,你才能有安身立命的片刻安稳。
这句话在我的职业生涯被验证了很多次,或许是命好,记得曾经在一家金融企业工作的时候,刚到公司其实大家都在评估新人到来的价值,而就在刚到的期间就给我一个机会,当时公司核心的SQL SERVER 由于运维同事的无心,用备份把生产数据库给覆盖了,虽然发现了马上停止了,但数据库的数据文件一部分已经覆盖,整体业务都停止了,当时预估是每天2000万的纯损失,如果事情弄大甚至可能要惊动银监会。
当时我对这种情况恢复也并不是太有底,公司只能是安排两个方案,一个是我这边用数据库技术恢复数据,希望是一条数据都不要有损失,另一边是通过系统程序的日志+全备的方式进行数据恢复。
我通过物理读取数据文件的技术,一天一夜把数据库恢复了,最终我跑赢了一众开发,想想当时也是自己幸运,能恢复成功的几率其实不高,我都没想到DBA一辈子基本遇不到的事情让我碰上了,机遇+能力+运气,让我在单位站住了脚,最后全公司通报,最后还给我一块集团级别的大金牌。
想当时还是在经济上行周期,时间流转,现在又到了经济的下行周期,我又想起,很早之前那个领导的话“你要创造别人创造不了的价值,你才能体现你的价值,你才能有安身立命的片刻安稳。”
经济下行阶段,大多数公司需要是降本,只有降本在持续恶化的商业环境汇中,商业体才能继续存活,活到下一个黎明。这也是当时搞这个项目的主要思路来源。好在经过一番折腾上周终于这个项目画上圆满的句号。
上周周五,公司给我们数据库 Team 摆下宴席,庆祝我们给公司节省100万元数据库成本,迁移PostgreSQL 到 PolarDB FOR PG的项目落地成功,耗费1年多的调研,测试,反复论证,经历多少测试校验,多少个疯狂的迁移工作问题的解决,每周的凌晨都有我们的工作身影,终于在上个月项目圆满完成,从上月起就已经开始节费了。估算每个月节省10-12万元的费用。
切换后,整体项目的反馈是,比以前稳定了,告警变少了,甚至逻辑复制槽堆积,担心磁盘被WAL侵占后持续扩盘的问题都解决了。所以公司给这次我们项目的定性是,又好,又稳,又省,降本增效。
这里感谢阿里云PolarDB FOR PG的团队给我的支持,包括PolarDB FOR PG的团队负责人,傅老师,以及此次工作中,一直和我们并肩作战,克服各种迁移中的兼容性,稳定性,以及各种参数优化,大力出奇迹的 ,耿倞 耿老师和 路国庆路老师,还有DTS团队的小伙伴,让我们迁移更加的简单,快速,稳定。
在这核心迁移的多半年时间里面,我们面对各种的技术问题,有迁移中的recovery plan ,postgresql 和 PolarDB 必须双向复制,我们要给每一次切换一个可以回退的确定性,同时我们的数据库上还挂着,少则几个多则30多个逻辑复制槽,我们的切换还要保证这逻辑复制槽的数据一条不断的,继续传到对应的系统,不同版本的兼容性测试,虽然我们做了无数遍,但在复杂的业务系统中,还是有我们想象不到的各种需要处理的问题。
迁移中的速度问题和数据校验的问题也是我们一直头疼的问题,几十个 10几个T的PG数据库,每个物理库里面的上万张表,一张表的一条数据都不能缺失,业务切换还要无感,业务特性我们的客户就是在是 7*24小时的,没有一个时间是安全时间,我们还要进行无感切换的工作,这里业务的小伙伴在里面付出了很多,我们的POSTGRESQL 到 POLARDB FOR PG的数据库上的业务切换是秒级的,一般企业是做不到的。数据连接像水一样从这个PG 流到 PolarDB 客户基本上没有感知。
每次切换凌晨切换后,白天还要继续检查切换后的情况,与业务的稳定,我们整体项目上到领导,到业务,到程序,到运维,到DBA,每个人都付出了常人难以想象的工作复杂性,每个数据库系统都接着各种各样的系统,这些系统也需要进行切换,每次切换的 CHECK LIST的列表都有两张A4纸。
感谢大家的努力,让我们的工作圆满完成,也让我们给公司在当下的经济环境下,更多的商业优势。感谢我们这组 人,对新技术有着敏感性,不爱走老路,因为走老路走多了,你一定不会犯错,但一定是平凡的,如我多年听到的,看到的,数据库运维的惨状,不被尊重,不被重视,不被认可,因为数据库运维就是一个花钱的部门,谁在乎你默默无闻的付出。
憨厚的DBA,运维,会说出特别直男的一句,我维护的数据库没有出过问题,我甘孺子牛,而后得来的外部不理解你辛勤付出后的一句话,这不是你应该做的?????
最后还是好早之前的那个领导的那句话,救了我,“你要创造别人创造不了的价值,你才能体现你的价值,你才能有安身立命的片刻安稳。”
不是你技术有多高,能力有多强,就能站稳,而是你要创造独一无二的可以观测到的价值,才能有片刻安稳的,天时地利人和,这都是命,有幸在命里遇到了PolarDB。
希望在AI 竞争的年代,我们能持续提供AI无法提供的价值,让我们走的更远,更长,更久,求的片刻的安稳。
全网最专业PolarDB-MySQL 大SQL解决方案--之如何添加列式索引 (一)
一个秘密,不是你 SQL 写对了,是优化器帮“擦了屁股” 客户问迁移后为什么快了--迁移到PolarDB后的故事
阿里 PolarDB 不垃圾,由serverless引发的一场回怼!(2)--他能切库业务不闪断?
阿里 PolarDB 真垃圾,由serverless引发的一场回怼!(1)
PolarDB 大能人系列--弹性我们有一个新需求! 普及数据库弹性知识
POLARDB 从一个使用者的角度来说说,POALRDB 怎么打败 MYSQL RDS
PolarDB 大能人系列--推演PolarDB 4年都干了什 !!!