PostgreSQL码农集散地

进阶课 8 时间点恢复(PITR)

PolarDB 进阶课程8 任意时间点恢复(PITR)

穷鬼玩PolarDB RAC一写多读集群系列已经写了几篇:

  • 《在Docker容器中用loop设备模拟共享存储》
  • 《如何搭建PolarDB容灾(standby)节点》
  • 《共享存储在线扩容》
  • 《计算节点 Switchover》
  • 《在线备份》
  • 《在线归档》
  • 《实时流式归档》

本篇文章介绍一下如何进行时间点恢复(PITR)?  实验环境依赖 《在Docker容器中用loop设备模拟共享存储》 , 如果没有环境, 请自行参考以上文章搭建环境.

还需要参考如下文档:

  • https://www.postgresql.org/docs/current/continuous-archiving.html

DEMO

b站视频链接

Youtube视频链接

在实时归档机pb4容器演示PITR.

1、首先, 假设你已经按下文开启了实时归档. 确保未来的全量备份有足够的WAL可以用于时间点恢复.

  • 《实时流式归档》

2、其次, 在开启实时归档后, 假设你已经按下文做了一次全量备份.

  • 《在线备份》

得到:

  • 本地数据目录: /data/backup/primary
  • 共享数据目录: /data/backup/shared_data

PITR只能恢复到全量备份结束之后的位置, 详见: 《PostgreSQL 增量备份集的有效恢复位点》

3、在pb1 primary节点生成一些数据.

postgres=# create table tbl_digoal (id int, info text, ts timestamp);  
CREATE TABLE  
postgres=# insert into tbl_digoal select generate_series(1,1000), md5(random()::text), clock_timestamp();  
INSERT 0 1000  
postgres=# select * from tbl_digoal limit 5;  
 id |               info               |             ts               
----+----------------------------------+----------------------------  
  1 | 45085479f931ea4bb0c39ec73522cdb4 | 2024-12-19 16:27:37.748317  
  2 | afc44037b7fac9feaa8d3567f331d0db | 2024-12-19 16:27:37.750813  
  3 | 37bcea4e172f13590c5bce35fc965880 | 2024-12-19 16:27:37.750821  
  4 | 0a09b7c73a8994d5023b796cb7aa7e13 | 2024-12-19 16:27:37.750824  
  5 | 37b98e2e52ddd1c6287ceb8624d7bf0a | 2024-12-19 16:27:37.750826  
(5 rows)  

postgres=# select sum(hashtext(t::text)) from tbl_digoal t;  
     sum        
--------------  
 -71405674348  
(1 row)  

4、创建一个恢复点. 记住这个名字, 后面用来恢复.

postgres=# select now();  
              now                
-------------------------------  
 2024-12-19 16:28:27.517757+08  
(1 row)  

postgres=# select pg_create_restore_point('2024-12-19 16:28:27.517757+08');  
 pg_create_restore_point   
-------------------------  
 2/8003E6C0  
(1 row)  

 如果创建了多个同名的restore_point, 恢复时将恢复到哪个point? 答案是恢复过程中replay wal时遇到的第一个point. 

5、在pb1 primary节点修改以上生成的数据.

postgres=# delete from tbl_digoal where id=10;  
DELETE 1  
postgres=# update tbl_digoal set info='new' where id=1;  
UPDATE 1  
postgres=# select sum(hashtext(t::text)) from tbl_digoal t;  
     sum        
--------------  
 -70843053399  
(1 row)  

6、使用备份和归档日志, 将PolarDB恢复到数据被修改之前.

先确保wal日志都已经被实时归档. pg_current_wal_lsn与flush_lsn 应该相等.

postgres=# select pg_current_wal_lsn(),* from pg_stat_replication where application_name='pg_receivewal';  
-[ RECORD 1 ]------+------------------------------  
pg_current_wal_lsn | 2/8003E9A0  
pid                | 5255  
usesysid           | 10  
usename            | postgres  
application_name   | pg_receivewal  
client_addr        | 172.17.0.5  
client_hostname    |   
client_port        | 58302  
backend_start      | 2024-12-19 16:32:26.754692+08  
backend_xmin       |   
state              | streaming  
sent_lsn           | 2/8003E9A0  
write_lsn          | 2/8003E9A0  
flush_lsn          | 2/8003E9A0  
replay_lsn         |   
write_lag          | 00:00:00.002957  
flush_lag          | 00:00:00.002957  
replay_lag         | 00:00:00.002957  
sync_priority      | 0  
sync_state         | async  
reply_time         | 2024-12-19 16:32:26.762024+08  

把以下备份拷贝到临时恢复目录中, 当然你也可以直接在备份上进行恢复, 只是这样恢复时就把备份文件破坏了, 只能继续恢复, 不能回到已恢复之前的状态. (这也是为什么我非常推崇zfs, 因为zfs 可以基于快照进行备份, 恢复时挑选一个合适的快照进行克隆(瞬间完成), 记录克隆无论怎么操作都不会破坏原有的快照. zfs好处不止于此, 想详细了解可以参考文末文章.)

  • 本地数据目录: /data/backup/primary
  • 共享数据目录: /data/backup/shared_data
mkdir /data/recovery  
cp -r /data/backup/primary /data/recovery/  
cp -r /data/backup/shared_data /data/recovery/  

修改postgresql.conf配置文件

cd /data/recovery/primary    

vi postgresql.conf    

# 修改和注释如下
# 使用本地盘模拟共享存储的, 使用如下配置. 未来如果你想用zfs来搭建standby, 可以参考这份配置   
polar_disk_name='home'
polar_datadir='file-dio:///data/recovery/shared_data'
polar_vfs.localfs_mode=true
# polar_storage_cluster_name='disk'     

# 增加如下, 恢复目标是前面创建的恢复点, 拷贝wal的命令
# 也可以恢复到指定时间、wal lsn位置, 详情可参考文末文章. 
restore_command = 'cp /data/polardb_wal_archive/%f %p || cp /data/polardb_wal_archive/%f.partial %p'
recovery_target_timeline = latest   
recovery_target_name = '2024-12-19 16:28:27.517757+08'
recovery_target_action = 'pause'

# 其他配置保持不变即可    
huge_pages=off   
port=5432    
polar_hostid=1    
polar_enable_shared_storage_mode=on    
shared_preload_libraries='$libdir/polar_vfs,$libdir/polar_worker'
logging_collector=on    
log_line_prefix='%p\t%r\t%u\t%m\t'
log_directory='pg_log'
listen_addresses='0.0.0.0'
max_connections=200
# 下面几个参数解决replica不能promote的问题, 因为RO依赖logindex.
polar_logindex_mem_size=64MB
polar_xlog_queue_buffers=64MB
polar_xlog_page_buffers=64MB
# 使用pfs时可以关掉 full page write 和 polar_has_partial_write , 否则请打开这两 
full_page_writes = off
polar_has_partial_write = off

polar_resource_manager.enable_resource_manager=off

# 纯粹的PolarDB 单机版(不使用pfs接口), 不需要剥离shared dir,
# 参考: 202501/20250121_01.md  

删除standby标记文件, 添加recovery标记文件

rm /data/recovery/primary/standby.signal   
rm /data/recovery/shared_data/standby.signal   

touch /data/recovery/primary/recovery.signal  

# 理论上signal标记文件只需要放在本地数据目录中. shared data目录不需要signal文件, 删掉即可.  

启动数据库, 自动开始恢复, 达到到目标位置会暂停恢复, 数据库保持恢复模式(只读状态).

pg_ctl start -D /data/recovery/primary  

查看数据库日志, 可以看到已经恢复到了目标recovery_target_name = '2024-12-19 16:28:27.517757+08'

cd /data/recovery/primary/pg_log  

less postgresql-2024-12-19_165344_error.log  

4279                    2024-12-19 16:53:47.757 CST     LOG:  recovery stopping at restore point "2024-12-19 16:28:27.517757+08", time 2024-12-19 16:28:34.938012+08  
4279                    2024-12-19 16:53:47.757 CST     LOG:  pausing at the end of recovery  
4279                    2024-12-19 16:53:47.757 CST     HINT:  Execute pg_wal_replay_resume() to promote.  

最后, 检查一下数据, 确实已经恢复到目标位置, 数据是更新之前的样子:

$ psql  
psql (PostgreSQL 15.10 (PolarDB 15.10.2.0 build d4f5477d debug) on aarch64-linux-gnu)  
Type "help"forhelp.  

postgres=# select count(*) from tbl_digoal ;  
 count   
-------  
  1000  
(1 row)  

postgres=# select sum(hashtext(t::text)) from tbl_digoal t;  
     sum        
--------------  
 -71405674348  
(1 row)  

最后, 用完记得把恢复库关掉:

$ pg_ctl stop -m fast -D /data/recovery/primary   

参考

《穷鬼玩PolarDB RAC一写多读集群系列 | 在Docker容器中用loop设备模拟共享存储》

《穷鬼玩PolarDB RAC一写多读集群系列 | 如何搭建PolarDB容灾(standby)节点》

《穷鬼玩PolarDB RAC一写多读集群系列 | 共享存储在线扩容》

《穷鬼玩PolarDB RAC一写多读集群系列 | 计算节点 Switchover》

《穷鬼玩PolarDB RAC一写多读集群系列 | 在线备份》

《穷鬼玩PolarDB RAC一写多读集群系列 | 在线归档》

《穷鬼玩PolarDB RAC一写多读集群系列 | 实时归档》

https://www.postgresql.org/docs/current/continuous-archiving.html

https://www.postgresql.org/docs/current/runtime-config-wal.html

《PostgreSQL PITR THREE recovery target MODE: name,xid,time USE CASE - 2》

《PostgreSQL PITR THREE recovery target MODE: name,xid,time USE CASE - 1》

《PostgreSQL recovery target introduce》

《PostgreSQL 时间点恢复(PITR)时查找wal record的顺序 - loop(pg_wal, restore_command, stream)》

《PostgreSQL 增量备份集的有效恢复位点》

《PostgreSQL如何支持可选择性表空间(Selectivity Tablespace)备份和时间点(PITR)恢复?》