FlinkCDC-Postgresql篇(版本9.X)
2022/7/12 2:21:32
本文主要是介绍FlinkCDC-Postgresql篇(版本9.X),对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
1.PostGreSQL准备
1.修改pg_hba.conf,在#IPV4 local connection下添加
其中all,可以修改为flinkCDC中的访问用户。
# IPv4 local connections: host replication all [访问者IP]/32 trust
2.开启WAL归档
2.1 创建归档目录,目录所在文件
mkdir -p $PGDATA/archive_wals chown -R postgres.postgres $PGDATA/archive_wals
2.2 修改postgresql.conf 内的参数
一定要按照这上面去设置,尤其是archive_command 和wal_level这两个参数
max_wal_senders = 50 #流式程序连接数,看情况修改,提醒:PostGreCDC Connect并行度只能为1且不能修改。 wal_level='logical'; #wal级别 archive_mode='on' #存档模式,默认关闭 archive_command ='cp %p /pgdata/11/archive_wals/%f'; #wal存档目录 max_replication_slots = 20 #复制槽数为20
3.配置postgres-decoderbufs
3.1将yum源替换为aliyun的,安装之前先执行yum -y install wget 检查wget命令有没有安装。
cd /etc/yum.repos.d mv ./CentOS-Base.repo ./CentOS-Base.repo.bak mv ./epel-7.repo ./epel-7.repo.bak wget http://mirrors.aliyun.com/repo/Centos-7.repo wget https://mirrors.aliyun.com/repo/epel-7.repo yum clean all yum makecache yum update
3.2 注意,后续需要用到gcc,我们使用devtoolset-4安装,但是有个坑,centos-release-scl镜像已经不提供devtoolset-4了,直接到7,需要执行如下命令。
wget https://copr.fedoraproject.org/coprs/hhorak/devtoolset-4-rebuild-bootstrap/repo/epel-7/hhorak-devtoolset-4-rebuild-bootstrap-epel-7.repo -O /etc/yum.repos.d/devtools-4.repo yum install devtoolset-4-gcc devtoolset-4-binutils devtoolset-4-gcc-c++ 执行完后用下面命令验证一下 scl enable devtoolset-4 bash
3.3 安装Postgre SQLdecocderbufs
https://www.kancloud.cn/datapipeline-group/v2_7_0/1475270
在上图中,把四个软件在一个文件夹内解压缩。编译安装顺序为,
geos→proj→gdal→postgis,在执行postgis的.configure命令时,需要补充如下参数.
./configure --prefix=/opt/pgsql/postgis --with-geosconfig=/opt/pgsql/geos/bin/geos-config --with-gdalconfig=/opt/pgsql/gdal/bin/
4.务必重启PGSQL
#停止命令 ./pg_ctl stop -D ../../pgsql_data/ #启动命令 ./pg_ctl start -D ../../pgsql_data/
这篇关于FlinkCDC-Postgresql篇(版本9.X)的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-05-29Elasticsearch慢查询日志配置
- 2024-05-29揭秘华为如此多成功项目的产品关键——Charter模板
- 2024-05-29海外IDC业务拓展的7大挑战
- 2024-05-29InLine Chat功能优化对标Github Copilot,CodeGeeX带来更高效、更直观的编程体验!
- 2024-05-29CodeGeeX 智能编程助手 6 项功能升级,在Visual Studio插件市场霸榜2周!
- 2024-05-29AutoMQ 生态集成 Apache Doris
- 2024-05-292024年IDC行业的深度挖掘:机遇、挑战与未来展望
- 2024-05-29五款扩展组件齐发 —— Volcano、Keda、Crane-scheduler 等,邀你体验
- 2024-05-29AutoMQ 对象存储数据高效组织的秘密: Compaction
- 2024-05-29活动预告|来 GIAC 大会听大数据降本利器:AutoMQ 基于云原生重新设计的 Kafka