无法将 PGPool 与 Amazon RDS Postgres 一起使用

Question

我有一个带有多可用区的 Postgres 9.4 RDS 实例，还有一个从属只读副本。

到目前为止，负载平衡是在我的应用程序的业务层中进行的，但效率低下，我希望使用 PGPool，因此应用程序与单个 Postgres 连接进行交互。

事实证明，使用 PGPool 一直很痛苦。 如果我将它设置为负载均衡器，简单的 SELECT 查询会抛出如下错误：

 SQLSTATE[HY000]: General error: 7 
 message contents do not agree with length in message type "N" 
 server sent data ("D" message) 
 without prior row description ("T" message)

如果我将它设置为具有流复制的主/从模式（如Postgres 邮件列表中所建议），我会得到：

psql: ERROR:  MD5 authentication is unsupported 
in replication and master-slave modes.
HINT:  check pg_hba.conf

是的，好吧，pg_hba.conf 如果不在 RDS 中，所以我无法更改它。

有没有人让 PGPool 在 RDS 中工作？ 是否有其他工具可以充当中间件来利用 RDS 中的只读副本？

Answer 1

我能够让它在这里工作是我的工作配置文件：

您必须使用 md5 身份验证，并将用户名/密码从数据库同步到 pool_passwd 文件。 还需要启用 enable_pool_hba、load_balance_mode 和 master_slave_mode。

配置文件

listen_addresses = '*'
port = 9999
pcp_listen_addresses = '*'
pcp_port = 9898
pcp_socket_dir = '/tmp'
listen_backlog_multiplier = 1
backend_hostname0 = 'master-rds-database-with-multi-AZ.us-west-2.rds.amazonaws.com'
backend_port0 = 5432
backend_weight0 = 0
backend_flag0 = 'ALWAYS_MASTER'
backend_hostname1 = 'readonly-replica.us-west-2.rds.amazonaws.com'
backend_port1 = 5432
backend_weight1 = 999
backend_flag1 = 'ALWAYS_MASTER'
enable_pool_hba = on
pool_passwd = 'pool_passwd'
ssl = on
num_init_children = 1
max_pool = 2
connection_cache = off
replication_mode = off
load_balance_mode = on
master_slave_mode = on

pool_hba.conf

local   all         all                               md5
host    all         all         127.0.0.1/32          md5

pool_passwd

username:md5d51c9a7e9353746a6020f9602d452929

要更新 pool_password，您可以使用pg_md5或

echo username:md5`echo -n usernamepassword | md5sum`
username:md5d51c9a7e9353746a6020f9602d452929 -

运行示例的输出：

psql --dbname=database --host=localhost --username=username --port=9999

database=> SHOW POOL_NODES;

 node_id |                        hostname                 | port | status | lb_weight |  role   | select_cnt | load_balance_node | replication_delay
---------+-------------------------------------------------+------+--------+-----------+---------+------------+-------------------+-------------------
 0       | master-rds-database.us-west-2.rds.amazonaws.com | 8193 | up     | 0.000000  | primary | 0          | false             | 0
 1       | readonly-replica.us-west-2.rds.amazonaws.com    | 8193 | up     | 1.000000  | standby | 0          | true              | 0

database=> select now();

 node_id |                        hostname                 | port | status | lb_weight |  role   | select_cnt | load_balance_node | replication_delay
---------+-------------------------------------------------+------+--------+-----------+---------+------------+-------------------+-------------------
 0       | master-rds-database.us-west-2.rds.amazonaws.com | 8193 | up     | 0.000000  | primary | 0          | false             | 0
 1       | readonly-replica.us-west-2.rds.amazonaws.com    | 8193 | up     | 1.000000  | standby | 1          | true              | 1

database=> CREATE TABLE IF NOT EXISTS tmp_test_read_write ( data varchar(40) );
CREATE TABLE
database=> INSERT INTO tmp_test_read_write (data) VALUES (concat('',inet_server_addr()));
INSERT 0 1
database=> select data as master_ip,inet_server_addr() as replica_ip from tmp_test_read_write;
  master_ip   |  replica_ip
--------------+---------------
 172.31.37.69 | 172.31.20.121
(1 row)

您还可以从日志 id 中看到两个数据库：

2018-10-16 07:56:37: pid 124528: LOG:  DB node id: 0 backend pid: 21731 statement: CREATE TABLE IF NOT EXISTS tmp_test_read_write ( data varchar(40) );
2018-10-16 07:56:47: pid 124528: LOG:  DB node id: 0 backend pid: 21731 statement: INSERT INTO tmp_test_read_write (data) VALUES (concat('',inet_server_addr()));
2018-10-16 07:56:52: pid 124528: LOG:  DB node id: 1 backend pid: 24890 statement: select data as master_ip,inet_server_addr() as replica_ip from tmp_test_read_write;

注意 insert 使用了 master 的 ip_address，下一个 select 使用了只读副本的 ip_address。

我可以在更多测试后更新，但 psql 客户端测试看起来很有希望。

Answer 2

有应该与标准 Amazon RDS 实例一起使用的 Citus(pgShard)。 虽然它有捕获。 如果您使用开源版本，则会出现单点故障。 它的协调器节点不重复。

您可以获得它的完全 HA 无缝故障转移版本，但您必须购买企业许可证，但它非常昂贵。 它很容易让您每年花费 50,000 到 100,000 美元或更多。

此外，他们现在真的在推动他们的云版本，这甚至更加昂贵。

https://www.citusdata.com/

我还听说有人使用 HAProxy 在 Postgres 或 MySql 节点之间进行平衡。