Clustering RabbitMQ na CentOS 7

RabbitMQ je open-source zprostředkovatel zpráv, který podporuje AMQP, STOMP a další komunikační technologie. Je široce používán v podnikových aplikacích a moderních architekturách mikroslužeb, kde funguje jako asynchronní kanál zpráv mezi různými mikroslužbami. Tato příručka popisuje, jak můžete seskupovat RabbitMQ na více serverech CentOS 7 a vytvořit tak vysoce dostupného zprostředkovatele zpráv. V tomto kurzu bude jeden server fungovat jako hlavní server a ostatní servery budou fungovat jako zrcadlové servery v případě, že hlavní server přestane být dostupný.

Předpoklady

• Alespoň dvě čerstvě nasazené a aktualizované instance CentOS 7 ve stejné podsíti s povolenou privátní sítí
• RabbitMQ nainstalovaný s konzolou pro správu povolenou na každém serveru (viz Jak nainstalovat RabbitMQ na CentOS 7 )
• Uživatel bez oprávnění správce s právy sudo (viz Jak používat Sudo na Debianu, CentOS a FreeBSD )

Nakonfigurujte firewall

Firewall CentOS, ( firewalld), ve výchozím nastavení nepovoluje žádný příchozí provoz. Abychom RabbitMQ zpřístupnili pro ostatní systémy v síti i mimo ni a abychom nám umožnili přístup ke konzoli pro správu, musíme nejprve otevřít některé porty.

Konzola pro správu webového rozhraní RabbitMQ standardně naslouchá na portu 15672. Rádi bychom konzoli pro správu zpřístupnili veřejnosti, abychom k ní měli přístup z našeho počítače. Dáme proto pokyn firewalldk trvalému otevření portu 15672ve veřejné zóně (což je výchozí a aktivní zóna na instanci Vultr).

sudo firewall-cmd --zone=public --add-port=15672/tcp --permanent

Uzly RabbitMQ musí být schopny mezi sebou komunikovat. Rádi bychom otevřeli potřebné porty, ale pouze přes vnitřní síť. Nechceme, aby kdokoli na internetu mohl spravovat nebo přímo kontaktovat naše servery. Následující příkazy předpokládají, že naše servery jsou v 192.168.0.100/24podsíti.

První službou je epmdpeer discovery služba, která standardně naslouchá na portu 4369.

sudo firewall-cmd --permanent --zone=public --add-rich-rule='
  rule family="ipv4"
  source address="192.168.0.100/24"
  port protocol="tcp" port="4369" accept'

Pro komunikaci internode a CLI musí být RabbitMQ schopen komunikovat přes port 25672.

sudo firewall-cmd --permanent --zone=public --add-rich-rule='
  rule family="ipv4"
  source address="192.168.0.100/24"
  port protocol="tcp" port="25672" accept'

Nástroje CLI komunikují přes řadu portů 35672-35682.

sudo firewall-cmd --permanent --zone=public --add-rich-rule='
  rule family="ipv4"
  source address="192.168.0.100/24"
  port protocol="tcp" port="35672-35682" accept'

Pokud vaše aplikace potřebují protokol AMQP, budete také muset otevřít porty 5671a 5672. Pokud potřebujete být schopni komunikovat přes jiný protokol, potřebné informace o síťových požadavcích RabbitMQ naleznete v oficiální dokumentaci RabbitMQ .

sudo firewall-cmd --permanent --zone=public --add-rich-rule='
  rule family="ipv4"
  source address="192.168.0.100/24"
  port protocol="tcp" port="5672" accept'

sudo firewall-cmd --permanent --zone=public --add-rich-rule='
  rule family="ipv4"
  source address="192.168.0.100/24"
  port protocol="tcp" port="5671" accept'

Nyní firewalldje nakonfigurováno, musíme mu dát pokyn, aby znovu načetl konfiguraci.

sudo firewall-cmd --reload

Opakujte kroky z této části na všech serverech.

Nainstalujte rabbitmqadmin

Zásuvný modul pro správu je dodáván s nástrojem Python s názvem, rabbitmqadminkterý lze snadno nainstalovat do systému, jakmile je zásuvný modul pro správu povolen.

sudo wget http://localhost:15672/cli/rabbitmqadmin
sudo mv rabbitmqadmin /usr/local/bin/
sudo chmod +x /usr/local/bin/rabbitmqadmin

Nakonfigurujte DNS

Při klastrování musíte k identifikaci serverů použít názvy hostitelů serveru. Ve výchozím nastavení nemají servery přiřazen žádný záznam DNS a připojení se nezdaří. Chcete-li to rychle překonat, přidejte do /etc/hostssouboru název hlavního a zrcadleného hostitele pomocí svého oblíbeného editoru.

Například soubor hostitelů vašeho hlavního serveru může vypadat takto. Všimněte si posledních dvou záznamů, které umožňují serverům vzájemně se identifikovat podle názvu hostitele. Nezapomeňte změnit adresy IP na své vlastní.

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

127.0.0.1 guest
::1       guest

127.0.0.1 YOUR_MASTER_SERVER_HOST_NAME
::1       YOUR_MASTER_SERVER_HOST_NAME


192.168.0.101 YOUR_MASTER_SERVER_HOST_NAME
192.168.0.102 YOUR_MIRROR_SERVER_HOST_NAME

Seskupování uzlů

Předpokladem importu pro umožnění vzájemného spojení uzlů je, že soubor cookie Erlang všech uzlů je identický. Ve výchozím nastavení bude každému uzlu přiřazen jedinečný soubor cookie Erlang, takže jej musíte překonfigurovat na všech uzlech.

Následující příkaz nastaví soubor cookie Erlang na " WE<3COOKIES", ale můžete to změnit podle svých představ. Udělejte to na všech serverech.

sudo sh -c "echo 'WE<3COOKIES' > /var/lib/rabbitmq/.erlang.cookie"

Restartujte RabbitMQ na všech serverech, abyste se ujistili, že soubor cookie Erlang je správně znovu načten.

sudo systemctl restart rabbitmq-server.service

Proveďte následující příkazy na všech serverech kromě hlavního serveru. To umožní uzlům připojit se k hlavnímu serveru a vytvořit cluster.

sudo rabbitmqctl stop_app
sudo rabbitmqctl join_cluster "rabbit@<YOUR_MASTER_SERVER_HOST_NAME>"
sudo rabbitmqctl start_app

Ověřte, že se uzly připojily ke clusteru spuštěním následujícího příkazu.

sudo rabbitmqctl cluster_status

Všechny vaše uzlů se objeví v nodesa running_nodesčást výstupu. Od této chvíle již nemusíte opakovat kroky na každém serveru, konfigurace bude automaticky zrcadlena do ostatních uzlů.

Vytvořte zásady vysoké dostupnosti

Nyní, když máme shluk uzlů RabbitMQ, můžeme to použít k vytváření front s vysokou dostupností a výměn nastavením nové zásady. Tuto zásadu lze přidat prostřednictvím konzoly RabbitMQ Management Console nebo pomocí rozhraní příkazového řádku.

sudo rabbitmqctl set_policy -p "/" --priority 1 --apply-to "all" ha ".*" '{ "ha-mode": "exactly", "ha-params": 2, "ha-sync-mode": "automatic"}'

Následující seznam vysvětlí, co jednotlivé části příkazu znamenají.

• -p "/": Použijte tuto zásadu na "/"vhost (výchozí nastavení po instalaci)
• --priority 1: Pořadí, ve kterém se mají zásady aplikovat
• --apply-to "all": Může být "queues", "exchanges"nebo"all"
• ha: Název, který dáváme naší politice
• ".*": Regulární výraz, který se používá k rozhodnutí, na které fronty nebo burzy se tato zásada použije. ".*"bude odpovídat čemukoli
• '{ "ha-mode": "exactly", "ha-params": 2, "ha-sync-mode": "automatic"}': JSON reprezentace zásady. Tento dokument popisuje, že chceme – přesně 2 uzly, na kterých se data automaticky synchronizují

Stručně řečeno, tato politika zajistí, že budeme mít vždy 2 kopie dat ve frontě nebo výměně, pokud budeme mít v provozu alespoň 2 uzly. Pokud máte více uzlů, můžete zvýšit hodnotu ha-params. Doporučuje se kvorum ( N/2 + 1) uzlů. Více kopií vašich dat by vedlo k vyššímu využití disku, I/O a sítě, což by mohlo vést ke snížení výkonu.

Pokud byste chtěli zrcadlit data do všech uzlů v clusteru, můžete použít následující dokument JSON.

'{ "ha-mode": "all", "ha-sync-mode": "automatic"}'

Pokud byste chtěli zrcadlit data pouze do konkrétních uzlů (například: node-1a node-2), můžete použít následující.

'{ "ha-mode": "nodes", "ha-params" :["rabbit@node-1", "rabbit@node-2"], "ha-sync-mode": "automatic"}'

Regulární výraz můžete změnit a přiřadit různé zásady různým frontám. Řekněme, že máme následující tři uzly:

• králík@mistr
• králík@klient-ha
• králík@produkt-ha

Pak můžeme vytvořit dvě zásady, které povedou k tomu, že fronty mající název začínající na „klient“, který se má zrcadlit do rabbit@client-hauzlu, a všechny fronty, které mají název začínající na „produkt“, budou zrcadleny do rabbit@product-hauzlu.

sudo rabbitmqctl set_policy -p "/" --priority 1 --apply-to "queues" ha-client "client.*" '{ "ha-mode": "nodes", "ha-params": ["rabbit@master", "rabbit@client-ha"], "ha-sync-mode": "automatic"}
sudo rabbitmqctl set_policy -p "/" --priority 1 --apply-to "queues" ha-product "product.*" '{ "ha-mode": "nodes", "ha-params": ["rabbit@master", "rabbit@product-ha"], "ha-sync-mode": "automatic"}

Zde malá poznámka: exkluzivní fronty nejsou v RabbitMQ nikdy zrcadleny ani trvalé, i když by tato politika takovým frontám odpovídala. Exkluzivní fronty jsou automaticky zničeny, jakmile se klient odpojí, a jako takové by nebylo užitečné jej replikovat na jiný server. Pokud by server selhal, klient by se od něj odpojil a fronta by byla automaticky zničena. Zrcadlené instance by byly také zničeny.

Testování nastavení

Abychom otestovali nastavení clusteru, můžeme vytvořit novou frontu pomocí rozhraní příkazového řádku prostřednictvím konzoly pro správu.

sudo rabbitmqadmin declare queue --vhost "/" name=my-ha-queue durable=true

Tím se vytvoří trvalá fronta na výchozím /vhost s názvem my-ha-queue.

Spusťte následující příkaz a ve výstupu ověřte, že fronta má přiřazenou naši zásadu 'ha' a má pid na hlavním a zrcadlovém uzlu.

sudo rabbitmqctl list_queues name policy state pid slave_pids

Nyní můžeme publikovat zprávu do fronty z hlavního uzlu a zastavit RabbitMQ na hlavním uzlu.

sudo rabbitmqadmin -u user_name -p password  publish routing_key=my-ha-queue payload="hello world"
sudo systemctl rabbitmqctl shutdown

Nyní jej získejte zpět připojením k zrcadlovému uzlu.

 sudo rabbitmqadmin -H MIRROR_NODE_IP_OR_DNS -u user_name -p password get queue=my-ha-queue

Nakonec můžeme restartovat náš hlavní uzel.

sudo systemctl start rabbitmq-server.service

Smazat uživatele typu host

Jak již bylo zmíněno, RabbitMQ automaticky vytvoří hosta s výchozím heslem hosta. Bylo by špatné ponechat tohoto výchozího uživatele na veřejně vystaveném systému.

sudo rabbitmqctl delete_user guest