HA OPNsense - klaster wysokiej dostępności OPNsense


Dzisiaj jest:    Aktualizacja dnia: 




Podsystem klastra wysokiej dostępności OPNsense

1. Historia. Plany jego budowy sięgają lat 2005-2008 (nie podam dokładnej daty), wtedy odpowiednim systemem związanym z FreeBSD był pfSense (pfSense wytartowało w 2004 r.), przy czym w chwili, gdy udało mi się zorganizować wolny komputer - plany przerodziły się w próby realizacji sprzętowego firewalla/routera. Eksperymenty uruchomienia tej wersji systemu - na moim ówczesnym sprzącie - nie powiodły się. A opcja HA była niedostępna, pomijam, że CARP został przeniesiony z OpenBSD do FreeBSD znacznie później. Plany pozostały, tkwiły na wysokiej pozycji listy spraw do wykonania, jednak realizacja wymagała wolnego czasu i co ważniejsze - doskonałego przygotowania. Chodzilo o to, by serwery zachowały w trakcie przełączenia pełną funkcjonalność / widoczność w Internecie, zatem przełączenie musiało być wykonane w jednym, krótkim rzucie.

2. W roku 2015 - powstało odgałęzienie pfSenese - system OPNsense. Oczywiście pfSense nadal jest wydawane i ma lepszą dokumentację, ale najczęściej stawiam na projekty społecznościowe.

3. Wraz z tzw. "chwilą wolnego czasu" - dokonałem zakupu dedykowanych komputerów (grudzień 2019) i przystąpiłem do realizacji klastra HA (lipiec 2020) z wykorzystaniem OPNsense. Przełączenie zostało wyprzedzone zestawieniem sieci eksperymentalnej na dwóch dodatkowych komputerach symulujących Internet i komputery dostępowe z ważnymi w tym przypadku usługami. Po ok. miesiącu eksperymentów, wykonałem 3 czy 4 godzinne testy przełączeń, a w ciągu tygodnia następiło całkowite przełączenie na nową konfigurację sieci. Przełączenie ostateczne trwało względnie długo, bo konieczne było przemapowanie portów z odbiciem (port forward with reflection), załączenie odpowiednich reguł firewalla, wreszcie solidne przestestowanie funkcji HA.

Należy zwrócić uwagę, że każdy komputer wymaga aż 6 połączeń kabla Ethernetowego. Opis - można znaleźć w części dotyczącej konfiguracji sieciowej całego systemu.

Schemat
Powyższy schemat i opis poniżej mają charakter poglądowy (ze względów bezpieczeństwa).

Serwerownia składa się z następujących części:
    O. Modemy ISP (to dla mnie część "eksterytorialna", zarządzana przez ISP).
    A. Komputery dostępowe (OPNsense w wersji wysokiego dostępu HA master/slave + CARP), m.in.:
            - NAT,
            - firewall, router,
            - mapowanie portów z odbiciem (port forward with reflection).
    B. Switche: zarządzalny i niezarządzalny
w trybie LAGG failover (przełączenia awaryjnego) z bezprzewodowym punktem dostępowym.
    C. Serwerownia główna - zdublowane komputery usług z szybkimi łączami LAGG LACP 2 * 1 Gb/s, w kilku przypadkach CARP, serwery m.in.:
            - www, poczty, ftp itp.,
            - plików: system moosefs,
            - baz danych,
    D. Komputery osobiste / personalne użytkowników domowych
oraz inne domowe urządzenia sieciowe.


3. Zdjęcie poniżej pokazuje obydwie jednostki klastra HA - przednie ścianki. Podłączone tylko kable do przełącznika KVM. Diody wskazują na obsadę wszystkich portów Ethernetu.

Obraz  

4. Zdjęcie - po prawej tylne ścianki obu komputerów klastra HA. Widoczne gniazda Ethernetu oraz zasilanie.

    Obraz

5. Widok "górnego" komputera klastra HA.

 
Obraz

6. Widok "dolnego" komputera klastra HA.

Obraz

6. Poniżej zdjęcia nocne (przód, tył).

Obraz
  
Obraz