Cel slajdu: Przedstawienie zakresu tematycznego modułu, celów poznawczych oraz kluczowych obszarów technologicznych nadzoru sieci.
Podstawy i zakres tematyczny
Monitorowanie sieci teleinformatycznych to krytyczny obszar inżynierii systemowej, odpowiedzialny za zapewnienie ciągłości działania usług, wysokiej dostępności oraz bezpieczeństwa infrastruktury.
Zakres przedmiotowy: Nadzór nad infrastrukturą teleinformatyczną, urządzeniami aktywnymi warstw L2/L3, łączami transmisyjnymi oraz usługami aplikacyjnymi
Ścieżka technologiczna: Fundamenty teoretyczne, protokół SNMP (v1/v2c/v3), architektura systemów NMS, konteneryzacja oraz centralne logowanie zdarzeń
Środowisko systemowe: System Linux, kontenery Docker, oprogramowanie LibreNMS, system MikroTik RouterOS oraz protokół Syslog
System monitorowania sieci (NMS): Zintegrowane środowisko programowo-sprzętowe służące do ciągłego nadzorowania, analizowania parametrów wydajnościowych, alarmowania o awariach oraz planowania rozwoju zasobów sieci teleinformatycznej.
Monitorowanie sieci komputerowych stanowi fundamentalny filar inżynierii teleinformatycznej. Współczesne przedsiębiorstwa, instytucje publiczne oraz operatorzy telekomunikacyjni są całkowicie uzależnieni od niezawodności i ciągłości pracy sieci IP. Każda nieplanowana przerwa w transmisji danych generuje bezpośrednie straty finansowe, wizerunkowe i operacyjne.
W ramach niniejszego modułu analizowany jest pełen stos technologiczny wykorzystywany w centrach operacji sieciowych (Network Operations Center, NOC). Przedstawione zostaną zarówno klasyczne mechanizmy oparte na protokołach ICMP i SNMP, jak również nowoczesne podejście bazujące na telemetrii strumieniowej, analizie logów systemowych i konteneryzacji w środowisku Docker.
Moduł pierwszy tworzy fundament pojęciowy: porządkuje terminologię inżynierską, wprowadza standard zarządzania FCAPS (ISO/IEC 7498-4), omawia architekturę platform NMS oraz metryki niezawodnościowe, w tym SLA, MTTR, MTBF i MTTD.
Slajd 2/22
Spis treści prezentacji wprowadzającej
Cel slajdu: Przedstawienie struktury i logicznego układu zagadnień omawianych w skondensowanym module wprowadzającym.
Układ materiału i plan wykładu
Materiał podzielono na cztery spójne bloki tematyczne prowadzące od fundamentalnych zasad diagnostyki do zaawansowanych zagadnień architektury NMS, SLA i uwarunkowań prawnych.
Blok 1: Fundamenty, cele i diagnostyka wiersza poleceń: Rola sieci, uzasadnienie biznesowe, metody aktywne i pasywne oraz narzędzia CLI (ping, traceroute, mtr, ss, nmap)
Blok 2: Architektura NMS, model FCAPS i metryki: Standard ISO/IEC 7498-4, klasyfikacja platform NMS, typologia metryk (Counter, Gauge, Rate) oraz progi alarmowe i histereza
Blok 3: Wizualizacja, protokoły i usługi wyższych warstw: Silnik RRDtool, Weathermap, NetFlow/IPFIX, SNMP, Syslog oraz monitorowanie usług L7 i infrastruktury serwerowni
Blok 4: Niezawodność, regulacje i dobre praktyki: Auto-discovery, dashboardy NOC, wskaźniki SLA, MTTR/MTBF, regulacje prawne (RODO, KSC, ISO 27001) oraz topologia laboratoryjna
Plan dydaktyczny: Harmonijne połączenie rygoru pojęciowego inżynierii teleinformatycznej z praktycznymi scenariuszami wdrożeniowymi w sieciach korporacyjnych i operatorskich.
Układ prezentacji został zaplanowany w sposób umożliwiający stopniowe przyswajanie złożonej tematyki nadzoru sieciowego. Rozpoczynamy od analizy problemów operacyjnych, z jakimi mierzy się administrator w małej i dużej sieci komputerowej, przechodząc przez narzędzia konsolowe aż po zaawansowane systemy korelacji zdarzeń.
Szczególny nacisk położono na powiązanie aspektów czysto inżynierskich z realiami prawnymi i biznesowymi. Administrator sieci nie działa w próżni: musi spełniać rygorystyczne wymagania umów SLA zawartych z klientami oraz przestrzegać przepisów prawa o ochronie danych i cyberbezpieczeństwie.
W części końcowej studenci zapoznają się z architekturą środowiska laboratoryjnego, w którym podczas kolejnych modułów będą wdrażać kontenery z systemem LibreNMS i konfigurować urządzenia sieciowe.
Slajd 3/22
Istota, cele biznesowe i ewolucja monitorowania sieci
Cel slajdu: Zrozumienie biznesowych i technicznych przesłanek ciągłego nadzoru sieci oraz prześledzenie ewolucji telemetrii od prostych komend ICMP do nowoczesnych architektur AIOps.
Cele, ewolucja i fundamentalne pojęcia nadzoru sieci
Monitorowanie to proces ciągłego zbierania i analizy wskaźników telemetrycznych pozwalający na proaktywne wykrywanie anomalii zanim wpłyną one na użytkowników końcowych.
Uzasadnienie biznesowe i operacyjne: Zapewnienie ciągłości działania (Business Continuity), skrócenie czasu lokalizacji awarii (Root Cause Analysis) oraz weryfikacja kontraktów SLA
Ewolucja technologiczna: Od manualnych testów ICMP (ping 1983) i wstępnych specyfikacji SNMP (RFC 1157, 1990), przez SNMPv2c/v3, do telemetrii strumieniowej i platform AIOps
Cztery filary oceny stanu sieci: Dostępność (Availability: UP/DOWN), Wydajność (Performance: RTT, jitter), Utylizacja (Utilization: CPU, RAM, pasmo) oraz Jakość (QoS: błędy CRC, packet loss)
Infrastruktura podlegająca nadzorowi: Urządzenia warstwy L2 (przełączniki dostępowe, VLAN-y 802.1Q), warstwy L3 (routery, protokoły OSPF/BGP), zapory ogniowe oraz serwery
Proaktywne zarządzanie siecią: Model operacyjny polegający na automatycznej identyfikacji symptomów degradacji wydajności i usuwaniu wąskich gardeł przed wystąpieniem całkowitej awarii usługi.
Zanim przejdziemy do szczegółów systemów monitorowania, musimy precyzyjnie zdefiniować strukturę współczesnej sieci komputerowej. Sieć przedsiębiorstwa to nie tylko fizyczne kable miedziane i światłowody, ale przede wszystkim hierarchiczna struktura logiczna, w której awaria pojedynczego komponentu może wywołać lawinowe skutki.
W klasycznym modelu trójwarstwowym (Rdzeń - Dystrybucja - Dostęp) urządzenia pełnią zróżnicowane role. W warstwie dostępu przełączniki zarządzają portami użytkowników, zasilaniem PoE i segmentacją VLAN. W warstwie dystrybucji realizowane jest trasowanie pakietów i filtrowanie regułami ACL. W rdzeniu liczy się maksymalna przepustowość i natychmiastowa rekonwergencja w razie awarii łącza.
System NMS musi posiadać pełną wiedzę o tej topologii. Pozwala to na automatyczne wyciszanie alarmów pochodnych: jeżeli ulegnie awarii przełącznik dystrybucyjny, system nie powinien generować 200 oddzielnych alarmów o braku łączności ze stacjami końcowymi, lecz wskazać pojedynczą przyczynę źródłową (Root Cause Analysis).
W klasycznym, niezarządzanym środowisku informacja o awarii dociera do działu IT najgorszym możliwym kanałem: poprzez telefon zdenerwowanego użytkownika lub klienta, który nie może zrealizować płatności czy otworzyć aplikacji. W takim scenariuszu mija często kilkadziesiąt minut, zanim inżynierowie w ogóle zorientują się, który element sieci uległ uszkodzeniu.
Wdrożenie systemu monitorowania zmienia tę dynamikę. Odpowiednio skonfigurowany serwer NMS wykrywa wzrost opóźnień, błędy CRC na porcie lub zanik napięcia na zasilaczu rezerwowym i wysyła powiadomienie natychmiast po wystąpieniu anomalii. Inżynier dyżurny przystępuje do naprawy, zanim jakikolwiek użytkownik zorientuje się, że wystąpił problem.
Co więcej, monitoring dostarcza niepodważalnych dowodów w sporach z operatorami telekomunikacyjnymi. Gdy dostawca łącza twierdzi, że problem leży po stronie klienta, wykresy utraty pakietów ICMP i logi SNMP jednoznacznie wskazują moment i miejsce degradacji transmisji.
Gdy na przełomie lat 70. i 80. powstawała sieć ARPANET, do diagnozowania łącz wystarczało proste polecenie ping, stworzone przez Mike’a Muussa w grudniu 1983 roku, wykorzystujące pakiety ICMP Echo Request zdefiniowane w RFC 792 (1981 r.). Jednak wraz ze wzrostem liczby bram sieciowych i routerów, ręczne sprawdzanie każdego adresu IP stało się niewystarczające.
W 1988 roku opracowano wstępną specyfikację SNMP (RFC 1067), a w maju 1990 roku opublikowano pełny standard SNMPv1 w dokumencie RFC 1157. Projektanci standardu IETF postawili na maksymalną prostotę implementacji w urządzeniach o skrajnie ograniczonej pamięci RAM i mocy procesora. Protokół bazował na bezpołączeniowym transporcie UDP i prostym modelu zmiennych MIB.
Przez kolejne dekady protokół rozwijał się pod kątem wydajności (SNMPv2c wprowadziło 64-bitowe liczniki, niezbędne dla interfejsów gigabitowych) oraz bezpieczeństwa (SNMPv3 w RFC 3411-3418 wprowadziło architekturę USM/VACM, a w RFC 3826 z 2004 roku standard szyfrowania AES). Dziś, mimo rozwoju telemetrii strumieniowej gNMI opartej na protobuf i gRPC, SNMP pozostaje najbardziej uniwersalnym językiem komunikacji z urządzeniami sieciowymi na świecie.
Ocena kondycji sieci wymaga holistycznego spojrzenia. Bardzo częstym błędem początkujących administratorów jest ograniczanie się do monitorowania samej dostępności za pomocą prostego polecenia ping. Taki system nie dostarcza żadnych informacji o degradacji parametrów jakościowych.
Wydajność i utylizacja to metryki wczesnego ostrzegania. Zanim router ulegnie całkowitej awarii, zazwyczaj przez kilkadziesiąt minut obserwuje się stopniowy wzrost zużycia pamięci RAM (np. wyciek pamięci w procesie routingu) lub gwałtowny wzrost liczby błędów na interfejsie światłowodowym spowodowany zanieczyszczeniem złącza optycznego.
Jakość transmisji jest szczególnie krytyczna dla usług czasu rzeczywistego, takich jak telefonia VoIP czy wideokonferencje. Utrata zaledwie 1-2% pakietów lub wzrost jittera powyżej 30 ms powoduje słyszalne zniekształcenia dźwięku, mimo że formalnie łącze zachowuje status operacyjny UP.
Slajd 4/22
Metodyka monitorowania: odpytywanie aktywne a nasłuch pasywny
Cel slajdu: Przedstawienie i porównanie dwóch fundamentalnych paradygmatów pozyskiwania danych telemetrycznych w sieciach IP.
Odpytywanie cykliczne a asynchroniczne powiadomienia
Kompletny system monitorowania łączy w sobie periodyczne sondowanie stanu urządzeń przez stację zarządzającą z natychmiastowym raportowaniem zdarzeń krytycznych przez same urządzenia.
Monitorowanie aktywne (Polling): Serwer NMS cyklicznie wysyła zapytania (np. ICMP Echo Request, SNMP GET) w stałych interwałach (np. 60s, 300s); gwarantuje regularny pomiar metryk liczbowych
Narzut odpytywania aktywnego: Nadmierna częstotliwość zapytań generuje obciążenie łącza transmisyjnego oraz procesora urządzenia sieciowego; wymaga optymalizacji interwałów
Monitorowanie pasywne (Event-driven): Urządzenie autonomicznie emituje powiadomienie w chwili wystąpienia incydentu (SNMP Trap, Syslog); natychmiastowa reakcja bez opóźnień cyklu pollingu
Synergia obu podejść: Polling dostarcza ciągłych danych historycznych i wykresów trendu, podczas gdy nasłuch pasywny alarmuje w czasie rzeczywistym o nagłych awariach (np. linkDown)
Interwał odpytywania (Polling Interval): Czas pomiędzy kolejnymi zapytaniami serwera NMS o stan danego węzła lub interfejsu; standardowo wynosi od 60 sekund (dla interfejsów krytycznych) do 300 sekund.
Pierwsza różnica między tymi modele dotyczy charakteru przekazywanej informacji. Polling zwraca stan liczników w postaci migawki: jeśli interfejs był przeciążony przez dwie minuty w przerwie między kolejnymi odpytowaniami, zapisywana w bazie próbka jest już czysta i zdarzenie nie zostanie w ogóle odnotowane. Pułapka SNMP niesie informację o zdarzeniu, ale w formie bardzo ubogiej: zawiera zwykle jedynie znacznik czasu oraz indeks obiektu, który zmienił wartość, dlatego jej interpretacja wymaga odczytu tablicy opisowej lub skojarzenia z ostatnią próbką pollingu. Konsekwencją tego jest praktyczna reguła: zdarzenia wymagające reakcji w czasie krótszym niż interwał odpytywania nie mogą być nadzorowane wyłącznie aktywnie.
Dobór interwału odpytywania jest kompromisem, którego nie da się rozstrzygnąć intuicyjnie. Zbyt rzadkie sondowanie daje wykres bezużyteczny w analizie wąskiego gardła, zbyt częste obciąża procesor i sieć zarządzającą. Dlatego w praktyce rozdziela się metryki na grupy o różnej wrażliwości czasowej: liczniki przepływu na interfejsach krytycznych odpytuje się co minutę, dane o stanie i temperaturze raz na kilka minut, a pełne odpytywanie tablic opisowych i tablic błędów przesuwa się na cykl nocny. Dzięki temu obciążenie agenta rozkłada się równomiernie, zamiast generować skoki w kolejnych sekundach każdego cyklu.
Pułapki wymagają jednak dyscypliny po stronie odbiornika. Ich zasięg jest ograniczony do tego, co agent zdąży wysłać: gdy seria zdarzeń przekracza bufor urządzenia, starsze komunikaty mogą zostać porzucone, a przy synchronizacji czasu na urządzeniu zdarzenia z kilku sekund potrafią otrzymać identyczny znacznik. Dobra praktyka polega na wzbogaceniu pułapki o informację umożliwiającą identyfikację źródła, czyli adres urządzenia, interfejsu i typu zdarzenia, oraz na odfiltrowaniu z logsów komunikatów niosących wyłącznie informację o wejściu na konsolę. Bez tego NMS odbiera zdarzenie, nie wie, gdzie ono wystąpiło, i nie jest w stanie powiązać go z historią wykresów.
Większość systemów NMS opartych na bazach RRD (takich jak LibreNMS czy Cacti) przyjmuje 5-minutowy cykl pollingu jako standard branżowy. Wynika to z faktu, że pliki Round Robin Database są prealokowane ze stałą siatką czasową (step=300 sekund). Zmiana tego parametru na 1 minutę zwiększa pięciokrotnie liczbę operacji I/O na dyskach serwera NMS.
W przypadku nowoczesnych łączy o przepustowości 10G, 40G czy 100G krytyczne znaczenie ma typ odpytywanych obiektów MIB. 32-bitowy licznik bajtów (ifInOctets) przy pełnym nasyceniu łącza 10 Gbps przepełnia się (zawija) w niespełna 3,4 sekundy. Jeśli system odpytywałby go co 5 minut, wyliczenie prędkości byłoby całkowicie błędne. Z tego względu standard IF-MIB (RFC 2863) wprowadził 64-bitowe liczniki ifHCInOctets.
Aby zapobiec przeciążeniu sieci pakietami telemetrycznymi w tej samej sekundzie, zaawansowane systemy NMS stosują mechanizm dispatchera (kolejki zadań w Redis/RabbitMQ), który dzieli pulę urządzeń na mikro-zadania przydzielane dynamicznie do puli procesów roboczych (worker pool).
Zaletą monitorowania pasywnego jest brak jakiegokolwiek narzutu komunikacyjnego w stanie spoczynku sieci. Jeśli w infrastrukturze nic złego się nie dzieje, łącza nie są obciążane pakietami telemetrycznymi.
Kluczowym elementem wdrożenia jest właściwa konfiguracja agenta na urządzeniach sieciowych. W systemie Cisco IOS lub MikroTik RouterOS administrator musi jawnie wskazać adres IP serwera docelowego oraz community/użytkownika uprawnionego do nadawania pułapek.
W kolejnych prezentacjach poznamy szczegółowo format pakietu Trap w SNMPv1 i SNMPv2c oraz nowoczesny format RFC 5424 stosowany w systemach logowania.
Slajd 5/22
Narzędzia diagnostyczne wiersza poleceń: ping, traceroute, mtr, ss i nmap
Cel slajdu: Opanowanie standardowych narzędzi konsolowych systemu Linux wykorzystywanych w codziennej weryfikacji łączności i diagnostyce sieciowej.
Narzędzia weryfikacji łączności, trasowania i audytu portów
Bezpośrednia diagnostyka w wierszu poleceń stanowi punkt wyjścia do lokalizacji problemów przed zaangażowaniem zaawansowanych systemów centralnych.
ICMP Echo (ping): Weryfikacja dostępności węzła L3, pomiar czasu RTT (min/avg/max) oraz odchylenia standardowego (mdev); test MTU za pomocą przełączników -M do -s <rozmiar>
Badanie ścieżki pakietów:traceroute manipuluje polem TTL nagłówka IP identyfikując kolejne routery przeskoku; narzędzie mtr łączy traceroute z ciągłym pomiarem strat na każdym węźle
Inspekcja gniazd sieciowych (ss): Nowoczesny następca netstat; polecenie ss -tuln natychmiast wyświetla aktywne gniazda nasłuchujące TCP/UDP bez narzutu na tablice jądra
Skanowanie bezpieczeństwa (nmap): Identyfikacja otwartych portów usługowych, fingerprinting systemu operacyjnego oraz weryfikacja dostępności portu UDP 161 (SNMP)
TTL (Time to Live): Pole w nagłówku pakietu IPv4 (Hop Limit w IPv6) dekrementowane o 1 przez każdy router przeskoku; zapobiega nieskończonemu krążeniu pakietów w pętli routingu.
Protokół ICMP (Internet Control Message Protocol, RFC 792) jest integralną częścią stosu IP. Mimo że ping to najprostsze narzędzie diagnostyczne, dostarcza niezwykle cennych informacji.
Badając wartość TTL pakietu zwrotnego, wprawny inżynier potrafi rozpoznać system operacyjny hosta docelowego (domyślny TTL wynosi 64 dla Linuksa, 128 dla Windows, a 255 dla systemów sieciowych Cisco/Cisco IOS).
Z kolei traceroute ujawnia dokładne opóźnienia wprowadzane przez poszczególne routery na trasie. Gdy na skoku nr 3 opóźnienie skacze z 5 ms do 180 ms, natychmiast wiadomo, który operator tranzytowy odpowiada za degradację połączenia.
Program nmap to jedno z najważniejszych narzędzi w arsenale inżyniera sieciowego. W kontekście systemów NMS wykorzystywany jest głównie do automatycznego wykrywania nowo podłączonych hostów (ping sweep) oraz sprawdzania, czy urządzenia mają uruchomione usługi zarządzania.
Warto zwrócić uwagę na specyfikę protokołów bezpołączeniowych UDP. Skanowanie portu UDP 161 (SNMP) za pomocą nmapa jest znacznie trudniejsze niż portów TCP. W przypadku braku odpowiedzi skaner oznacza port jako open|filtered, ponieważ zapora sieciowa oraz brak uruchomionego agenta zachowują się identycznie (brak pakietu zwrotnego). Dopiero wysłanie poprawnego zapytania SNMP GetRequest z prawidłową community string pozwala jednoznacznie zweryfikować stan portu.
Z kolei polecenie ss (z pakietu iproute2) to podstawowe narzędzie diagnostyczne na serwerze Linux. W przeciwieństwie do historycznego netstat, który odczytywał pliki z wirtualnego systemu /proc/net i drastycznie zwalniał przy dziesiątkach tysięcy aktywnych połączeń, ss pobiera stany gniazd bezpośrednio przez Netlink, działając błyskawicznie nawet w środowiskach o ogromnej skali.
Proste jednokrotne wysłanie pakietu ping raz na 5 minut daje zaledwie binarną informację: urządzenie odpowiedziało lub nie. W rzeczywistych sieciach produkcyjnych awarie rzadko mają charakter czarno-biały; znacznie częściej mamy do czynienia z degradacją parametrów jakościowych.
Narzędzie SmokePing (również autorstwa Tobiasa Oetikera) wprowadziło nową jakość do diagnostyki ICMP. Wysyłając paczkę 20 pakietów w każdym cyklu, SmokePing wylicza medianę opóźnienia oraz rozkład procentowy pozostałych próbek. Im większa zmienność opóźnień (jitter), tym ciemniejszy i szerszy dym wokół linii środkowej.
Dzięki takiej analizie inżynier sieciowy potrafi w kilka sekund odróżnić przeciążenie łącza (charakteryzujące się regularnym wzrostem opóźnień w godzinach pracy biura) od problemów fizycznych na torze radiowym lub światłowodowym (losowe, gwałtowne skoki opóźnień niezależne od natężenia ruchu).
Slajd 6/22
Architektura systemu NMS i model FCAPS według ISO/IEC 7498-4
Cel slajdu: Poznanie znormalizowanego modelu zarządzania sieciami teleinformatycznymi oraz komponentów składowych nowoczesnej platformy NMS.
Pięć filarów zarządzania siecią i modułowa budowa NMS
Międzynarodowa norma ISO/IEC 7498-4 definiuje ustrukturyzowany model zarządzania siecią FCAPS obejmujący pięć komplementarnych dyscyplin inżynierskich.
F – Fault Management (Zarządzanie awariami): Detekcja, izolacja i rejestracja usterek sprzętowych oraz programowych w czasie rzeczywistym
C – Configuration Management (Zarządzanie konfiguracją): Śledzenie wersji oprogramowania, kopie zapasowe konfiguracji (np. Oxidized) i audyt wprowadzanych zmian
A – Accounting Management (Rozliczalność): Monitorowanie utylizacji zasobów sieciowych przez użytkowników i działy na potrzeby fakturowania lub alokacji kosztów
P – Performance Management (Zarządzanie wydajnością): Analiza przepustowości łącz, obciążenia procesorów, opóźnień pakietów i planowanie rozbudowy (Capacity Planning)
S – Security Management (Zarządzanie bezpieczeństwem): Kontrola dostępu do urządzeń, wykrywanie nieautoryzowanych prób logowania i zgodność z polityką bezpieczeństwa
Komponenty platformy NMS: Poller (odpytywacz), baza danych metryk (RRD/TSDB), silnik reguł alarmowych (Alert Engine) oraz interfejs graficzny użytkownika (GUI)
Model FCAPS: Międzynarodowy standard kategoryzacji zadań operacyjnych w zarządzaniu sieciami telekomunikacyjnymi i komputerowymi opracowany w ramach architektury OSI.
Każdy protokół w ekosystemie monitoringu powstał z myślą o rozwiązywaniu specyficznych problemów. Próba zastąpienia wszystkich zadań jednym protokołem prowadzi do nieoptymalnych rozwiązań architektonicznych.
Dla przykładu, protokół SNMP znakomicie nadaje się do odczytywania zagregowanych liczników (np. łączna liczba przesłanych bajtów na porcie), ale zupełnie nie nadaje się do analizy bezpieczeństwa, ponieważ nie rejestruje pojedynczych adresów IP użytkowników pobierających dane. Do tego zadania służy telemetria przepływowa (NetFlow/IPFIX).
Z kolei protokół Syslog dostarcza kontekstu jakościowego: podczas gdy SNMP rejestruje jedynie, że interfejs zmienił stan na DOWN, komunikat Syslog z przełącznika precyzuje: %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/1 is down (Link failure due to SFP optical loss), co natychmiast kieruje technika do wymiany wkładki światłowodowej.
Współczesny system NMS to znacznie więcej niż prosty program do wysyłania pingów. To rozbudowany system rozproszony, który musi radzić sobie z asynchronicznym odbiorem tysięcy zdarzeń na sekundę przy minimalnym zużyciu zasobów własnych.
Sercem platformy jest silnik korelacji zdarzeń. Jeśli w centrum danych ulegnie awarii zasilacz w szafie rack, system odbiera komunikaty z UPS-a, przełączników i serwerów. Dojrzały NMS koreluje te zdarzenia i generuje dla inżyniera jeden zbiorczy incydent: Awaria zasilania w Szafie Rack A3, zamiast zasypywać dyżurnego 50 pojedynczymi alertami.
W ramach kursu szczegółowo przeanalizujemy system LibreNMS, który jest jednym z najpopularniejszych otwartoźródłowych rozwiązań NMS na świecie, wykorzystującym bazę MariaDB, silnik RRDtool oraz framework PHP/Laravel.
Norma ISO/IEC 7498-4 formalizuje podejście do administrowania sieciami teleinformatycznymi. Częstym błędem jest redukowanie zarządzania siecią wyłącznie do filaru F (Fault) i P (Performance). Jednak bez sprawnego zarządzania konfiguracją (C) czy bezpieczeństwem (S) stabilność sieci jest iluzoryczna.
W praktyce inżynierskiej filar C (Configuration) odpowiada za to, by po fizycznej wymianie uszkodzonego przełącznika móc w kilka minut przywrócić jego pełną konfigurację z automatycznego backupu (np. z wykorzystaniem narzędzia RANCID czy Oxidized zintegrowanego z LibreNMS).
Z kolei filar A (Accounting) w sieciach korporacyjnych pozwala na precyzyjną analizę, który dział generuje największy ruch na styku z Internetem, co ułatwia planowanie budżetu IT oraz egzekwowanie polityk bezpieczeństwa (Acceptable Use Policy).
Oddzielenie warstwy zbierania danych (pollerów) od warstwy prezentacji (Web UI) to kluczowa decyzja inżynierska. Użytkownik generujący skomplikowany raport za ostatni rok nie może spowalniać procesu odpytywania urządzeń krytycznych.
W architekturze rozproszonej poller umieszczony w odległym oddziale firmy (np. w innej lokalizacji geograficznej) odpytuje lokalne przełączniki przez LAN, a do centrali przesyła jedynie przetworzone wyniki przez bezpieczny tunel VPN. Eliminuje to problem wpływu opóźnień WAN na czasy odpowiedzi SNMP.
Dzięki wykorzystaniu brokerów zadań (takich jak Redis w LibreNMS) system może automatycznie równoważyć obciążenie: jeśli jedno z urządzeń odpowiada powoli z powodu przeciążenia, dedykowany proces roboczy czeka na timeout, podczas gdy pozostałe procesy kontynuują obsługę sprawnych węzłów.
Slajd 7/22
Klasyfikacja i przegląd platform NMS – Open Source i rozwiązania komercyjne
Cel slajdu: Przegląd rynku systemów NMS oraz kryteria doboru oprogramowania monitorującego w zależności od skali i specyfiki przedsiębiorstwa.
Rozwiązania otwartoźródłowe a systemy komercyjne
Wybór platformy NMS determinuje elastyczność operacyjną działu IT, koszty wdrożenia (TCO) oraz możliwość integracji z posiadaną infrastrukturą sprzętową.
LibreNMS: Nowoczesny, bezagentowy system Open Source oparty na PHP/MySQL/Python; wysoka automatyzacja dzięki wbudowanemu mechanizmowi auto-discovery i obsłudze tysięcy urządzeń
Zabbix: Wydajny system łączący monitorowanie bezagentowe (SNMP/ICMP) z dedykowanymi agentami instalowanymi na serwerach; wysoka skalowalność w instalacjach rozproszonych
Prometheus i Grafana: Stos telemetryczny nowej generacji; model pull zorientowany na metryki szeregów czasowych, doskonały do środowisk chmurowych i kontenerowych
Rozwiązania komercyjne: PRTG Network Monitor (prostota wdrożenia w środowiskach Windows), SolarWinds NPM (rozbudowane moduły korporacyjne) oraz Cisco DNA Center
TCO (Total Cost of Ownership): Całkowity koszt posiadania systemu informatycznego, obejmujący licencje, infrastrukturę serwerową, koszty wdrożenia, szkoleń oraz bieżącego utrzymania i aktualizacji.
Wybór odpowiedniego systemu NMS jest jedną z najważniejszych decyzji architektonicznych w dziale IT. Każda z wymienionych platform posiada odmienną filozofię działania.
LibreNMS powstał jako fork projektu Observium i skupia się na bezobsługowym monitorowaniu infrastruktury sieciowej. Wystarczy podać adres IP i dane uwierzytelniające SNMP, a system automatycznie rozpozna model urządzenia, wersję oprogramowania, wszystkie porty sieciowe, zasilacze, wentylatory, procesory, a nawet tablice routingu BGP/OSPF.
Zabbix z kolei sprawdza się doskonale w środowiskach mieszanych z dużą przewagą serwerów aplikacyjnych. Dedykowany agent Zabbix instalowany w systemach Linux i Windows pozwala na odczyt parametrów, które są niedostępne przez standardowe zapytania SNMP (np. czas trwania transakcji w bazie danych czy stan usług systemd).
Wdrożenie komercyjnego systemu NMS wiąże się ze znacznymi nakładami finansowymi, nie tylko na sam zakup licencji, ale również na coroczne odnowienia wsparcia technicznego (maintenance). W zamian przedsiębiorstwo otrzymuje gotowy produkt z gwarancją działania i pomocą techniczną.
Wielką zaletą systemów takich jak PRTG czy OpManager jest szybkość wstępnej konfiguracji. Kreatory instalacji automatycznie konfigurują bazę danych, instalują usługi w systemie Windows i uruchamiają skanowanie podsieci, prezentując pierwsze wykresy w kilkanaście minut po instalacji.
Z punktu widzenia inżynierskiego warto zwrócić uwagę na system MikroTik The Dude. Jest to unikalne rozwiązanie, które mimo komercyjnego charakteru producenta urządzeń sieciowych, jest udostępniane bezpłatnie jako pakiet dla systemu RouterOS, stając się podstawowym narzędziem tysięcy małych i średnich operatorów telekomunikacyjnych (ISP).
Przedstawiona matryca porównawcza syntetyzuje doświadczenia inżynierskie z setek wdrożeń produkcyjnych. Bardzo częstym błędem jest próba wdrożenia Prometheusa do monitorowania 500 tradycyjnych przełączników sieciowych za pomocą eksportera snmp_exporter. Rozwiązanie to wymaga żmudnego, manualnego generowania plików konfiguracyjnych YAML, co w LibreNMS dzieje się automatycznie.
Z drugiej strony próba wykorzystania LibreNMS do monitorowania tysięcy dynamicznie skalowanych kontenerów w chmurze AWS byłaby równie chybiona, ze względu na sztywną siatkę czasową plików RRDtool.
W nowoczesnych przedsiębiorstwach standardem staje się model hybrydowy: LibreNMS nadzoruje fizyczną sieć szkieletową, Prometheus monitoruje klastry aplikacyjne Kubernetes, a centralna Grafana łączy metryki z obu źródeł na wspólnych dashboardach menedżerskich.
Slajd 8/22
Obiekty nadzoru: przełączniki L2, routery L3, łącza WAN i serwery
Cel slajdu: Zdefiniowanie kluczowych parametrów diagnostycznych monitorowanych na poszczególnych warstwach infrastruktury sieciowej i serwerowej.
Każda klasa urządzeń sieciowych wymaga monitorowania dedykowanego zestawu metryk odpowiadających pełnionej roli w architekturze transmisyjnej.
Przełączniki L2/L3: Stan operacyjny portów (AdminStatus / OperStatus), utylizacja pasma (ifInOctets/ifOutOctets), błędy ramkowania (CRC errors), topologia Spanning Tree (STP)
Routery i bramy brzegowe: Obciążenie procesora trasującego, wielkość buforów pakietowych, tablice sąsiedztwa protokołów routingu dynamicznego (sesje OSPF, BGP peering)
Łącza WAN i dostęp do Internetu: Czas propagacji (RTT), fluktuacja opóźnień (jitter), nasycenie pasma w godzinach szczytu oraz statystyki utraty pakietów (packet drop)
Infrastruktura serwerowa: Utylizacja rdzeni CPU, alokacja pamięci RAM i przestrzeni wymiany SWAP, wolne miejsce na wolumenach dyskowych oraz status usług systemowych
OperStatus vs AdminStatus: Standardowe atrybuty IF-MIB; AdminStatus odzwierciedla wolę administratora (port włączony/wyłączony programowo), a OperStatus rzeczywisty stan fizycznego łącza (Link UP/DOWN).
Wielu początkujących administratorów popełnia błąd, traktując wdrożenie NMS jako jednorazowe zadanie. W rzeczywistości uruchomienie oprogramowania to dopiero początek. Bez stałego nadzoru i dostrajania reguł, system w ciągu kilku miesięcy staje się bezużyteczny z powodu setek ignorowanych, nieistotnych powiadomień.
Inżynier sieciowy musi wypracować ścisłe procedury współpracy z zespołem Helpdesku i pionem zarządzania kryzysowego. Każdy poważny incydent powinien kończyć się raportem post-mortem, w którym analizuje się, dlaczego doszło do awarii, czy system NMS powiadomił o niej wystarczająco szybko oraz jakie działania zapobiegawcze należy podjąć na przyszłość.
Czwartym zaniedbanym obszarem jest rytm przeglądów. Konfiguracja, której nikt nigdy nie ogląda, degeneruje się stopniowo: progi alarmowe przestają odpowiadać rzeczywistości, runbooki rozjeżdżają się z aktualną topologią, a lista wyłączeń i wyciszeń alarmów rośnie z miesiąca na miesiąc. W praktyce sprawdza się prosty harmonogram: cotygodniowy przegląd alertów z potwierdzeniem każdej reguły, comiesięczny raport świeżości telemetrii, kwartalne testy wybranych procedur awaryjnych i coroczny audyt uprawnień.
Monitorowanie urządzeń sieciowych wymaga wejścia na poziom szczegółowych liczników MIB. Wielu początkujących administratorów poprzestaje na sprawdzaniu, czy switch odpowiada na ping. Tymczasem przełącznik może bez problemu odpowiadać na pakiety ICMP generowane przez procesor zarządzający (Control Plane), podczas gdy magistrala przełączająca (Data Plane) gubi pakiety z powodu przepełnienia buforów wejściowych.
Niezwykle istotnym parametrem na łączach światłowodowych jest funkcja Digital Optical Monitoring (DOM/DDM). Umożliwia ona odczytanie przez SNMP poziomu mocy optycznej nadawanej i odbieranej (TX/RX Power w dBm). Stopniowy spadek mocy odbieranej wskazuje na zanieczyszczenie złączy lub degradację włókna światłowodowego na trasie.
W przypadku routerów brzegowych kluczowe jest monitorowanie stabilności sesji BGP z dostawcami Internetu. Spadek liczby prefiksów przyjmowanych od operatora lub restart sesji (BGP flaps) powinien natychmiast wywołać alert o najwyższym priorytecie.
W monitorowaniu systemów operacyjnych (Linux, Windows Server) kluczowe jest prawidłowe interpretowanie wzajemnych zależności między metrykami. Przykładowo, sam wysoki wskaźnik Load Average nie musi oznaczać przeciążenia obliczeniowego procesora.
W systemie Linux wskaźnik Load Average uwzględnia zarówno procesy aktywnie wykonujące kod na CPU, jak i procesy uśpione w stanie nieprzerywalnym (Uninterruptible Sleep - stan D), które czekają na odpowiedź podsystemu dyskowego. Jeśli metryka %iowait osiąga wysokie wartości (np. >30%), problemem nie jest brak mocy obliczeniowej CPU, lecz przeciążona macierz dyskowa.
Równie niebezpiecznym, a często pomijanym problemem jest wyczerpanie puli i-węzłów (inodes) w systemach plików ext4/xfs. Serwer generujący miliony drobnych plików sesyjnych lub logów może zgłaszać błąd No space left on device, mimo że dysk ma jeszcze setki gigabajtów wolnego miejsca.
Monitorowanie łączy rozległych WAN wymaga od inżyniera zrozumienia specyfiki umów SLA zawieranych z operatorami telekomunikacyjnymi. Operatorzy często gwarantują pasmo na poziomie średnim w skali miesiąca, co nie chroni przedsiębiorstwa przed krótkotrwałymi, kilkunastominutowymi załamaniami transmisji w godzinach szczytu.
Do rzetelnej oceny łącza nie wystarcza odpytywanie liczników bajtów z interfejsu routera. Niezbędne jest wdrożenie sond generujących pakiety próbne (ang. Synthetic Probes, np. Cisco IP SLA lub narzędzie SmokePing), które w sposób ciągły mierzą czasy RTT, fluktuację opóźnień (jitter) oraz utratę pakietów w obu kierunkach.
W przypadku tuneli VPN kluczowym parametrem jest również utylizacja tablicy stanów (State Table) na brzegowej zaporze sieciowej. Jeśli firewall wyczerpie pamięć przeznaczoną na śledzenie stanów połączeń, nowe sesje użytkowników będą odrzucane, mimo że łącze fizyczne będzie wykorzystane zaledwie w 10%.
Slajd 9/22
Typologia metryk: liczniki Counter, wskaźniki Gauge oraz wyliczanie wskaźników Rate
Cel slajdu: Zrozumienie matematycznych i formatowych różnic między typami danych telemetrycznych oraz algorytmów przeliczania liczników na przepustowość.
Struktury danych telemetrycznych i rachunek pochodnych
Standardy telemetryczne (SMIv2, Prometheus) operują na ściśle zdefiniowanych typach danych, które wymagają odmiennej interpretacji matematycznej podczas rysowania wykresów.
Licznik (Counter): Monotonicznie rosnąca liczba całkowita rejestrująca sumaryczną liczbę zdarzeń (np. przesłane bajty ifInOctets, odebrane pakiety); zeruje się po restarcie lub przepełnieniu
Licznik Counter32 a Counter64: Licznik 32-bitowy przepełnia się po 4,29 mld bajtów (zaledwie ~34 sekundy na łączu 1 Gb/s); dla sieci Gigabit i 10G obowiązkowy jest Counter64
Wskaźnik (Gauge): Wartość chwilowa mogąca dowolnie rosnąć i maleć w czasie; reprezentuje bieżący pomiar (np. temperatura procesora, zużycie RAM w procentach, liczba aktywnych sesji)
Wyliczanie wskaźnika szybkości (Rate): Przepustowość w bitach na sekundę wylicza się ze wzoru: Rate = (C2 - C1) / (T2 - T1) * 8, gdzie C to stan licznika w bajtach, a T czas pomiaru w sekundach
Counter Wrap (Przekręcenie licznika): Zjawisko osiągnięcia przez licznik wartości maksymalnej i powrotu do zera; system NMS musi poprawnie wykrywać ten stan, aby uniknąć fałszywych ujemnych lub olbrzymich skoków na wykresach.
Zrozumienie różnicy pomiędzy licznikiem Counter a wskaźnikiem Gauge jest absolutnie fundamentalne dla każdego inżyniera konfigurującego monitoring. Błędne zdefiniowanie typu danych w szablonie NMS skutkuje bezużytecznymi wykresami.
Jeśli administrator zdefiniuje licznik przesłanych bajtów (ifInOctets) jako Gauge, wykres zamiast prędkości łącza pokaże stale rosnącą linię prostą dążącą do 4 gigabajtów. Dopiero potraktowanie tej zmiennej jako Counter i zastosowanie operatora Rate daje realny obraz utylizacji pasma.
W bazach RRDtool typ COUNTER automatycznie zakłada, że wartość zawsze rośnie. Jeśli kolejna wartość jest mniejsza od poprzedniej, RRDtool traktuje to jako zawinięcie licznika (wrap) lub restart urządzenia. Z kolei typ DERIVE pozwala na ujemne przyrosty, co jest przydatne przy monitorowaniu bilansu zasobów.
Slajd 10/22
Zarządzanie alertami: progi alarmowe, histereza, eskalacja i zwalczanie alert fatigue
Cel slajdu: Poznanie zasad budowy efektywnych reguł alarmowych, mechanizmu histerezy oraz zapobiegania syndromowi zmęczenia alertami w zespołach NOC.
Parametryzacja progów, histereza i procedury eskalacji
Alarmowanie to najważniejsza funkcja operacyjna systemu NMS; źle skonfigurowane alerty prowadzą do ignorowania krytycznych ostrzeżeń przez personel techniczny.
Progi ostrzegawcze i krytyczne (Thresholds): Zdefiniowanie poziomów metryk (np. obciążenie CPU > 80% Ostrzeżenie, > 95% Awaria) generujących powiadomienia
Mechanizm histerezy (Hysteresis): Zastosowanie odmiennych progów aktywacji i dezaktywacji alertu (np. włączenie przy 85%, wyłączenie dopiero po spadku poniżej 75%); zapobiega ciągłemu migotaniu powiadomień (flapping)
Agregacja czasowa: Wymóg utrzymywania się przekroczonego progu przez określony czas (np. CPU > 90% przez minimum 5 minut) przed wywołaniem alarmu eliminuje fałszywe powiadomienia o chwilowych pikach
Ścieżki eskalacji (Escalation): Przekazywanie powiadomień do wyższych szczebli wsparcia w przypadku braku potwierdzenia (Acknowledge) alertu w wyznaczonym oknie czasowym
Zmęczenie alertami (Alert Fatigue): Stan znieczulenia inżynierów spowodowany zalewem setek nieistotnych lub fałszywych powiadomień; skutkuje przeoczeniem rzeczywistej, poważnej awarii infrastruktury.
Zjawisko flappingu alertów to jedna z największych plag w centrach operacji sieciowych. Administrator, który otrzymuje 200 powiadomień na godzinę z tego samego serwera o treści 'CPU Alert: 85.1%' i minutę później 'CPU OK: 84.8%', w krótkim czasie tworzy regułę w programie pocztowym przenoszącą wszystkie alerty do kosza.
Wprowadzenie histerezy całkowicie rozwiązuje ten problem. Definiując próg załączenia (High Threshold) na poziomie 85% oraz próg wyłączenia (Low Threshold) na poziomie 75%, tworzymy bufor ochronny (strefę martwą) o szerokości 10 punktów procentowych.
W dojrzałych systemach NMS (takich jak LibreNMS czy Zabbix) histerezę łączy się dodatkowo z warunkiem czasowym (np. funkcja min(5m) > 85%). Oznacza to, że alert zostanie wzbudzony tylko wtedy, gdy najniższa zarejestrowana wartość w ciągu ostatnich 5 minut przekraczała 85%.
Projektując system powiadamiania, należy ściśle dopasować kanał komunikacyjny do wagi incydentu. Wysyłanie e-maili o całkowitej awarii routera brzegowego w nocy jest bezcelowe, ponieważ nikt nie sprawdza skrzynki pocztowej o 3 nad ranem. Do incydentów krytycznych (P1/P2) służą dedykowane platformy dyspozytorskie (PagerDuty, Opsgenie, VictorOps).
Platformy te potrafią wykonywać automatyczne połączenia telefoniczne z syntezą mowy, wymuszając wciśnięcie klawisza na telefonie w celu potwierdzenia odbioru. Jeśli dyżurny nie odbierze połączenia w ciągu 3 minut, system dzwoni do kolejnej osoby z listy rezerwowej.
Warto zadbać również o kanał Out-of-Band (OOB) dla samego systemu NMS. Jeśli serwer monitorowania straci podstawowe połączenie ze światem na skutek awarii switcha w serwerowni, musi posiadać rezerwowy modem LTE/5G, aby móc wysłać powiadomienie o odcięciu od sieci.
Slajd 11/22
Składowanie i wizualizacja danych: RRDtool, bazy szeregów czasowych, wykresy i Weathermap
Cel slajdu: Przedstawienie architektur przechowywania danych telemetrycznych oraz technik graficznej prezentacji nasycenia infrastruktury transmisyjnej.
Mechanizmy retencji danych metrycznych i mapy topologii
Długoterminowa analiza trendów wymaga optymalnych struktur bazodanowych zdolnych do obsługi milionów próbek bez niekontrolowanego rozrostu pamięci masowej.
Bazy cykliczne RRDtool: Bazy danych o stałym rozmiarze pliku na dysku (Round Robin Database); starsze dane są automatycznie agregowane (średnia, maksimum) w miarę upływu czasu
Archiwa RRA (Round Robin Archives): Podział na przedziały czasowe (np. próbki 5-minutowe przez 2 dni, 30-minutowe przez miesiąc, 1-dniowe przez rok); kompromis między precyzją a rozmiarem
Nowoczesne bazy TSDB: Rozwiązania kolumnowe z kompresją (InfluxDB, TimescaleDB, VictoriaMetrics) zapewniające elastyczne tagowanie i błyskawiczne zapytania analityczne
Mapy Weathermap: Dynamiczne schematy sieci z łączami pokolorowanymi w zależności od procentowego wykorzystania pasma; umożliwiają natychmiastową ocenę wąskich gardeł w NOC
Baza danych szeregów czasowych (TSDB): System zarządzania bazą danych zoptymalizowany do zapisu i analizy sekwencji punktów pomiarowych uporządkowanych ściśle według znaczników czasu (timestamp).
Biblioteka RRDtool rozwiązała jeden z największych problemów wczesnych systemów monitorowania: niekontrolowany rozrost bazy danych. W klasycznej relacyjnej bazie SQL każda kolejna próbka dopisywana co 5 minut powoduje ciągły wzrost rozmiaru tabeli, co po kilku miesiącach doprowadzało do zapełnienia dysków i drastycznego spowolnienia zapytań.
W RRDtool plik ma dokładnie taki sam rozmiar (zazwyczaj kilkadziesiąt do kilkuset kilobajtów) w pierwszej minucie po utworzeniu, jak i po pięciu latach działania. Stała struktura pozwala systemowi operacyjnemu na niezwykle efektywne buforowanie stron w pamięci RAM.
Wadą konsolidacji jest nieodwracalna utrata szczegółów. Po upływie zdefiniowanego czasu retencji dla danych surowych (np. 7 dni), nie jest już możliwe sprawdzenie, jak dokładnie wyglądał ruch o godzinie 14:23 w minioną środę – dysponujemy jedynie skonsolidowaną średnią i wartością maksymalną za dany przedział czasu.
Koncepcja Weathermapy wywodzi się z klasycznych map pogodowych i została zaadaptowana do sieci komputerowych na początku lat 2000. Kolorowe linie symbolizujące magistrale transmisyjne dają natychmiastową informację o przeciążeniach, bez konieczności analizowania tabel liczbowych.
W systemie LibreNMS moduł Weathermap integruje się bezpośrednio z plikami RRDtool. Skrypt generujący mapę odczytuje najświeższe dane o utylizacji interfejsów (w obu kierunkach: IN i OUT) i dynamicznie rysuje dwukolorowe strzałki odzwierciedlające ruch asymetryczny.
Dodatkowo nowoczesne systemy NMS potrafią budować mapy zależności (Dependency Mapping). Oznaczenie nadrzędności węzła (Parent-Child) sprawia, że w przypadku awarii routera głównego, wszystkie podłączone do niego przełączniki otrzymują status UNREACHABLE zamiast DOWN, co eliminuje generowanie fałszywych alarmów.
W architekturze systemów NMS obserwujemy wyraźną ewolucję. Przez pierwsze dwie dekady XXI wieku dominowało połączenie bazy MySQL (dla danych administracyjnych) oraz plików RRDtool (dla wykresów). Rozwiązanie to było proste, stabilne i nie wymagało dużej pamięci RAM.
Wraz z rozwojem środowisk chmurowych i kontenerowych, w których instancje pojawiają się i znikają w ciągu minut, sztywna struktura RRDtool przestała wystarczać. Pojawiły się bazy Time Series Database (TSDB), takie jak InfluxDB, Prometheus czy VictoriaMetrics.
Bazy TSDB wprowadzają pojęcie wielowymiarowości: każda metryka (np. network_traffic_bytes) może posiadać zestaw dowolnych par klucz-wartość (tagów), takich jak device="switch-core-1", port="eth0", vlan="100", customer="FirmaX". Pozwala to na wykonywanie w ułamku sekundy dynamicznych agregacji w języku PromQL.
Slajd 12/22
Telemetria przepływów sieciowych: NetFlow, sFlow oraz standard IPFIX
Cel slajdu: Zrozumienie zasad monitorowania ruchu transmisyjnego w oparciu o analizę przepływów pakietów na poziomie warstw L3 i L4.
Identyfikacja aplikacji, użytkowników i wolumenu transmisji
Podczas gdy SNMP informuje o ogólnej liczbie przesłanych bajtów, technologie przepływowe ujawniają dokładną strukturę ruchu: kto, z kim i za pomocą jakiego protokołu się komunikuje.
Definicja przepływu (Flow): Jednokierunkowy ciąg pakietów dzielących ten sam klucz 5-elementowy (5-tuple): źródłowy i docelowy IP, źródłowy i docelowy port oraz protokół L4
Cisco NetFlow (v5 / v9): Wersja v5 obsługuje wyłącznie IPv4 ze sztywnym formatem rekordu; wersja v9 wprowadziła elastyczne szablony (templates) oraz obsługę adresacji IPv6 i MPLS
Standard IETF IPFIX (RFC 7011): Ogólnoświatowy, otwarty standard protokołu informacji o przepływach (bezpośredni następca i rozwinięcie architektury NetFlow v9)
Technologia sFlow (RFC 3176): Próbkowanie statystyczne (np. 1 na 1000 pakietów) realizowane sprzętowo w układach ASIC przełącznika; minimalne obciążenie procesora urządzenia
Przepływ sieciowy (Network Flow): Jednokierunkowa sekwencja pakietów przesyłanych pomiędzy określonym punktem źródłowym a docelowym w zdefiniowanym oknie czasowym.
Wyobraźmy sobie sytuację, w której wykres SNMP w systemie LibreNMS wskazuje 100% nasycenia łącza internetowego o przepustowości 1 Gbps. Sam SNMP nie jest w stanie odpowiedzieć na pytanie, czy łącze zablokował legalny backup bazy danych do chmury, pracownik pobierający pliki, czy może trwa atak wolumetryczny DDoS.
W tym momencie inżynier sięga po dane z kolektora NetFlow/IPFIX. Wystarczy kilka sekund, aby wygenerować zestawienie Top Talkers i zidentyfikować konkretny wewnętrzny adres IP stacji roboczej generujący setki tysięcy zapytań UDP na sekundę pod zagraniczny adres docelowy.
Warto pamiętać o różnicy między NetFlow a sFlow. NetFlow utrzymuje w pamięci routera tabelę aktywnych sesji i eksportuje rekord dopiero po zakończeniu przepływu lub upłynięciu timeoutu. Z kolei sFlow pobiera próbkę pakietu bezpośrednio z układu scalonego przełącznika i natychmiast wysyła ją w nagłówku UDP do kolektora, dzięki czemu nie obciąża procesora CPU przełącznika.
Slajd 13/22
Protokoły zarządzania: SNMP i Syslog w architekturze współczesnego NOC
Cel slajdu: Przedstawienie ról protokołów SNMP oraz Syslog jako dwóch fundamentalnych i komplementarnych filarów telemetrii sieciowej.
Integracja odpytywania stanu i rejestracji dzienników zdarzeń
Współczesne centrum operacji sieciowych (NOC) opiera bieżący nadzór na równoległym przetwarzaniu danych metrycznych (SNMP) oraz komunikatów tekstowych (Syslog).
Rola protokołu SNMP: Pomiary ilościowe w usystematyzowanej hierarchii OID/MIB; idealny do generowania wykresów trendów zużycia zasobów i bilansowania łącz
Rola protokołu Syslog (RFC 5424): Rejestracja jakościowa zdarzeń w postaci ustrukturyzowanych komunikatów tekstowych o określonym priorytecie (PRI = Facility * 8 + Severity)
Korelacja zdarzeń w NOC: Zestawienie skoku utylizacji łącza na wykresie SNMP z logiem Syslog informującym o rekonfiguracji sąsiedztwa protokołu OSPF pozwala natychmiast zidentyfikować przyczynę awarii
Aspekty bezpieczeństwa: Wymóg migracji z podatnych wersji nieszyfrowanych (SNMPv1/v2c, Syslog UDP/514) na warianty bezpieczne z kryptografią (SNMPv3 USM, Syslog over TLS wg RFC 5425)
Korelacja zdarzeń sieciowych: Proces analityczny łączący niezależne sygnały telemetryczne (logi, alarmy SNMP, skoki metryk) w jeden spójny incydent operacyjny.
Protokół SNMP jest absolutnym sercem monitorowania sieci. Mimo rozwoju nowoczesnych interfejsów REST API czy protokołów gRPC/gNMI, żaden inny standard nie może równać się z SNMP pod względem powszechności wsparcia przez producentów sprzętu telekomunikacyjnego.
Architektura SNMP opiera się na prostym modelu zmiennych. Każdy parametr w urządzeniu (np. nazwa routera, liczba portów, wolna pamięć RAM, temperatura procesora) posiada unikalny identyfikator w globalnym drzewie OID (Object Identifier), zarządzanym przez organizację IANA.
Szczegółowej budowie protokołu SNMP, jego wersjom v1, v2c i v3, strukturze drzewa OID oraz mechanizmom bezpieczeństwa USM i VACM poświęcona jest w całości kolejna prezentacja (Prezentacja 2: Protokół SNMP – architektura i budowa).
Protokół Syslog to drugi obok SNMP najważniejszy mechanizm telemetryczny w sieciach komputerowych. O ile SNMP mówi nam, jak zmieniają się parametry liczbowe, o tyle Syslog dostarcza narracji: wyjaśnia ludzkim językiem powody wystąpienia awarii.
Wieloletnim problemem protokołu Syslog był brak ścisłego standardu. Historyczny dokument RFC 3164 opisywał jedynie istniejące praktyki (tzw. format BSD Syslog), co skutkowało chaosem: brakowało roku w znacznikach czasu, brakowało informacji o strefie czasowej, a formaty komunikatów różniły się między producentami.
Wprowadzony w 2009 roku standard RFC 5424 uporządkował protokół. Wprowadził obowiązkowy format czasu ISO 8601 z mikrosekundami i przesunięciem UTC, kodowanie UTF-8 oraz bloki danych strukturyzowanych. Wdrożeniu i konfiguracji serwerów rsyslog oraz korelacji zdarzeń poświęcona jest Prezentacja 6.
Slajd 14/22
Monitorowanie usług warstwy aplikacji (L7) i środowiska fizycznego serwerowni
Cel slajdu: Rozszerzenie zakresu nadzoru o monitorowanie dostępności usług aplikacyjnych oraz krytycznych parametrów środowiskowych Data Center.
Nadzór nad usługami biznesowymi i infrastrukturą zasilania
Dla odbiorcy końcowego sprawność sieci oznacza bezbłędne działanie aplikacji; awaria zasilania lub klimatyzacji zniszczy sprzęt niezależnie od konfiguracji protokołów transmisyjnych.
Sondowanie usług L7: Aktywna weryfikacja odpowiedzi serwerów DNS (zapytania o rekord A), serwerów WWW (kody HTTP 200 OK, ważność certyfikatu SSL/TLS), poczty (SMTP/IMAP) oraz baz danych
Syntetyczne transakcje użytkownika: Symulacja logowania użytkownika lub pobrania zasobu z pomiarem czasu odpowiedzi na poziomie aplikacji
Sensory środowiskowe serwerowni: Ciągły odczyt temperatury w szafach rack, wilgotności względnej, wykrywania zalania cieczą oraz otwarcia drzwi szaf (kontaktrony)
Infrastruktura zasilania gwarantowanego: Odpytywanie zasilaczy awaryjnych UPS przez SNMP (UPS-MIB); monitorowanie napięcia wejściowego, obciążenia faz oraz stanu naładowania akumulatorów
Sonda syntetyczna (Synthetic Monitoring): Zautomatyzowany test emulujący rzeczywiste zachowanie klienta usługi w celu weryfikacji jej funkcjonalności i czasu reakcji.
Wielu inżynierów sieciowych skupia się wyłącznie na warstwach L2 i L3, zapominając, że z punktu widzenia użytkownika sieć nie działa wtedy, gdy nie otwiera się strona intranetowa lub poczta e-mail.
Monitorowanie usługi DNS nie może ograniczać się do pingowania serwera DNS. Należy regularnie wysyłać realne zapytania DNS (np. za pomocą modułu check_dns w NMS) o domenę wewnętrzną i zewnętrzną, mierząc czas odpowiedzi w milisekundach. Czas powyżej 100 ms jest już odczuwalny dla użytkowników jako spowolnienie działania sieci.
Z kolei protokół NTP jest fundamentem bezpieczeństwa i audytu. Jeśli zegary na routerach i serwerze NMS rozjadą się o kilkanaście sekund, ustalenie kolejności zdarzeń podczas analizy incydentu bezpieczeństwa (np. ataku hakerskiego) staje się niemożliwe. Błąd synchronizacji unieważnia również poprawność certyfikatów SSL/TLS.
Monitorowanie syntetyczne (Synthetic Monitoring) to technika polegająca na symulowaniu zachowań rzeczywistego użytkownika przez serwer NMS w regularnych odstępach czasu. Zamiast czekać na skargi klientów, robot testowy co minutę loguje się do portalu, dodaje testowy produkt do koszyka i weryfikuje poprawność transakcji.
W przypadku protokołu HTTPS niezwykle kosztownym błędem operacyjnym jest przeoczenie terminu wygaśnięcia certyfikatu SSL/TLS. Wygasły certyfikat powoduje wyświetlenie w przeglądarkach czerwonego ostrzeżenia o niebezpieczeństwie, co natychmiast blokuje ruch użytkowników.
W systemach LibreNMS i Nagios stosuje się dedykowane wtyczki (np. check_ssl_cert), które codziennie sprawdzają datę ważności certyfikatu na każdym publicznym adresie IP i podnoszą alarm WARNING na 30 dni przed końcem certyfikatu, dając administratorowi wystarczająco dużo czasu na jego odnowienie.
Monitorowanie parametrów środowiskowych to obszar, w którym system NMS bezpośrednio chroni majątek sprzętowy warty setki tysięcy złotych. W przypadku nagłej awarii klimatyzacji w zamkniętej szafie rack temperatura może wzrosnąć z 22°C do 60°C w czasie krótszym niż 15 minut.
W takich warunkach procesory serwerów i przełączników wchodzą w stan tzw. Thermal Throttling (drastyczne obniżenie taktowania w celu obrony przed przegrzaniem), a następnie wyłączają się awaryjnie. System NMS musi posiadać skonfigurowany próg ostrzegawczy temperatury (np. przy 28°C), aby dyżurny mógł zareagować zanim sprzęt ulegnie wyłączeniu.
Równie krytyczna jest telemetria zasilania. Współczesne karty zarządzające UPS (np. APC Network Management Card) raportują nie tylko zanik napięcia w sieci energetycznej, ale również temperaturę wewnętrzną pakietów akumulatorów. Wzrost temperatury akumulatora o 10°C skraca jego żywotność o połowę.
Slajd 15/22
Automatyzacja nadzoru: auto-discovery, inwentaryzacja i projektowanie pulpitów NOC
Cel slajdu: Przedstawienie technik automatycznego wykrywania topologii sieci oraz zasad ergonomii przy tworzeniu operatorskich pulpitów nawigacyjnych (Dashboardów).
Automatyczne wykrywanie topologii i ergonomia pulpitów NOC
Ręczne wprowadzanie tysięcy portów sieciowych jest nieefektywne i podatne na błędy; nowoczesny NMS automatycznie mapuje relacje między urządzeniami w oparciu o protokoły warstwy L2/L3.
Protokoły sąsiedztwa L2: Wykrywanie bezpośrednio połączonych portów za pomocą standardu IEEE 802.1AB LLDP (Link Layer Discovery Protocol) oraz protokołu Cisco CDP
Skanowanie podsieci i tablice ARP: Przeszukiwanie pul adresowych IP, kojarzenie adresów IP z adresami MAC i portami fizycznymi przełączników
Zasady ergonomii dashboardów NOC: Hierarchizacja informacji (od ogółu do szczegółu), stosowanie czytelnych kodów kolorystycznych (zielony/żółty/czerwony) oraz eliminacja szumu wizualnego
Raportowanie trendów i zgodności: Zautomatyzowane generowanie raportów miesięcznych na temat dostępności usług, przekroczeń pasma i incydentów bezpieczeństwa
LLDP (IEEE 802.1AB): Otwarty protokół warstwy łącza danych umożliwiający urządzeniom sieciowym rozgłaszanie swojej tożsamości, możliwości i punktu podłączenia w sieci lokalnej.
Funkcja autoodkrywania (Auto-discovery) to jeden z największych atutów platformy LibreNMS. Wystarczy dodać do systemu pojedynczy router brzegowy lub przełącznik rdzeniowy z poprawnie skonfigurowanym protokołem SNMP oraz włączonym protokołem LLDP (Link Layer Discovery Protocol).
System NMS odpytuje tabelę lldpRemTable urządzenia i pobiera listę wszystkich sąsiadów. Jeśli w konfiguracji LibreNMS włączona jest opcja automatycznego dodawania sąsiadów (autodiscovery), poller natychmiast próbuje połączyć się z odkrytymi adresami IP, pobiera ich konfigurację i rekurencyjnie sprawdza kolejnych sąsiadów.
W ciągu kilkudziesięciu minut system potrafi samodzielnie zainwentaryzować i narysować kompletną topologię sieci składającej się z kilkuset przełączników, bez jakiejkolwiek ręcznej ingerencji administratora.
Projektowanie pulpitów w centrum operacji sieciowych (NOC) to dziedzina łącząca inżynierię sieciową z psychologią percepcji i ergonomią interfejsów użytkownika. W warunkach nocnego dyżuru zmęczony operator nie może przebijać się przez gąszcz nieczytelnych tabel.
Podstawową zasadą jest podział pulpitów według ról. Inny dashboard przygotowuje się dla operatora L1 (wielki ekran ścienny z mapą topologii i listą najświeższych alarmów), inny dla inżyniera sieciowego L2 (szczegółowe wykresy pasma, tabelę błędów CRC i stany sesji BGP), a jeszcze inny dla kierownictwa IT (wykresy spełnienia SLA i statystyki dostępności w skali miesiąca).
W systemie LibreNMS każdy użytkownik może tworzyć spersonalizowane dashboardy oparte na widżetach (Widgets), które dynamicznie filtrują dane na podstawie grup urządzeń (Device Groups) lub lokalizacji fizycznych.
W relacjach biznesowych z dostawcami usług internetowych (ISP) oraz centrami danych, rozliczanie pasma rzadko odbywa się na zasadzie sztywnego abonamentu. Standardem branżowym jest model Burstable Billing oparty na 95. percentylu.
W modelu tym poller NMS mierzy transfer na porcie co 5 minut, gromadząc około 8640 próbek w miesiącu. Pod koniec miesiąca próbki są sortowane od najmniejszej do największej, a najwyższe 5% próbek (czyli ok. 432 próbki) zostaje bezwzględnie odrzuconych. Rachunek jest wystawiany za najwyższą wartość z pozostałych 95%.
Niezwykle istotne jest również raportowanie spełnienia umów SLA. Raport generowany przez NMS musi precyzyjnie uwzględniać tzw. okna serwisowe (Maintenance Windows). Jeśli prace modernizacyjne routera były zaplanowane na niedzielę między 2:00 a 4:00 w nocy, przestój ten nie może obniżać miesięcznego wskaźnika dostępności SLA.
Slajd 16/22
Metryki niezawodności i parametry SLA: MTBF, MTTR, MTTD oraz wskaźniki dostępności
Cel slajdu: Opanowanie matematycznych wskaźników niezawodności infrastruktury oraz metodologii weryfikacji umów o poziomie świadczenia usług (SLA).
Kwantyfikacja niezawodności i kalkulacja dostępności
Zarządzanie operacyjne opiera się na twardych metrykach czasowych opisujących częstotliwość występowania awarii oraz sprawność zespołu technicznego w ich usuwaniu.
SLA (Service Level Agreement): Formalna umowa definiująca gwarantowany poziom dostępności usługi (np. 99,9% oznacza dopuszczalny przestój maksymalnie 8,76 godziny w skali roku)
Zasada dziewiątek: Dostępność 99,99% (cztery dziewiątki) pozwala na zaledwie 52,6 minuty przestoju rocznie, co wymaga pełnej redundancji zasilania, łączy i urządzeń aktywnych
Wskaźnik MTBF (Mean Time Between Failures): Średni czas bezawaryjnej pracy urządzenia pomiędzy kolejnymi usterkami; wyznacza niezawodność sprzętową
Wskaźniki MTTD i MTTR: MTTD (Mean Time to Detect) – średni czas do wykrycia problemu przez NMS; MTTR (Mean Time to Repair) – średni czas potrzebny na przywrócenie pełnej sprawności systemu
Wskaźnik MTTR (Mean Time to Repair): Kluczowa metryka efektywności operacyjnej NOC; średni czas od momentu wystąpienia lub zgłoszenia awarii do momentu jej całkowitego usunięcia.
Wielu inżynierów sieciowych nie zdaje sobie sprawy, jak dramatyczna różnica dzieli poziom dostępności 99% od 99.99%. W skali miesiąca dostępność 99% oznacza dopuszczalny przestój wynoszący ponad 7 godzin. Dla sklepu internetowego lub bankowości elektronicznej oznacza to wielomilionowe straty.
Podczas interpretacji umów SLA należy zwrócić szczególną uwagę na definicję miesiąca. W literaturze inżynierskiej i powyższej tabeli czas miesięczny wylicza się zazwyczaj dla średniego miesiąca gregoriańskiego (365,25 / 12 = 30,4375 dnia, czyli ok. 730,5 godziny), co przy 99.9% daje 43 minuty i 49 sekund. Jeśli jednak umowa SLA definiuje miesiąc sztywno jako 30 dni (720 godzin), dopuszczalny przestój wynosi dokładnie 43 minuty i 12 sekund.
Z kolei przejście z poziomu 99.9% (trzy dziewiątki) do 99.99% (cztery dziewiątki – zaledwie 4 minuty przestoju) wymaga skokowego wzrostu nakładów finansowych na architekturę High Availability. Wymaga to dublowania każdego routera, wdrożenia protokołów VRRP/HSRP oraz automatycznego przełączania ruchu BGP.
Wskaźnik MTTR (Mean Time To Repair) jest najważniejszą metryką oceniającą efektywność zespołu inżynierów i wdrożonych narzędzi NMS. Składa się on z czterech faz: detekcji (MTTD), powiadomienia, diagnozy przyczyny źródłowej oraz właściwej naprawy fizycznej lub logicznej.
Wdrożenie nowoczesnego systemu NMS wpływa bezpośrednio na skrócenie fazy pierwszej i trzeciej. Zamiast czekać kilkadziesiąt minut na telefon użytkownika, inżynier dowiaduje się o awarii natychmiast (skrócenie MTTD). Z kolei precyzyjne logi i korelacja alarmów eliminują etap żmudnego zgadywania, co uległo uszkodzeniu.
Zależność matematyczna pokazuje, że nawet przy relatywnie niskim wskaźniku MTBF (np. częstych problemach z łączami radiowymi), wysoka automatyzacja i błyskawiczne przełączanie na łącza zapasowe (minimalne MTTR rzędu kilku sekund) pozwala na utrzymanie dostępności usługi na poziomie przekraczającym 99.9%.
Slajd 17/22
Planowanie pojemności (Capacity Planning) i monitorowanie chmury hybrydowej
Cel slajdu: Przedstawienie metodologii prognozowania zapotrzebowania na zasoby sieciowe oraz specyfiki nadzoru nad środowiskami wielochmurowymi i hybrydowymi.
Analiza trendów długookresowych i telemetria hybrydowa
Nowoczesny NMS nie tylko informuje o stanie bieżącym, ale stanowi narzędzie analityczne pozwalające przewidzieć wyczerpanie zasobów z wielomiesięcznym wyprzedzeniem.
Prognozowanie trendu liniowego: Analiza tempa wzrostu wykorzystania pasma na łączach uplinkowych i wyznaczanie daty nasycenia łącza na podstawie danych z 6-12 miesięcy
Specyfika monitorowania chmury (Cloud): Brak bezpośredniego dostępu fizycznego do sprzętu; integracja z interfejsami API dostawców (AWS CloudWatch, Azure Monitor) oraz telemetria tuneli VPN/IPsec
Monitorowanie sieci programowalnych (SD-WAN): Nadzór nad dynamicznym wyborem ścieżki transmisyjnej na podstawie bieżących pomiarów opóźnień, fluktuacji i utraty pakietów
Podejście AIOps: Wykorzystanie algorytmów uczenia maszynowego do automatycznego wykrywania anomalii, dynamicznego dopasowywania progów alarmowych i eliminacji fałszywych alarmów
Planowanie pojemności (Capacity Planning): Proces inżynierski polegający na szacowaniu przyszłego zapotrzebowania na zasoby transmisyjne, obliczeniowe i dyskowe w celu terminowej rozbudowy infrastruktury.
Zarządzanie pojemnością (Capacity Planning) to jeden z najważniejszych filarów normy ISO 20000 i metodyki ITIL. Sytuacja, w której produkcyjna baza danych przestaje działać z powodu nagłego zapełnienia dysku, jest zawsze traktowana jako rażące zaniedbanie inżynierskie.
W oparciu o bazy szeregów czasowych platformy NMS potrafią automatycznie generować prognozy. Jeśli w ciągu ostatnich 6 miesięcy średni przyrost danych na wolumenie wynosił 50 GB miesięcznie, a wolnej przestrzeni pozostało 150 GB, system wylicza Runway Date na dokładnie 3 miesiące naprzód.
Informacja ta ma ogromne znaczenie biznesowe. W korporacjach i instytucjach publicznych proces zakupu nowej macierzy dyskowej, przejścia przez procedury przetargowe, dostawy i instalacji trwa często od 6 do 12 tygodni. Posiadanie prognozy z trzymiesięcznym wyprzedzeniem pozwala na przeprowadzenie modernizacji bez jakichkolwiek zakłóceń dla biznesu.
Wdrożenie modelu hybrydowego stawia przed administratorem zupełnie nowe wyzwania. W klasycznej serwerowni administrator ma pełną kontrolę nad kablem, przełącznikiem i zasilaniem. W chmurze AWS czy Azure warstwa fizyczna jest całkowicie ukryta za abstrakcją wirtualizacji.
W związku z tym diagnostyka problemów sieciowych przenosi się na poziom monitorowania bram tranzytowych (AWS Transit Gateway), tras wirtualnych (Route Tables) oraz logów przepływów chmurowych (VPC Flow Logs).
Współczesne systemy NMS (w tym LibreNMS za pośrednictwem modułów integracji) potrafią łączyć się z chmurowymi interfejsami API i pobierać metryki zużycia procesora instancji wirtualnych, prezentując je na tych samych pulpitach obok lokalnych przełączników Cisco czy MikroTik.
Wraz ze wzrostem złożoności sieci wolumen generowanych danych telemetrycznych przekroczył możliwości percepcyjne człowieka. W dużej sieci korporacyjnej urządzenia potrafią wygenerować ponad 100 000 komunikatów Syslog na minutę.
W tym miejscu wkraczają technologie AIOps. Tradycyjny system NMS wymagał ręcznego wpisania progów dla każdego interfejsu. Modele uczenia maszynowego (np. algorytmy oparte na dekompozycji szeregów czasowych, takie jak Facebook Prophet czy sieci LSTM) uczą się rytmu dobowego i tygodniowego sieci.
Jeśli w każdy piątek o godzinie 18:00 następuje legalny skok obciążenia sieci z powodu backupów, algorytm AIOps wie, że jest to zjawisko normalne i nie budzi inżyniera dyżurnego. Jeśli jednak identyczny skok wystąpi we wtorek w południe, system natychmiast wszczyna alarm.
Slajd 18/22
Wymagania formalno-prawne: ISO/IEC 27001, ISO 20000, RODO oraz KSC i dyrektywa NIS 2
Cel slajdu: Zrozumienie obowiązków prawnych i normatywnych spoczywających na administratorach sieci w zakresie nadzoru, ochrony danych osobowych i cyberbezpieczeństwa.
Ramy regulacyjne i standardy bezpieczeństwa informacji
System monitorowania sieci przetwarza dane podlegające rygorystycznym regulacjom prawnym, a sam stanowi element infrastruktury krytycznej podlegającej audytom.
Norma ISO/IEC 27001:2022: Wymóg rejestracji zdarzeń, ochrony logów przed modyfikacją oraz ciągłego monitorowania podatności i incydentów bezpieczeństwa (Załącznik A, punkty A.8.15 i A.8.16)
Ochrona danych osobowych (RODO/GDPR): Adresy IP stanowią dane osobowe; konieczność ograniczenia dostępu do logów (zasada minimalizacji i integralności) oraz określenia polityki retencji
Krajowy System Cyberbezpieczeństwa (KSC) i Dyrektywa NIS 2: Obowiązek ciągłego monitorowania zagrożeń przez podmioty kluczowe i ważne oraz raportowania incydentów do właściwych zespołów CSIRT
Norma ISO/IEC 20000-1:2018: Standard zarządzania usługami IT; formalizacja procesów zarządzania incydentami, problemami oraz raportowania wskaźników SLA
Dyrektywa NIS 2 (UE 2022/2555): Unijne ramy prawne nakładające na operatorów usług kluczowych i ważnych rygorystyczne obowiązki w zakresie zarządzania ryzykiem cybernetycznym, monitorowania sieci i zgłaszania incydentów.
W nowoczesnych organizacjach granica pomiędzy centrum zarządzania siecią (NOC) a centrum operacji bezpieczeństwa (SOC) ulega zatarciu. Wiele anomalii technicznych obserwowanych na wykresach NMS jest w rzeczywistości bezpośrednim skutkiem incydentu bezpieczeństwa.
Klasycznym przykładem jest atak typu ARP Spoofing (Poisoning). Gdy złośliwy host podszywa się pod bramę domyślną, na przełącznikach obserwuje się gwałtowne zmiany w tablicy adresów MAC (tzw. MAC flapping). System NMS natychmiast rejestruje ten fakt i alarmuje administratora o potencjalnym ataku typu Man-in-the-Middle.
Podobnie nagły wzrost zużycia pamięci RAM na serwerze DNS połączony ze skokiem ruchu wychodzącego UDP na porcie 53 świadczy zazwyczaj o wykorzystaniu serwera do ataku typu DNS Amplification. Bez ciągłego monitoringu serwer stałby się narzędziem w rękach cyberprzestępców bez wiedzy administratora.
Zagadnienia prawne to obszar, którego inżynierowie sieciowi często niesłusznie unikają. Zgodnie z wyrokami Trybunału Sprawiedliwości Unii Europejskiej (np. sprawa Breyer C-582/14) dynamiczne adresy IP powiązane ze znacznikami czasu są traktowane jako dane osobowe, jeśli administrator posiada środki umożliwiające identyfikację użytkownika.
W praktyce oznacza to, że serwer logów Syslog gromadzący informacje o połączeniach użytkowników musi być traktowany jak system przetwarzający dane osobowe. Dostęp do niego musi być ograniczony na zasadzie uprawnień minimalnych (Role-Based Access Control), a sam serwer musi być zabezpieczony szyfrowaniem i audytem logowań.
Największe napięcie między RODO a PKE dotyczy retencji. Przepisy komunikacyjne zobowiązują operatora do zapewnienia warunków dostępu i utrwalania danych (art. 43 ust. 1 PKE), do udostępniania danych o lokalizacji urządzenia końcowego (art. 45 ust. 1 PKE) oraz do zatrzymywania, przechowywania i ochrony danych dotyczących publicznie dostępnych usług telekomunikacyjnych (art. 47 ust. 1 PKE). Te same zbiory, które z perspektywy RODO należy ograniczyć do minimum, muszą zatem pozostawać dostępne przez okres wynikający z prawa komunikacyjnego. Projektując retencję, warto rozdzielić dane telemetryczne od komunikacyjnych i nadać im osobne polityki przechowywania. Zadania z art. 43, 45 i 47 można powierzyć innemu przedsiębiorcy albo wykonywać wspólnie (art. 50 ust. 1 i 2 PKE), lecz zgodnie z art. 50 ust. 4 powierzenie nie zwalnia żadnej ze stron z indywidualnej odpowiedzialności za ich wykonywanie (bip.uke.gov.pl/bezpieczenstwo/obowiazki-przedsiebiorcow-telekomunikacyjnych-w-zakresie-art-43-ust-1-45-ust-1-i-47-ust-1-pke,25.html).
Współczesny inżynier sieciowy w instytucjach bankowych, medycznych czy u operatorów infrastruktury krytycznej musi na co dzień współpracować z audytorami bezpieczeństwa. Wdrożenie systemu monitorowania nie jest opcją, lecz twardym wymogiem prawnym i normatywnym.
Różnica między tymi dwiema normami bywa źródłem nieporozumień w rozmowach z audytorami. ISO/IEC 27001 odpowiada na pytanie, czy dane są chronione i czy organizacja potrafi wykazać, że była chroniona, dlatego interesuje ją przede wszystkim integralność i dostępność dzienników. ISO/IEC 20000-1 odpowiada na inne pytanie: czy usługa jest utrzymywana na uzgodnionym poziomie, więc ten sam system monitorowania dostarcza tam wskaźników usług (SLI) do raportów SLA. Praktyczny wniosek jest taki, że jedna instalacja NMS może zaspokoić obie perspektywy, o ile oprócz logów zdarzeń zapisuje również szeregi czasowe wskaźników i pozwala wygenerować raport zgodny z okresem rozliczeniowym.
Z kolei europejska dyrektywa NIS 2 (oraz polska nowelizacja ustawy o KSC) rozszerza odpowiedzialność osobistą kadry zarządzającej za brak odpowiednich środków technicznych w zakresie cyberbezpieczeństwa. Brak centralnego systemu monitorowania i rejestracji logów jest traktowany przez audytorów jako niezgodność krytyczna uniemożliwiająca uzyskanie certyfikacji.
Slajd 19/22
Planowanie wdrożenia i referencyjna architektura sieci laboratoryjnej
Cel slajdu: Przedstawienie metodyki przygotowania wdrożenia systemu NMS oraz zapoznanie się ze strukturą środowiska laboratoryjnego wykorzystywanego w kursie.
Etapy wdrożenia i topologia poligonu laboratoryjnego
Wdrożenie systemu monitorowania wymaga zdyscyplinowanego podejścia projektowego, począwszy od inwentaryzacji zasobów po wydzielenie dedykowanej sieci zarządzania.
Fazy projektu wdrożeniowego: 1. Audyt i inwentaryzacja; 2. Wyznaczenie celów i krytycznych wskaźników KPI; 3. Wydzielenie sieci zarządzania (OOB Management VLAN); 4. Pilotaż i strojenie progów
Topologia poligonu laboratoryjnego: Węzeł brzegowy (MikroTik RouterOS), przełącznik rdzeniowy i dystrybucyjny L2/L3, serwer hostujący stos kontenerowy LibreNMS oraz stacje robocze
Adresacja i bezpieczeństwo sieci zarządzania: Wyodrębnienie dedykowanego VLAN-u administracyjnego (np. VLAN 99) z restrykcyjnymi listami kontroli dostępu (ACL) blokującymi ruch z sieci użytkowników
Przygotowanie węzłów: Konfiguracja bezpiecznego agenta SNMP (społeczność tylko do odczytu, dozwolone źródłowe IP serwera NMS) oraz wskazanie adresu docelowego dla logów Syslog
Sieć zarządzania Out-of-Band (OOBM): Fizycznie lub logicznie wydzielona infrastruktura sieciowa dedykowana wyłącznie do komunikacji administracyjnej i telemetrycznej, całkowicie odseparowana od ruchu produkcyjnego.
Wdrażanie systemu monitorowania sieci w dużej organizacji przypomina operację na otwartym sercu. Włączenie agresywnego pollingu na tysiącach starszych przełączników może doprowadzić do zawieszenia ich procesorów i faktycznego wywołania awarii, przed którą system miał chronić.
Dlatego kluczowy jest etap inwentaryzacji i testów wydajnościowych. Należy sprawdzić, czy urządzenia wspierają SNMPv3 z szyfrowaniem sprzętowym, czy też szyfrowanie jest realizowane programowo, co powoduje skok obciążenia CPU switcha do 100%.
Niezbędne jest również wyznaczenie tzw. właścicieli usług (Service Owners). Jeśli system wykryje awarię portu przełącznika w dziale księgowości, powiadomienie powinno trafić do lokalnego administratora tego segmentu, a nie do inżyniera odpowiedzialnego za łącza światłowodowe WAN.
W zaprezentowanej topologii referencyjnej każdy element pełni ściśle zdefiniowaną rolę techniczną i dostarcza innych metryk telemetrycznych do centralnego serwera NMS.
Na routerze brzegowym najważniejsze jest badanie opóźnień do węzłów operatora telekomunikacyjnego oraz weryfikacja poprawności filtrowania ruchu. Na zaporze ogniowej UTM kluczowe jest monitorowanie tabeli translacji adresów NAT oraz obciążenia silnika antywirusowego i IPS.
Warto przy tej okazji wskazać miejsca ślepe w takim schemacie. Sieć zarządzająca sama wymaga monitorowania, bo jej awaria unieruchamia telemetrię całej infrastruktury, dlatego zasilanie i łącza redundancji w serwerowni zasługują na osobne progi alarmowe. Punkty pomiarowe warto umieścić również przy zasilaczach PDU, agregatorach łączy WAN oraz na łączach do operatorów, których progi opóźnienia ustawia się zwykle wyżej niż wewnątrz sieci. Wreszcie urządzenia końcowe i telemetria IoT stanowią osobną klasę danych o niskiej częstotliwości odpytywania i innych progach niż rdzeń sieci.
Projektując środowisko laboratoryjne, postawiono na maksymalne odwzorowanie realiów panujących w rzeczywistych sieciach produkcyjnych. Użycie maszyn wirtualnych MikroTik CHR pozwala na konfigurację takich samych reguł SNMP i Syslog, jakie stosuje się w fizycznych routerach brzegowych.
Konteneryzacja systemu LibreNMS za pomocą Docker Compose umożliwia błyskawiczne wdrożenie całego stosu aplikacyjnego za pomocą jednego polecenia docker compose up -d. Wolumeny danych są mapowane na dysk gospodarza, co gwarantuje trwałość metryk i wykresów RRD.
W ramach laboratorium studenci przejdą pełną ścieżkę inżynierską: od instalacji pakietów i uruchomienia agenta SNMP na routerze MikroTik, przez konfigurację community i użytkowników SNMPv3, aż po integrację z dashboardem LibreNMS.
W systemach z rodziny Debian/Ubuntu narzędzia Net-SNMP są domyślnie skonfigurowane w sposób restrykcyjny, uniemożliwiający automatyczne ładowanie baz MIB. Wynika to z polityki dystrybucji dotyczącej licencji na niektóre pliki MIB standardu IETF.
Aby narzędzia snmpwalk wyświetlały czytelne nazwy tekstowe (np. sysDescr.0 zamiast surowego ciągu liczb 1.3.6.1.2.1.1.1.0), student musi wyedytować plik /etc/snmp/snmp.conf i usunąć lub zakomentować linię mibs :.
Wszystkie te kroki zostaną szczegółowo przećwiczone w kolejnych modułach kursu, gwarantując pełną powtarzalność środowiska na każdym stanowisku laboratoryjnym.
Slajd 20/22
Dobre praktyki, typowe błędy i antywzorce w inżynierii monitoringu
Cel slajdu: Poznanie sprawdzonych w praktyce inżynierskiej reguł projektowania systemów nadzoru oraz identyfikacja najczęstszych błędów konfiguracyjnych.
Złote zasady i antywzorce wdrożeniowe
Nawet najbardziej zaawansowane oprogramowanie NMS zawiedzie, jeśli zostanie wdrożone bez zachowania elementarnych zasad inżynierii systemowej.
Zasada minimalizmu odpytywania: Nie monitoruj wszystkiego z najwyższą częstotliwością; dobieraj interwały do krytyczności zasobu (interfejsy rdzeniowe co 60s, dyski serwerów co 300s)
Unikanie pojedynczego punktu awarii (SPOF): Zapewnienie redundancji zasilania i łączy serwera NMS; lokalizacja serwera zapasowego w innej lokalizacji fizycznej
Synchronizacja czasu (NTP): Bezwzględny wymóg synchronizacji czasu na wszystkich urządzeniach; brak zgodności zegarów uniemożliwia jakąkolwiek korelację logów Syslog i wykresów SNMP
Bezpieczeństwo poświadczeń: Nigdy nie stosuj domyślnych haseł 'public' i 'private'; ograniczaj zapytania SNMP do adresu IP pollerów za pomocą reguł zapory ogniowej
Protokół NTP (Network Time Protocol - RFC 5905): Protokół sieciowy służący do precyzyjnej synchronizacji zegarów systemowych urządzeń sieciowych i serwerów z atomowymi wzorcami czasu.
Zjawisko Alert Fatigue jest uznawane przez ekspertów cyberbezpieczeństwa za jedno z najgroźniejszych zjawisk w działach IT. W historii głośnych wycieków danych (np. włamanie do sieci Target) systemy monitorowania prawidłowo wykryły anomalię i wygenerowały alert, lecz został on zignorowany przez operatorów wśród tysięcy innych codziennych komunikatów.
Kolejną pułapką jest zbyt agresywny polling. Znamy przypadki, w których administrator ustawił interwał odpytywania SNMP na 10 sekund dla starych przełączników dostępowych. Procesor switcha, zamiast przełączać pakiety, spędzał 95% czasu na generowaniu odpowiedzi SNMP, co doprowadziło do załamania pracy sieci.
Ostatnia pułapka jest podobna z pozoru, lecz z trudniejsza w wykryciu: utożsamienie ciszy z bezpieczeństwem. System, który przestał odbierać dane, potrafi wyglądać dokładnie tak jak system, w którym wszystko działa, bo nie ma z czego wygenerować alarmu. Gdy agent SNMP przestaje odpowiadać, sesja odpytywania zostaje przerwana albo znacznik czasu ostatniej próbki ulega zestarzeniu, panel powinien zgłosić brak telemetrii, a nie pozostać w zielonym statusie. Podobny efekt daje okno konserwacji, które zostało ustawione i nigdy nie zostało zamknięte: wyłącza powiadomienia na stałe i po kilku tygodniach nikt nie pamięta, dla którego zdarzenia je włączono.
Wdrażając system NMS, musimy pamiętać o bezpieczeństwie samej platformy. Serwer monitorowania posiada poświadczenia dostępowe do niemal każdego urządzenia w firmie. Jeśli cyberprzestępca przejmie serwer NMS z zapisanymi w plikach konfiguracyjnych hasłami SNMP Read-Write lub kluczami SSH, zyskuje pełną kontrolę nad całą infrastrukturą.
Dlatego serwer NMS musi być traktowany jak twierdza: minimalna instalacja systemu Linux, wyłączone zbędne usługi, restrykcyjne reguły zapory nftables/iptables oraz obowiązkowe uwierzytelnianie dwuskładnikowe (2FA) dla operatorów logujących się do interfejsu Web.
Ostatnia praktyka dotyczy kopii zapasowej, która nie została sprawdzona. Kopia bazy konfiguracji i plików RRD jest wartościowa dopiero wtedy, gdy wiadomo, ile czasu zajmuje jej odtworzenie na czystym sprzęcie. Dlatego warto ustalić dwa parametry: dopuszczalny czas utraty danych (RPO) oraz czas odtworzenia usługi (RTO), a następnie cyklicznie odtwarzać środowisko na maszynie testowej i mierzyć, ile realnie trwa. Równolegle trzeba pilnować retencji plików RRD, bo ich liczba rośnie proporcjonalnie do liczby urządzeń, interfejsów i rozdzielczości próbkowania, a zapełniony dysk zatrzymuje zapisywanie bieżących danych najbardziej szkodliwie, bo cicho.
Slajd 21/22
Słownik kluczowych pojęć modułu wprowadzającego
Cel slajdu: Usystematyzowanie najważniejszych terminów, akronimów i definicji inżynierskich wprowadzonych w ramach pierwszej części kursu.
Leksykon pojęciowy inżynierii monitoringu sieci
Zrozumienie specjalistycznej terminologii stanowi fundament do dalszych modułów poświęconych protokołowi SNMP, systemom NMS i analizie logów.
NMS / NOC: Network Management System – platforma nadzoru; Network Operations Center – centrum operacyjne monitorujące sieć w trybie ciągłym
SNMP / MIB / OID: Simple Network Management Protocol; Management Information Base – baza danych cech urządzenia; Object Identifier – hierarchiczny identyfikator metryki
SLA / MTTR / MTBF: Service Level Agreement (umowa SLA); Mean Time to Repair (czas naprawy); Mean Time Between Failures (czas między awariami)
Standaryzacja pojęciowa: Precyzyjne operowanie terminologią techniczną ułatwia współpracę w zespołach inżynierskich oraz precyzyjne formułowanie wymagań w dokumentacji wdrożeniowej.
Prawidłowe i precyzyjne posługiwanie się terminologią inżynierską jest kluczem do efektywnej komunikacji w zespołach operacyjnych i projektowych. Niejednoznaczne formułowanie problemów (np. stwierdzenie 'sieć wolno chodzi' zamiast 'wzrost parametru RTT powyżej 150 ms na styku z routerem brzegowym') drastycznie wydłuża czas lokalizacji usterki.
Warto utrwalić pojęcia związane z umowami SLA. Przekroczenie gwarantowanego progu niedostępności (np. spadek z 99.9% do 99.5%) pociąga za sobą bezpośrednie roszczenia finansowe, dlatego inżynier sieciowy musi znać dokładne zasady wyliczania tych wskaźników.
Słownik ten posłuży jako baza pojęciowa w trakcie kolejnych wykładów, podczas których przejdziemy do szczegółowej analizy protokołu SNMP i konfiguracji laboratoryjnej.
Slajd 22/22
Pytania kontrolne, zadania sprawdzające i literatura
Cel slajdu: Weryfikacja przyswojonej wiedzy teoretycznej, wykonanie podstawowych zadań weryfikacyjnych w terminalu oraz wskazanie źródeł literaturowych.
Weryfikacja wiedzy, ćwiczenia CLI i źródła bibliograficzne
Podsumowanie modułu wprowadzającego; samodzielna realizacja pytań i zadań stanowi kryterium gotowości do modułu drugiego (Protokół SNMP).
Pytania teoretyczne: 1. Dlaczego sam ping nie wystarcza do oceny stanu sieci? 2. W jaki sposób mechanizm histerezy zapobiega zmęczeniu alertami? 3. Czym różni się licznik Counter64 od wskaźnika Gauge32?
Zadania w terminalu Linux: 1. Wykonaj ss -tuln i sprawdź aktywne porty UDP; 2. Zbadaj stabilność łącza poleceniem ping -c 20 8.8.8.8; 3. Przeskanuj lokalne usługi za pomocą nmap -sT 127.0.0.1
Literatura zalecana: D. Mauro, K. Schmidt: Essential SNMP (O'Reilly); W. Stallings: SNMP, SNMPv2, SNMPv3, and RMON 1 and 2 (Addison-Wesley)
Metodyka samokształcenia: Połączenie rygoru pojęciowego ze sprawdzaniem zachowania systemów operacyjnych w wierszu poleceń gwarantuje trwałe opanowanie nawyków inżynierskich.
Zakończyliśmy pierwszy, fundamentalny moduł kursu poświęcony monitorowaniu sieci teleinformatycznych. Zbudowaliśmy solidny aparat pojęciowy, który pozwoli nam precyzyjnie poruszać się po zaawansowanych zagadnieniach w kolejnych częściach.
W module drugim skupimy się na protokole SNMP. Dowiemy się, jak zbudowane są pakiety PDU, jak odczytywać notację ASN.1 w plikach MIB oraz jak bezpiecznie skonfigurować użytkownika SNMPv3 z szyfrowaniem AES, aby zabezpieczyć telemetrię przed podsłuchem.
W dalszych etapach przejdziemy do pełnej praktyki laboratoryjnej w środowisku kontenerowym Docker, gdzie każdy uczestnik samodzielnie uruchomi i skonfiguruje zintegrowany system LibreNMS nadzorujący wirtualne routery MikroTik CHR.
Samodzielne rozwiązywanie pytań kontrolnych pozwala studentowi na zweryfikowanie stopnia opanowania materiału przed przystąpieniem do ćwiczeń laboratoryjnych.
Zadania praktyczne zostały dobrane tak, aby wyrobić nawyk korzystania ze standardowych narzędzi diagnostycznych systemu Linux. Umiejętność szybkiego zbadania stanu gniazd sieciowych (ss -tuln) czy weryfikacji otwartych portów (nmap) to elementarz każdego inżyniera sieciowego.
W przypadku wątpliwości co do odpowiedzi na którekolwiek z pytań, zaleca się ponowne przeanalizowanie odpowiednich slajdów oraz zapoznanie się ze źródłowymi dokumentami RFC wskazanymi w odnośnikach.