AI w cyberbezpieczeństwie: zagrożenia i bezpieczne korzystanie

Narzędzia AI mogą pomóc porządkować zdarzenia, analizować duże zbiory informacji i przygotowywać wstępne podsumowania dla zespołu bezpieczeństwa. Jednocześnie ułatwiają tworzenie wiarygodnych treści oszustw, a same systemy AI stają się nową powierzchnią ataku. Dlatego przed wdrożeniem trzeba ocenić zarówno sposób użycia AI przez pracowników, jak i zabezpieczenia samego narzędzia.

Jak AI pomaga napastnikom?

Generatywne narzędzia obniżają koszt przygotowania wiadomości, tłumaczeń, obrazów i głosu używanych do podszywania się pod znane osoby. Nie oznacza to, że każdy phishing powstaje z pomocą AI. ENISA w przeglądzie zagrożeń z 2026 r. opisuje rosnące użycie AI do wspierania działań przestępczych oraz to, że wdrażane w firmach systemy AI rozszerzają powierzchnię ataku.

Dla pracownika ważniejszy od zgadywania, czy wiadomość napisał człowiek czy model, jest sposób weryfikacji żądania. Zmianę rachunku, pilny przelew lub prośbę o hasło trzeba potwierdzić znanym wcześniej kanałem, niezależnie od jakości tekstu czy głosu. Ćwiczenie takiej reakcji jest częścią szkoleń i symulacji phishingu.

Co może pójść nie tak we własnym systemie AI?

Model korzystający z poczty, dokumentów lub stron internetowych może napotkać instrukcję umieszczoną przez osobę atakującą. Prompt injection polega na próbie skłonienia systemu do potraktowania takiej treści jako polecenia, choć pochodzi ona z materiału, który miał być jedynie analizowany. Inny typ ataku to zatruwanie danych używanych do trenowania lub zasilania modelu. Taksonomia NIST dotycząca ataków na AI rozróżnia te mechanizmy i ich możliwe skutki dla poufności, integralności oraz dostępności.

Są też błędy niezwiązane z napastnikiem: nieprawdziwe odpowiedzi, niewłaściwa klasyfikacja zdarzeń lub ujawnienie danych w nieodpowiednim narzędziu. Wyniku modelu nie należy uznawać za dowód wykonania kontroli, analizy prawnej ani potwierdzenie incydentu bez sprawdzenia źródeł i kontekstu. Profil NIST dla generatywnej AI służy do identyfikacji i zarządzania takimi ryzykami.

Pięć zasad przed udostępnieniem AI pracownikom

1. Określ zastosowania i właściciela. Zapisz, do jakich zadań narzędzie jest dopuszczone i kto odpowiada za jego konfigurację oraz przegląd.
2. Ogranicz dane i uprawnienia. Sprawdź, czy pracownik może wprowadzać do narzędzia dane klientów, dokumenty wewnętrzne lub logi. Daj integracjom tylko dostęp potrzebny do zadania.
3. Oddziel treść źródłową od poleceń. Dokument, wiadomość i wynik wyszukiwania są danymi do oceny, także gdy zawierają tekst przypominający instrukcję dla asystenta.
4. Weryfikuj wynik przed działaniem. Przy decyzjach o uprawnieniach, płatnościach, incydentach i zmianach konfiguracji wymagana jest kontrola człowieka według zasad organizacji.
5. Mierz błędy i aktualizuj zasady. Zbieraj zgłoszenia o mylnych odpowiedziach, próbach manipulacji oraz przypadkach ujawnienia danych; uwzględnij je w analizie ryzyka i szkoleniach.

AI może usprawnić pracę zespołu bezpieczeństwa, jeśli wiadomo, jakie dane przetwarza, kto sprawdza odpowiedzi i co wolno jej wykonać. Jeśli przygotowujesz pracowników do korzystania z takich narzędzi, zobacz szkolenia z AI i cyberbezpieczeństwa. Zasady użycia można też włączyć do wdrożenia i utrzymania SZBI.