AI kontra AI – wyścig w cyberbezpieczeństwie. Jak sztuczna inteligencja jest wykorzystywana zarówno przez hakerów, jak i działy IT

Środowiska informatyczne, choć dziś bardzo zaawansowane i skomplikowane, z dużym entuzjazmem podchodzą do pojawiających się nowych technologii, które mogą zrewolucjonizować sposób w jaki zarządzamy zasobami. Choć historia rozwoju IT dostarcza wielu przykładów, w których innowacyjne produkty i usługi nie trafiały w potrzeby rynku, to znajdziemy również takie jak wirtualizacja lub chmura, które rozpoczęły globalną rewolucję i dziś stanowią niezbędną podstawę każdej infrastruktury.

Sztuczna inteligencja to technologia, której szerokie zastosowania oraz popularność sprawiają, że wielu ekspertów już dziś mówi nie tylko o ewolucji czy rewolucji, ale wręcz o nowej erze - erze AI.
Nauczanie maszynowe, systemy wnioskujące czy sieci neuronowe to technologie znane i wykorzystywane już od lat, jednak dopiero generatywna sztuczna inteligencja sprawiła, że dziś niemal każdy nowy produkt posiada zaimplementowane funkcjonalności oparte o AI. Cieszy zapewne fakt szerokich możliwości wykorzystania sztucznej inteligencji w systemach bezpieczeństwa, ale jednocześnie warto mieć na uwadze, że AI to potężne narzędzie w rękach cyberprzestępców.

Sztuczna inteligencja przeciwko nam

Podstawą każdego cyberzagrożenia jest rekonesans. Haker musi we właściwy sposób wytypować swoją potencjalną ofiarę i wybrać metodę ataku, która w tym przypadku okaże się skuteczna. W aktualnie obserwowanych incydentach, pierwszą fazę na ogół stanowi wybrany rodzaj socjotechniki. Phishing, Vishing, Baiting czy Spearphishing są coraz częściej automatyzowane i wspierane przez AI nie tylko po to, aby zwiększyć przepustowość działań, ale również w celu osiągnięcia jak najwyższej skuteczności. System, który w mgnieniu oka przeanalizuje daną organizację na podstawie ogólnodostępnych informacji, dobierze właściwą metodę i przeprowadzi wielowątkowy atak okazuje się dużo skuteczniejszy i szybszy niż tradycyjne metody. Jakość silników generujących treści jest dziś tak dobra, że odróżnienie tych pisanych od generowanych jest niemal niemożliwe.

Kolejny obszar, na który warto zwrócić uwagę to deepfake. Rozwój generatywnej sztucznej inteligencji sprawia, że krótka próbka głosu oraz kilka zdjęć pozwalają stworzyć nagranie wideo, w którym konkretna osoba mówi zaprogramowaną frazę swoim własnym głosem. W ostatnich latach obserwujemy znaczący wzrost popularności tej technologii, również bazującej na AI. Stanowi ona ogromne zagrożenie w skali lokalnej np. wtedy kiedy cyberzbój podszyje się pod prezesa firmy oraz w skali globalnej np. wskutek szerokiej kampanii dezinformacyjnej związanej z istotnym dla społeczeństwa tematem.

Sztuczna inteligencja jest także szeroko stosowana w przypadku działań, których celem niekoniecznie jest człowiek. W ostatnich miesiącach zostały ujawnione nowe formy ataków, w których mechanizm złośliwego oprogramowania generuje skrypt szyfrujący dane i wysyłający je na wskazany adres dopiero wtedy, kiedy wykryje, że posiada bezpośredni dostęp do istotnych i wartościowych informacji. Taka forma ataku może być szczególnie trudna do wykrycia, gdyż samo zagrożenie tworzone jest dopiero po pewnym czasie, kiedy systemy ochrony potwierdzą już zaufanie do zainfekowanego pliku.

AI w służbie działów bezpieczeństwa

Podobnie jak w przypadku cyberprzestępców sztuczna inteligencja stała się niezwykle popularną technologią, tak również w systemach bezpieczeństwa obserwujemy jej szerokie zastosowanie. O ile wykorzystanie AI do przeciwdziałania incydentom nie jest aktualnie standardem, o tyle wykorzystanie mechanizmów wnioskujących stanowi dziś podstawę w samym wykrywaniu anomalii i zdarzeń w większości rozwiązań klasy Detection and Response (jak XDR/EDR/NDR). Wykrywanie zachowań odbiegających od wzorca i automatyzacja pierwszej reakcji może być skutecznie realizowana przez algorytmy sztucznej inteligencji.

Kolejnym wartym uwagi obszarem jest sama analiza incydentu. Wielowątkowe działanie i korelacja zdarzeń z różnych obszarów środowisk IT pozwala na szybsze i dokładniejsze określenie pochodzenia zagrożenia czy scenariusza ataku, którego znajomość jest niezbędna do definicji potencjalnych jego skutków. W przyszłości zapewne możemy spodziewać się znacznego wzrostu zastosowań AI w procesach analitycznych, cyberkryminalistyce oraz globalnych działaniach skierowanych w grupy cyberprzestępcze i cyberterrorystyczne.

Podsumowanie

Zastosowanie sztucznej inteligencji możemy dostrzec dziś w niemal każdej dziedzinie świata wirtualnego, niestety znajduje ona swoją niszę również w tych obszarach, które służą cyberprzestępcom. Nie oznacza to jednak, że powinniśmy zaprzestać jej wykorzystania czy uznać za zagrożenie. Warto mieć jednak na uwadze, że podobnie jak w przypadku każdej innej technologii, dobór właściwych narzędzi, metod czy standardów może mieć ogromny wpływ na nasze bezpieczeństwo i integralność naszych zasobów.


Norbert Nowak, Lider ds. Cyberbezpieczeństwa

Doświadczenie zdobywał, realizując projekty w zakresie rozwiązań sieciowych, storage'u, wirtualizacji i systemów bezpieczeństwa dla klientów z wielu branż. Obecnie doradza, projektuje i buduje kompleksowe systemy skupiające się na ochronie danych i systemów. Bezpieczeństwo informacji i cyberbezpieczeństwo to obszary, w których stale się rozwija i dzieli wiedzą w ramach licznych prelekcji oraz publikacji.


Powiązane artykuły