Czy sztuczna inteligencja może stać się zagrożeniem?

AI w cyberbezpieczeństwie przynosi znaczące korzyści dla wielu firm i organizacji, takie jak ulepszone wykrywanie zagrożeń i szybka reakcja. Jednak ważne jest, aby być świadomym zagrożeń związanych z AI, w tym cyberataków napędzanych przez rozwój technologii. Znalezienie właściwej równowagi między AI a tradycyjnymi środkami bezpieczeństwa jest kluczowe, wraz z ciągłym szkoleniem i czujnością, aby zmaksymalizować potencjał AI w cyberbezpieczeństwie. Dlatego w tym artykule przedstawimy, jakie zagrożenia niesie za sobą rozwój AI oraz, jak można wykorzystać tę technologię do podniesienia poziomu cyberbezpieczeństwa.

AI w cyberbezpieczeństwie – na co zwrócić uwagę?

AI w cyberbezpieczeństwie odnosi się do stosowania sztucznej inteligencji i technik uczenia maszynowego w celu zwiększenia bezpieczeństwa systemów komputerowych, sieci i danych przed różnymi cyberzagrożeniami. Obejmuje to wykorzystanie algorytmów i modeli AI do automatyzacji zadań, wykrywania anomalii i podejmowania świadomych decyzji w czasie rzeczywistym w celu ochrony przed szeroką gamą cyberataków.

Kluczowa rola sztucznej inteligencji w zwiększaniu bezpieczeństwa cybernetycznego

Z perspektywy funkcjonalności cyberbezpieczeństwa technologia AI jest siłą napędową wielu funkcji krytycznych dla rozwiązań bezpieczeństwa. Następujące możliwości cyberbezpieczeństwa są napędzane przez technologię AI.

Korzyści i zalety sztucznej inteligencji w cyberbezpieczeństwie

Zrozumienie korzyści płynących z technologii AI na poziomie indywidualnym ułatwia przejście od tradycyjnych, często reaktywnych środków bezpieczeństwa do dynamicznych, proaktywnych i inteligentnych rozwiązań.

Najbardziej rozległą korzyścią AI w cyberbezpieczeństwie jest jej zdolność do analizowania ogromnych ilości treści i dostarczania spostrzeżeń, które pozwalają zespołom ds. bezpieczeństwa szybko i skutecznie wykrywać i łagodzić ryzyko. Ta podstawowa zdolność napędza wiele korzyści zapewnianych przez technologię AI.

Poniżej przedstawiono najważniejsze zalety wykorzystania sztucznej inteligencji w cyberbezpieczeństwie.

Ulepszone wykrywanie zagrożeń

Włączenie AI do cyberbezpieczeństwa pomaga szybciej, dokładniej i wydajniej identyfikować zagrożenia. Dzięki temu infrastruktura cyfrowa organizacji staje się bardziej odporna i zmniejsza się ryzyko cyberataków. Technologia AI oferuje szereg udoskonaleń bezpieczeństwa, takich jak:

• Zrozumienie podejrzanej lub złośliwej aktywności w kontekście w celu ustalenia priorytetów reakcji.
• Dostosowywanie protokołów bezpieczeństwa na podstawie konkretnych wymagań organizacyjnych i zachowań poszczególnych użytkowników.
• Wykrywanie oszustw przy użyciu zaawansowanych, wyspecjalizowanych algorytmów sztucznej inteligencji.
• Wykrywanie potencjalnych zagrożeń w czasie niemal rzeczywistym w celu przyspieszenia reakcji i zminimalizowania ich wpływu.

Obrona proaktywna

Technologia oparta na sztucznej inteligencji jest podstawą proaktywnej obrony cyberbezpieczeństwa. Przetwarzając dane wejściowe ze wszystkich stosownych źródeł danych, systemy AI mogą zautomatyzować wyprzedzającą reakcję w celu złagodzenia potencjalnego ryzyka w czasie niemal rzeczywistym. Typy technologii AI, które to umożliwiają, to:

• Automatyzacja przyspieszająca reakcję obronną.
• Uczenie maszynowe pozwala czerpać korzyści z wiedzy na temat taktyk i technik stosowanych w poprzednich cyberatakach.
• Rozpoznawanie wzorców w celu identyfikacji anomalii.

Analiza predykcyjna

Analiza predykcyjna to technika wykorzystująca technologię AI, w szczególności algorytmy uczenia maszynowego. Algorytmy te analizują informacje w celu znalezienia wzorców i zidentyfikowania określonych czynników ryzyka i zagrożeń. Modele uczenia maszynowego utworzone na podstawie tej analizy dostarczają spostrzeżeń, które mogą pomóc zespołom ds. bezpieczeństwa przewidzieć przyszły cyberatak.

Możliwości sztucznej inteligencji w analizie predykcyjnej obejmują analizę historycznych zestawów danych, rozpoznawanie wzorców i dynamiczne włączanie nowej zawartości do modeli uczenia maszynowego. Przewidując potencjalny cyberatak, zespoły ds. bezpieczeństwa mogą podejmować kroki zapobiegawcze w celu złagodzenia ryzyka.

Zmniejszona liczba fałszywych wyników pozytywnych

Rozwiązania z zakresu cyberbezpieczeństwa integrują sztuczną inteligencję w celu zmniejszenia liczby fałszywych alarmów. Zaawansowane algorytmy AI i możliwości uczenia maszynowego identyfikują wzorce w zachowaniu sieci znacznie dokładniej niż tradycyjne systemy oparte na regułach.

Zmniejsza to obciążenie analityków ludzkich, zapobiegając oznaczaniu legalnych działań jako zagrożeń. Technologia AI pomaga zespołom ds. bezpieczeństwa kontekstualizować i odróżniać typowe anomalie od rzeczywistych zagrożeń, zmniejszając zmęczenie alertami i optymalizując obciążenie pracą. Minimalizuje również obciążenie zasobów.

14 zagrożeń związanych ze sztuczną inteligencją

Pytania o to, kto rozwija AI i w jakim celu sprawiają, że tym ważniejsze jest zrozumienie jej potencjalnych wad. Poniżej przyjrzymy się bliżej możliwym zagrożeniom związanymi z AI i zbadamy, jak zarządzać jej ryzykiem.

Czy sztuczna inteligencja jest niebezpieczna?

Społeczność technologiczna od dawna debatuje nad zagrożeniami, jakie niesie ze sobą sztuczna inteligencja. Automatyzacja miejsc pracy, rozprzestrzenianie się fałszywych wiadomości i niebezpieczny wyścig zbrojeń broni zasilanej przez AI zostały wymienione jako jedne z największych zagrożeń, jakie niesie ze sobą AI.

1. Brak przejrzystości i możliwości wyjaśnienia AI

Modele AI i głębokiego uczenia mogą być trudne do zrozumienia, nawet dla tych, którzy pracują bezpośrednio z tą technologią. Prowadzi to do braku przejrzystości w kwestii tego, jak i dlaczego AI dochodzi do swoich wniosków, co powoduje brak wyjaśnień, jakich danych używają algorytmy AI lub dlaczego mogą podejmować stronnicze lub niebezpieczne decyzje. Obawy te doprowadziły do stosowania wyjaśnialnej AI, ale wciąż jest długa droga, zanim przejrzyste systemy AI staną się powszechną praktyką.

Co gorsza, firmy AI nadal nie szczędzą słów na temat swoich produktów. Byli pracownicy OpenAI i Google DeepMind oskarżyli obie firmy o ukrywanie potencjalnych zagrożeń związanych z ich narzędziami AI. Ta tajemnica sprawia, że ogół społeczeństwa nie zdaje sobie sprawy z możliwych zagrożeń i utrudnia prawodawcom podejmowanie proaktywnych działań, aby zapewnić odpowiedzialny rozwój AI.

2. Utrata miejsc pracy spowodowana automatyzacją AI

Automatyzacja pracy oparta na sztucznej inteligencji jest palącym problemem, ponieważ technologia ta jest wdrażana w takich branżach jak marketing, produkcja i opieka zdrowotna. Do 2030 r. zadania stanowiące do 30 procent godzin obecnie przepracowanych w gospodarce USA mogą zostać zautomatyzowane — przy czym pracownicy czarnoskórzy i latynoscy będą szczególnie narażeni na zmianę — zgodnie z McKinsey. Goldman Sachs stwierdza nawet, że 300 milionów pełnoetatowych miejsc pracy może zostać utraconych z powodu automatyzacji AI.

„Powodem, dla którego mamy niski wskaźnik bezrobocia, który tak naprawdę nie obejmuje osób, które nie szukają pracy, jest w dużej mierze to, że ta gospodarka dość solidnie stworzyła miejsca pracy w sektorze usług o niższych płacach” — powiedział futurolog Martin Ford w wywiadzie dla Built In. Jednak biorąc pod uwagę rosnącą popularność sztucznej inteligencji, „nie sądzę, aby tak było dalej”.

W miarę jak roboty AI stają się mądrzejsze i bardziej zręczne, te same zadania będą wymagały mniejszej liczby ludzi. I chociaż szacuje się, że AI stworzy 97 milionów nowych miejsc pracy do 2025 r., wielu pracowników nie będzie miało umiejętności wymaganych do tych technicznych ról i może zostać w tyle, jeśli firmy nie podniosą kwalifikacji swoich pracowników.

3. Manipulacja społeczna za pomocą algorytmów AI

Manipulacja społeczna jest również niebezpieczna dla sztucznej inteligencji. Ten strach stał się rzeczywistością, ponieważ politycy polegają na platformach, aby promować swoje poglądy, a jednym z przykładów jest Ferdinand Marcos Jr., który używał armii trolli TikTok, aby zdobyć głosy młodszych Filipińczyków podczas wyborów na Filipinach w 2022 r.

TikTok, który jest tylko jednym z przykładów platformy mediów społecznościowych, która opiera się na algorytmach AI, wypełnia kanał użytkownika treściami związanymi z poprzednimi mediami, które oglądał na platformie. Krytyka aplikacji dotyczy tego procesu i niepowodzenia algorytmu w filtrowaniu szkodliwych i niedokładnych treści, co budzi obawy co dozdolności TikToka do ochrony swoich użytkowników przed wprowadzającymi w błąd informacjami.

Media i wiadomości online stały się jeszcze bardziej mętne w świetle obrazów i filmów generowanych przez AI, zmieniaczy głosu AI, a także deepfake’ów infiltrujących sferę polityczną i społeczną. Technologie te ułatwiają tworzenie realistycznych zdjęć, filmów, klipów audio lub zastępowanie obrazu jednej postaci inną na istniejącym zdjęciu lub filmie. W rezultacie źli aktorzy mają kolejną drogę do dzielenia się dezinformacją i propagandą wojenną, tworząc koszmarny scenariusz, w którym niemal niemożliwe może być odróżnienie wiarygodnych wiadomości od błędnych.

4. Nadzór społeczny z technologią AI

Cyberzagrożenia AI również negatywnie wpłyną na prywatność i bezpieczeństwo. Doskonałym przykładem jest wykorzystanie przez Chiny technologii rozpoznawania twarzy w biurach, szkołach i innych miejscach. Oprócz śledzenia ruchów danej osoby, chiński rząd może być w stanie zebrać wystarczająco dużo danych, aby monitorować działania, relacje i poglądy polityczne danej osoby.

Innym przykładem są amerykańskie departamenty policji, które przyjmują algorytmy predykcyjne, aby przewidywać, gdzie będą miały miejsce przestępstwa. Problem polega na tym, że na te algorytmy wpływają wskaźniki aresztowań, które nieproporcjonalnie wpływają na społeczności czarnoskóre. Następnie departamenty policji podwajają wysiłki w tych społecznościach, co prowadzi do nadmiernej kontroli i pytań, czy samozwańcze demokracje mogą oprzeć się przekształceniu sztucznej inteligencji w autorytarną broń.

5. Brak prywatności danych przy korzystaniu z narzędzi AI

Badanie AvePoint z 2024 r. wykazało, że największym zmartwieniem firm jest prywatność i bezpieczeństwo danych. A firmy mogą mieć powody do wahania, biorąc pod uwagę duże ilości danych skoncentrowanych w narzędziach AI i brak regulacji dotyczących tych informacji.

Systemy AI często gromadzą dane osobowe w celu dostosowania doświadczeń użytkowników lub pomocy w trenowaniu używanych modeli AI (zwłaszcza jeśli narzędzie AI jest bezpłatne). Dane mogą nie być nawet uważane za bezpieczne dla innych użytkowników, gdy są przekazywane systemowi AI, ponieważ jeden incydent z błędem, który wystąpił w ChatGPT w 2023 r. „umożliwił niektórym użytkownikom zobaczenie tytułów z historii czatu innego aktywnego użytkownika”. Podczas gdy w Stanach Zjednoczonych istnieją przepisy chroniące dane osobowe w niektórych przypadkach, nie ma wyraźnego prawa federalnego, które chroniłoby obywateli przed szkodami w zakresie prywatności danych spowodowanymi przez AI.

6. Błędy spowodowane sztuczną inteligencją

Różne formy stronniczości AI są również szkodliwe. W rozmowie z New York Times profesor informatyki z Princeton Olga Russakovsky powiedziała, że stronniczość AI wykracza daleko poza płeć i rasę. Oprócz stronniczości danych i algorytmów (z których ta ostatnia może „wzmacniać” tę pierwszą), AI jest rozwijana przez ludzi — a ludzie są z natury stronniczy.

„Badacze AI to przede wszystkim mężczyźni, pochodzący z pewnych grup rasowych, którzy dorastali w obszarach o wysokim statusie społeczno-ekonomicznym, głównie osoby bez niepełnosprawności” – powiedział Russakovsky. „Jesteśmy dość jednorodną populacją, więc trudno jest myśleć szeroko o problemach światowych”.

Wąskie spojrzenie na jednostki doprowadziło do powstania przemysłu AI, który pomija szereg perspektyw. Według UNESCO, tylko 100 z 7000 języków naturalnych na świecie zostało użytych do szkolenia najlepszych chatbotów. Nie pomaga fakt, że 90 procent materiałów do edukacji wyższej online jest już produkowanych przez kraje Unii Europejskiej i Ameryki Północnej, co jeszcze bardziej ogranicza dane szkoleniowe AI głównie do źródeł zachodnich.

Ograniczone doświadczenia twórców AI mogą wyjaśniać, dlaczego AI rozpoznająca mowę często nie rozumie niektórych dialektów i akcentów lub dlaczego firmy nie biorą pod uwagę konsekwencji podszywania się chatbota pod postacie historyczne. Jeśli firmy i ustawodawcy nie zachowają większej ostrożności, aby uniknąć odtwarzania silnych uprzedzeń, uprzedzenia AI mogą rozprzestrzenić się poza konteksty korporacyjne i zaostrzyć problemy społeczne, takie jak dyskryminacja mieszkaniowa.

7. Nierówności społeczno-ekonomiczne jako wynik sztucznej inteligencji

Jeśli firmy odmawiają uznania inherentnych uprzedzeń wbudowanych w algorytmy AI, mogą zagrozić swoim inicjatywom DEI poprzez rekrutację wspomaganą przez AI. Pomysł, że AI może mierzyć cechy kandydata poprzez analizę twarzy i głosu, jest nadal skażony uprzedzeniami rasowymi, odtwarzając te same dyskryminacyjne praktyki rekrutacyjne, które firmy twierdzą, że eliminują.

Pogłębiające się nierówności społeczno-ekonomiczne wywołane utratą pracy spowodowaną przez AI to kolejny powód do obaw, ujawniający klasowe uprzedzenia dotyczące sposobu stosowania AI. Pracownicy wykonujący więcej zadań manualnych, powtarzalnych, doświadczyli spadku płac nawet o 70 procent z powodu automatyzacji, a pracownicy biurowi i biurowi pozostali w dużej mierze nietknięci na wczesnych etapach AI. Jednak wzrost generatywnego wykorzystania AI już wpływa na pracę biurową, co powoduje szeroki zakres ról, które mogą być bardziej narażone na utratę płacy lub pracy niż inne.

8. Rozwój ataków phishingowych

Do jednych z najpoważniejszych zagrożeń związanych z AI należy możliwość używania sztucznej inteligencji do tworzenia kampanii phishingowych. Początkujący cyberprzestępcy mogą tworzyć przekonujące teksty i materiały pozbawione błędów. Dzięki temu ich kampanie są coraz skuteczniejsze i trudniejsze w wyśledzeniu.

9. Autonomiczna broń zasilana przez sztuczną inteligencję

Jak to zbyt często bywa, postęp technologiczny został wykorzystany do prowadzenia wojny. Jeśli chodzi o sztuczną inteligencję, niektórzy chcą coś z tym zrobić, zanim będzie za późno: w otwartym liście z 2016 r. ponad 30 000 osób, w tym badacze sztucznej inteligencji i robotyki, sprzeciwiło się inwestycjom w autonomiczną broń napędzaną sztuczną inteligencją.

Ta prognoza spełniła się w postaci Lethal Autonomous Weapon Systems, które lokalizują i niszczą cele samodzielnie, przestrzegając niewielu przepisów. Ze względu na proliferację potężnej i złożonej broni, niektóre z najpotężniejszych państw świata uległy lękom i przyczyniły się do technologicznej zimnej wojny.

Wiele z tych nowych broni stwarza poważne zagrożenie dla cywilów na ziemi, ale niebezpieczeństwo staje się większe, gdy autonomiczna broń wpada w niepowołane ręce. Hakerzy opanowali różne rodzaje cyberataków, więc nietrudno sobie wyobrazić złośliwego aktora infiltrującego autonomiczną broń.

Jeśli polityczne rywalizacje i tendencje wojenne nie będą trzymane w ryzach, sztuczna inteligencja może skończyć się zastosowaniem jej z najgorszymi intencjami. Niektórzy obawiają się, że bez względu na to, jak wiele wpływowych osobistości wskaże niebezpieczeństwa sztucznej inteligencji, będziemy nadal przekraczać granice, jeśli będzie można na niej zarobić.

10. Kryzysy finansowe wywołane przez algorytmy AI

Branża finansowa stała się bardziej otwarta na zaangażowanie technologii AI w codzienne procesy finansowe i handlowe. W rezultacie handel algorytmiczny może być odpowiedzialny za nasz kolejny poważny kryzys finansowy na rynkach.

Chociaż algorytmy AI nie są zaciemnione przez ludzki osąd ani emocje, nie biorą one również pod uwagę kontekstów, wzajemnych powiązań rynków i czynników takich jak ludzkie zaufanie i strach. Następnie te algorytmy wykonują tysiące transakcji w zawrotnym tempie, mając na celu sprzedaż kilka sekund później za niewielkie zyski. Sprzedaż tysięcy transakcji może przestraszyć inwestorów i skłonić ich do zrobienia tego samego, co doprowadzi do nagłych krachów i ekstremalnej zmienności rynku.

Przykłady takie jak błyskawiczna awaria z 2010 r. i błyskawiczna awaria Knight Capital stanowią przypomnienie tego, co może się stać, gdy nastawione na handel algorytmy oszaleją, niezależnie od tego, czy szybki i masowy handel jest zamierzony.

Nie oznacza to, że AI nie ma nic do zaoferowania światu finansów. W rzeczywistości algorytmy AI mogą pomóc inwestorom podejmować mądrzejsze i bardziej świadome decyzje na rynku. Jednak organizacje finansowe muszą upewnić się, że rozumieją swoje algorytmy AI i sposób, w jaki te algorytmy podejmują decyzje. Firmy powinny rozważyć, czy AI zwiększa, czy zmniejsza ich pewność siebie przed wprowadzeniem technologii, aby uniknąć wzbudzania obaw wśród inwestorów i tworzenia chaosu finansowego.

11. Rozwój malware i innych form złośliwego oprogramowania

Kolejnym cyberzagrożeniem związanym z AI jest możliwość wykorzystania jej do automatycznego tworzenia prostych kodów służących do produkcji złośliwego oprogramowania. Ochrona przed AI malware jest obecnie jednym z kluczowych potrzeb wszystkich organizacji. Dlatego to niezwykle istotne, aby zabezpieczyć wszystkie systemy za pomocą skutecznego systemu antywirusowego.

12. Niekontrolowana, samoświadoma sztuczna inteligencja

Pojawia się również obawa, że sztuczna inteligencja będzie się rozwijać tak szybko, że stanie się świadoma i będzie działać poza ludzką kontrolą — prawdopodobnie w złośliwy sposób. Rzekome doniesienia o tej świadomości już się pojawiły, a jedną z popularnych relacji był były inżynier Google, który stwierdził, że chatbot AI LaMDA był świadomy i rozmawiał z nim tak, jak rozmawiałby z nim człowiek. Ponieważ kolejne wielkie kamienie milowe AI obejmują tworzenie systemów ze sztuczną inteligencją ogólną, a ostatecznie sztuczną superinteligencją, wciąż narastają krzyki o całkowite zatrzymanie tych wydarzeń.

13. Wzrost przestępczości

Wraz ze wzrostem dostępności technologii AI wzrosła liczba osób wykorzystujących ją do działalności przestępczej. Internetowi drapieżcy mogą teraz generować obrazy dzieci, co utrudnia organom ścigania ustalenie faktycznych przypadków znęcania się nad dziećmi. Nawet w przypadkach, gdy dzieci nie są krzywdzone fizycznie, wykorzystanie twarzy dzieci w obrazach generowanych przez AI stwarza nowe wyzwania dla ochrony prywatności dzieci w Internecie i bezpieczeństwa cyfrowego.

Klonowanie głosu również stało się problemem, ponieważ przestępcy wykorzystują głosy generowane przez AI, aby podszywać się pod inne osoby i popełniać oszustwa telefoniczne. Te przykłady to zaledwie wierzchołek góry lodowej możliwości AI, więc lokalnym i krajowym agencjom rządowym będzie coraz trudniej dostosować się i informować opinię publiczną o najnowszych zagrożeniach napędzanych przez AI.

14. Szeroka niestabilność gospodarcza i polityczna

Nadmierne inwestowanie w konkretny materiał lub sektor może postawić gospodarki w niepewnej sytuacji. Podobnie jak stal, AI może narazić się na ryzyko przyciągnięcia tak dużej uwagi i zasobów finansowych, że rządy nie będą w stanie rozwijać innych technologii i branż. Ponadto nadprodukcja technologii AI może skutkować wyrzucaniem nadmiaru materiałów, które potencjalnie mogą wpaść w ręce hakerów i innych złośliwych podmiotów.

Jak ograniczyć ryzyko związane ze sztuczną inteligencją?

AI nadal ma wiele zalet, takich jak organizowanie danych dotyczących zdrowia i zasilanie autonomicznych samochodów. Jednak, aby w pełni wykorzystać tę obiecującą technologię, niektórzy twierdzą, że potrzeba wielu regulacji.

Regulacja AI była głównym celem dla dziesiątek krajów, a teraz USA i Unia Europejska tworzą bardziej jednoznaczne środki, aby zarządzać rosnącym wyrafinowaniem sztucznej inteligencji. W rzeczywistości Biuro Polityki Naukowej i Technologicznej Białego Domu (OSTP) opublikowało w 2022 r. Kartę Praw AI, dokument mający na celu pomóc w odpowiedzialnym kierowaniu wykorzystaniem i rozwojem AI. Ponadto prezydent Joe Biden wydał w 2023 r. rozporządzenie wykonawcze wymagające od agencji federalnych opracowania nowych zasad i wytycznych dotyczących bezpieczeństwa AI.

Oprócz tego warto pamiętać o kilku regułach podczas korzystania z chatbotów AI. Nigdy nie wpisuj podczas korespondencji swoich danych personalnych ani kluczowych informacji. Gdy wpisujesz prompt z tekstem, to usuwaj kluczowe dane, takie jak PESEL, imię, nazwisko i adres.