Dr. Naomi Lin
Upotreba umjetne inteligencije u cyber kriminalu nedavno je postala predmet rasprave, a značajni dokazi predstavljeni su od strane OpenAI. Organizacija je otkrila da je njen chatbot pokretan AI-jem, ChatGPT, iskorišten u raznim zlonamjernim cyber aktivnostima, uključujući razvoj zloćudnog softvera, kampanje dezinformacija i ciljane phishing napade.
Izvještaj koji analizira incidente od početka ove godine označava kritično priznanje kako se uobičajeni alati umjetne inteligencije koriste kao oružje za potporu cyber napadima. Na primjer, istraživači iz Proofpoint-a su ranije istaknuli sumnjivu aktivnost grupe označene kao TA547, koja je viđena kako koristi AI-generirani PowerShell učitavač u svojim operacijama.
Jedan značajan protivnik je cyber-špijunska grupa pod nazivom SweetSpecter, sa sjedištem u Kini, koja je navodno ciljala zaposlenike OpenAI-a s spear phishing e-mailovima koji sadrže zloćudne ZIP datoteke. Ako bi primatelji otvorili te datoteke, započeo bi niz infekcije, instalirajući štetni softver na njihove uređaje.
Osim toga, dokumentirana je prijeteća grupa povezana s iranskom Revolucionarnom gardom koja je koristila ChatGPT za olakšavanje stvaranja prilagođenih skripti i iskorištavanje ranjivosti u sustavima kritične infrastrukture. Njihove aktivnosti uključivale su generiranje defaultnih lozinki za industrijske kontrolore i razvoj metoda za krađu lozinki s macOS sustava.
Ovi primjeri, zajedno s mnogim drugima, naglašavaju zabrinjavajući trend u kojem niskovješti pojedinci mogu učinkovito provesti cyber napade koristeći sofisticirane AI alate kao što je ChatGPT, što označava novo poglavlje u evoluciji prijetnji kibernetskoj sigurnosti.
Dvosjekli mač AI: Navigacija krajolikom cyber kriminala
Sve veća integracija umjetne inteligencije (AI) u svakodnevni život donijela je brojne prednosti, od povećanja produktivnosti do pružanja poboljšane korisničke usluge. Međutim, ovaj tehnološki napredak također predstavlja značajne izazove, osobito u području kibernetske sigurnosti. Nedavna otkrića o zloupotrebi AI alata, poput ChatGPT-a, u cyber kriminalu naglašavaju hitnu potrebu da se pojedinci, zajednice i nacije prilagode ovom evolucijskom krajoliku prijetnji.
Utjecaj na pojedince i zajednice
Posljedice cyber kriminala vođenog AI-em daleko nadmašuju neposredne žrtve. Pojedinci su sve više ranjivi na sofisticirane cyber napade koji mogu dovesti do krađe identiteta, financijskih gubitaka i emocionalnog stresa. Na primjer, phishing sheme postale su alarmantno uvjerljive, s napadačima koji koristi AI za izradu prilagođenih poruka koje obmanjuju primatelje da otkriju osjetljive informacije. Kako se zajednice sve više povezuju putem tehnologije, posljedice tih zločina mogu destabilizirati lokalne ekonomije i erodirati povjerenje među građanima.
Štoviše, negativne posljedice nisu ograničene samo na pojedinačne slučajeve. Zajednice koje doživljavaju porast cyber kriminala mogu vidjeti smanjenje ekonomske aktivnosti, budući da se poduzeća odlučuju manje ulagati u lokalne područje koja se percipiraju kao nesigurna. To može dovesti do začaranog kruga gdje zajednice nemaju resurse za borbu protiv cyber prijetnji, što dodatno pogoršava situaciju.
Globalne posljedice
Na većoj razini, zemlje se bore s posljedicama cyber kriminala omogućenog AI-em unutar svojih granica i izvan njih. Nacije koje domaćini velike tehnološke kompanije mogu se suočiti s povećanim rizikom od postajanja meta za napade cyber špijunaže koje podržava država. Ranije navedeni incidenti koji uključuju kinesku grupu SweetSpecter naglašavaju ovu zabrinutost, jer ukazuju na to kako strane jedinice koriste AI sposobnosti za ugrožavanje nacionalne sigurnosti.
Kao odgovor, vladama je zadaća jačanje svojih okvira i zakona o kibernetskoj sigurnosti kako bi zaštitili svoje građane i kritične infrastrukture. To često uključuje alociranje značajnih resursa za obuku i programe podizanja svijesti o kibernetskoj sigurnosti, kao i suradnju preko granica kako bi se suočili s transnacionalnom prirodom ovih zločina.
Zanimljive činjenice i kontroverze
Zanimljivo je da upotreba AI-a u cyber kriminalu nije potpuno nova; ono što čini nedavne događaje različitima je lakoća s kojom čak i niskovješti akteri mogu organizirati ozbiljne napade. Na primjer, istraživači su pokazali da samo posjedovanje pristupa AI alatima može omogućiti korisnicima automatizaciju zadataka koji su nekad zahtijevali specijalizirano znanje. Ova demokratizacija cyber kriminala postavlja etička pitanja o odgovornosti razvijača AI-a u sprječavanju zloupotrebe njihove tehnologije.
Osim toga, postoji stalna rasprava o tome do koje mjere bi kompanije AI trebale biti odgovorne za način na koji se njihovi proizvodi koriste. Trebaju li firme poput OpenAI-a biti odgovorne za radnje pojedinaca koji iskorištavaju njihove platforme u zlonamjerne svrhe? Ovo pitanje postavlja značajne izazove za donosioca politika i vođe industrije koji moraju navigirati tankom linijom između inovacije i regulative.
Krajolik kibernetske sigurnosti neprestano se razvija, a kako se AI nastavlja razvijati, i kriminalci i branitelji će morati prilagoditi svoje strategije. Pojava novih AI alata mogla bi ili pogoršati probleme cyber kriminala ili ponuditi inovativna rješenja za borbu protiv njih.
U zaključku, preplitanje umjetne inteligencije i cyber kriminala predstavlja složenu mrežu izazova koji utječu na pojedince, zajednice i zemlje. Dok se društvo bori s ovim pitanjima, od ključne je važnosti zagovarati snažne mjere kibernetske sigurnosti i odgovornu upotrebu AI-a kako bi se smanjili rizici i potaknulo sigurnije online okruženje.
Za više informacija o kibernetskoj sigurnosti i njezinim implikacijama, možete posjetiti Agenciju za kibernetsku sigurnost i sigurnost infrastrukture.
