Veštačka inteligencija donela nam je značajne mogućnosti ali i izazove u oblasti sajber bezbednosti. Dok njeni napredni algoritmi omogućavaju prepoznavanje pretnji i automatsko reagovanje na sajber napade, njena zloupotreba može imati ozbiljne posledice, naročito kroz deepfake tehnologije i automatizovane phishing napade. Algoritmi za mašinsko učenje mogu otkriti pretnje mnogo pre nego što bi to uradio čovek, a automatizovani sistemi omogućavaju brže i efikasnije reagovanje na napade. Međutim, postoji i druga strana medalje. Napredni AI alati mogu biti zloupotrebljeni za kreiranje lažnih identiteta, širenje dezinformacija i izvođenje sofisticiranih sajber napada. Napadači koriste AI kako bi identifikovali ranjivosti u softverima i mrežama, olakšavajući napade na kritičnu infrastrukturu. Primera radi, AI može pomoći u stvaranju malvera koji se prilagođava zaštitnim merama, čineći ga težim za otkrivanje i neutralisanje. Pored toga, prisustvo AI-a u obradi ogromnih količina podataka otvara ozbiljna pitanja privatnosti i zaštite ličnih informacija.
Kako bi se obezbedila sigurna i odgovorna upotreba veštačke inteligencije, neophodno je razviti adekvatne regulative i etičke smernice. Evropska unija već radi na zakonodavnom okviru koji će klasifikovati AI alate prema nivou rizika, s posebnim naglaskom na one koji imaju potencijalno visok uticaj na kritične sisteme. Predloženi Zakon o veštačkoj inteligenciji u EU zahteva strože nadgledanje visokorizičnih AI aplikacija koje se koriste u sektorima poput zdravstvene zaštite i infrastrukture. Ove mere predstavljaju važan korak u zaštiti digitalnog prostora i obezbeđenju transparentnosti u primeni AI tehnologija.
Budućnost sajber bezbednosti zavisi od ravnoteže između inovacija i odgovornosti. Kontinuirano istraživanje, razvoj i prilagođavanje strategija zaštite ključni su za očuvanje sigurnosti u sve složenijem digitalnom ekosistemu. Veštačka inteligencija može biti moćan saveznik u borbi protiv sajber kriminala, ali samo ukoliko se njen potencijal koristi u skladu sa etičkim principima i uz stalnu svest o njenim mogućim zloupotrebama.
Kako bi bolje razumeli izazove i mogućnosti u ovom domenu ragovarali smo sa Petrom Oljačom, sertifikovanim konsultantom za digitalnu transformaciju iz kompanije Positive, koja se bavi pružanjem naprednih tehnoloških rešenja, kombinujući ekspertizu u oblasti sajber bezbednosti i implementacije AI alata.
Sajber pretnje se neprestano razvijaju. Koliko su danas sofisticiranije nego pre nekoliko godina?
Svi znamo da je veštačka inteligencija revolucionisala mnoge sektore, a sajber bezbednost nije izuzetak. AI je u stanju da analizira ogromne količine podataka, prepoznaje obrasce i identifikuje pretnje brže i efikasnije nego što to može bilo koji čovek. Njegova sposobnost predviđanja i proaktivnog delovanja menja igru u borbi protiv sajber napada. Međutim, dok se mi kao industrija uzdižemo u nove visine zahvaljujući AI, važno je da ostanemo prizemljeni u pogledu rizika koje on donosi. Napadi koriste AI da unaprede svoje tehnike, čineći ih sofisticiranijim i teže uočljivim. U tom smislu recimo konkretno,Phishing kampanje, na primer, postale su mnogo uverljivije zahvaljujući alatima koji mogu generisati verodostojne e-poruke i poruke na osnovu analiza velikih skupova podataka. Takođe, malver je postao pametniji. Umesto slepog širenja, sada se prilagođava okruženju i ciljanim sistemima, čeka trenutak aktivacije što drastično povećava njegovu efikasnost. AI je moćno oružje, i u rukama onih koji štite, ali i onih koji napadaju.
Koji su najčešći napadi s kojima se susrećete u praksi? Da li su ransomware, phishing i DDoS i dalje dominantni, ili primećujete neke nove?
Ransomware i malware su i dalje dominantni, ali se njihovi oblici menjaju. Na primer, ransom-as-a-service je postao popularan model, gde se ransomware kao usluga nudi na mračnom webu, omogućavajući čak i neiskusnim kriminalcima da pokrenu napade.
Phishing je još jedan klasik koji se drži. Iako su tehnike phishinga poznate već decenijama, njihova sofisticiranost se povećava. Phishing kampanje, na primer, postale su mnogo uverljivije zahvaljujući alatima koji mogu generisati verodostojne e-poruke i poruke na osnovu analiza velikih skupova podataka.
Takođe, malver je postao pametniji. Kao što rekoh, umesto slepog širenja, sada se prilagođava okruženju i ciljanim sistemima, što drastično povećava njegovu efikasnost.
Koliko je ljudski faktor presudan u sprečavanju sajber napada? Kako kompanije mogu da podignu nivo svesti i obuče zaposlene da prepoznaju pretnje?
Svi znamo da je ljudski faktor ključni element u bilo kojoj strategiji sajber bezbednosti. Prema nekim istraživanjima, čak 91% organizacija smatra da su njihovi zaposleni ključni za uspeh u borbi protiv sajber napada. Dakle, ko je najvažniji? Vaši zaposleni. Ko je najvažniji? Vaši zaposleni. Ko je najvažniji? Vaši zaposleni. U svemu što radite, zaposleni su ključni. Kada pričate o tehnologiji, kada pričate o procesima, kada pričate o svemu, zaposleni su najvažniji.
Upravo iz tog razloga često edukujemo ljude na raznim panelima, radionicama i okupljanjima bilo koje vrste.
Značajno je istaći da čak i u okviru nekih od naših servisa se podrazumevaju periodične obuke iz raznih ciljanih tema kada je Cyber Security u pitanju (upotreba e-maila, puštanje nepoznath ljudi u prostorije organizacije, sumnjivi USB mediji, šta raditi „ako ti direktor iznenadno naredi ili suptilno zamoli“ da prebaciš veću sumu novca nekome putem emaila, kako se ponašati u situacijama koje deluju primamljivo, zašto ako neko javi da je samo promenio broj računa kompanije to treba proveriti drugim vidom komunikacije itd.)
Zero Trust se sve češće pominje kao neophodan pristup u zaštiti podataka. Kako on funkcioniše u praksi i koje su njegove glavne prednosti?
Srpski rečeno: Ne verujem nikome. Tehnički gledano, model se bazira na pretpostavci da je svaki korisnik, uređaj, zaokruženi sistm potencijalna pretnja, čak i unutar same organizacije.
U implementiranim okruženjima, on zahteva stalnu verifikaciju identiteta i pristupnih prava, kao i grupisanje određenih korisnika i uređaja kako bi se minimizovali rizici (npr. 2FA, automatsko upravljanje pristupima, i sličnih poznatih krajnjim korisnicima pa sve do onih koji su namenjeni inženjerima koji su praktično alati za detekciju i odgovor na pretnje koji koriste više tehnologija, izvora i načina rešavanja problema ili upozorenja za potencijalnu cyber opasnost.
Prednosti ovog modela su u tome što značajno smanjuje šansu da napadač koji se probije u jedan deo sistema može proširiti napad dalje. Zero Trust je danas standard u ozbiljnim okruženjima.
Veštačka inteligencija igra sve veću ulogu u otkrivanju i prevenciji sajber napada. Koliko je AI zaista efikasan u ovoj oblasti i gde su mu ograničenja?
Sposobnost analize neverovatnih količina podataka veštačku inteligneciju mogu da nam porede sa dvosmernom ulicom. Koliko je tu da pomogne, isto je toliko tu da izazove.
Ograničenja se ogledaju u tome da još uvek osloniti se 100% na nju kao potpunu zamenu za ljudsku stručnost je ipak opasno. Razlog za to je uvek da AI može da vrši donošenje odluka bez razumevanja konteksta, što nadalje može da dovede do ozbiljnih problema i grešaka.
Zaključno, AI treba posmatrati ao alat za poboljšanje produktivnosti i brzine, a ne kao apsolutnu zamenu za ljudsku stručnost. Sve drugo bilo bi kao da pokišavate da procenite koliko je dubok okean, dok stojite na obali.
Da li postoji rizik da sajber kriminalci zloupotrebe AI alate za sofisticiranije napade? Kako se možemo zaštititi od toga?
Da, postoji rizik da zloupotrebe AI alate, ali podsećam da isto tako postoji rizik da zloupotrebe bilo koju tehnologiju, alat isto kao i AI.
Zaštita od ovakvih napada zahteva kombinaciju: napredne tehnologije (EDR/XDR sistemi, AI-driven zaštita), jasno definisane bezbednosne politike, i – ponovo – edukaciju zaposlenih. Rizik ne možemo eliminisati, ali možemo drastično smanjiti njegov uticaj.
Možete li podeliti primer kompanije koja je pretrpela ozbiljan sajber napad? Kako su se oporavili i šta su naučili iz tog iskustva?
Ovo je pitanje koje često dobijam, pa ću vam reći kao što sam rekao i svima pre – ljudi ne postoji 100% zaštite i svako ko to kaže ili neozbiljan ili nesvestan.
Primeri su razni, ali recimo da je jedan od vrednih pažnje taj gde je direktor putem video linka razgovarao sa ino-partnerom i tražio od njega pro-invoice, koji je poslat emailom, presretnut i izmenjen, uplata iako je realizovana promptno, roba nije stizala. Na njegova pitanja, odgovor je da plaćanje nije ispoštovano. Istraga je utvrdila da je novac otišao na izmenjen broj računa i nikada ga nije povratio. Drastično mu je narušen cash-flow zbog toga, poverenje dobavljača je spalo na nizak nivo, a reputacija mu je dobila negativan tok.
Oporavak je podrazumevao forenzičku analizu, promenu internih procedura za verifikaciju plaćanja, i uvođenje višekanalne potvrde transakcija. Najvažnija lekcija: komunikacija mora biti višeslojna i proverena, naročito u trenutku donošenja važnih finansijskih odluka. Tada nije bio, danas jeste šaljiv primer je jedna sekretarica koja je dobila naređenje sa direktorovog emaila da plati invoice u hiljadama strane valute na određeni račun.
Ona nije to učinila, jer… obratio joj se sa TI, iako se to godinama nikada nije desilo pa je čekala da proveri zašto je promenio ton ka njoj. Ispostavilo se da on nije ni pisao taj email i pored perfektnog prevoda, narativa i fonta, napadač nije uspeo jer je onaneko ko se oslovljava sa Vi.
Kakva je situacija u Srbiji i regionu kada je reč o svesti kompanija o sajber bezbednosti?
U poslednje vreme situacija se popravlja, jer je tema dosta aktuelna i na business koferencijama, medijima, društvenim mrežama pa i u konkretnim poslovnim dogovorima. Važno je nastaviti da se razgovara o tome, jer tu, poput kolektivnog sporta, niko ne može da pobedi sam., a niko ne može da bude zaštićen ako su svi ostali ranjivi tako da smo svi u tome zajedno. Ono što treba naglasiti je da u EU po zvaničnim statistikama 16% kompanija koje pretrpe sajber napad, prestaju da postoje u roku od godinu dana. Svest, prevencija, kontinuirana edukacija, pa tek onda tehnologija, mislim da je to ključno za zaštitu u današnjem digitalnom prisustvu.
U poslednje vreme sve više koristimo AI asistente, poput ChatGPT-a, Deepseek-a, Groka i drugih. Koliko je bezbedno slati im osetljive podatke i koje su potencijalne opasnosti?
Bez obzira o kom se modelu radi, svakako nije preporučivo slati lične podatke, poslovne tajne, finansijske konstrukcije niti bilo šta što bi moglo izazvati posledice po pojedinca ili kompaniju ukoliko dođe u pogrešne ruke. Svaki od tih modela se u suštini trenira na podacima koje im korisnici daju, pa to treba uvek imati na umu.
Veštačka inteligencija je alat koji, ako se koristi pravilno, može doneti ogromne koristi. AI ne zamenjuje ljude – on ih osnažuje. Neki poslovi će se možda transformisati, neki će evoluirati, a neki nestati, ali nova će se svakako pojaviti. Dakle, AI je tu da pomogne da se neki poslovi presele u budućnost, a neki da se drastično promene. Tehnologija sama po sebi nije ni dobra ni loša, to zavisi od etike i namere onih koji je koriste. Stoga, budite spremni, budite etični i budite proaktivni u korišćenju AI tehnologije jer ona je već tu.
