Kratak odgovor: Vještačka inteligencija neće u potpunosti zamijeniti kibernetičku sigurnost, ali će preuzeti značajan dio repetitivnih poslova u oblasti SOC-a i sigurnosnog inženjerstva. Korištena kao sredstvo za smanjenje buke i sažimanje - uz ljudsko poništavanje - ubrzava trijažu i određivanje prioriteta; tretirana kao proročište, može uvesti rizičnu lažnu sigurnost.
Ključne zaključke:
Opseg : Vještačka inteligencija zamjenjuje zadatke i tokove rada, a ne samu profesiju ili odgovornost.
Smanjenje truda : Koristite vještačku inteligenciju za grupiranje upozorenja, koncizne sažetke i trijažu po obrascima zapisnika.
Odgovornost za donošenje odluka : Zadržite ljude zbog sklonosti ka riziku, kontrole incidenta i teških kompromisa.
Otpornost na zloupotrebu : Dizajn za brzo ubrizgavanje, trovanje i pokušaje izbjegavanja od strane suparnika.
Upravljanje : Provedite granice podataka, reviziju i osporive ljudske izmjene u alatima.

Članci koje biste možda željeli pročitati nakon ovog:
🔗 Kako se generativna umjetna inteligencija koristi u kibernetičkoj sigurnosti
Praktični načini na koje vještačka inteligencija poboljšava detekciju, odgovor i prevenciju prijetnji.
🔗 Alati za testiranje umjetne inteligencije na prodor za kibernetičku sigurnost
Vrhunska rješenja zasnovana na umjetnoj inteligenciji za automatizaciju testiranja i pronalaženje ranjivosti.
🔗 Je li umjetna inteligencija opasna? Rizici i stvarnost
Jasan pogled na prijetnje, mitove i odgovorne mjere zaštite umjetne inteligencije.
🔗 Vodič za najbolje alate za sigurnost umjetne inteligencije
Najbolji sigurnosni alati koji koriste umjetnu inteligenciju za zaštitu sistema i podataka.
"Zamjena" uokviravanja je zamka 😅
Kada ljudi kažu „Može li vještačka inteligencija zamijeniti kibernetičku sigurnost“ , obično misle na jednu od tri stvari:
-
Zamijenite analitičare (ljudi nisu potrebni)
-
Zamijenite alate (jedna AI platforma radi sve)
-
Zamjena rezultata (manje kršenja, manji rizik)
Vještačka inteligencija je najjača u zamjeni repetitivnih napora i skraćivanju vremena donošenja odluka. Najslabija je u zamjeni odgovornosti, konteksta i prosuđivanja. Sigurnost nije samo detekcija - to su trnoviti kompromisi, poslovna ograničenja, politika (ugh) i ljudsko ponašanje.
Znate kako to ide - proboj nije bio "nedostatak upozorenja". Radilo se o nedostatku nekoga ko je vjerovao da je upozorenje važno. 🙃
Gdje umjetna inteligencija već "zamjenjuje" rad u oblasti kibernetičke sigurnosti (u praksi) ⚙️
Vještačka inteligencija već preuzima određene kategorije poslova, čak i ako organizacijska shema i dalje izgleda isto.
1) Trijaža i grupiranje upozorenja
-
Grupiranje sličnih upozorenja u jedan incident
-
Deduplikacija šumnih signala
-
Rangiranje po vjerovatnom uticaju
Ovo je važno jer je trijaža mjesto gdje ljudi gube volju za životom. Ako vještačka inteligencija smanji buku i za malo, to je kao da stišate protivpožarni alarm koji vrišti sedmicama 🔥🔕
2) Analiza logova i otkrivanje anomalija
-
Uočavanje sumnjivih obrazaca pri brzini mašine
-
Označavanje „ovo je neobično u poređenju sa osnovnim podacima“
Nije savršeno, ali može biti vrijedno. Vještačka inteligencija je kao detektor metala na plaži - često pišti, a ponekad je to čep od boce, ali povremeno je to prsten 💍... ili kompromitovani administratorski token.
3) Klasifikacija zlonamjernog softvera i phishinga
-
Klasifikacija priloga, URL-ova, domena
-
Detekcija sličnih brendova i obrazaca lažiranja
-
Automatizacija sažetaka presuda u sandboxu
4) Prioritizacija upravljanja ranjivostima
Ne „koji CVE-ovi postoje“ - svi znamo da ih ima previše. Vještačka inteligencija pomaže u odgovoru:
-
Koji su vjerovatno ovdje iskoristivi. EPSS (PRVI)
-
Koji su izloženi spolja
-
Koji se mapiraju na vrijednu imovinu. CISA KEV katalog
-
Koji bi prvo trebao biti zakrpan bez zapaljenja organizacije. NIST SP 800-40 Rev. 4 (Upravljanje zakrpama u preduzećima)
I da, i ljudi bi to mogli - kad bi vrijeme bilo beskonačno i kad bi niko nikada ne uzimao odmor.
Šta čini dobru verziju vještačke inteligencije u sajber sigurnosti 🧠
Ovo je dio koji ljudi preskaču, a zatim krive "AI" kao da je to jedan proizvod sa osjećajima.
Dobra verzija umjetne inteligencije u kibernetičkoj sigurnosti obično ima ove osobine:
-
Visoka disciplina odnosa signal-šum
-
Mora smanjiti buku, a ne stvarati dodatnu buku kičastim frazama.
-
-
Objašnjivost koja pomaže u praksi
-
Nije roman. Nisu to vibracije. Pravi tragovi: šta je vidjelo, zašto mu je stalo, šta se promijenilo.
-
-
Čvrsta integracija s vašim okruženjem
-
IAM, telemetrija krajnjih tačaka, stanje u oblaku, izdavanje tiketa, inventar imovine... neprivlačne stvari.
-
-
Ugrađeno ljudsko premošćivanje
-
Analitičari to trebaju ispravljati, podešavati, a ponekad i ignorirati. Poput mlađeg analitičara koji nikad ne spava, ali povremeno paniči.
-
-
Sigurnosno rukovanje podacima
-
Jasne granice o tome šta se pohranjuje, obučava ili zadržava. NIST AI RMF 1.0
-
-
Otpornost na manipulaciju
-
Napadači će pokušati brzo ubrizgavanje, trovanje i obmanu. Uvijek to rade. OWASP LLM01: Brzo ubrizgavanje UK Kodeks prakse za sajber sigurnost umjetne inteligencije
-
Budimo iskreni - mnogo "AI sigurnosti" ne uspijeva jer je obučeno da zvuči sigurno, a ne da bude tačno. Samopouzdanje nije kontrola. 😵💫
Dijelovi koje umjetna inteligencija teško zamjenjuje - a to je važnije nego što zvuči 🧩
Evo neugodne istine: sajber sigurnost nije samo tehnička. Ona je socio-tehnička. To su ljudi plus sistemi plus podsticaji.
Vještačka inteligencija se bori sa:
1) Poslovni kontekst i sklonost ka riziku
Sigurnosne odluke rijetko su na temu "je li loše". Više su poput:
-
Da li je dovoljno ozbiljno da zaustavi prihod
-
Da li se isplati prekinuti proces implementacije
-
Da li će izvršni tim prihvatiti zastoje zbog toga
Vještačka inteligencija može pomoći, ali ne može to preuzeti. Neko potpisuje odluku. Neko dobija poziv u 2 ujutro 📞
2) Komandovanje incidentom i koordinacija među timovima
Tokom stvarnih incidenata, "posao" je:
-
Dovođenje pravih ljudi u prostoriju
-
Usklađivanje s činjenicama bez panike
-
Upravljanje komunikacijom, dokazima, pravnim problemima, slanjem poruka korisnicima NIST SP 800-61 (Vodič za rješavanje incidenata)
Vještačka inteligencija može napraviti vremenski okvir ili sumirati zapise, sigurno. Zamjena rukovodstva pod pritiskom je... optimistična. To je kao tražiti od kalkulatora da izvede protivpožarnu vježbu.
3) Modeliranje i arhitektura prijetnji
Modeliranje prijetnji je dijelom logika, dijelom kreativnost, dijelom paranoja (uglavnom zdrava paranoja).
-
Nabrajanje šta bi moglo poći po zlu
-
Predviđanje šta će napadač uraditi
-
Odabir najjeftinije kontrole koja mijenja napadačevu matematiku
Vještačka inteligencija može predložiti obrasce, ali prava vrijednost dolazi od poznavanja vaših sistema, vaših ljudi, vaših prečica, vaših specifičnih naslijeđenih zavisnosti.
4) Ljudski faktori i kultura
Fišing, ponovna upotreba akreditiva, shadow IT, loši pregledi pristupa - to su ljudski problemi koji nose tehničke kostime 🎭
AI može otkriti, ali ne može popraviti zašto se organizacija ponaša onako kako se ponaša.
Napadači također koriste umjetnu inteligenciju - pa se igralište naginje bočno 😈🤖
Svaka diskusija o zamjeni kibernetičke sigurnosti mora uključivati očigledno: napadači ne miruju.
Vještačka inteligencija pomaže napadačima:
-
Pišite uvjerljivije phishing poruke (manje loše gramatike, više konteksta) Upozorenje FBI-a o phishingu omogućenom umjetnom inteligencijom IC3 PSA o generativnoj AI prevari/phishingu
-
Brže generiranje polimorfnih varijacija zlonamjernog softvera; Izvještaji o obavještajnim podacima o prijetnjama OpenAI-a (primjeri zlonamjerne upotrebe)
-
Automatizirajte izviđanje i socijalni inženjering Europol "ChatGPT izvještaj" (pregled zloupotrebe)
-
Jeftino skaliranje pokušaja
Dakle, usvajanje vještačke inteligencije od strane branilaca nije dugoročno opcionalno. To je više kao... da donosite baterijsku lampu jer je druga strana upravo dobila naočale za noćno gledanje. Nespretna metafora. I dalje donekle istinito.
Također, napadači će ciljati same AI sisteme:
-
Brzo ubrizgavanje u sigurnosne kopilote OWASP LLM01: Brzo ubrizgavanje
-
Trovanje podataka radi iskrivljavanja modela Kodeks prakse za sajber sigurnost umjetne inteligencije u Velikoj Britaniji
-
Primjeri suparništva za izbjegavanje otkrivanja MITRE ATLAS
-
izdvajanja modela u nekim postavkama MITRE ATLAS
Sigurnost je oduvijek bila igra mačke i miša. Vještačka inteligencija samo čini mačke bržim, a miševe inventivnijim 🐭
Pravi odgovor: Vještačka inteligencija zamjenjuje zadatke, a ne odgovornost ✅
Ovo je "nezgodna sredina" u koju se većina timova upusti:
-
Vještačka inteligencija obrađuje skalu
-
Ljudi rukuju kolcima
-
Zajedno savladavaju brzinu i prosudbu
U mom vlastitom testiranju sigurnosnih radnih procesa, vještačka inteligencija je najbolja kada se tretira ovako:
-
Asistent za trijažu
-
Sažimač
-
Korelacijski mehanizam
-
Pomoćnik za politiku
-
Prijatelj za pregled koda za rizične obrasce
Vještačka inteligencija je najgora kada se prema njoj postupa ovako:
-
Proročište
-
Jedna tačka istine
-
Odbrambeni sistem "namesti i zaboravi"
-
Razlog za nedovoljno osoblja u timu (ovo će kasnije biti teško...)
To je kao da unajmite psa čuvara koji još i piše e-mailove. Odlično. Ali ponekad laje na usisivač i promaši tipa koji preskače ogradu. 🐶🧹
Tabela za poređenje (najbolje opcije koje timovi koriste svakodnevno) 📊
Ispod je praktična tabela za poređenje - nije savršena, malo neujednačena, kao u stvarnom životu.
| Alat / Platforma | Najbolje za (publiku) | Cijena | Zašto funkcioniše (i koje su mane) |
|---|---|---|---|
| Microsoft Sentinel Microsoft Learn | SOC timovi koji žive u Microsoftovim ekosistemima | $$ - $$$ | Snažni SIEM obrasci, izvorni u oblaku; mnogo konektora, može postati bučno ako se ne podešava.. |
| Splunk Splunk Enterprise Security | Veće organizacije s velikim brojem prijava + prilagođene potrebe | $$$ (često $$$$ iskreno) | Moćna pretraga + kontrolne ploče; sjajno kada je sve uređeno, bolno kada niko ne posjeduje higijenu podataka |
| Googleove sigurnosne operacije Google Cloud | Timovi koji žele telemetriju upravljanog obima | $$ - $$$ | Dobro za velike količine podataka; zavisi od zrelosti integracije, kao i mnoge stvari |
| CrowdStrike Falcon CrowdStrike | Organizacije s velikim fokusom na krajnje tačke, IR timovi | $$$ | Snažna vidljivost krajnjih tačaka; velika dubina detekcije, ali i dalje su vam potrebni ljudi koji će pokretati odgovor |
| Microsoft Defender za krajnje tačke Microsoft Learn | Organizacije koje koriste M365 | $$ - $$$ | Čvrsta integracija s Microsoftom; može biti odlično, ali može biti „700 upozorenja u redu“ ako je pogrešno konfigurirano |
| Palo Alto Cortex XSOAR Palo Alto mreže | SOC-ovi usmjereni na automatizaciju | $$$ | Priručnici za igru smanjuju napor; zahtijevaju pažnju ili automatizirate poremećaj (da, i to je slučaj) |
| Wiz Wiz platforma | Timovi za sigurnost u oblaku | $$$ | Snažna vidljivost u oblaku; pomaže u brzom prioritiziranju rizika, ali i dalje zahtijeva upravljanje iza toga |
| Snyk Snyk platforma | Organizacije usmjerene na razvoj, AppSec | $$ - $$$ | Radni procesi prilagođeni programerima; uspjeh zavisi od usvajanja od strane programera, a ne samo od skeniranja |
Mala napomena: nijedan alat ne "pobjeđuje" sam po sebi. Najbolji alat je onaj koji vaš tim koristi svakodnevno bez zamjeranja. To nije nauka, to je preživljavanje 😅
Realističan operativni model: kako timovi pobjeđuju uz pomoć umjetne inteligencije 🤝
Ako želite da vještačka inteligencija značajno poboljša sigurnost, priručnik je obično sljedeći:
Korak 1: Koristite umjetnu inteligenciju za smanjenje napornog rada
-
Sažeci obogaćenih upozorenja
-
Izrada karata
-
Kontrolne liste za prikupljanje dokaza
-
Prijedlozi upita za zapisnik
-
Razlike u konfiguracijama "Šta se promijenilo"
Korak 2: Koristite ljude za validaciju i donošenje odluka
-
Potvrdite utjecaj i opseg
-
Odaberite mjere suzbijanja
-
Koordinacija ispravki između različitih timova
Korak 3: Automatizirajte sigurne stvari
Dobri ciljevi automatizacije:
-
Stavljanje poznatih loših datoteka u karantin s visokom pouzdanošću
-
Resetiranje akreditiva nakon potvrđenog kompromitovanja
-
Blokiranje očigledno zlonamjernih domena
-
Pažljivo sprovođenje korekcije odstupanja od politike
Rizični ciljevi automatizacije:
-
Automatska izolacija produkcijskih servera bez zaštitnih mjera
-
Brisanje resursa na osnovu nesigurnih signala
-
Blokiranje velikih IP raspona jer se "modelu tako činilo" 😬
Korak 4: Uključite lekcije u kontrole
-
Podešavanje nakon incidenta
-
Poboljšane detekcije
-
Bolji inventar imovine (vječna bol)
-
Uže privilegije
Ovdje umjetna inteligencija mnogo pomaže: sumiranje obdukcija, mapiranje nedostataka u detekciji, pretvaranje poremećaja u ponovljiva poboljšanja.
Skriveni rizici sigurnosti zasnovane na vještačkoj inteligenciji (da, ima ih nekoliko) ⚠️
Ako intenzivno usvajate vještačku inteligenciju, morate planirati sljedeće nedostatke:
-
Izmišljena sigurnost
-
Sigurnosnim timovima su potrebni dokazi, a ne pripovijedanje. Vještačka inteligencija voli pripovijedanje. NIST AI RMF 1.0
-
-
Curenje podataka
-
Upiti mogu slučajno uključivati osjetljive detalje. Zapisnici su puni tajni ako pažljivo pogledate. OWASP Top 10 za LLM prijave
-
-
Prekomjerno oslanjanje
-
Ljudi prestaju učiti osnove jer kopilot "uvijek zna"... sve dok ne prestane.
-
-
Pomak modela
-
Okruženja se mijenjaju. Obrasci napada se mijenjaju. Detekcija tiho trune. NIST AI RMF 1.0
-
-
Zloupotreba od strane suparnika
-
Napadači će pokušati upravljati, zbuniti ili iskoristiti radne procese zasnovane na vještačkoj inteligenciji. Smjernice za siguran razvoj sistema vještačke inteligencije (NSA/CISA/NCSC-UK)
-
To je kao da napravite vrlo pametnu bravu, a zatim ostavite ključ ispod otirača. Brava nije jedini problem.
Dakle... Može li vještačka inteligencija zamijeniti kibernetičku sigurnost: jasan odgovor 🧼
Može li vještačka inteligencija zamijeniti kibernetičku sigurnost?
Može zamijeniti mnogo repetitivnih poslova unutar kibernetičke sigurnosti. Može ubrzati otkrivanje, trijažu, analizu, pa čak i dijelove odgovora. Ali ne može u potpunosti zamijeniti disciplinu jer kibernetička sigurnost nije jedinstven zadatak - to je upravljanje, arhitektura, ljudsko ponašanje, vođenje incidenata i kontinuirana adaptacija.
Ako želite najiskreniji okvir (malo otvoren, oprostite):
-
Vještačka inteligencija zamjenjuje užurbani posao
-
Vještačka inteligencija poboljšava dobre timove
-
Vještačka inteligencija otkriva loše procese
-
Ljudi ostaju odgovorni za rizik i stvarnost
I da, neke uloge će se promijeniti. Zadaci početnog nivoa će se najbrže mijenjati. Ali pojavljuju se i novi zadaci: tokovi rada sigurni od prompta, validacija modela, inženjering automatizacije sigurnosti, inženjering detekcije s alatima potpomognutim umjetnom inteligencijom... posao ne nestaje, on mutira 🧬
Završne bilješke i kratki pregled 🧾✨
Ako odlučujete šta ćete učiniti s umjetnom inteligencijom u sigurnosti, evo praktičnog zaključka:
-
Koristite vještačku inteligenciju za komprimiranje vremena - brža trijaža, brži sažeci, brža korelacija.
-
Zadržite ljude za procjenu - kontekst, kompromise, liderstvo, odgovornost.
-
Pretpostavimo da napadači koriste i vještačku inteligenciju - dizajn za obmanu i manipulaciju. MITRE ATLAS Smjernice za siguran razvoj sistema vještačke inteligencije (NSA/CISA/NCSC-UK)
-
Ne kupujte „magiju“ - kupujte radne procese koji mjerljivo smanjuju rizik i naporan rad.
Dakle, da, vještačka inteligencija može zamijeniti dijelove posla, i to često čini na načine koji se u početku čine suptilnima. Pobjednički potez je učiniti vještačku inteligenciju svojom prednošću, a ne zamjenom.
A ako ste zabrinuti za svoju karijeru - fokusirajte se na dijelove s kojima se vještačka inteligencija bori: sistemsko razmišljanje, vođenje incidenata, arhitektura i to da budete osoba koja može prepoznati razliku između „zanimljivog upozorenja“ i „uskoro ćemo imati jako loš dan“. 😄🔐
Često postavljana pitanja
Može li vještačka inteligencija u potpunosti zamijeniti timove za sajber sigurnost?
Vještačka inteligencija može preuzeti značajan dio posla u oblasti sajber sigurnosti, ali ne i cijelu disciplinu. Ističe se u repetitivnim zadacima propusnosti kao što su grupisanje upozorenja, otkrivanje anomalija i izrada sažetaka prvog prolaza. Ono što ne zamjenjuje jeste odgovornost, poslovni kontekst i prosudba kada su ulozi visoki. U praksi, timovi se smještaju u „nezgodnu sredinu“ gdje vještačka inteligencija pruža obim i brzinu, dok ljudi zadržavaju vlasništvo nad posljedičnim odlukama.
Gdje vještačka inteligencija već zamjenjuje svakodnevni rad SOC-a?
U mnogim SOC-ovima, umjetna inteligencija već preuzima dugotrajan posao poput trijaže, deduplikacije i rangiranja upozorenja prema vjerovatnom utjecaju. Također može ubrzati analizu zapisnika označavanjem obrazaca koji odstupaju od osnovnog ponašanja. Rezultat nije manje incidenata magijom - to je manje sati provedenih u gaženju kroz buku, tako da se analitičari mogu fokusirati na istrage koje su važne.
Kako alati umjetne inteligencije pomažu u upravljanju ranjivostima i određivanju prioriteta zakrpa?
Vještačka inteligencija pomaže u preusmjeravanju upravljanja ranjivostima sa „previše CVE-a“ na „šta bismo ovdje prvo trebali zakrpiti“. Uobičajeni pristup kombinuje signale vjerovatnoće iskorištavanja (kao što je EPSS), poznate liste iskorištavanja (kao što je CISA-in KEV katalog) i kontekst vašeg okruženja (izloženost internetu i kritičnost imovine). Ako se dobro uradi, ovo smanjuje nagađanje i podržava zakrpanje bez narušavanja poslovanja.
Šta čini „dobru“ vještačku inteligenciju u sajber sigurnosti u odnosu na bučnu vještačku inteligenciju?
Dobra umjetna inteligencija u kibernetičkoj sigurnosti smanjuje buku umjesto da stvara samouvjereno zvučanu gužvu. Nudi praktičnu objašnjivost - konkretne tragove poput onoga što se promijenilo, što je uočeno i zašto je to važno - umjesto dugih, nejasnih narativa. Također se integrira s osnovnim sistemima (IAM, krajnja tačka, oblak, izdavanje tiketa) i podržava ljudsko preispitivanje kako bi analitičari mogli ispraviti, podesiti ili ignorirati promjene kada je to potrebno.
Koje dijelove kibernetičke sigurnosti umjetna inteligencija teško može zamijeniti?
Vještačka inteligencija se najviše bori sa socio-tehničkim poslovima: sklonost ka riziku, komandovanje incidentima i koordinacija između timova. Tokom incidenata, posao često postaje komunikacija, rukovanje dokazima, pravna pitanja i donošenje odluka u neizvjesnosti - područja gdje liderstvo nadmašuje upoređivanje obrazaca. Vještačka inteligencija može pomoći u sumiranju logova ili izradi vremenskih rokova, ali ne može pouzdano zamijeniti vlasništvo pod pritiskom.
Kako napadači koriste vještačku inteligenciju i da li to mijenja posao branioca?
Napadači koriste vještačku inteligenciju za skaliranje phishinga, generiranje uvjerljivijeg društvenog inženjeringa i brže ponavljanje varijanti zlonamjernog softvera. To mijenja pravila igre: branioci koji usvajaju vještačku inteligenciju s vremenom postaju manje opcionalni. To također dodaje novi rizik, jer napadači mogu ciljati tokove rada vještačke inteligencije putem brzog ubrizgavanja, pokušaja trovanja ili izbjegavanja od strane suparnika - što znači da i sistemima vještačke inteligencije trebaju sigurnosne kontrole, a ne slijepo povjerenje.
Koji su najveći rizici oslanjanja na vještačku inteligenciju za donošenje sigurnosnih odluka?
Veliki rizik predstavlja izmišljena sigurnost: umjetna inteligencija može zvučati samouvjereno čak i kada nije u pravu, a samouvjerenost nije kontrola. Curenje podataka je još jedna uobičajena zamka - sigurnosni upiti mogu nenamjerno uključivati osjetljive detalje, a zapisnici često sadrže tajne. Prekomjerno oslanjanje također može narušiti osnove, dok pomicanje modela tiho degradira detekcije kako se mijenjaju okruženja i ponašanje napadača.
Koji je realističan operativni model za korištenje umjetne inteligencije u kibernetičkoj sigurnosti?
Praktičan model izgleda ovako: koristite vještačku inteligenciju za smanjenje mukotrpnog rada, zadržite ljude za validaciju i donošenje odluka i automatizirajte samo sigurne stvari. Vještačka inteligencija je jaka za sažetke obogaćivanja, izradu zahtjeva, kontrolne liste dokaza i razlike „šta se promijenilo“. Automatizacija najbolje odgovara za radnje visoke pouzdanosti poput blokiranja poznatih loših domena ili resetiranja akreditiva nakon potvrđenog kompromitovanja, sa zaštitnim mjerama za sprječavanje prekoračenja.
Hoće li vještačka inteligencija zamijeniti početne uloge u sajber sigurnosti i koje vještine postaju vrijednije?
Gomile zadataka početnog nivoa će se vjerovatno najbrže mijenjati jer vještačka inteligencija može apsorbovati repetitivne poslove trijaže, sumiranja i klasifikacije. Ali pojavljuju se i novi zadaci, kao što su izgradnja radnih procesa sigurnih za promptne zadatke, validacija izlaza modela i automatizacija inženjerske sigurnosti. Otpornost karijere obično dolazi od vještina s kojima se vještačka inteligencija bori: sistemsko razmišljanje, arhitektura, vođenje incidenata i prevođenje tehničkih signala u poslovne odluke.
Reference
-
PRVI - EPSS (PRVI) - first.org
-
Agencija za sajber sigurnost i sigurnost infrastrukture (CISA) - Katalog poznatih iskorištenih ranjivosti - cisa.gov
-
Nacionalni institut za standarde i tehnologiju (NIST) - SP 800-40 Rev. 4 (Upravljanje zakrpama u preduzećima) - csrc.nist.gov
-
Nacionalni institut za standarde i tehnologiju (NIST) - AI RMF 1.0 - nvlpubs.nist.gov
-
OWASP - LLM01: Brzo ubrizgavanje - genai.owasp.org
-
Vlada Ujedinjenog Kraljevstva - Kodeks prakse za sajber sigurnost vještačke inteligencije - gov.uk
-
Nacionalni institut za standarde i tehnologiju (NIST) - SP 800-61 (Vodič za rješavanje incidenata) - csrc.nist.gov
-
Federalni istražni biro (FBI) - FBI upozorava na sve veću prijetnju sajber kriminalaca koji koriste vještačku inteligenciju - fbi.gov
-
Centar za pritužbe FBI-a na internet kriminal (IC3) - IC3 PSA o generativnoj AI prevari/phishingu - ic3.gov
-
OpenAI - Izvještaji o obavještajnim podacima o prijetnjama OpenAI-a (primjeri zlonamjerne upotrebe) - openai.com
-
Europol - Europolov “ChatGPT izvještaj” (pregled zloupotrebe) - europol.europa.eu
-
MITRA - ATLAS MITRE - mitre.org
-
OWASP - OWASP Top 10 za prijave na LLM - owasp.org
-
Nacionalna sigurnosna agencija (NSA) - Smjernice za osiguranje razvoja sistema umjetne inteligencije (NSA/CISA/NCSC-UK i partneri) - nsa.gov
-
Microsoft Learn - Pregled Microsoft Sentinela - learn.microsoft.com
-
Splunk - Splunk sigurnost preduzeća - splunk.com
-
Google Cloud - Googleove sigurnosne operacije - cloud.google.com
-
CrowdStrike - CrowdStrike Falcon platforma - crowdstrike.com
-
Microsoft Learn - Microsoft Defender za krajnje tačke - learn.microsoft.com
-
Palo Alto mreže - Cortex XSOAR - paloaltonetworks.com
-
Wiz - Wiz platforma - wiz.io
-
Snyk - Snyk platforma - snyk.io