Ką turi žinoti kiekvienas kibernetinio saugumo specialistas

Dirbtinis intelektas (DI) kartu gali būti laikomas ir unikaliu ginklu, ir augančia grėsme šiuolaikinės kovos su priešininku kontekste greitai besikeičiančiame kibernetinių grėsmių pasaulyje. Šiuo atžvilgiu galima pateikti dvi skirtingas pastabas. Dirbtinio intelekto technologijos suteikia didžiulį potencialą tobulinant kibernetinio saugumo gynybą skaitmeninėje aplinkoje, atliekant turiniu grindžiamą analizę ir taikant pažangius grėsmių aptikimo ir prevencijos scenarijus, kurie gerokai pranoksta tradicinių IT saugumo priemonių galimybes. Susipažinsime su pagrindinėmis dirbtinio intelekto grėsmėmis, su kuriomis tenka susidurti kiekvienam kibernetiniam saugumui, padėsime suinteresuotiesiems susipažinti su galimomis dirbtinio intelekto grėsmėmis ir kaip nuo jų apsisaugoti.

Dirbtinio intelekto poveikis kibernetiniam saugumui

Apie dirbtinio intelekto poveikį kibernetiniam saugumui daug kalbėta ir rašyta. Tačiau tai vis dar jauna sritis, todėl ateityje ji gali būti mokslinių tyrimų objektas tiek technologiniu, tiek socialiniu požiūriu.

Mašininis mokymasis ir dirbtinis intelektas buvo plačiai integruoti į kibernetinio saugumo veiklą, o jų privalumai yra tokie, kaip grėsmių identifikavimas, signalų atpažinimas ir pastebimi modeliai įrangoje. Nauji dirbtiniu intelektu pagrįsti sprendimai ir taikomosios programos padeda kibernetinio saugumo specialistams atlikti didžiulius skaičiavimus ir išvadas apie galimas grėsmes bei laiku reaguoti į pažeidimus.

Tačiau sparčiai augant dirbtinio intelekto naudojimo mastui, taip pat pastebima tendencija, kad dirbtinio intelekto technologijos vis dažniau naudojamos planuojant ir vykdant naujas ir sudėtingesnes atakas, kurių įprastos saugumo sistemos nesugebėtų sutrukdyti. Tai – dirbtinio intelekto grėsmės, kurios yra didelis iššūkis viso pasaulio organizacijoms, todėl reikia ir toliau būti budriems ir kurti aktyvias kibernetinio saugumo priemones.

Dirbtinio intelekto grėsmių supratimas

Priešiškas mašininis mokymasis

Priešiškas mašininis mokymasis – tai praktika, kuria siekiama pakenkti dirbtinio intelekto sistemų ir modelių veikimui, maitinant juos dirgikliais, specialiai sukurtais siekiant suklaidinti arba nuslėpti. Taip yra todėl, kad įsilaužėliai gali lengvai įsiskverbti į dirbtinio intelekto algoritmą ir pradėti keisti rezultatus ar net pasirinkti klaidingus teigiamus, neigiamus rezultatus arba įsiskverbti į saugumo priemones.

Dirbtiniu intelektu paremta kenkėjiška programinė įranga

Viena iš naujų kibernetinių nusikaltėlių tendencijų – dirbtinio intelekto technologijų naudojimas kuriant kenkėjišką programinę įrangą, kuri gali mokytis ir tobulėti funkcionalumo ir įsiskverbimo į IT sistemas būdų prasme kiekvieną kartą, kai sąveikauja su jomis ir pastarosioms apsaugoti taikomomis saugumo priemonėmis. Išmaniosios kenkėjiškos programos yra savarankiškos, nereikalaujančios jokio kūrėjų įsikišimo, jos geba atpažinti silpnąsias vietas, išvengti aptikimo ir itin sparčiai plisti tinklo aplinkoje, o tai pavojinga organizacijų informacijai ir medžiagoms.

Giluminės klastotės ir manipuliuojama žiniasklaida

Deepfake kūrimo technologija apima netikrus garso, vaizdo įrašus ir vaizdus, kurių sintezė pasiekiama naudojant dirbtinio intelekto algoritmus. Giluminėmis klastotėmis galima pasinaudoti siekiant pasisavinti išteklius, perduoti netikrą informaciją arba organizuoti telefoninius sukčiavimus, o tai griauna pasitikėjimą ir sąžiningumą tarpusavio santykiuose.

Dirbtiniu intelektu patobulintos sukčiavimo atakos

Dirbtinio intelekto padedamos sukčiavimo atakos visapusiškai išnaudoja dirbtinį intelektą kuriant daugiau suklastotų el. laiškų, kurie yra unikalūs ir sunkiai iššifruojami. Tokio pobūdžio ataka leidžia užpuolikams siųsti apgaulingus pranešimus konkretiems asmenims pagal tokius duomenis, kaip amžius, lytis ir kiti asmeniniai požymiai, kuriuos galima surinkti iš duomenų analizės.

Automatizuota socialinė inžinerija

Keliose socialinės inžinerijos atakose naudojamas dirbtinis intelektas, kuris apima mašininį mokymąsi, kad būtų pasiekta toliau nurodytų tikslų:

Analizuoti socialinėje žiniasklaidoje paskelbtus duomenis, atrinkti atakų taikinius ir kurti pranešimus, kurie išnaudoja psichologines spragas. Kognityviniai veikimo metodai yra universalūs ta prasme, kad jais galima priversti žmogų imtis veiksmų, apgauti naudotojus ir gauti slaptos informacijos.

Dirbtinio intelekto grėsmių mažinimas: Saugumo auditas

Rekomendacijos ir geriausia praktika kibernetinio saugumo specialistams.

Nuolatinė stebėsena ir analizė

Saugumo specialistai turi pasitelkti tinkamas priemones, skirtas tokioms grėsmėms, susijusioms su dirbtiniu intelektu grindžiamomis sistemomis, aptikti realiuoju laiku apdorojant duomenis. Nuosekliai stebėdamos tinklo srautą, sistemų žurnalus ir naudotojų veiklą, organizacijos galės nustatyti elgseną, kuri gali būti potencialūs dirbtinio intelekto atakų indikatoriai.

Didesnis informuotumas apie saugumą

Siekiant užkirsti kelią dirbtiniu intelektu grindžiamoms atakoms, labai svarbu užtikrinti, kad darbuotojai suprastų dirbtinio intelekto keliamą riziką ir tinkamas kibernetinio saugumo priemones. Kognityvinio saugumo sąmoningumo mokymo koncepcijos apima sukčiavimo (angl. phishing) vertinimą ir nustatymą, tokių dalykų, kaip gaunami el. laiškai ir nuorodos, vertinimą ir žinojimą, kaip pranešti apie keistus dalykus.

Prisitaikančios saugumo priemonės

Dirbtiniu intelektu ir mašininiu mokymusi pagrįstas prisitaikantis saugumas leidžia organizacijoms pritaikyti saugumo priemones pagal esamas ir būsimas grėsmes bei riziką. Prisitaikantys saugumo sprendimai reiškia gebėjimą analizuoti kibernetinių atakų modelius, koreguoti saugumo priemones ir kontrolę bei dinamiškai apsisaugoti nuo kylančių grėsmių be žmogaus įsikišimo arba beveik be jo įsikišimo.

Bendradarbiavimas ir dalijimasis informacija

Dalijimasis informacija yra svarbus kibernetinio saugumo veiksnys, ir tai turėtų būti daroma su kitais šios srities specialistais dėl kylančių dirbtinio intelekto grėsmių. Taip įvairios organizacijos gali praturtinti gynybos problemų ir atsako į jas supratimą, kartu gerinant gynybos valdymą dėl atakų pasekmių.

Etiškas dirbtinio intelekto kūrimas ir reguliavimas

Labai svarbu išlaikyti tinkamą etinį požiūrį į dirbtinio intelekto vystymą ir siekti tinkamo reguliavimo bei su dirbtiniu intelektu susijusių potencialiai pavojingų grėsmių valdymo. Taip pat siūloma, kad kibernetinio saugumo darbuotojai skatintų besiformuojančias dirbtinio intelekto technologijas atviriau, atsakingiau ir teisingiau, kad būtų išvengta galimybės priešininkams manipuliuoti ir piktnaudžiauti.

Apibendrinimas

Kadangi dirbtinio intelekto technologijos vis dažniau naudojamos kibernetinio saugumo srityje, kibernetinio saugumo sektoriaus atstovai turi būti imlesni pokyčiams ir skirti daugiau dėmesio grėsmėms, kurios kyla kartu su dirbtiniu intelektu kibernetinio saugumo srityje. Suvokdami dirbtinio intelekto keliamų pavojų tipus, taikydami sėkmingas gynybos priemones ir darydami įtaką pageidaujamai dirbtinio intelekto praktikai, kibernetinio saugumo specialistai gali apsaugoti organizacijų informaciją, IT sistemas ir vertybes nuo naujų grėsmių atmainų.

Kadangi dirbtinio intelekto ir kibernetinio saugumo tematika vystosi ir tampa vis labiau susipynusi, tampa naudinga ir iš tiesų būtina išlikti aktualiems, reaguoti ir bendradarbiauti, kad būtų galima veiksmingai reaguoti į dirbtinio intelekto plėtros keliamas grėsmes. Tik tinkamai pritaikius šiuos principus ir kibernetinio saugumo specialistams veiksmingai naudojant dirbtinio intelekto technologijas, galima išsaugoti informacinių technologijų aplinkos neliečiamybę ir galimybes pasauliniu mastu.

Parengėme jums dažniausiai užduodamus su šia tema susijusius klausimus ir atsakymus į juos

Kokios yra naujausios dirbtinio intelekto grėsmės kibernetiniam saugumui?

Naujausios dirbtinio intelekto grėsmės kibernetinio saugumo srityje apima pažangias sukčiavimo kampanijas, balso klonavimą, gilumines klastotes ir užsienio kenkėjišką įtaką. Dirbtinio intelekto valdomos atakos taip pat gali apimti sudėtingą spear phishing, nulinės dienos atakas ir dirbtinio intelekto sukurtų kenkėjiškų programų naudojimą siekiant išvengti aptikimo. Be to, dirbtinis intelektas gali būti naudojamas įtikinamesnėms ir tikslingesnėms atakoms kurti, todėl jas sunkiau nustatyti ir sušvelninti.

Kaip dirbtinis intelektas gali būti piktavališkai naudojamas kibernetinėse atakose?

Dirbtinis intelektas gali būti piktavališkai naudojamas kibernetinėse atakose pasitelkiant mašininio mokymosi algoritmus, kad būtų automatizuotos ir patobulintos tradicinių atakų galimybės. Tai apima:

• Phishing ir socialinę inžineriją: Dirbtinio intelekto sukurti el. laiškai ir pranešimai gali būti sukurti taip, kad įtikinamai apsimestų patikimais šaltiniais, todėl aukos gali būti veiksmingiau apgaunamos.
• Kenkėjiškos programos ir išpirkos reikalaujančios programos: Dirbtinis intelektas gali būti naudojamas sudėtingoms kenkėjiškoms programoms, kurios prisitaiko ir vystosi, kad būtų išvengta aptikimo, ir išpirkos reikalaujančių programų atakoms optimizuoti, kad jos būtų maksimaliai paveikios.
• Giluminės klastotės ir balso klonavimas: Dirbtinis intelektas: Dirbtinio intelekto pagrindu veikianti „deepfake” technologija gali būti naudojama įtikinamoms garso ir vaizdo įrašų imitacijoms kurti, todėl sukčiai ir atakos gali būti įtikinamesnės.
• Tinklo anomalijų aptikimo išvengimas: Dirbtinio intelekto algoritmai gali būti naudojami įsilaužimo aptikimo sistemoms apeiti imituojant įprastus tinklo srauto modelius.
• Automatinės atakos: Dirbtinis intelektas gali automatizuoti atakas, todėl jos tampa greitesnės, tikslingesnės ir sunkiau aptinkamos.

Kokios dirbtinio intelekto pasekmės duomenų privatumui ir saugumui?

Dirbtinio intelekto poveikis duomenų privatumui ir saugumui:

• Duomenų saugumo pažeidimai: Dirbtinio intelekto sistemos gali rinkti ir apdoroti didelius asmens duomenų kiekius, todėl didėja neteisėtos prieigos ir duomenų saugumo pažeidimų rizika.
• Biometriniai duomenys: Dirbtinio intelekto valdomas veido atpažinimas ir kitos biometrinės technologijos gali pažeisti asmens privatumą ir rinkti slaptus, tik asmenims būdingus duomenis.
• Neskaidrus sprendimų priėmimas: Dirbtinio intelekto algoritmai gali priimti sprendimus, turinčius įtakos žmonių gyvenimui, be skaidraus pagrindimo, todėl atsekami.
• Įtvirtintas šališkumas: Dirbtinis intelektas gali įtvirtinti esamą šališkumą jam pateiktuose duomenyse, dėl to gali atsirasti diskriminacinių rezultatų ir privatumo pažeidimų.
• Duomenų saugumas: Dirbtinio intelekto sistemoms reikalingi dideli duomenų rinkiniai, todėl jos tampa patraukliais kibernetinių grėsmių taikiniais, padidėja pažeidimų, galinčių pakenkti asmens privatumui, rizika.

Kaip organizacijos gali apsisaugoti nuo dirbtinio intelekto valdomų grėsmių?

Organizacijos gali apsisaugoti nuo dirbtinio intelekto valdomų grėsmių diegdamos dirbtinio intelekto valdomas saugumo priemones, taikydamos daugiasluoksnį saugumo požiūrį, naudodamos dirbtinio intelekto valdomas autentifikavimo ir autorizavimo kontrolės priemones, mokydamos darbuotojus, nuolat informuodamos apie naujausias grėsmes ir rengdamos išsamius reagavimo į incidentus planus.

Kokių etinių klausimų kyla dėl dirbtinio intelekto naudojimo kibernetinio saugumo srityje?

Dirbtiniu intelektu grindžiamo kibernetinio saugumo etiniai aspektai apima duomenų privatumo ir stebėjimo problemas, diskriminacinius rezultatus, atskaitomybę ir skaidrumą. Dirbtinio intelekto algoritmai gali įtvirtinti šališkumą, o neskaidrūs sprendimų priėmimo procesai trukdo atskaitomybei. Be to, dirbtinio intelekto valdomos priemonės gali lemti darbo vietų perkėlimą ir kelti klausimų dėl atsakomybės ir skaidrumo jas naudojant.

Ką turėtų daryti kibernetinio saugumo specialistai, kad būtų apsaugoti nuo dirbtinio intelekto grėsmių

Kibernetinio saugumo specialistai turėtų neatsilikti nuo dirbtinio intelekto grėsmių, nuolat mokydamiesi ir prisitaikydami prie besivystančių dirbtinio intelekto technologijų, užtikrindami etišką dirbtinio intelekto naudojimą ir integruodami dirbtinio intelekto valdomas priemones, kad pagerintų grėsmių aptikimą ir reagavimą į jas. Jie taip pat turėtų skirti dėmesio naudotojų švietimui, įgyvendinti patikimas saugumo priemones ir nuolat atnaujinti informaciją apie kylančias grėsmes ir sprendimus.