Reagavimo į incidentus planavimas naudojant dirbtinį intelektą

Sparčiai tobulėjant dirbtiniam intelektui, yra didelė nesėkmių tikimybė. Nėra technologijų plėtros be nesėkmių, tik nesėkmės rezultatas neturėtų būti katastrofiškas. Dirbtinio intelekto nesėkmės gali grupuotis pagal saugumą, privatumo pažeidimus arba skaidrumo ir atskaitomybės trūkumą. Bendrovės turi būti pasirengusios reaguoti į masines nesėkmes, kurioms gali prireikti teisinės pagalbos.

Dirbtinio intelekto incidentų duomenų bazės suteikia informacijos apie įvairius įvykusius incidentus ir duomenų atnaujinimo svarbą. Dirbtinio intelekto nesėkmės gali sukelti didžiulių finansinių nuostolių, taip pat pakenkti įmonės reputacijai. Čia į pagalbą ateina reagavimo į dirbtinio intelekto incidentus planai. Reagavimo į incidentus planai yra būtini, nes dirbtinis intelektas skiriasi nuo kitos tradicinės programinės įrangos.

Įvesties duomenys, kuriais remdamasis dirba dirbtinis intelektas, yra istoriniai duomenys, todėl jie turi būti nuolat atnaujinami laikui bėgant. Dėl dirbtinio intelekto sudėtingumo, ypač sistemų, kuriose naudojamas generatyvinis dirbtinis intelektas arba gilusis mokymasis, yra daug tarpusavyje susijusių mazgų, todėl sunku nustatyti, kur įvyko klaida. Nedideli netikslumai sistemoje gali sukelti didžiulius gedimus, turinčius įtakos žmonijai.

Dirbtinio intelekto incidentų likvidavimo planuose reikia imtis pažangių kibernetinio saugumo priemonių, kurios pranoksta tradicines kibernetinio saugumo priemones, pirmiausia taikomas konkrečioms grėsmėms, pavyzdžiui, duomenų saugumo pažeidimams.

Štai keletas veiksmų, kurių galima imtis reaguojant į dirbtinio intelekto incidentus:

Pasirengimas

• Reaguojant į konkretų incidentą reikia laikytis tam tikros politikos ir procedūrų. Reaguojant turi būti apibrėžtas terminas ir jo sukelta grėsmė, taip pat vaidmenys ir atsakomybė, kurių imtasi dėl jos.
• Įtraukite įvykį ir klaidą, dėl kurios kilo ši grėsmė, taip pat išorinės atakos rezultatą.
• Rėmimo politika ir procedūros apima gedimą visuose modelio ar sistemos gyvavimo ciklo etapuose.
• Inicijuokite mokymus organizacijoje, kaip veikti ir vykdyti politiką, kad žmonės žinotų apie incidentą.

Identifikavimas

• Laikykitės pramonės standartų, kad aptiktumėte incidentą.
• Stebėkite dirbtinio intelekto platformas, kad išsiaiškintumėte, kokią žalą gali padaryti dirbtinis intelektas.
• Ieškokite atsiliepimų iš vartotojų arba jį eksploatuojančių organizacijų.

Sulaikymas

• Imkitės veiksmų, kad pašalintumėte neatidėliotiną žalą, tada pristabdykite operacijas ir ieškokite atsarginių variantų situacijai spręsti.
• Laikykitės procedūrinių nurodymų, kad įvertintumėte incidentą, antraip jis gali padaryti didelės žalos.
• Pasistenkite techniškai sutvarkyti, kaip nustatė inžinieriai, kad sumažintumėte jo daromą žalą.

Šalinimas

• Pašalinkite incidentą sukėlusią sistemą ir neatlikite jokių sistemos atnaujinimų, kol ji nebus peržiūrėta ir nebus gautas grįžtamasis ryšys, kad ateityje daugiau incidentų, susijusių su šia sistema, nepasikartos.
• Atlikite dokumentais pagrįstus peržiūrėtos ar pakeistos sistemos bandymus, ypač tų sistemų, dėl kurių įvyko incidentas.

Atkūrimas

• Peržiūrėta sistema prieš diegimą turėtų būti sustiprinta.
• Prieš atlikdami tolesnę plėtrą ar atnaujinimą, atlikite pakeistos sistemos lyginamąją analizę ir išvesties analizę.

Vienas geriausių būdų sumažinti dirbtinio intelekto daromą žalą – įtraukti į organizaciją tarpdisciplinines komandas. Rizikos valdytojai gali padėti atlikti svarbų vaidmenį koordinuojant technologų ir teisės specialistų veiklą, kuri gali padėti sumažinti tokius nuostolius.