Načrtovanje odziva na incidente z uporabo umetne inteligence

Ob hitrem napredku umetne inteligence obstaja velika možnost neuspeha. Tehnološkega razvoja ni brez neuspeha, le da rezultat neuspeha ne sme biti katastrofalen. Neuspehi umetne inteligence se lahko grupirajo na podlagi varnosti, kršitev zasebnosti ali pomanjkanja preglednosti in odgovornosti. Podjetja morajo biti pripravljena na odziv na množične neuspehe, ki lahko vključujejo pravno pomoč.

Podatkovne zbirke incidentov umetne inteligence zagotavljajo vpogled v različne incidente, ki so se zgodili, in pomen posodabljanja podatkov. Neuspehi umetne inteligence lahko povzročijo velike finančne izgube in tudi škodujejo ugledu podjetja. Tu priskočijo na pomoč načrti odzivanja na incidente umetne inteligence. Načrti odzivanja na incidente so potrebni, ker se umetna inteligenca razlikuje od druge tradicionalne programske opreme.

Vhodni podatki, na podlagi katerih deluje umetna inteligenca, so zgodovinski podatki, zato jih je treba nenehno posodabljati s časom. Kompleksnost umetne inteligence, zlasti sistemov, ki vključujejo generativno umetno inteligenco ali globoko učenje, ima veliko medsebojno povezanih vozlišč, zaradi česar je težko ugotoviti, kje je prišlo do napake. Manjše netočnosti v sistemu lahko privedejo do velikih napak, ki vplivajo na človeštvo.

Načrti odzivanja na incidente umetne inteligence morajo sprejeti napredne ukrepe kibernetske varnosti, ki presegajo tradicionalne ukrepe kibernetske varnosti, ki se sprejemajo predvsem za posebne grožnje, kot so kršitve varnosti podatkov.

V nadaljevanju je navedenih nekaj korakov, ki jih je mogoče upoštevati pri odzivanju na incidente z umetno inteligenco:

Priprava

• Pri odzivanju na določene incidente je treba upoštevati določene politike in postopke. V odzivu je treba opredeliti pojem in grožnjo, ki jo je povzročil, ter vloge in odgovornosti, prevzete zanj.
• Vključite dogodek in napako, ki je privedla do pojava te grožnje, ter rezultat zunanjega napada.
• Okvirne politike in postopki vključujejo napako na vseh stopnjah življenjskega cikla modela ali sistema.
• V organizaciji sprožite usposabljanje za delovanje in izvajanje politik, da se ljudje seznanijo z incidentom.

Prepoznavanje

• Upoštevajte industrijske standarde za odkrivanje incidenta.
• Spremljajte platforme umetne inteligence, da ugotovite škodo, ki jo lahko povzroči umetna inteligenca.
• Poiščite povratne informacije od potrošnikov ali organizacij, ki jo upravljajo.

Zadrževanje

• Sprejmite ukrepe za odpravo takojšnje škode, nato pa prekinite delovanje in poiščite rezervno rešitev za reševanje razmer.
• Upoštevajte postopkovna navodila za oceno incidenta, sicer lahko povzroči resno škodo.
• Poskusite tehnično popraviti, kot so ugotovili inženirji, da bi zmanjšali škodo, ki jo povzroči.

Odpravljanje

• Odstranite sistem, ki je povzročil incident, in ne izvajajte nadgradnje sistema, dokler ga ne pregledate in pridobite povratne informacije, da v prihodnosti ne bo več incidentov v zvezi s sistemom.
• Izvedite dokumentirano testiranje pregledanega ali zamenjanega sistema, zlasti tistih sistemov, ki so povzročili incident.

Obnovitev

• Pred uvedbo je treba revidirani sistem okrepiti.
• Pred nadaljnjim razvojem ali nadgradnjo izvedite primerjalno analizo nadomeščenega sistema in rezultatov.

Eden najboljših načinov za zmanjšanje škode zaradi umetne inteligence je vključitev interdisciplinarnih skupin v organizacijo. Vodje tveganj lahko pomagajo pri ključni vlogi pri usklajevanju med tehnologi in pravnimi strokovnjaki, ki nam lahko pomagajo ublažiti takšne izgube.