Planning van incidentrespons met behulp van kunstmatige intelligentie

Met de snelle vooruitgang van kunstmatige intelligentie is er een aanzienlijke kans op mislukking. Er is geen technologische ontwikkeling zonder mislukking, alleen moet de uitkomst van de mislukking niet rampzalig zijn. Mislukkingen op het gebied van kunstmatige intelligentie kunnen te maken hebben met veiligheid, privacyschendingen of gebrek aan transparantie en verantwoording. De bedrijven moeten voorbereid zijn om te reageren op massale mislukkingen die juridische hulp met zich mee kunnen brengen.

Incidentdatabases met kunstmatige intelligentie bieden inzicht in de verschillende incidenten die zich hebben voorgedaan en het belang van het bijwerken van de gegevens. Kunstmatige intelligentie storingen kunnen leiden tot enorme financiële verliezen en ook de reputatie van het bedrijf schaden. Hier komen de incidentbestrijdingsplannen voor kunstmatige intelligentie te hulp. De incident response plannen zijn nodig omdat kunstmatige intelligentie verschilt van andere traditionele software.

De invoergegevens waarop de kunstmatige intelligentie werkt zijn historische gegevens, dus ze moeten voortdurend worden bijgewerkt met de tijd. De complexiteit van kunstmatige intelligentie, met name systemen waarbij gebruik wordt gemaakt van generatieve kunstmatige intelligentie of deep learning, heeft veel onderling verbonden knooppunten, waardoor het moeilijk is om vast te stellen waar de fout is opgetreden. Kleine onnauwkeurigheden in het systeem kunnen leiden tot massale storingen die de mensheid treffen.

Incidentbestrijdingsplannen voor kunstmatige intelligentie moeten geavanceerde cyberbeveiligingsmaatregelen nemen die verder gaan dan de traditionele cyberbeveiligingsmaatregelen die voornamelijk worden genomen voor specifieke bedreigingen zoals datalekken.

Hier zijn een paar stappen die kunnen worden gevolgd voor incidentrespons met kunstmatige intelligentie:

Voorbereiding

• Voor een specifieke incidentrespons moeten bepaalde beleidsregels en procedures worden gevolgd. De respons moet het begrip en de bedreiging die het veroorzaakte definiëren, evenals de rollen en verantwoordelijkheden die hiervoor worden genomen.
• Neem de gebeurtenis en de fout op die leidde tot het ontstaan van deze bedreiging, evenals het resultaat van de externe aanval.
• Frame beleid en procedures betrekken de storing in alle stadia van het model of systeem levenscyclus.
• Initieer training in de organisatie om het beleid uit te voeren om mensen bewust te maken van het incident.

Identificatie

• Volg de industriestandaarden om het incident te detecteren.
• Monitor de kunstmatige intelligentieplatforms om de schade te achterhalen die de kunstmatige intelligentie kan veroorzaken.
• Zoek feedback van consumenten of organisaties die het platform gebruiken.

Insluiting

• Neem stappen om de directe schade te beperken, pauzeer de activiteiten en zoek naar back-up om de situatie aan te pakken.
• Volg procedurele aanwijzingen om het incident te evalueren, anders kan het ernstige schade veroorzaken.
• Probeer de door technici geïdentificeerde technische problemen op te lossen om de schade te beperken.

Uitroeiing

• Verwijder het systeem dat het incident heeft veroorzaakt en voer geen upgrades uit in het systeem totdat het is geëvalueerd en er feedback is gegeven dat er zich in de toekomst geen incidenten meer zullen voordoen met het systeem.
• Voer gedocumenteerde tests uit op het herziene of vervangen systeem, vooral op de systemen die tot het incident hebben geleid.

Herstel

• Het herziene systeem moet worden gehard voordat het wordt ingezet.
• Benchmark het vervangen systeem en de output voordat verdere ontwikkeling of upgrade wordt uitgevoerd.

Een van de beste manieren om schade als gevolg van kunstmatige intelligentie te beperken, is om interdisciplinaire teams in de organisatie op te nemen. Risicomanagers kunnen een belangrijke rol spelen bij het coördineren van de technologen en juridische professionals die ons kunnen helpen om dergelijke verliezen te beperken.