Pianificazione della risposta agli incidenti con l’intelligenza artificiale

Con il rapido progresso dell’intelligenza artificiale, esiste una significativa possibilità di fallimento. Non c’è sviluppo tecnologico senza fallimento, solo che l’esito del fallimento non deve essere disastroso. I fallimenti dell’intelligenza artificiale possono riguardare la sicurezza, le violazioni della privacy o la mancanza di trasparenza e responsabilità. Le aziende devono essere pronte a rispondere a fallimenti massicci che possono comportare l’assistenza legale.

I database degli incidenti di intelligenza artificiale forniscono informazioni sui vari incidenti che si sono verificati e sull’importanza di aggiornare i dati. I guasti dell’intelligenza artificiale possono causare enormi perdite finanziarie e compromettere la reputazione dell’azienda. In questo caso vengono in soccorso i piani di risposta agli incidenti di intelligenza artificiale. I piani di risposta agli incidenti sono necessari perché l’intelligenza artificiale è diversa dagli altri software tradizionali.

I dati di input su cui lavora l’intelligenza artificiale sono dati storici, quindi devono essere costantemente aggiornati nel tempo. La complessità dell’intelligenza artificiale, in particolare dei sistemi che coinvolgono l’intelligenza artificiale generativa o l’apprendimento profondo, presenta molti nodi interconnessi che rendono difficile identificare dove si è verificato l’errore. Piccole imprecisioni nel sistema possono portare a guasti massicci che si ripercuotono sull’umanità.

I piani di risposta agli incidenti di intelligenza artificiale devono adottare misure di cybersecurity avanzate che vanno oltre le misure di cybersecurity tradizionali, adottate principalmente per minacce specifiche come le violazioni dei dati.

Ecco alcune fasi che possono essere seguite per la risposta agli incidenti di intelligenza artificiale:

Preparazione

• È necessario seguire determinate politiche e procedure per affrontare una risposta ad un incidente specifico. La risposta deve definire il termine e la minaccia che ha causato, nonché i ruoli e le responsabilità assunti per questo.
• Includere l’evento e l’errore che ha portato al verificarsi di questa minaccia, nonché il risultato dell’attacco esterno.
• Inquadrare le politiche e le procedure che coinvolgono il fallimento in tutte le fasi del modello o del ciclo di vita del sistema.
• Avviare la formazione all’interno dell’organizzazione per far funzionare ed eseguire le politiche per sensibilizzare le persone sull’incidente.

Identificazione

• Seguire gli standard del settore per rilevare l’incidente.
• Monitorare le piattaforme di intelligenza artificiale per scoprire i danni che l’intelligenza artificiale può causare.
• Cercare il feedback dei consumatori o delle organizzazioni che la gestiscono.

Contenimento

• Adottare misure per affrontare il danno immediato, quindi sospendere le operazioni e cercare rinforzi per affrontare la situazione.
• Seguire le indicazioni procedurali per valutare l’incidente, altrimenti potrebbe causare gravi danni.
• Cercare di risolvere i problemi tecnici identificati dai tecnici per ridurre al minimo i danni causati.

Sradicamento

• Rimuovete il sistema che ha causato l’incidente e non eseguite alcun aggiornamento del sistema finché non viene esaminato e non viene fornito un feedback che attesti che non si verificheranno altri incidenti in futuro.
• Eseguire test documentati sui sistemi revisionati o sostituiti, in particolare su quelli che hanno causato l’incidente.

Recupero

• Il sistema rivisto deve essere rafforzato prima della distribuzione.
• Eseguire un benchmark del sistema sostituito e dei risultati prima di eseguire ulteriori sviluppi o aggiornamenti.

Uno dei modi migliori per mitigare i danni dovuti all’intelligenza artificiale è quello di includere team interdisciplinari nell’organizzazione. I Risk Manager possono svolgere un ruolo fondamentale nel coordinare i tecnologi e i professionisti legali che possono aiutarci a mitigare tali perdite.