Planificación de la respuesta a incidentes mediante inteligencia artificial

Con el rápido progreso de la inteligencia artificial, existe una importante posibilidad de fracaso. No hay desarrollo tecnológico sin fracaso, sólo que el resultado del fracaso no debe ser desastroso. Los fracasos de la inteligencia artificial pueden agruparse en torno a la seguridad, las violaciones de la privacidad o la falta de transparencia y responsabilidad. Las empresas deben estar preparadas para responder a fallos masivos que pueden implicar asistencia jurídica.

Las bases de datos de incidentes de inteligencia artificial permiten conocer los distintos incidentes ocurridos y la importancia de actualizar los datos. Los fallos de la inteligencia artificial pueden causar enormes pérdidas financieras y también perjudicar la reputación de la empresa. Aquí los planes de respuesta a incidentes de inteligencia artificial vienen al rescate. Los planes de respuesta a incidentes son necesarios ya que la inteligencia artificial es diferente de otros programas informáticos tradicionales.

Los datos de entrada con los que trabaja la inteligencia artificial son datos históricos, por lo que deben actualizarse constantemente con el tiempo. La complejidad de la inteligencia artificial, especialmente de los sistemas que implican inteligencia artificial generativa o aprendizaje profundo, tiene muchos nodos interconectados que dificultan la identificación de dónde se ha producido el error. Pequeñas imprecisiones en el sistema pueden provocar fallos masivos que afecten a la humanidad.

Los planes de respuesta a incidentes de inteligencia artificial necesitan tomar medidas de ciberseguridad avanzadas que van más allá de las medidas de ciberseguridad tradicionales que se toman principalmente para amenazas específicas como las violaciones de datos.

He aquí algunos pasos que pueden seguirse para la respuesta a incidentes de inteligencia artificial:

Preparación

• Deben seguirse ciertas políticas y procedimientos para abordar la respuesta a una incidencia específica. La respuesta debe definir el término y la amenaza que ha causado, así como las funciones y responsabilidades asumidas al respecto.
• Incluir el evento y el error que llevó a la aparición de esta amenaza, así como el resultado del ataque externo.
• Enmarcar políticas y procedimientos que impliquen el fallo en todas las etapas del ciclo de vida del modelo o sistema.
• Iniciar la formación en la organización para operar y llevar a cabo las políticas para concienciar a la gente del incidente.

Identificación

• Seguir los estándares de la industria para detectar el incidente.
• Monitorizar las plataformas de inteligencia artificial para averiguar los daños que puede causar la inteligencia artificial.
• Buscar opiniones de los consumidores o de las organizaciones que la operan.

Contención

• Tome medidas para abordar los daños inmediatos y, a continuación, detenga las operaciones y busque refuerzos para hacer frente a la situación.
• Siga las instrucciones de procedimiento para evaluar el incidente, de lo contrario podría causar graves daños.
• Intente solucionar los problemas técnicos identificados por los ingenieros para minimizar los daños causados.

Erradicación

• Retire el sistema que causó el incidente y no realice ninguna actualización en el sistema hasta que se revise y se proporcione información de que no se producirán más incidentes relacionados con el sistema en el futuro.
• Realice pruebas documentadas en el sistema revisado o sustituido, especialmente en los sistemas que provocaron el incidente.

Recuperación

• El sistema revisado debe endurecerse antes de su despliegue.
• Realice una evaluación comparativa del sistema sustituido y de los resultados antes de realizar cualquier otro desarrollo o actualización.

Una de las mejores maneras de mitigar los daños debidos a la inteligencia artificial es incluir equipos interdisciplinarios en la organización. Los gestores de riesgos pueden ayudar a desempeñar un papel vital en la coordinación entre los tecnólogos y los profesionales jurídicos que pueden ayudarnos a mitigar dichas pérdidas.