Планиране на реакция при инциденти с помощта на изкуствен интелект

С бързия напредък на изкуствения интелект съществува значителна вероятност от провал. Няма технологично развитие без провал, само че резултатът от провала не трябва да е катастрофален. Неуспехите при изкуствения интелект могат да се групират въз основа на сигурността, нарушаването на неприкосновеността на личния живот или липсата на прозрачност и отчетност. Дружествата трябва да са готови да реагират на масови провали, които могат да включват правна помощ.

Базите данни за инциденти с изкуствен интелект дават представа за различните инциденти, които са се случили, и за значението на актуализирането на данните. Неуспехите в областта на изкуствения интелект могат да причинят огромни финансови загуби, както и да навредят на репутацията на компанията. Тук на помощ идват плановете за реакция при инциденти с изкуствен интелект. Плановете за реакция при инциденти са необходими, тъй като изкуственият интелект се различава от другия традиционен софтуер.

Входните данни, върху които работи изкуственият интелект, са исторически данни, така че те трябва постоянно да се актуализират във времето. Сложността на изкуствения интелект, особено на системите, които включват генеративен изкуствен интелект или дълбоко обучение, има много взаимосвързани възли, което затруднява определянето на мястото на грешката. Незначителни неточности в системата могат да доведат до масови сривове, засягащи човечеството.

В плановете за реакция при инциденти с изкуствен интелект трябва да се вземат усъвършенствани мерки за киберсигурност, които са извън традиционните мерки за киберсигурност, които се предприемат предимно за конкретни заплахи, като например нарушаване на сигурността на данните.

Ето няколко стъпки, които могат да бъдат следвани за реагиране при инциденти с изкуствен интелект:

Подготовка

• Трябва да се следват определени политики и процедури, за да се реагира на конкретен инцидент. Реакцията трябва да дефинира понятието и заплахата, която то е причинило, както и ролите и отговорностите, взети за него.
• Включете събитието и грешката, които са довели до появата на тази заплаха, както и резултата от външната атака.
• Рамковите политики и процедури включват неуспеха на всички етапи от жизнения цикъл на модела или системата.
• Инициирайте обучение в организацията за работа и изпълнение на политиките, за да информирате хората за инцидента.

Идентификация

• Следвайте индустриалните стандарти за откриване на инцидента.
• Наблюдавайте платформите за изкуствен интелект, за да откриете щетите, които изкуственият интелект може да причини.
• Потърсете обратна връзка от потребителите или организациите, които го експлоатират.

Ограничаване

• Предприемете стъпки за справяне с непосредствените щети, след което спрете операциите и потърсете резервен вариант за справяне със ситуацията.
• Следвайте процедурните указания за оценка на инцидента, в противен случай той може да причини сериозни щети.
• Опитайте се да поправите технически, както е установено от инженерите, за да сведете до минимум вредите, причинени от него.

Изкореняване

• Премахнете системата, която е причинила инцидента, и не извършвайте никакво надграждане на системата, докато тя не бъде прегледана и не бъде предоставена обратна връзка, че в бъдеще няма да възникват други инциденти по отношение на системата.
• Извършете документирано тестване в прегледаната или заменената система, особено на тези системи, които са довели до инцидента.

Възстановяване

• Преразгледаната система трябва да бъде подсилена преди внедряване.
• Извършете сравнителен анализ на заменената система и резултатите от него, преди да извършите по-нататъшна разработка или модернизация.

Един от най-добрите начини за намаляване на щетите, причинени от изкуствения интелект, е да се включат интердисциплинарни екипи в организацията. Мениджърите по управление на риска могат да помогнат за жизненоважна роля в координацията между технолозите и правните специалисти, което може да ни помогне да намалим такива загуби.