O que todos os profissionais da cibersegurança precisam de saber

A inteligência artificial (IA) pode ser considerada simultaneamente uma arma única e uma ameaça crescente no contexto do combate moderno a um adversário no mundo em rápida mutação das ciberameaças. A este respeito, podem ser feitas duas observações divergentes. As tecnologias de inteligência artificial oferecem um imenso potencial para melhorar as defesas de cibersegurança em ambientes digitais, para análises baseadas em conteúdos e para cenários avançados de deteção e prevenção de ameaças que vão muito além do que as ferramentas tradicionais de segurança informática conseguem realizar. Vamos conhecer as principais ameaças de inteligência artificial que cada cibersegurança tem de enfrentar, ajudando os interessados a familiarizarem-se com as potenciais ameaças de inteligência artificial e a protegerem-se contra elas.

O impacto da inteligência artificial na cibersegurança

Muito se tem dito e escrito sobre o impacto da inteligência artificial na cibersegurança. No entanto, é ainda um domínio jovem e pode ser objeto de investigação futura, tanto do ponto de vista tecnológico como social.

A aprendizagem automática e a inteligência artificial têm sido amplamente integradas nas actividades de cibersegurança com vantagens como a identificação de ameaças, o reconhecimento de sinais e de padrões conspícuos no equipamento. As novas soluções e aplicações baseadas na inteligência artificial ajudam os especialistas em cibersegurança a efetuar cálculos e descobertas maciças de potenciais ameaças e a reagir atempadamente às violações.

No entanto, com o rápido crescimento da utilização da inteligência artificial, verifica-se também uma tendência crescente para a utilização de tecnologias de inteligência artificial para planear e executar ataques novos e mais complicados, que não são contrariados pelos sistemas de segurança convencionais. Estas são as ameaças da inteligência artificial e constituem um grande desafio para as organizações de todo o mundo, daí a necessidade de continuar a estar atento e criar medidas proactivas para a cibersegurança.

Compreender as ameaças da inteligência artificial

Aprendizagem automática contraditória

A aprendizagem automática adversária é uma prática que visa subverter as operações dos sistemas e modelos de inteligência artificial, alimentando-os com estímulos especificamente concebidos para enganar ou ocultar. Isto porque os piratas informáticos podem facilmente penetrar no algoritmo de inteligência artificial e começar a alterar os resultados ou mesmo optar por falsos positivos, negativos ou infiltração de medidas de segurança.

Malware alimentado por inteligência artificial

Uma das novas tendências entre os cibercriminosos é a utilização de tecnologias de inteligência artificial para criar malware que pode aprender e melhorar em termos de funcionalidade e formas de penetrar nos sistemas informáticos de cada vez que interage com eles e com as medidas de segurança aplicadas para os proteger. O malware inteligente é autossuficiente, não requerendo qualquer intervenção dos seus criadores, e é capaz de reconhecer fraquezas, evitar a deteção e proliferar a alta velocidade no ambiente de rede, o que é perigoso para as informações e o material das organizações.

Deepfakes e meios de comunicação manipulados

A tecnologia de criação de deepfakes inclui áudio, vídeo e imagens falsos cuja síntese é conseguida através de algoritmos de inteligência artificial. Podem explorar os deepfakes para desviar recursos, transmitir informações falsas ou organizar fraudes telefónicas, o que destrói a confiança e a honestidade nas interacções.

Ataques de phishing reforçados por inteligência artificial

O ataque de phishing assistido por inteligência artificial explora totalmente a inteligência artificial no desenvolvimento de mais e-mails falsos que são únicos e difíceis de decifrar. Este tipo de ataque permite que os atacantes enviem mensagens de phishing a indivíduos específicos com base em pormenores como a idade, o sexo e outros atributos pessoais que podem ser recolhidos a partir da análise de dados.

Engenharia social automatizada

Vários ataques de engenharia social utilizam inteligência artificial que envolve aprendizagem automática para conseguir o seguinte:

Analisar os dados publicados nas redes sociais, selecionar alvos de ataques e criar mensagens que exercem lacunas psicológicas. Os métodos operacionais cognitivos são versáteis no sentido em que são capazes de forçar a ação humana, enganar os utilizadores e obter informações sensíveis.

Atenuar as ameaças da inteligência artificial: Auditoria de segurança

Recomendações e melhores práticas para profissionais de cibersegurança.

Monitorização e análise contínuas

Os profissionais de segurança devem utilizar ferramentas adequadas para detetar essas ameaças associadas a sistemas baseados em inteligência artificial no processamento de dados em tempo real. Através de uma vigilância constante do tráfego de rede, dos registos dos sistemas e das actividades dos utilizadores, as organizações estarão em condições de determinar comportamentos que possam ser potenciais indicadores de ataques de inteligência artificial.

Maior sensibilização para a segurança

Assegurar que os funcionários compreendem os riscos que a inteligência artificial representa e as medidas de cibersegurança adequadas continua a ser fundamental para evitar a ocorrência de ataques impulsionados pela inteligência artificial. Os conceitos de formação de sensibilização cognitiva para a segurança incluem a avaliação e identificação do que é phishing, a avaliação de mensagens de correio eletrónico e hiperligações recebidas e o conhecimento de como comunicar coisas estranhas.

Medidas de segurança adaptativas

A segurança adaptativa baseada na inteligência artificial e na aprendizagem automática permite que as organizações adaptem as medidas de segurança de acordo com as ameaças e os riscos actuais e futuros. As soluções de segurança adaptativa referem-se à capacidade de analisar padrões de ciberataques, ajustar medidas de segurança e controlo e defender-se contra ameaças emergentes de forma dinâmica com pouca ou nenhuma intervenção humana.

Colaboração e partilha de informações

A partilha de informação é um fator importante no âmbito da Cibersegurança e deve ser feita com outros profissionais da área devido às ameaças emergentes da inteligência artificial. Desta forma, várias organizações podem enriquecer a compreensão dos problemas de defesa e de resposta, para além de melhorar a gestão da defesa das consequências dos ataques.

Desenvolvimento e regulamentação éticos da inteligência artificial

É fundamental manter uma perspetiva ética adequada sobre o desenvolvimento da inteligência artificial e promover uma regulamentação e um tratamento adequados das ameaças potencialmente perigosas relacionadas com a inteligência artificial. Sugeriu também que o pessoal da cibersegurança promova as tecnologias emergentes de inteligência artificial com mais abertura, responsabilidade e justiça para evitar a suscetibilidade de manipulação e abuso por parte dos adversários.

Resumo

Uma vez que a utilização de tecnologias de inteligência artificial está a tornar-se cada vez mais comum na esfera da cibersegurança, os representantes da indústria da cibersegurança têm de ser mais receptivos às mudanças e prestar mais atenção às ameaças que a inteligência artificial representa na esfera da cibersegurança. Através da compreensão do tipo de perigos que a inteligência artificial apresenta, da aplicação de medidas de defesa bem sucedidas e do impacto de práticas desejáveis de inteligência artificial, os especialistas em cibersegurança podem proteger as informações, os sistemas de TI e os valores das organizações contra novas variedades de ameaças.

Com a evolução do tema e a sua crescente interligação com a inteligência artificial e a cibersegurança, torna-se útil e, de facto, imperativo manter a relevância, a capacidade de resposta e a colaboração, a fim de responder eficazmente às ameaças colocadas pelo desenvolvimento da inteligência artificial. Só com a adoção adequada destes princípios e com a utilização eficaz das tecnologias de inteligência artificial por parte dos especialistas em cibersegurança é possível preservar a integridade e as capacidades dos ambientes informáticos a nível global.

Preparámos para si as perguntas mais frequentes sobre este tema e as respectivas respostas

Quais são as mais recentes ameaças da inteligência artificial na cibersegurança?

As mais recentes ameaças de inteligência artificial na cibersegurança incluem campanhas avançadas de phishing, clonagem de voz, deepfakes e influência maligna estrangeira. Os ataques com inteligência artificial também podem envolver spear phishing sofisticado, ataques de dia zero e a utilização de malware gerado por inteligência artificial para evitar a deteção. Além disso, a inteligência artificial pode ser utilizada para criar ataques mais convincentes e direccionados, tornando-os mais difíceis de identificar e mitigar.

Como pode a inteligência artificial ser utilizada de forma maliciosa em ciberataques?

A inteligência artificial pode ser utilizada de forma maliciosa em ciberataques, tirando partido de algoritmos de aprendizagem automática para automatizar e melhorar as capacidades dos ataques tradicionais. Isto inclui:

• Phishing e Engenharia Social: Os e-mails e mensagens gerados por inteligência artificial podem ser criados para se fazerem passar por fontes fiáveis, tornando-os mais eficazes para enganar as vítimas.
• Malware e Ransomware: A inteligência artificial pode ser utilizada para criar malware sofisticado que se adapta e evolui para evitar a deteção e para otimizar os ataques de ransomware para obter o máximo impacto.
• Deepfakes e clonagem de voz: A tecnologia deepfake alimentada por inteligência artificial pode ser utilizada para criar imitações convincentes de áudio e vídeo, permitindo fraudes e ataques mais convincentes.
• Evasão da deteção de anomalias na rede: Os algoritmos de inteligência artificial podem ser utilizados para iludir os sistemas de deteção de intrusões, imitando os padrões normais de tráfego da rede.
• Ataques automatizados: A inteligência artificial pode automatizar os ataques, tornando-os mais rápidos, mais direccionados e mais difíceis de detetar.

Quais são as implicações da inteligência artificial na privacidade e segurança dos dados?

As implicações da inteligência artificial na privacidade e segurança dos dados incluem:

• Violações de dados: Os sistemas de inteligência artificial podem recolher e processar grandes quantidades de dados pessoais, aumentando o risco de acesso não autorizado e violações de dados.
• Dados biométricos: O reconhecimento facial alimentado por inteligência artificial e outras tecnologias biométricas podem invadir a privacidade pessoal, recolhendo dados sensíveis que são exclusivos dos indivíduos.
• Tomada de decisões opaca: Os algoritmos de inteligência artificial podem tomar decisões que afectam a vida das pessoas sem um raciocínio transparente e sem que haja um rastreio.
• Preconceito incorporado: A inteligência artificial pode perpetuar preconceitos existentes nos dados que lhe são fornecidos, conduzindo a resultados discriminatórios e a violações da privacidade.
• Segurança dos dados: Os sistemas de inteligência artificial requerem grandes conjuntos de dados, o que os torna alvos atraentes para ameaças cibernéticas, aumentando o risco de violações que podem comprometer a privacidade pessoal.

Como é que as organizações se podem defender contra as ameaças impulsionadas pela inteligência artificial?

As organizações podem defender-se contra as ameaças baseadas em inteligência artificial implementando ferramentas de segurança baseadas em inteligência artificial, adoptando uma abordagem de segurança em camadas, utilizando controlos de autenticação e autorização baseados em inteligência artificial, educando os funcionários, mantendo-se actualizadas sobre as ameaças mais recentes e desenvolvendo planos abrangentes de resposta a incidentes.

Que considerações éticas decorrem da utilização da inteligência artificial na cibersegurança?

As considerações éticas sobre a cibersegurança baseada na inteligência artificial incluem a privacidade dos dados e as preocupações com a vigilância, os resultados discriminatórios, a responsabilidade e a transparência. Os algoritmos de inteligência artificial podem perpetuar preconceitos e os processos opacos de tomada de decisões dificultam a responsabilização. Além disso, as ferramentas alimentadas por inteligência artificial podem levar à deslocação de postos de trabalho e levantar questões sobre a responsabilidade e a transparência na sua utilização.

O que os profissionais de cibersegurança devem fazer para se manterem protegidos das ameaças da inteligência artificial

Os profissionais de cibersegurança devem manter-se à frente das ameaças de inteligência artificial, aprendendo e adaptando-se continuamente à evolução das tecnologias de inteligência artificial, assegurando uma utilização ética da inteligência artificial e integrando ferramentas baseadas em inteligência artificial para melhorar a deteção e a resposta a ameaças. Devem também concentrar-se na formação dos utilizadores, na implementação de medidas de segurança sólidas e em manter-se actualizados sobre as ameaças e soluções emergentes.