Sophos antevê técnicas de ataque baseadas em IA e prepara deteções

20 December 2023

De momento, e de acordo com uma investigação da empresa, os atacantes estão céticos em relação à IA para o cibercrime.

A Sophos, líder global em inovação e oferta de soluções de cibersegurança como serviço, divulgou dois relatórios sobre a utilização da Inteligência Artificial (IA) no cibercrime. O primeiro demonstra como, no futuro, os impostores poderão tirar partido de tecnologias de IA Generativa como o ChatGPT para cometer fraudes em grande escala, mesmo tendo competências técnicas mínimas. No entanto, o segundo relatório concluiu que, apesar do potencial da IA, em vez de adotarem grandes modelos de linguagem (LLMs) como o ChatGPT, alguns cibercriminosos estão céticos e até preocupados com a utilização da IA nos seus ataques.

O lado negro da IA

Utilizando um modelo simples de e-commerce e ferramentas LLM como o GPT-4, a equipa Sophos X-Ops conseguiu criar um website totalmente funcional com imagens, áudio e descrições de produtos gerados por IA, bem como um login falso no Facebook e uma página de checkout falsa para roubar as credenciais de login e os detalhes dos cartões de crédito dos utilizadores. Criar e operar o website exigiu um conhecimento técnico mínimo e, utilizando a mesma ferramenta, a Sophos X-Ops foi capaz de criar, em minutos, centenas de websites semelhantes recorrendo a um botão.

"É natural – e expectável – que os criminosos se voltem para as novas tecnologias de automatização. A criação original de e-mails de spam foi um passo fundamental na tecnologia de fraude porque alterou a escala do seu espaço de manobra. As novas tecnologias de IA vão fazer o mesmo: se existir uma tecnologia que consiga criar ameaças completas e automatizadas, vão acabar por utilizá-la. Já estamos a assistir à integração de elementos de IA generativa em burlas clássicas, como textos ou fotografias gerados por IA para atrair as vítimas,” disse Ben Gelman, Senior Data Scientista da Sophos. "No entanto, parte da razão pela qual realizámos estas investigações foi para nos anteciparmos aos criminosos. Ao criar um sistema para a criação de websites fraudulentos em grande escala que é mais avançado do que as ferramentas que os criminosos utilizam atualmente, temos uma oportunidade única para analisar e nos prepararmos para esta ameaça antes que ela prolifere."

Os cibercriminosos não chegam a um acordo em relação aos GPTs

Para a investigação sobre as atitudes dos atacantes em relação à IA, a Sophos X-Ops examinou discussões relacionadas com LLM em quatro importantes fóruns da dark web. Embora a utilização de IA pelos cibercriminosos pareça estar numa fase inicial, estão a discutir o seu potencial no que diz respeito à engenharia social. A Sophos X-Ops já testemunhou a utilização de IA em golpes baseados em romance e criptomoedas.

Para além disso, a Sophos X-Ops descobriu que a maioria dos posts estava relacionada com a venda de contas ChatGPT comprometidas e "jailbreaks" – formas de contornar as proteções incorporadas nos LLMs, para que os cibercriminosos possam usá-los para fins maliciosos. A Sophos X-Ops também encontrou 10 ferramentas derivadas do ChatGPT que, segundo os seus criadores, poderiam ser utilizadas para lançar ciberataques e desenvolver malware. No entanto, os criminosos tiveram reações mistas a estas e outras aplicações maliciosas de LLMs, com muitos a expressarem a sua preocupação de poderem estar a ser enganados.

"Embora haja uma preocupação significativa com o abuso da IA e dos LLMs por parte dos cibercriminosos desde o lançamento do ChatGPT, a nossa investigação descobriu que, até agora, eles estão mais céticos do que entusiasmados. Em dois dos quatro fóruns da dark web que examinámos, encontrámos apenas 100 mensagens sobre IA. Comparemos isto com criptomoedas – encontrámos 1.000 posts sobre esse tema no mesmo período,” explicou Christopher Budd, Director, X-Ops Research da Sophos. “Vimos alguns cibercriminosos a tentar criar malware ou ferramentas de ataque utilizando LLMs, mas os resultados foram rudimentares e muitas vezes recebidos com ceticismo pelos outros utilizadores. Num caso, um player, ansioso por mostrar o potencial do ChatGPT, revelou inadvertidamente informações significativas sobre a sua verdadeira identidade. Encontrámos ainda inúmeros ‘artigos de opinião’ sobre os potenciais efeitos negativos da IA na sociedade e as implicações éticas da sua utilização. Por outras palavras, pelo menos por enquanto, parece que os cibercriminosos estão a ter os mesmos debates que nós sobre os LLMs.”

Sobre a Sophos: A Sophos é líder e inovadora mundial em soluções de cibersegurança avançadas, incluindo serviços de Deteção e Resposta Geridas (MDR, na sua sigla em inglês), serviços de resposta a incidentes e um vasto portefólio de tecnologias de segurança de endpoints, rede, email e Cloud que ajudam as empresas a defender-se de ciberataques. Sendo um dos maiores fornecedores de cibersegurança totalmente dedicados, a Sophos protege mais de 500.000 organizações e 100 milhões de consumidores a nível global de adversários ativos, ransomware, phishing, malware e outros. Os serviços e produtos da Sophos estão ligados através da Sophos Central, a sua consola de gestão baseada na Cloud, e são impulsionados pela Sophos X-Ops, a unidade de inteligência de ameaças transversal da empresa. A inteligência da Sophos X-Ops enriquece todo o Ecossistema Adaptativo de Cibersegurança da empresa, que inclui um data lake centralizado que tira partido de um rico conjunto de APIs abertas e disponíveis para clientes, parceiros, programadores e outros fornecedores de cibersegurança e tecnologias de informação. A Sophos oferece segurança-como-serviço a organizações que necessitam soluções de segurança totalmente geridas e ‘chave na mão’. Os clientes podem gerir a sua cibersegurança diretamente com a plataforma de operações de segurança da Sophos, ou recorrer a uma abordagem híbrida que complementa as suas equipas internas com serviços Sophos, incluindo threat hunting e remediação. A atividade comercial da Sophos é realizada através de parceiros revendedores e fornecedores de serviços geridos (MSPs) em todo o mundo. A empresa tem sede em Oxford, no Reino Unido. Mais informação em www.sophos.com.

Inês Barbosa

Lisbon Director at TEAM LEWIS

+351 910 939 846

Tecnologia

OPPO apresenta A5 Pro 4G & 5G: um smartphone robusto, fiável e de alto desempenho para atividades ao ar livre, jogos e entretenimento

24 April 2025

A OPPO, marca líder em inovação de dispositivos inteligentes, lançou hoje o A5 Pro 4G & 5G em Portugal, que traz durabilidade e fiabilidade elevadas à Série A da marca, apresentado resistência a água e poeira IP69/68/66 acima da sua classe, bem como certificação de r...

24 April 2025

Tecnologia

Estudo Axis Communications: Mais de 60% dos especialistas considera cibersegurança e privacidade como as questões mais críticas para o futuro da videovigilância

23 April 2025

Num contexto global caracterizado pela utilização crescente da Inteligência Artificial (IA) e pela necessidade de cumprir várias regulamentações sobre o tratamento de dados pessoais, o debate sobre a privacidade, a transparência e a ética tecnológica ganhou força, especi...

23 April 2025

Tecnologia

OPPO revela iniciativa de IA Agêntica no Google Cloud Next 2025, destacando inovações e liderança em experiências de IA

14 April 2025

A OPPO, marca líder em inovação de dispositivos inteligentes, articulou a sua visão estratégica para a IA Agêntica (Agentic AI) no Google Cloud Next 2025, sublinhando a sua estratégia enquanto líder em experiências de IA através do desenvolvimento interno e da colaboraçã...

14 April 2025

Tecnologia

Sophos nomeia Chris Bell como Senior Vice President of Global Channel, Alliances and Corporate Development para liderar evolução da estratégia global de Canal

9 April 2025

A Sophos, líder global em soluções de segurança inovadoras que vencem os ciberataques, anunciou hoje a nomeação de Chris Bell como Senior Vice President of Global Channel, Alliances and Corporate Development, cargo no qual vai liderar a evolução da estratégia global de C...

9 April 2025