Sophos ensina como tornar o ChatGPT no seu “copiloto” de cibersegurança

23 March 2023

O modelo de IA é capaz de filtrar mais facilmente atividades maliciosas em telemetria XDR, melhorar filtros de spam e simplificar a análise de binários "living off the land".

A Sophos, líder global em inovação e oferta de soluções de cibersegurança como serviço, divulgou uma nova investigação sobre como a indústria de cibersegurança pode tirar partido do GPT-3, o modelo de linguagem por detrás do famoso framework ChatGPT, e fazer dele um “copiloto” para ajudar a derrotar os atacantes.

O mais recente relatório da empresa, "GPT for You and Me: Applying AI Language Processing to Cyber Defenses", detalha projetos desenvolvidos pela equipa Sophos X-Ops recorrendo aos amplos modelos de linguagem do GPT-3 para simplificar a deteção de atividades maliciosas em conjuntos de dados de software de segurança, filtrar spam com mais precisão e acelerar a análise de ataques de binários "living off the land" (LOLBin).

"Desde que a OpenAI revelou o ChatGPT, em novembro, a comunidade de segurança tem estado sobretudo focada nos potenciais riscos que esta nova tecnologia pode trazer. Será que a Inteligência Artificial pode ajudar os atacantes amadores a escrever malware ou e-mails de phishing muito mais convincentes? Talvez. Contudo, há muito tempo que a Sophos vê a IA como uma aliada, em vez de uma inimiga, tornando-a uma tecnologia fundamental para nós – e o GPT-3 não é diferente. A comunidade de segurança deve prestar atenção não apenas aos potenciais riscos, mas também às oportunidades que o GPT-3 traz," comentou Sean Gallagher, Principal Threat Researcher da Sophos.

Os investigadores da Sophos X-Ops têm estado a trabalhar em três projetos de protótipos que demonstram o potencial do GPT-3 enquanto auxiliar dos profissionais de defesa e cibersegurança. Os três utilizam a técnica "few-shot learning" para treinar o modelo de IA recorrendo a apenas algumas amostras de dados, reduzindo assim a necessidade de recolher um grande volume de dados pré-classificados.

A primeira aplicação que a Sophos testou com o método "few-shot learning" foi uma interface de consulta de linguagem natural para filtrar atividade maliciosa em telemetria de software de segurança – e testou o modelo especificamente no seu próprio produto de deteção e resposta de endpoints. Com esta interface, as equipas de defesa são capazes de filtrar a telemetria através de comandos básicos em inglês, eliminando a necessidade de entenderem SQL ou a estrutura subjacente da base de dados.

De seguida, a Sophos testou um novo filtro de spam recorrendo ao GPT-3 e descobriu que era significativamente mais preciso do que outros modelos de machine learning para filtragem de spam.

Finalmente, os investigadores da Sophos conseguiram criar um programa para simplificar o processo de engenharia reversa das linhas de comando dos LOLBins. A engenharia reversa é notoriamente difícil, mas ao mesmo tempo é também fundamental para compreender o comportamento dos LOLBins e pôr fim a esse tipo de ataques no futuro.

"Uma das preocupações crescentes nos centros de operações de segurança é a quantidade de ‘ruído’ que entra. Há simplesmente demasiadas notificações e deteções que é necessário filtrar, e muitas empresas têm recursos limitados para o fazer. Provámos que algo como o GPT-3 permite simplificar certos processos que necessitam de muita mão de obra e devolver tempo valioso aos defensores,” continuou Sean Gallagher. “Já estamos a trabalhar na incorporação de alguns dos protótipos mencionados nos nossos produtos e disponibilizámos os resultados dos nossos esforços no nosso GitHub para quem estiver interessado em testar o GPT-3 nos seus próprios ambientes de análise. Acreditamos que o GPT-3 pode muito bem vir a tornar-se num ‘copiloto’ padrão para os especialistas de segurança."

Saiba mais sobre como as equipas de segurança podem tirar partido do GPT-3 na nova investigação "GPT for You and Me: Applying AI Language Processing to Cyber Defenses".

Recursos Adicionais:

Descubra o cenário de ameaças e as tendências que vão afetar a cibersegurança no 2023 Threat Report
Conheça a Sophos X-Ops e a sua inovadora investigação de ameaças subscrevendo os blogs Sophos X-Ops
Descubra os tempos de permanência dos atacantes e insights sobre as suas táticas, técnicas e procedimentos (TTPs) no Active Adversary Playbook 2022

Para mais informação:
Leia as últimas notícias sobre segurança na nossa página Naked Security News e saiba mais sobre a Sophos no nosso canal Sophos News.

Proteja todos os Mac e PC em sua casa com os softwares de segurança de próxima geração da Sophos Home.

Sobre a Sophos: A Sophos é líder e inovadora mundial em soluções de cibersegurança avançadas, incluindo serviços de Deteção e Resposta Geridas (MDR, na sua sigla em inglês), serviços de resposta a incidentes e um vasto portefólio de tecnologias de segurança de endpoints, rede, email e Cloud que ajudam as empresas a defender-se de ciberataques. Sendo um dos maiores fornecedores de cibersegurança totalmente dedicados, a Sophos protege mais de 500.000 organizações e 100 milhões de consumidores a nível global de adversários ativos, ransomware, phishing, malware e outros. Os serviços e produtos da Sophos estão ligados através da Sophos Central, a sua consola de gestão baseada na Cloud, e são impulsionados pela Sophos X-Ops, a unidade de inteligência de ameaças transversal da empresa. A inteligência da Sophos X-Ops enriquece todo o Ecossistema Adaptativo de Cibersegurança da empresa, que inclui um data lake centralizado que tira partido de um rico conjunto de APIs abertas e disponíveis para clientes, parceiros, programadores e outros fornecedores de cibersegurança e tecnologias de informação. A Sophos oferece segurança-como-serviço a organizações que necessitam soluções de segurança totalmente geridas e ‘chave na mão’. Os clientes podem gerir a sua cibersegurança diretamente com a plataforma de operações de segurança da Sophos, ou recorrer a uma abordagem híbrida que complementa as suas equipas internas com serviços Sophos, incluindo threat hunting e remediação. A atividade comercial da Sophos é realizada através de parceiros revendedores e fornecedores de serviços geridos (MSPs) em todo o mundo. A empresa tem sede em Oxford, no Reino Unido. Mais informação em www.sophos.com.

Inês Barbosa

Lisbon Director at TEAM LEWIS

+351 910 939 846

Tecnologia

OPPO apresenta A5 Pro 4G & 5G: um smartphone robusto, fiável e de alto desempenho para atividades ao ar livre, jogos e entretenimento

24 April 2025

A OPPO, marca líder em inovação de dispositivos inteligentes, lançou hoje o A5 Pro 4G & 5G em Portugal, que traz durabilidade e fiabilidade elevadas à Série A da marca, apresentado resistência a água e poeira IP69/68/66 acima da sua classe, bem como certificação de r...

24 April 2025

Tecnologia

Estudo Axis Communications: Mais de 60% dos especialistas considera cibersegurança e privacidade como as questões mais críticas para o futuro da videovigilância

23 April 2025

Num contexto global caracterizado pela utilização crescente da Inteligência Artificial (IA) e pela necessidade de cumprir várias regulamentações sobre o tratamento de dados pessoais, o debate sobre a privacidade, a transparência e a ética tecnológica ganhou força, especi...

23 April 2025

Tecnologia

OPPO revela iniciativa de IA Agêntica no Google Cloud Next 2025, destacando inovações e liderança em experiências de IA

14 April 2025

A OPPO, marca líder em inovação de dispositivos inteligentes, articulou a sua visão estratégica para a IA Agêntica (Agentic AI) no Google Cloud Next 2025, sublinhando a sua estratégia enquanto líder em experiências de IA através do desenvolvimento interno e da colaboraçã...

14 April 2025

Tecnologia

Sophos nomeia Chris Bell como Senior Vice President of Global Channel, Alliances and Corporate Development para liderar evolução da estratégia global de Canal

9 April 2025

A Sophos, líder global em soluções de segurança inovadoras que vencem os ciberataques, anunciou hoje a nomeação de Chris Bell como Senior Vice President of Global Channel, Alliances and Corporate Development, cargo no qual vai liderar a evolução da estratégia global de C...

9 April 2025