A vitória da IA contra deepfakes e malwares

Com os deepfakes e malwares de IA constantemente presentes nas manchetes atuais, um detalhe é facilmente esquecido: a IA também existe para protegê-lo contra fraudes e malware. Já faz tempo que estamos de olho na IA aqui na McAfee. Principalmente quando os golpistas criam novas quantidades de atividades orientadas por IA. E há muitos deles. Queremos analisar a vitória da inteligência artificial na batalha contra deepfakes e malwares gerados por IA.

Descobrimos como os golpistas precisam de apenas alguns segundos de uma gravação de voz para cloná-la usando IA, o que causou inúmeros tipos de golpes de impostores. Também mostramos como os golpistas podem usar ferramentas de escrita de IA para alimentar seus bate-papos em golpes de namoro virtual, a ponto de escrever poemas de amor com IA. Recentemente, compartilhamos a informação de sites de notícias falsas repletos de artigos enganosos gerados quase inteiramente com IA. Os vídeos gerados por IA até mesmo desempenharam um papel em um golpe de ingressos de cinema da “Barbie”.

As autoridades policiais, agências governamentais e outros órgãos reguladores tomaram nota. Em abril, a Comissão Federal de Comércio dos EUA (FTC) alertou os consumidores que a IA agora “turbina” as fraudes on-line. A comissão citou uma proliferação de ferramentas de IA que podem gerar textos, imagens, áudio e vídeos convincentes.

Embora não sejam tipicamente mal-intencionados em si, os golpistas distorcem essas tecnologias para roubar o dinheiro e as informações pessoais das vítimas. Assim como os desenvolvedores de aplicativos legítimos usam IA para criar código, os hackers usam IA para criar malware.

Não há dúvida de que todos esses golpes orientados por IA representam uma grande mudança na forma como nos mantemos seguros on-line. No entanto, você tem um aliado poderoso ao seu lado. É a mesma IA. E está ativa, detectando golpes e malware. Na verdade, você a encontrará em nosso software de proteção on-line. Faz tempo que colocamos a IA para trabalhar a seu favor.

Com uma análise mais detalhada de como a IA o protege, assim como vários passos para identificar falsificações de IA, você pode ficar mais seguro. Apesar dos grandes esforços de golpistas, hackers e suas ferramentas de IA.

A inteligência artificial contra a fraude e o malware gerados por IA.

Eis uma maneira de pensar sobre a proteção on-line: é uma batalha para mantê-lo seguro. Os hackers empregam novas formas de ataque que tentam contornar as proteções existentes. Enquanto isso, os profissionais de segurança criam avanços tecnológicos que combatem esses ataques. Também oferecem prevenção de forma proativa, o que os hackers tentam contornar mais uma vez. E assim por diante. À medida que a tecnologia se desenvolve, essa batalha também evolui. E a chegada da IA marca uma era decididamente nova nessa luta.

Como resultado, os profissionais de segurança também empregam a IA para proteger as pessoas contra ataques movidos por IA. As empresas agora verificam as digitalizações faciais quanto à textura e à translucidez da pele para determinar se alguém está usando uma máscara para enganar o sistema de reconhecimento facial.

Os bancos empregam outras ferramentas para detectar movimentos suspeitos do mouse e detalhes de transações que possam ser duvidosos. Além disso, os desenvolvedores examinam seus códigos com ferramentas de IA para detectar vulnerabilidades que podem estar ocultas em seus aplicativos, em locais que exigiriam centenas, se não milhares de horas de trabalho das equipes humanas para serem detectadas. Se é que são descobertas. O código pode se tornar bastante complexo.

Nós usamos IA em nossa proteção on-line há anos. A McAfee utilizou a IA para avaliar eventos, arquivos e características de sites. Além disso, usamos a IA para detecção, que se mostrou altamente eficaz contra formas totalmente novas de ataque.

Também empregamos essas tecnologias para catalogar sites e identificar aqueles que hospedam arquivos maliciosos ou operações de phishing. Além disso, a catalogação nos ajudou a moldar os recursos de controle dos pais, de modo que podemos bloquear o conteúdo com base nas preferências do cliente com alta precisão.

E continuamos a desenvolvê-lo para que identifique ameaças ainda mais rapidamente e com mais precisão do que antes. Em conjunto, uma proteção baseada em IA, como a nossa, elimina as ameaças de três maneiras:

1. Detectando eventos e comportamentos suspeitos. A IA oferece uma ferramenta particularmente poderosa contra ameaças totalmente novas (também conhecidas como ameaças de dia zero). Ao analisar o comportamento dos arquivos em busca de padrões que sejam consistentes com o comportamento do malware, a IA pode impedir que um arquivo ou processo anteriormente desconhecido cause danos.
2. Identificando ameaças ao fazer referência a assinaturas e comportamentos de malware conhecidos. Isso combate tanto as ameaças de dia zero quanto as pré-existentes. A IA pode detectar ameaças de dia zero comparando-as com as leituras de impressões digitais e comportamentos de malware que aprendeu. Da mesma forma, seus aprendizados anteriores também ajudam a IA a identificar rapidamente ameaças pré-existentes.
3. Classificando automaticamente as ameaças e as adicionando ao conjunto de inteligência contra ameaças. A proteção contra ameaças orientada por IA se reforça com o tempo. Quanto mais ameaças ela encontrar, mais rápido e facilmente poderá determinar se os arquivos são maliciosos ou benignos. Além disso, a IA classifica automaticamente as ameaças em uma velocidade e escala inigualáveis pelos processos tradicionais. Como resultado, o conjunto de inteligência contra ameaças observa uma melhora enorme.

O que a proteção movida por IA significa para você? Ela pode identificar sites mal-intencionados antes que você possa se conectar a eles. A IA pode impedir que novas formas de ransomware criptografem suas fotos e arquivos. Além disso, a inteligência artificial pode impedir que spywares roubem suas informações pessoais, identificando aplicativos que os conectariam ao servidor de comando e controle de um agente mal-intencionado.

Como resultado, você obtém uma proteção mais rápida e abrangente com a IA que funciona em conjunto com o software de proteção on-line. Nossos profissionais de segurança desenvolvem ambos.

Proteja-se contra ataques de clones de voz com a IA.

No entanto, como acontece com qualquer tipo de fraude, pode ser necessário mais do que a tecnologia para identificar um golpe orientado por IA. Isso exige que você analise criticamente o conteúdo que encontrar. Você pode identificar um golpe baseado em IA com seus olhos, ouvidos e até mesmo com seu instinto.

Veja os ataques de clones de voz de IA, por exemplo. Você pode se proteger deles seguindo os seguintes passos:

1. Defina um código verbal com seus filhos, familiares ou amigos íntimos de confiança. Certifique-se de que somente você e as pessoas mais próximas o conheçam. (Os bancos e as empresas de segurança geralmente criam contas com uma palavra-código dessa maneira para garantir que realmente seja você quem entra em contato com eles). Certifique-se de que todos a conheçam e a usem nas mensagens quando pedirem ajuda.
2. Sempre questione a fonte. Além das ferramentas de clonagem de voz, os golpistas têm outras ferramentas que podem falsificar números de telefone para que pareçam legítimos. Mesmo que seja uma mensagem de voz ou de texto de um número que você reconhece, não deixe de parar para pensar. Realmente se parece com a pessoa que você acha que é? Desligue e ligue diretamente para a pessoa ou tente verificar as informações antes de responder.
3. Pense antes de clicar e compartilhar. Quais são os seus contatos nas redes sociais? Até que ponto você realmente os conhece e confia neles? Quanto mais pessoas pertencerem à sua rede de contatos, mais riscos você poderá correr ao compartilhar conteúdo sobre si mesmo. Seja cuidadoso com os amigos e conexões que você tem on-line e configure seus perfis apenas para “amigos e familiares”, assim não ficam disponíveis para o público em geral.
4. Proteja sua identidade. Os serviços de monitoramento de identidade podem notificá-lo se suas informações pessoais forem parar na dark web e orientá-lo sobre medidas de proteção. Isso pode reduzir as maneiras pelas quais um golpista tente se passar por você.
5. Retire seu nome dos sites de corretores de dados. Como esse golpista conseguiu seu número de telefone? É provável que tenha obtido essas informações em um site de corretor de dados. Os corretores de dados compram, coletam e vendem informações pessoais detalhadas, que depois compilam de várias fontes públicas e privadas, como registros locais, estaduais e federais, além de terceiros. Nossa limpeza de contas on-line examina quais empresas têm acesso às suas informações para que possam ser removidas antes de que ocorram violações de dados.

Três maneiras de identificar falsificações geradas por IA.

À medida que a IA continua sua evolução, fica cada vez mais difícil identificá-la em imagens, vídeo e áudio. Os avanços na IA dão às imagens uma clareza e nitidez que não tinham antes, os vídeos deepfake são reproduzidos com mais veracidade e a clonagem de voz fica estranhamente precisa.

No entanto, mesmo com a melhor IA, os golpistas geralmente deixam seus rastros em todo o conteúdo de notícias falsas que criam. Procure o seguinte:

1) Analise o contexto

As falsificações de IA geralmente não aparecem sozinhas. Há um texto ou um artigo maior envolvido frequentemente. Revise o texto quanto a erros de digitação, gramática inadequada e estrutura ruim. Veja se o texto faz sentido. E, assim como artigos de notícias legítimos, há informações de identificação, como data, hora e local de publicação, juntamente com o nome do autor?

2) Avalie sua alegação

A imagem parece bizarra demais para ser real? Bom demais para ser verdade? Hoje, a frase “Não acredite em tudo o que você lê na Internet” agora inclui “Não acredite em tudo o que você vê na Internet”. Se uma notícia falsa estiver afirmando ser verdadeira, procure a manchete em outro lugar. Se for realmente digno de nota, outros sites conhecidos e de boa reputação informarão sobre o evento e terão feito sua própria checagem de fatos.

3) Verifique se há distorções

A maior parte da tecnologia de IA ainda não reproduz bem os dedos e as mãos. Geralmente cria olhos sem vida ou apagados, às vezes apresentando irregularidades entre eles. Da mesma forma, as sombras podem aparecer em locais pouco naturais. Além disso, o tom da pele pode parecer desigual. Em vídeos deepfake, a voz e as expressões faciais podem não se alinhar exatamente, fazendo com que o sujeito pareça robótico e rígido.

A IA está do seu lado nesta nova era de proteção on-line.

A batalha entre os hackers e as pessoas por trás da proteção on-line continua. E, embora o surgimento da IA tenha desencadeado diversos tipos de novos ataques, o padrão prevalece. Os hackers e os profissionais de segurança utilizam as mesmas tecnologias e estão sempre competindo uns contra os outros.

É compreensível que a IA gere dúvidas, incertezas e, claro, medo. No entanto, você pode ter certeza de que, por trás das manchetes sobre ameaças de IA, os profissionais de segurança usam a tecnologia de IA para proteção. De verdade.

No entanto, uma fraude on-line continua sendo uma fraude on-line. Muitas vezes, é necessário bom senso e um olhar aguçado para identificar um golpe quando aparece. Na verdade, esse é um exemplo de que os humanos ainda têm uma vantagem sobre a IA. Os seres humanos têm instinto. Eles podem perceber quando algo parece ou soa… estranho. Confie nesse instinto. E dê tempo ao tempo para que esse instinto desabroche. Numa época de falsificação baseada em IA, ela ainda é uma excelente primeira linha de defesa.