Não há dúvidas sobre o crescimento acelerado do uso da Inteligência Artificial Generativa. De acordo com um relatório feito pela Bloomberg Intelligence, a previsão para o mercado de GenAI é chegar a US$ 1,3 trilhão durante a próxima década, com uma taxa de crescimento anual de 42%. Somente em 2022, a Inteligência Artificial Generativa foi apresentada para o domínio público como uma ferramenta acessível, e o impacto e as expectativas ao redor da tecnologia repercutem nos negócios no mundo todo. Essa grande trajetória de crescimento levou alguns estudos, como o “Hype Cycle para Tecnologias Emergentes”, da empresa Gartner, a sugerir que a GenAI está próxima do seu ápice. Mas seu potencial ainda está em desdobramento, já que a tecnologia continua evoluindo e sendo aplicada a novos casos. Do ponto de vista corporativo, a maioria das empresas ainda está nos estágios iniciais de produção e escalonamento das aplicações da Inteligência Artificial Generativa. Embora sejam vastas as oportunidades, as organizações estão inicialmente focadas em casos de uso simples e capazes de apresentar ROI rapidamente.
Continue lendo este artigo para entender as variadas aplicações dessa tecnologia, como em fraudes e deepfakes, as formas de enfrentar os desafios das identidades sintéticas e a mitigação de riscos.
Neste conteúdo você vai ler (Clique no conteúdo para seguir)
Inteligência artificial e o futuro da detecção de fraude
A GenAI tem muito potencial para aplicações positivas, desde a otimização de processos empresariais até o suporte criativo para diversos segmentos, como arquitetura, design ou entretenimento, além de impactar significativamente setores como saúde e educação. No entanto, ela também apresenta riscos associados à sua adoção por criminosos para gerar conteúdo sintético que pode enganar empresas e indivíduos. Fáceis de usar e altamente disponíveis, ferramentas de GenAI diminuíram a barreira para aqueles que querem cometer atividades ilegais, como criação de identidades sintéticas convincentes e deepfakes, uma imagem ou gravação que foi alterada de forma convincente para falsificar alguém fazendo ou dizendo algo que não foi realmente dito ou feito. Esses conteúdos incluem áudios, imagens e vídeos cada vez mais sofisticados e são difíceis de se diferenciarem de um conteúdo autêntico sem a ajuda de tecnologia de ponta. Fraudadores também exploram o poder dos Modelos de Linguagem de Grande Escala (LLMs), criando chatbots eloquentes e e-mails de phishing elaborados para ajudá-los a roubar informações vitais ou estabelecer comunicação com seus alvos. De acordo com a mais recente pesquisa da Experian, “Navegando pela Experiência, Segurança e a Próxima Fronteira da Identidade”, os três desafios operacionais que as empresas esperam enfrentar quando falamos de fraude são crimes cibernéticos (45%), fraude por IA Generativa e/ou Deepfakes (41%), seguidos por peer-to-peer (P2P) e golpes de pagamento (40%), que têm sido altamente facilitados por GenAI – como as fraudes que exploram a instantaneidade das transações Pix no Brasil. Embora seja difícil avaliar o real impacto da Inteligência Artificial Generativa em fraudes, entender as implicações dessa nova tecnologia pode ajudar os negócios a mitigar o risco associado à GenAI.
Deepfakes e a dificuldade de autenticação
Avanços recentes na tecnologia deepfake facilitaram a ação de fraudadores que se aproveitam dos dados identificadores comprometidos. Assegurando que um nome, endereço, telefone e e-mail pareçam pertencer a alguém e adicionando elementos como uma imagem do rosto, documentos e voz, golpistas podem tentar contornar os requerimentos de autenticação de identidade que empresas usam para diversas finalidades, desde a obtenção de benefícios governamentais até a abertura de novas contas bancárias e envio de transações por e-commerce.
O desafio das identidades sintéticas
De acordo com estimativas, fraudes usando identidades sintéticas podem representar até 20% das perdas em cartões de crédito e empréstimos
.Isso significa que o prejuízo, apenas nos Estados Unidos, pode chegar a 11 bilhões de dólares. Muitos negócios do segmento de serviços financeiros estão tentando resolver as fraudes causadas por identidades sintéticas por meio da comparação de dados de crédito, mas detectar identidades sintéticas tem suas dificuldades e requer múltiplas ferramentas e recursos.
Bots como serviço
Além de utilizar a GenAI para criar atributos de identidade mais convincentes usando deepfakes, os fraudadores aproveitam e manipulam dados em larga escala. A tecnologia permitiu que criminosos escalassem essas atividades usando identidades sintéticas para criar várias contas bancárias, inclusive utilizando-se de bots automatizados. Para ter uma ideia, um bot contratado pode fazer até mil ligações para pessoas com contas bancárias em uma instituição específica, usando um roteiro para interagir e coletar informações adicionais.
Combate à fraude com inteligência artificial
Conforme vimos até aqui, a Inteligência Artificial Generativa na mão do fraudador apresenta duas ameaças em relação à fraude: a possibilidade de escalonamento e a personalização dos ataques. Mitigar esses riscos pode acontecer de várias formas, dependendo no negócio. Separamos quatro dicas que podem ajudar:
- Uma forma de prevenção é educar consumidores sobre o assunto, de modo a evitar que eles caiam em golpes orquestrados por fraudadores.
- Empresas podem ter dificuldade de entender como identidades sintéticas funcionam. Por isso, aqui na Serasa Experian, dizemos que combatemos “fogo com fogo” quando o assunto é IA. Utilizamos essa tecnologia para criar dados sintéticos e imitar os fraudadores, possibilitando o treinamento de nossos modelos, que passam a entender esses padrões, a fim de trazer maior precisão para a detecção.
- Implementar soluções em camadas, que reúnam múltiplas camadas de proteção, como Cadastro KYC, Biometria Facial, Verificação de Documentos e Análise de Risco de Dispositivos. Você pode encontrar essas ferramentas no portfólio antifraude da Serasa Experian, o mais completo do mercado e que garante a melhor performance na prevenção a fraudes. Com elas, é possível identificar sinais e padrões suspeitos, detectar a presença de bots nos aspectos de estágio da identidade sintética, além de deepfake e outros golpes de imagem.
- Avaliar a introdução de mais camadas quando casos de alto risco forem identificados, como adicionar uma notificação push de transação para ajudar os clientes a entenderem as possíveis consequências de uma transferência de alto risco. Também é importante avaliar de perto novas tecnologias e abordagens para combater ameaças habilitadas por GenAI, complementando os controles tradicionais focados em identidade com serviços mais digitais, comportamentais e baseados em redes de dados.
Lembre-se: mitigar riscos associados a fraudes é um trabalho conjunto entre pessoas e empresas. Por isso, se seu negócio precisa se blindar contra as novas ameaças digitais, conheça já as soluções de autenticação e prevenção a fraudes da Serasa Experian clicando aqui. Gostou deste conteúdo sobre Inteligência Artificial Generativa? Então, continue acompanhando nosso blog!
